Federālā tirdzniecības komisija ir sākusi plašu izmeklēšanu par OpenAI, Anthropic un citām vadošajām mākslīgā intelekta laboratorijām, Vašingtonai saskaroties ar jaunu jautājumu: kurš ir atbildīgs, ja autonoms AI aģents šķērso robežu un nodara kaitējumu reālai pasaulei?
Izmeklēšanā tiks pārbaudīti iespējamie patērētāju riski, kas saistīti ar arvien autonomākām mākslīgā intelekta sistēmām, trešdien ziņoja Reuters, kurā teikts, ka FTC plāno pieprasīt informāciju un piespiest liecības no OpenAI, Anthropic un AI pētniecības grupas METR vadītājiem. Izmeklēšana ir pirmā oficiālā ASV reglamentējošā darbība, kas vērsta uz bažām, kas saistītas ar negodīgiem AI aģentiem.
“FTC plāno iesniegt oficiālas informācijas prasības un piespiest liecības no vadošajiem AI izstrādātājiem, tostarp Anthropic, OpenAI un pētniecības grupas METR,” raksta Reuters, atsaucoties uz amatpersonu.
Laiks rada jaunu spiedienu uz nozari, kas jau nodarbojas ar virkni satraucošu aģentu incidentu.
Otrdien Drošas zinātnes un tehnoloģiju advokāti (LASST) iesūdzēja tiesā OpenAI Kalifornijā, apsūdzot uzņēmumu nedrošā izstrādes praksē, kas saistīta ar incidentu, kurā OpenAI aģenti testēšanas laikā pārkāpa AI izstrādes platformu Hugging Face. Tiesvedības mērķis ir saukt OpenAI atbildīgu par zaudējumiem, kas radušies, tās aģentiem rīkojoties ārpus pilnvarotām robežām.
Incidents Hugging Face ir kļuvis par galveno uzliesmošanas punktu debatēs par autonomo AI. Pētnieki, kas pārbauda epizodi, teica, ka tūkstošiem aģentu sazinājās viens ar otru iekšējās drošības pārbaudes laikā, apmainījās ar vairāk nekā 70 000 ziņojumu un galu galā ieguva piekļuvi Hugging Face sistēmām.
FTC priekšsēdētājs Endrjū Fergusons ir norādījis, ka AI izstrādātājiem var draudēt atbildība, ja kiberdrošības eksperimenti nonāks reālās sistēmās. Reuters ziņoja, ka Fergusonam bija bažas par AI uzņēmumiem pirms Hugging Face incidenta, taču šī epizode palielināja steidzamību aģentūrā.
AI drošības debates virzās uz izpildi
FTC izmeklēšana nonāk grūtā brīdī lielākajiem AI izstrādātājiem.
Saskaņā ar Axios datiem, OpenAI un Anthropic ir pārbaudījuši desmitiem tūkstošu drošības incidentu, kas saistīti ar robežmodeļiem. Šajos gadījumos ir iekļauti aģenti, kuri apiet drošības pasākumus, izkļūst no kontrolētas vides, nolaupa vietnes un mēģina izvairīties no uzraudzības sistēmām.
Tam ir nozīme, jo AI uzņēmumi iespiež aģentus ārpus tērzēšanas robotiem un sistēmās, kas var rakstīt kodu, izmantot programmatūru, piekļūt vietnēm un veikt uzdevumus ar mazāku tiešu cilvēka uzraudzību. Jo vairāk brīvības šīs sistēmas saņem, jo grūtāks kļūst jautājums par atbildību.
Ja mākslīgā intelekta aģentam tiek dots norādījums pārbaudīt kiberdrošības aizsardzību un viņš bez atļaujas piekļūst trešās puses sistēmai, regulatoriem ir jāizlemj, kur ir atbildība: modeļa izstrādātājam, uzņēmumam, kas veic testu, personai, kas izdevusi uzdevumu, vai visu trīs kombinācijai.
Šķiet, ka FTC tagad ir gatava izskatīt šo jautājumu, izmantojot esošos patērētāju aizsardzības likumus, nevis gaidīt, kamēr Kongress izveidos pilnīgi jaunu AI normatīvo regulējumu.
Izmeklēšana notiek vienu dienu pēc tam, kad prezidents Donalds Tramps Baltajā namā tikās ar OpenAI, Anthropic, Google, Meta, Nvidia un citu tehnoloģiju uzņēmumu vadītājiem. Uzņēmumi vienojās par brīvprātīgiem mākslīgā intelekta drošības standartiem, kas ietver iekšējo kontroli, neatkarīgus auditus un pasākumus, kuru mērķis ir novērst AI sistēmu neparedzētu piekļuvi datorsistēmām.
Tramps ir uzstājis uz ASV vadību mākslīgā intelekta jomā un ir pretojies plašam jaunajam regulējumam, tomēr viņš ir teicis, ka esošos likumus joprojām var izmantot, ja AI uzņēmumi nodara kaitējumu. Šāda pieeja varētu padarīt aģentūras, piemēram, FTC, par galveno vietu nākamajā AI uzraudzības posmā.
OpenAI un Anthropic likmes tagad pārsniedz to, vai viņi var kontrolēt savus aģentus testēšanas vidē. Regulatori sāk jautāt, kas notiek, ja viņi nevar.
