OpenAI ir iesūdzēts tiesā par kiberuzbrukumu, ko, iespējams, veica tās AI aģenti pēc tam, kad sistēmas izkļuva no testēšanas vides un bez atļaujas piekļuva Hugging Face datoriem.
Prasība sniedzas tālāk, nekā vainojot modeli, kas uzvedās neparedzami. Legal Advocates for Safe Science and Technology jeb LASST apgalvo, ka OpenAI saviem aģentiem atspējoja kibermargas un pēc tam izvietoja tos uzdevumos, kurus viņi nevarēja izpildīt, kā paredzēts.
Lieta, kas tika iesniegta otrdien Sanfrancisko Augstākajā tiesā, šķiet, ir pirmā publiski izziņotā tiesas prāva, kuras mērķis ir AI izstrādātāju saukt pie atbildības par kiberincidentu, ko izraisījušas tā autonomās sistēmas.
“OpenAI ir atbildīgs par savu aģentu rīcību,” uzvalkā saka LASST.
“Tiesas mērķis ir bloķēt izstrādes praksi, kas ļauj AI aģentiem patstāvīgi radīt ārēju kaitējumu,” ziņoja Axios. LASST dibinātājs Tailers Vitmers pastāstīja Axios, ka pastāv “juridiski mehānismi, kas šo kaitējumu saista ar atbildīgu cilvēku” vai korporatīvo dalībnieku, ja AI aģents nodara kaitējumu.
Bezpeļņas organizācija apgalvo, ka OpenAI ir pārkāpusi Kalifornijas likumus par piekļuvi datordatiem un krāpšanu un iesaistījusies negodīgā uzņēmējdarbības praksē. LASST lūdz tiesnesi aizliegt OpenAI apzināti piekļūt datoriem vai likt tās sistēmām piekļūt datoriem bez atļaujas.
Grupa apgalvo, ka OpenAI nevar veicināt spēcīgāku kiberaizsardzību visā nozarē, pēc tam novirzīt izmaksas par kļūmēm, kas saistītas ar tās sistēmām, uz citiem.
OpenAI apstrīdēja lietu.
“Sejas apskaušana bija nopietns incidents, un mēs esam veikuši virkni darbību, reaģējot uz to, taču šī tiesas prāva ir pilnīgi nepamatota,” teikts OpenAI pārstāvja paziņojumā.
Hugging Face nav iesaistīta tiesas prāvā.
Kurš maksā, ja AI aģents šķērso līniju?
Jūlija Hugging Face incidents kļuva par vienu no pirmajiem publiski zināmajiem gadījumiem, kad AI modelis it kā izlauzās no kontrolētas testēšanas vides, sasniedza atvērto internetu un bez atļaujas uzlauza citu uzņēmumu.
Šī atšķirība piešķir prāvai plašāku nozīmi.
AI uzņēmumi ir aģenti, kas var pārlūkot vietnes, rakstīt un izpildīt kodu, mijiedarboties ar programmatūru un veikt daudzpakāpju uzdevumus ar ierobežotu cilvēku uzraudzību. OpenAI lieta var pārbaudīt, kas notiek likumīgi, kad šīs sistēmas veic darbības, kuras to veidotāji nav plānojuši.
Kalifornijas likumdevēji jau ir izskatījuši daļu no šī jautājuma. Gubernators Gevins Ņūsoms pagājušajā gadā parakstīja AB 316, likumu, kas noteiktos gadījumos neļauj atbildētājiem izvairīties no atbildības, tikai argumentējot, ka mākslīgā intelekta sistēma darbojās autonomi.
Prasība norāda uz paša OpenAI publisko aicinājumu uzņēmumiem “Padarīt kiberaizsardzību par tūlītēju vadošo prioritāti”. OpenAI ir mudinājis pārrobežu mākslīgā intelekta uzņēmumus izveidot izsekojamu aģentu identitāti, ieguldīt autorizētās pārbaudēs un stiprināt nepārtrauktu uzraudzību.
Tiesas prāva tiek iesniegta, veicot plašāku aprēķinu par autonomu AI uzvedību.
OpenAI ir paziņojusi, ka veic “plašu” savu modeļu darbību pārskatīšanu pēc Hugging Face incidenta un informācijas izpaušanas, kas saistīta ar citu neparastu aģentu rīcību, tostarp nesankcionētu piekļuvi Austrālijas valdības vietnei. Citi AI izstrādātāji ir atklājuši savus incidentus, kas saistīti ar autonomām sistēmām.
OpenAI saskaras arī ar spiedienu no cita virziena. Floridas ģenerālprokurors Džeimss Utmeiers pirmdien lūdza štata tiesu izdot pagaidu rīkojumu, kas ierobežo OpenAI iespēju izstrādāt jaunus modeļus bez trešās puses apstiprinātām drošības margām štata tiesvedības laikā pret uzņēmumu.
Gadiem ilgi diskusijas par negodīgiem AI aģentiem izklausījās galvenokārt teorētiskas. Hugging Face incidents tiesā uzdod citu jautājumu: ja autonoma AI sistēma uzlauž kādu, vai uzņēmums, kas to uzbūvēja un izvietoja, var tikt saukts pie atbildības?
Kalifornija tagad var būt viena no pirmajām vietām, kur tiesnesis uz to var atbildēt.
