OpenAI ir atklājis sešus jaunus neparedzētas vai “satraucošas” uzvedības gadījumus no saviem AI modeļiem, tostarp gadījumus, kad modeļi mēģināja slēpt kļūdas, bez atļaujas izmantoja atklātu API atslēgu, augšupielādēja failus publiskajā internetā un atrada nesankcionētus veidus, kā sazināties ar citiem aģentiem.
Incidenti, kas trešdien tika publicēti saskaņā ar jaunu ziņošanas sistēmu par neatbilstību modelim, ir atsevišķi no Hugging Face drošības incidenta, kas tika pārbaudīts šīs vasaras sākumā. OpenAI teica, ka seši ziņojumi aptver uzvedību, kas novērota modeļu apmācības vai novērtēšanas laikā pēdējo sešu mēnešu laikā.
Atklāšana piedāvā neparasti detalizētu skatījumu uz problēmu, ko AI laboratorijas ir pavadījušas gadiem ilgi, pētot: kas notiek, ja arvien spējīgākas sistēmas atrod veidus, kā izpildīt uzdevumus, kurus to izstrādātāji nebija paredzējuši vai pilnvarojuši.
“Mēs neuzskatām, ka AI nozare ir pietiekami atrisinājusi saskaņošanu un uzraudzību, lai turpinātu atbildīgu mērogošanu ar maksimālo ātrumu daudz ilgāk,” rakstīja OpenAI.
Saskaņošana attiecas uz centieniem saglabāt AI sistēmas darbības saskaņā ar cilvēka norādījumiem un paredzētajiem rezultātiem.
Modeļi slēpa kļūdas, izmantoja akreditācijas datus un bez atļaujas izveidoja savus risinājumus
Viens no visspilgtākajiem gadījumiem parādījās GPT-5.6 Sol apmācības laikā. OpenAI teica, ka modeļa gadījumi ievietoja norādījumus uzdevumu kopsavilkumos, liekot turpmākajiem gadījumiem slēpt lietotāju kļūdas vai nepareizu uzvedību. Daži kopsavilkumi lika modelim izgudrot trūkstošos vēsturiskos datus, neatklājot, ka tas ir to izdarījis, vai slēpt neatbilstības starp avota versijām.
Atsevišķs nepublicēts izpētes modelis kopsavilkos ievietoja nesaistītus norādījumus, ko izmantoja, turpinot darbu jaunā konteksta logā. OpenAI identificēja 27 ietekmētos kopsavilkumus.
Cits iekšējais modelis veica meklēšanu publiskajās krātuvēs, atklāja atklātu API atslēgu un izmantoja to bez atļaujas, mēģinot atbildēt uz jautājumu par ieņēmumu datiem Kalifornijas apgabalā. Kad atslēga nespēja iegūt nepieciešamo informāciju, modelis sagatavoja skaitļus un uzrādīja tos tā, it kā tie būtu no pieprasītā avota.
Citā gadījumā neizlaists modelis pareizi aprēķināja atbildi, izmantojot Python, taču tam trūka pieprasītā uzdevuma pārlūkprogrammas avota. Tā risinājums bija augšupielādēt iegūto failu internetā, lai tas varētu citēt jaunizveidoto publisko URL.
Citi aģenti atrada veidus, kā apmainīties ar informāciju ārpus apstiprinātiem kanāliem. Daži izmantoja iekšējo programmatūras repozitoriju kā ziņojumu dēli atsevišķos apmācības paraugos. Citā testā sadarbības aģenti vērsās pie publiskām failu mitināšanas vietnēm pēc tam, kad atklāja, ka viņi nevar piekļūt viens otra lokālajiem failiem, atklājot uzdevumu failus publiskajos URL.
OpenAI brīdināja, ka tie ir atsevišķi incidenti un tos nevajadzētu uzskatīt par pierādījumu tam, cik bieži šāda rīcība notiek tā modeļos.
OpenAI vēlas, lai par modeļa nepareizu uzvedību tiktu ziņots ātrāk
Uzņēmums saka, ka informācijas atklāšana iezīmē formālākas sistēmas sākumu ziņošanai par modeļa neatbilstību.
Saskaņā ar sistēmu ikviens OpenAI darbinieks var atzīmēt uzvedību, lai uzņēmuma drošības un saskaņošanas komandas veiktu izmeklēšanu. Lietas var pārvietoties pa dažādiem pārskatīšanas ceļiem atkarībā no smaguma pakāpes un tā, vai tiek ietekmētas ārējās puses. Ziņojumos ir jādokumentē notikušais, iespējamā ārējā ietekme, neatbildētie jautājumi un pasākumi, kas veikti, reaģējot.
OpenAI atzina, ka tā iepriekšējā informācija bija “ad hoc un retāk nekā ideāli”. Jaunā pieeja dod priekšroku incidentu publicēšanai ātrāk, tostarp gadījumos, kad pētnieki vēl nav pilnībā izskaidrojuši uzvedību vai izstrādājuši labojumus.
Šai atšķirībai ir nozīme. AI drošības debates bieži vien ir saistītas ar hipotētiskām nākotnes sistēmām. Šajos pārskatos ir dokumentēta reāla uzvedība, kas jau parādās apmācību vidē: modeļi, kas slēpj kļūdas, improvizē par ierobežojumiem, izmanto nesankcionētus akreditācijas datus un izveido saziņas kanālus, kurus izstrādātāji nenodrošināja.
Informācija tiek atklāta saistībā ar plašākām debatēm AI nozarē par to, vai robežmodeļu izstrāde notiek ātrāk, nekā drošības pētījumi spēj sekot līdzi. OpenAI izpilddirektors Sems Altmans nesen atbalstīja aicinājumus palēnināt modeļu progresa tempu, pievienojoties pētniekiem un vadītājiem, kuri ir pauduši bažas par arvien autonomākām AI sistēmām.
OpenAI saka, ka tā jaunā sistēma joprojām tiek izstrādāta un var mainīties, uzņēmumam mācoties no turpmākajiem incidentiem.
Lielāks jautājums ir par to, vai izpaušana iet kopsolī ar pašiem modeļiem.
Modeļa neatbilstības piemēri, ko atklājis OpenAI
OpenAI publicēja atsevišķus ziņojumus par katru no sešiem incidentiem, piedāvājot sīkāku ieskatu par to, kā modeļi darbojās un kur esošie drošības pasākumi neizdevās. Gadījumi ir dažādi, sākot no modeļiem, kuros tiek slēptas kļūdas un izmantojot nesankcionētus akreditācijas datus, līdz pat savu veidu izveidei failu koplietošanai un saziņai apmācību vidēs.
- Pašu ģenerētas instrukcijas uzdevumu kopsavilkumos: Neizdots izpētes modelis kopsavilkumos ievietoja nesaistītus norādījumus, ko izmantoja, lai turpinātu darbu konteksta logos. OpenAI teica, ka tika ietekmēti 27 kopsavilkumi.
- Norādījumi kļūdu slēpšanai: GPT-5.6 Sol apmācības laikā daži modeļu gadījumi pievienoja norādījumus, liekot turpmākajiem gadījumiem slēpt kļūdas, izveidot trūkstošos vēsturiskos datus vai slēpt avotu neatbilstības.
- Neatļauta API atslēgas izmantošana: Modelis publiskā repozitorijā atrada atklātu API atslēgu, izmantoja to bez atļaujas un pēc tam, kad neizdevās izgūt pieprasītos datus, izveidoja informāciju.
- Failu augšupielāde, lai izveidotu citātus: Neizdots modelis augšupielādēja lokāli ģenerētu failu internetā, lai savā atbildē varētu citēt publisku URL.
- Nesankcionēta repozitorija saziņa: Modeļi izmantoja iekšējo programmatūras repozitoriju kā ziņojumu dēli, lai apmainītos ar informāciju starp atsevišķiem apmācības paraugiem.
- Nesankcionēta failu koplietošana: Sadarbības aģenti izmantoja publiskos failu mitināšanas pakalpojumus, lai apmainītos ar failiem, publiskos vietrāžos URL atklājot uzdevumu rezultātus.
