Antropiskais izpilddirektors Dario Amodejs brīdināja Kongresu, ka jaudīgu AI modeļu izlaišana bez centralizētas uzraudzības var radīt neatgriezeniskus riskus. Gandrīz trīs gadus vēlāk uzņēmumi arvien vairāk pieņem atvērtā svara ķīniešu modeļus, kas samazina atšķirību no Amerikas vadošajām AI sistēmām.
Gadiem ilgi lielākās debates mākslīgā intelekta jomā bija par to, kurš uzņēmums izveidos gudrāko modeli. Tā saruna mainās. Jaunais jautājums ir par to, kurš, ja kāds, to var kontrolēt, kad tas tiks izlaists.
Ilgi pirms Ķīnas atvērtā svara modeļi sāka izaicināt Amerikas mākslīgā intelekta vadītājus, Anthropic līdzdibinātājs un izpilddirektors Dario Amodejs stājās Kongresa priekšā, lai brīdinātu. Viņš apgalvoja, ka arvien spējīgāku AI modeļu izlaišana atklātībā var radīt riskus, kurus izstrādātāji vairs nevar ierobežot.
Tolaik pierobežas AI joprojām bija koncentrēta nedaudzos ASV uzņēmumos. Šodien šis pieņēmums izgaist. Ķīnā izstrādātie modeļi, tostarp DeepSeek, Qwen, Kimi un GLM, kļūst arvien populārāki pasaules uzņēmumos, piedāvājot zemākas izmaksas un konkurētspējīgu veiktspēju laikā, kad uzņēmumi cīnās ar strauji augošiem AI infrastruktūras izdevumiem. Rezultāts ir nozare, kas virzās pretējā virzienā piesardzībai, ko Amodei mudināja likumdevējus apsvērt.
Videoklips ar Amodeja liecību Senāta Tiesu komitejā 2023. gada 25. jūlijā, tika atkārtoti parādīts X pēc tam, kad Monētu birojs to kopīgoja ar virsrakstu: “ANTROPIJAS izpilddirektors: ATKLĀTĀ AUGA AI KĻŪST BĪSTAMS”. Viņa piezīmes pievērš jaunu uzmanību, jo atvērtā svara AI modeļi turpina uzlaboties un izplatīties visā nozarē.
Uzstājoties likumdevēju priekšā, Amodei nošķīra mazākus atvērtā pirmkoda modeļus un arvien spējīgākas robežsistēmas.
“Atvērtais pirmkods ir laba lieta. Tas paātrina progresu, un es domāju, ka pat mākslīgā intelekta ietvaros ir vietas modeļiem no maziem un vidējiem modeļiem. Es nedomāju, ka kāds domā, ka šie modeļi ir nopietni bīstami. Tajos ir daži riski, taču ieguvumi var būt lielāki par izmaksām. Un godīgi sakot, pat līdz pat līdz šim izlaistajiem atvērtā pirmkoda modeļiem, es noteikti uzskatu, ka riski nav salīdzinoši ierobežoti.”
Viņa bažas koncentrējās uz atvērtā pirmkoda AI attīstības virzienu, jomu, kurā pašlaik dominē Ķīnas AI uzņēmumi, nevis uz pašu tehnoloģiju.
“Bet es esmu ļoti noraizējies par to, kur lietas virzās. Ja mēs runājam par diviem līdz trim gadiem robežmodeļiem, bioloģiskajiem riskiem un, iespējams, mazāk nekā, piemēram, dezinformācijai, kur mēs jau esam tur, es domāju, ka ceļš, pa kuru iet atklātā pirmkoda modeļu mērogošanas ziņā, ir ļoti bīstams. Un, ja šis ceļš turpināsies, es domāju, ka mēs varētu nokļūt ļoti bīstamā vietā”.
Amodei paskaidroja, ka uzņēmumi, kas izmanto slēgtas AI sistēmas, var reaģēt, ja modeļi tiek ļaunprātīgi izmantoti. Viņi var atsaukt piekļuvi, atjaunināt drošības sistēmas, pielāgot modeļa darbību un ieviest jaunus drošības pasākumus. Atklāti izlaisti modeļi rada citu izaicinājumu.
“Kad jūs kontrolējat modeli un izvietojat to, jums ir iespēja regulēt lietojumu. Vienā brīdī tas var tikt ļaunprātīgi izmantots, taču pēc tam varat mainīt modeli, atsaukt lietotāja piekļuvi vai mainīt modeļa darbības. Ja modelis tiek izlaists nekontrolēti, to nevar izdarīt. Tas ir pilnīgi ārpus jūsu rokās.”
Viņš mudināja likumdevējus atpazīt atšķirību starp tradicionālo atvērtā pirmkoda programmatūru un robežlīnijas AI sistēmu izlaišanu, kas apmācītas ar simtiem miljonu dolāru skaitļošanas resursiem.
“Atvērtais pirmkods parasti attiecas uz mazākiem izstrādātājiem, kuri atkārtojas ātri, un es domāju, ka tas ir labi. Bet tas, par ko mēs šeit runājam, ir kaut kas nedaudz atšķirīgs: nekontrolēta daudz lielāku modeļu izlaišana, ko veic lieli uzņēmumi, kas maksā desmitiem vai pat simtiem miljonu dolāru, lai tos apmācītu. Es domāju, ka mums vajadzētu izturēties pret tiem, kas ir nedaudz citā kategorijā, ar citiem pienākumiem.”
Tirgus virzās pretējā virzienā
Gandrīz trīs gadus pēc šīs liecības daudzi uzņēmumi pieņem lēmumus, kas tobrīd šķita maz ticami.
Lielas organizācijas klusi pievieno ķīniešu AI modeļus ražošanas slodzei, lai samazinātu darbības izmaksas. Maiņu mazāk nosaka modeļa kvalitāte, nevis ekonomika.
Autonomu AI aģentu darbināšana programmatūras inženierijā, klientu atbalsta jomā, izpētē un iekšējās operācijās patērē milzīgu daudzumu aprēķinu. Cenas par marķieri ir samazinājušās visā nozarē, tomēr kopējie AI izdevumi turpina pieaugt, jo uzņēmumi izvieto vairāk aģentu, apstrādā lielākas datu kopas un automatizē vairāk darbplūsmu. Ekonomisti šo modeli raksturo kā Dževona paradoksu, kur zemākas vienības izmaksas rada daudz lielāku kopējo patēriņu.
Šis ekonomiskais spiediens izstumj uzņēmumus ārpus tradicionālās ASV AI ekosistēmas. Tā vietā, lai paļautos tikai uz OpenAI, Anthropic un Google modeļiem, daži Rietumu uzņēmumi klusi pāriet uz Ķīnas AI modeļiem, tostarp DeepSeek, Alibaba Qwen, Moonshot AI Kimi un Z.ai GLM saimi.
Tajā pašā laikā ir samazinājusies veiktspējas atšķirība.
Saskaņā ar The Information un The Wall Street Journal ziņojumiem, Z.ai jaunais GLM-5.2 atvērtā svara modelis ir demonstrējis kiberdrošības iespējas, kas ir salīdzināmas ar Anthropic’s Mythos modeli ievainojamības atklāšanā un kļūdu atrašanas novērtējumos. 744 miljardu parametru ekspertu kombinācijas modelis lieliski veic repozitorija mēroga kodēšanas uzdevumus un var tuvoties vadošo ASV sistēmu veiktspējai atlasītajos drošības standartos pēc papildu instrukciju regulēšanas.
Atšķirībā no patentētajiem pierobežas modeļiem, GLM-5.2 ir lejupielādējams un modificējams, padarot uzlabotas iespējas pieejamas pētniekiem, izstrādātājiem, uzņēmumiem un ikvienam citam, kas izvēlas palaist modeli.
Tieši tādu nākotnes Amodei veidu aprakstīja viņa Senāta liecībā.
Viņa brīdinājums nekad nav bijis, ka atvērtais avots pats par sevi ir bīstams. Viņa bažas bija par to, ka, tiklīdz robežu AI sistēmas kļūs plaši pieejamas bez centralizētas uzraudzības, izstrādātāji zaudēs iespēju atjaunināt drošības pasākumus, atsaukt piekļuvi, izsekot ļaunprātīgu izmantošanu vai reaģēt pēc izvietošanas.
Kopš šo piezīmju izteikšanas debates ir tikai kļuvušas aktuālākas. AI uzņēmumi turpina veidot lielākus un jaudīgākus modeļus. Tajā pašā laikā atvērtā svara sistēmas kļūst jaudīgākas, lētākas un vieglāk izvietojamas visā pasaulē.
Neatkarīgi no tā, vai šī tendence rada plašākas inovācijas, lielākus drošības riskus vai abu veidu kombinācijas, joprojām ir viens no galvenajiem jautājumiem, ar ko šodien saskaras AI nozare.
Noskatieties Dario Amodei pilno liecību Senāta Tiesu komitejai par mākslīgā intelekta uzraudzību un regulējumu, ko sniedza 2023. gada 25. jūlijā. Uzklausīšanā ir sniegts viss konteksts, kas slēpjas aiz viņa piezīmēm par atvērtā pirmkoda AI un pārvaldības izaicinājumiem, ko rada arvien spējīgāki robežmodeļi.
