Ķīna, Maikls Berijs un Jans Lekuns noraida OpenAI un Anthropic aicinājumus palēnināt AI attīstību; Lekuns brīdinājumus sauc par viltus

Ķīna ir noraidījusi dažu Amerikas ievērojamāko mākslīgā intelekta vadītāju aicinājumus palēnināt progresīva mākslīgā intelekta attīstību, nostādot Pekinu arvien plašākas debates ar investoru Maiklu Beriju un bijušo Meta AI vadītāju Janu Lekunu.

Neparastā saskaņošana notiek, kad Anthropic izpilddirektors Dario Amodei, OpenAI izpilddirektors Sems Altmens un Elons Masks pauž trauksmi par riskiem, ko rada arvien spējīgākas AI sistēmas. Viņu brīdinājumi ir izraisījuši sīvu pretargumentu: mākslīgā intelekta palēnināšanās var dot konkurentiem priekšrocības, aizsargāt mūsdienu tirgus līderus vai abus.

“Bailes, konfrontācijas, konkurence tikai izjauks () globālās AI pārvaldības procesu,” pirmdien sacīja Ķīnas Ārlietu ministrijas pārstāvis Guo Dzjakuns saskaņā ar Reuters publicēto tulkojumu angļu valodā.

Guo atbildēja uz jautājumu par ASV AI vadītāju aicinājumiem nozarei piebremzēt, ņemot vērā bažas par to, kurp tehnoloģija virzās, ziņoja CNBC.

Strīds saasinājās pēc tam, kad Amodei svētdien parādījās CBS raidījumā Face the Nation un iestājās par lielāku AI publisko uzraudzību.

“Valdībai un sabiedrībai ir jābūt līdzdalībai,” sacīja Amodejs, piebilstot, ka vēlas, lai visa AI nozare tiktu regulēta.

Šīs ziņas nāk tikai nedēļu pēc tam, kad divi antropiskie pētnieki brīdināja, ka mākslīgais intelekts nākamo desmit gadu laikā var iznīcināt cilvēci, Vašingtonā izraisot jaunu trauksmi un jaunus ASV likumdevēju aicinājumus stingrāk kontrolēt progresīvās mākslīgā intelekta sistēmas.

Šie brīdinājumi ir padarījuši steidzamību debatēm, kurās pašlaik tiek sadalīti daži no lielākajiem AI uzvārdiem: vai lielākas briesmas ir pārāk ātri izstrādāt arvien spējīgākas sistēmas vai arī palēnināt un ļaut konkurentiem panākt.

Ķīnas reakcija nenozīmē, ka Pekina noraida AI riskus. Ķīnas valsts drošības ministrs Čeņs Jijiņs svētdien publicēja rakstu, aicinot paātrināt mākslīgā intelekta drošības risku novēršanas un kontroles sistēmas izveidi.

Čens AI raksturoja kā “galveno kaujas lauku globālai tehnoloģiju konkurencei un jaunu arēnu stratēģiskai sāncensībai starp lielvarām”, aicinot uz “veselīgu un sakārtotu” attīstību.

Šī atšķirība ir cīņas centrā. Valdības un AI uzņēmumi arvien vairāk piekrīt, ka uzlabotais AI rada riskus. Viņi nav vienisprātis par to, vai attīstības palēnināšanās ir risinājums un kam ir labums, ja nozare nospiež bremzes.

Michael Burry un Yann LeCun apšauba AI palēninājuma brīdinājumu motīvus

Ķīna nebūt nav vienīgā kritiķe.

Lekuns, Meta bijušais galvenais mākslīgā intelekta zinātnieks un viens no pazīstamākajiem pētniekiem šajā jomā, izsmēja Amodeja brīdinājumus ierakstā par X.

“Pareizi. Dario jau 2019. gadā apgalvoja, ka GPT2 ir pārāk bīstams, lai atvērtu avotu. Toreiz es viņus izjokoju. Tagad visiem vajadzētu par viņiem ņirgāties.”

Berijs, investors, kurš bija pazīstams ar to, ka pirms 2008. gada finanšu krīzes prognozēja ASV mājokļu sabrukumu, gāja tālāk. Viņš apsūdzēja lielākos AI uzņēmumus par finansiālu stimulu, lai veicinātu bažas par AI, un aicina lēnāku attīstību.

“Atvēlēsim brīdi, lai saprastu, cik pašmērķīgi OpenAI, Anthropic un citiem lielo hiperskaleru vadītājiem ir runāt par notikumu palēnināšanu,” vietnē X rakstīja Bērijs.

Viņa arguments ir tāds, ka vēsturiskie operatori ir ieguvēji, ja attīstība palēninās, tāpat kā konkurenti samazina atšķirību. Bērijs apgalvo, ka brīdinājumi par bīstamu mākslīgo intelektu var kalpot citam mērķim, uzņēmumiem gatavojoties iespējamiem publiskajiem piedāvājumiem: attēlot savu tehnoloģiju kā tik spējīgu, ka tā prasa savaldību.

Lekuna iebildums nāk no cita virziena. Viņš jau sen ir apstrīdējis apgalvojumus, ka pašreizējie lielie valodu modeļi ir uz tieša ceļa uz cilvēka līmeņa inteliģenci, nostādot viņu pretrunā ar pētniekiem, kuri arvien spējīgākus modeļus uzskata par potenciāli katastrofālu risku.

Debates vairs neaprobežojas tikai ar AI laboratorijām.

Ar mākslīgo intelektu saistītās akcijas pirmdien kritās, un SoftBank, kas ir viens no lielākajiem OpenAI investoriem, Japānā kritās par 10%.

AI sacīkstes rada paradoksu, ko neviens nav atrisinājis

Pats Amodejs ir atzinis pretrunu palēnināšanas argumenta pamatā.

“Tehnoloģijas neveidošana atņem cilvēcei priekšrocības vai vienkārši nodod AI autoritāru spēku rokās, savukārt pārāk ātra tā izveide ir neapdomīga,” viņš rakstīja sestdien publicētajā esejā.

Viņš apgalvoja, ka jebkuru mēģinājumu kontrolēt attīstības tempu ierobežo vadošās ASV kompāniju pozīcijas pār Ķīnu.

“Ja mēs palēnināsim par vairāk nekā šo summu, ar ĶKP saistītie projekti tiks virzīti uz priekšu, radot ievērojamu valsts drošības risku,” rakstīja Amodejs.

Prezidents Donalds Tramps ir izvirzījis līdzīgu ģeopolitisko argumentu no citas pozīcijas. Brauciena laikā uz Īriju Tramps noraidīja mākslīgā intelekta vadītāju aicinājumus palēnināt attīstību un stingri formulēja konkursu ar Ķīnu.

“Paskatieties, mēs esam Ķīnas vadībā AI jomā… un, atklāti sakot, es vēlos to saglabāt, jo tas, kurš uzvar AI, uzvar.”

Pekinai ir savi plāni.

BRICS samitā Ņūdeli nedēļas nogalē Ķīnas prezidents Sji Dzjiņpins sacīja, ka Ķīna uzņemsies vadošo lomu AI sadarbības un attīstības atbalstīšanā jaunattīstības valstīs. Ķīniešu mākslīgā intelekta modeļi iegūst lietotājus ārpus Ķīnas, jo uzlabojas to iespējas, tādējādi radot vēl vienu spiedienu uz ASV izstrādātājiem.

Tādējādi mākslīgā intelekta nozare nonāk pretrunās un nav viegli izkļūt no tās.

Daži no vadītājiem, kas veido visspējīgākās sistēmas, apgalvo, ka šīs sistēmas var kļūt pietiekami bīstamas, lai attaisnotu palēnināšanos. Kritiķi saka, ka palēnināšana aizsargātu jau priekšā esošos uzņēmumus. Ķīna AI uzskata par stratēģisku konkurenci, no kuras ir maz iemesla atteikties.

Un paša Amodei arguments aptver dilemmu: pārvietojieties pārāk ātri, un tehnoloģija var radīt nopietnus riskus. Pārvietojieties pārāk lēni, un kāds cits var nokļūt pirmais.

Iespējams, tāpēc debates par mākslīgā intelekta palēnināšanos kļūst arvien grūtāk nošķirt no sacensībām par uzvaru.