Īlons Masks vēlas, lai uzņēmumi, kas sacenšas, izveidotu visgudrākās AI sistēmas, darītu kaut ko neparastu: mēģinātu salauzt viens otra modeļus, pirms šīs sistēmas nonāk sabiedrībā.
Pirmdien uzstājoties All-In samitā Losandželosā, Musks ierosināja salīdzinošās pārskatīšanas sistēmu, kas vadošajiem mākslīgā intelekta uzņēmumiem nodrošinātu piekļuvi kopīgai “pārbaudes sistēmai”, lai novērtētu konkurentu modeļus. Kā potenciālos dalībniekus viņš nosauca OpenAI, Anthropic, Google, Meta un “trīs vai četrus vadošos Ķīnas uzņēmumus”.
“Tātad, jūs zināt, tā vietā, lai novērtētu savus mājasdarbus, jums vismaz konkurenti novērtē jūsu mājasdarbus un ceļ trauksmi, ja viņi saskata bažas,” sacīja Musks.
Priekšlikums pārvērstu komerciālo sāncensību par drošības mehānismu. Uzņēmums, kas gatavo jaunu robežmodeli, varētu saskarties ar konkurentu pārbaudi, kuru pētniekiem ir viss stimuls atrast trūkumus, kurus tā komanda palaida garām.
Musks atzina, ka sistēma diez vai atrisinās visus jautājumus par AI drošību.
“Izredzes, ka jūs atradīsit problēmas, ir ievērojami lielākas,” viņš teica.
Neviena konkurējošā laboratorija nav piekritusi plānam, atzina Musks.
Laiks piešķir idejai lielāku nozīmi. AI vadītāji, kuri parasti sacenšas par modeļiem, talantiem, klientiem un skaitļošanas infrastruktūru, pēdējās vairākas dienas ir pavadījuši, lai negaidīti atrastu kopīgu valodu par to, vai AI virzās uz priekšu pārāk ātri.
Antropiskais izpilddirektors Dario Amodejs uzsāka jaunākās debates ar eseju, aicinot nozari paātrināt AI attīstību. Viņa priekšlikums ietver neatkarīgu vērtētāju dziļas piekļuves piešķiršanu progresīvām sistēmām, lai viņi varētu pārbaudīt drošības praksi un modeļa uzvedību, ziņoja CNBC. Pēc tam OpenAI izpilddirektors Sems Altmens un Musks atbalstīja daļu no Amodei virzības.
Brīdinājumi ir izlijuši ārpus izpildvaras komplektiem. Džeikobs Koksons, bijušais OpenAI pētnieks, kurš nesen pameta Anthropic, teica, ka vadošās mākslīgā intelekta laboratorijas “spēlē ar mūsu dzīvi”. Antropiskās izlīdzināšanas pētnieks Evans Habingers publiski atbalstīja Koksonu, rakstot: “Šeit Jēkabam ir taisnība — mēs patiešām ticam, ka mākslīgais intelekts varētu nogalināt visus cilvēkus! Es personīgi domāju, ka nākamajā desmitgadē tas ir vairāk nekā 10%.
AI drošība saduras ar sacīkstēm pret Ķīnu
Jebkura brīvprātīga palēnināšanās saskaras ar problēmu, kuru neviens amerikāņu AI uzņēmums nevar atrisināt viens: Ķīna.
Ja ASV laboratorijas apzināti palēnina pierobežas attīstību un Ķīnas konkurenti turpinās darbu, Vašingtona riskē atteikties no tehnoloģiskās priekšrocības, ko tā uzskata par stratēģiski nozīmīgu. Pats Amodejs Ķīnas jautājumu raksturoja kā “smagāko dilemmu”, kas saistīta ar viņa priekšlikumu.
Ķīna ir atturējusies pret aicinājumiem palēnināt attīstību, kritiķiem apgalvojot, ka šāds solis varētu aizsargāt ASV izveidoto uzņēmumu vadību uz pretinieku rēķina.
Musks uzskata, ka savstarpēja pārbaude varētu piedāvāt mazāk krasu ceļu.
“Es šeit saku, ka tas ir solis pareizajā virzienā, un mēs to darām ātri,” sacīja Musks. “Es domāju, ka tas, iespējams, ir kaut kas tāds, kam Ķīna piekristu.”
Debates ir sasniegušas Vašingtonu un Volstrītu. Prezidents Donalds Tramps ir noraidījis nesenos AI briesmu brīdinājumus, un administrācijas amatpersonas ir iebildušas, ka nozarei jāuzņemas vadošā loma drošības problēmu risināšanā. Investori cīnās ar citu jautājumu: vai pierobežas attīstības palēnināšanās galu galā varētu nozīmēt lēnāku pieaugumu milzīgajos infrastruktūras tēriņos, kas ir aiz AI uzplaukuma. Ar AI saistītās akcijas pirmdien kritās pēc tam, kad nozares līderi paaugstināja brīdinājumus.
Tādējādi Muska priekšlikums paliek starp divām nometnēm. Tas aprobežojas ar lūgumu valdībām diktēt, cik ātri modeļi var virzīties uz priekšu, taču tas ir plašāks, nekā AI uzņēmumiem jāuzrauga sevi aiz slēgtām durvīm.
Lielākais šķērslis var būt tā pati sāncensība, ko Musks cer izmantot. OpenAI, Anthropic, Google, Meta, Musk’s SpaceXAI un Ķīnas vadošie AI izstrādātāji sacenšas par tehnoloģisko vadību.
Ir viegli iedomāties, kā viņi uzbrūk viens otra modeļiem.
Var būt daudz grūtāk panākt, lai viņi pietiekami uzticētos viens otram, lai to izdarītu.
