Divi antropiskie pētnieki brīdina, ka mākslīgais intelekts var iznīcināt cilvēci nākamajā desmitgadē, izraisot jaunu trauksmi Vašingtonā un jaunus ASV likumdevēju aicinājumus stingrāk kontrolēt progresīvās mākslīgā intelekta sistēmas.
Brīdinājumi ir pārsteidzoši, no kurienes tie nāk: pētnieki, kas strādā vienā no uzņēmumiem, kas veido dažus no vismodernākajiem AI modeļiem.
“Arvien vairāk ASV likumdevēju pieprasa jaunus noteikumus mākslīgā intelekta sistēmu pārvaldīšanai pēc divu antropu pētnieku šausmīgajiem brīdinājumiem, ka strauji progresējošais mākslīgais intelekts var novest pie cilvēku rases izzušanas ne pārāk tālā nākotnē,” ziņo Reuters.
Atkārtoti zvani tika saņemti šonedēļ pēc tam, kad antropiskais pētnieks Džeikobs Koksons, kurš nesen atkāpās no amata, sacīja, ka “cilvēki, kas veido AI, nopietni tic, ka tas varētu mūs visus nogalināt līdz desmitgades beigām”.
Antropiskais zinātnieks Evans Habingers publiski atbalstīja Koksona novērtējumu.
“Mēs patiesi ticam, ka mākslīgais intelekts varētu nogalināt visus cilvēkus,” Hubingers rakstīja X. “Es personīgi domāju, ka nākamajā desmitgadē tas būs vairāk nekā 10%.
Brīdinājumi nav jauna teritorija antropiskajam cilvēkam. Izpilddirektors Dario Amodei ir pavadījis vairākus gadus, publiski izsaucot trauksmi par katastrofāliem AI riskiem. 2024. gadā viņš uzskatīja, ka izredzes, ka mākslīgais intelekts novedīs pie cilvēces iznīcināšanas, ir aptuveni 10–25%.
Jaunākie komentāri ir saspringtā brīdī AI nozarei. Nesenie testi ir dokumentējuši AI aģentus, kas piekļūst vai uzlauž ārējās sistēmas, un vairāki drošības pētnieki ir atstājuši vadošās AI laboratorijas pēc tam, kad radīja bažas par šīs tehnoloģijas virzību.
Tagad šie brīdinājumi nonāk Kongresā.
“Vašingtonai ir jāpamostas un tas jāuztver nopietni,” ierakstā par X rakstīja Arizonas demokrātu senators Marks Kellijs.
AI strauji attīstās, un mums ir jārīkojas tagad.
Gandrīz pirms gada es izlaidu AI Amerikai, jo uzskatu, ka mums ir jābūt aktīviem attiecībā uz AI, gan izmantojot tā potenciālu, lai tas sniegtu labumu strādājošiem cilvēkiem, gan aizsargātu pret vissliktākajiem rezultātiem, ko tas varētu novest.
Realitāte ir tāda, ka… pic.twitter.com/wXJTCSQzh4
— Senators Marks Kellijs (@SenMarkKelly) 2026. gada 9. septembris
Teksasas republikāņu senators Teds Krūzs ir norādījis uz tiesību aktiem, kuru mērķis ir AI “katastrofālie riski”. Republikāņu pārstāve Anna Paulina Luna no Floridas devās tālāk, aicinot Pārstāvju palātas spīkeru Maiku Džonsonu sasaukt “īpašu sesiju par AI”.
Reakcija skar dažādas partijas, jo Vašingtona joprojām ir dalīta jautājumā par to, cik agresīvi federālajai valdībai vajadzētu regulēt AI.
Prezidentam Donaldam Trampam ir atšķirīgs viedoklis. Ceturtdien jautāts par mākslīgā intelekta apdraudējumu cilvēka eksistencei, Tramps sacīja, ka viņu neuztrauc šis scenārijs, un tā vietā norādīja uz tehnoloģisko sacensību ar Ķīnu.
“Man ir bažas, ka, ja mēs neuzvarēsim AI, mēs nonāksim ļoti sliktā pozīcijā. Mēs šobrīd esam Ķīnas priekšgalā diezgan labā laika posmā,” žurnālistiem Dalasas Fortvērtas starptautiskajā lidostā sacīja Tramps.
AI laboratorijas pašas sāk pieprasīt noteikumus
Debates vairs neaprobežojas tikai ar ārējām drošības grupām, kas brīdina tehnoloģiju uzņēmumus, lai tie palēninās.
OpenAI šonedēļ aicināja ieviest obligātas valsts AI drošības prasības, sakot, ka ar brīvprātīgām saistībām vairs nepietiek. Uzņēmums vēlas uz iespējām balstītus federālos noteikumus, kas aptver testēšanu, neatkarīgus novērtējumus, kiberdrošības aizsardzību un ziņošanu par incidentiem progresīvām sistēmām.
“Ar AI paātrinātas mākslīgā intelekta attīstības perspektīvas prasa vairāk nekā brīvprātīgas saistības. Savienotajām Valstīm ir vajadzīgi obligāti, uz spējām balstīti valsts noteikumi, kas var attīstīties līdz ar tehnoloģiju attīstību,” sacīja OpenAI globālo lietu vadītājs Kriss Lehans.
OpenAI izpilddirektors Sems Altmans atsevišķi pastāstīja darbiniekiem, ka uzņēmums ir gatavs palēnināt savu AI sistēmu attīstību, ziņoja Bloomberg News.
Anthropic paziņoja, ka plāno turpināt bīstamo spēju modeļu testēšanu tādās jomās kā kiberdrošība un bioloģija, un pauda interesi sadarboties ar plašāku nozari, lai uzzinātu, kādā tempā tiek izlaistas jaunas AI sistēmas.
Toņa maiņu ir grūti nepamanīt. Gadiem ilgi liela daļa AI politikas cīņas bija vērsta uz valdībām, kas mēģināja regulēt nozari, uztraucoties, ka noteikumi palēninās inovāciju. Daži uzņēmumi, kas veido robežu modeļus, tagad pieprasa valdībām noteikt obligātus aizsardzības pasākumus.
Pētnieki, kas atstāj šos uzņēmumus, palielina spiedienu.
Bijušais Google DeepMind AI drošības pētnieks Džošs Engelss NBC sacīja: “Istabā nav neviena pieaugušā. Cilvēki cenšas visu iespējamo, taču neviens nenāk, lai mūs glābtu.”
Džo Bentons, bijušais Antropiskās drošības pētījumu grupas vadītājs, sacīja NBC, ka mākslīgais intelekts var attīstīties “pārāk ātri, lai mēs varētu laikus rīkoties, ja vien mēs par to neuztraucamies tagad”.
Abi pētnieki ir pievienojušies METR, bezpeļņas organizācijai, kas pēta progresīvu AI sistēmu iespējas un riskus.
AI drošības debates pāriet no brīdinājumiem uz auditiem
Dažas valdības jau virzās.
Kalifornijas gubernators Gevins Ņūsoms šonedēļ parakstīja SB 813 un AB 1405, izveidojot sistēmu AI sistēmu un standartu neatkarīgiem novērtējumiem trešo pušu AI auditoriem. Valsts norāda, ka pasākumi izveido pirmo šādu sistēmu valstī.
Kongress apsver savu pieeju. Senāta vairākuma līderis Džons Thune un senatore Eimija Klobučara strādā pie tiesību aktiem, kas attiecas uz progresīviem AI produktiem un katastrofāliem riskiem. Divpusēja Pārstāvju palātas likumdevēju grupa ir ierosinājusi pieprasīt, lai visspējīgāko AI modeļu izstrādātāji izietu neatkarīgus drošības auditus ar Tirdzniecības departamenta akreditētu revidentu.
Šai atšķirībai ir nozīme. Jaunās politikas debates virzās tālāk par to, ko AI uzņēmumi sola darīt iekšēji, un uz to, vai nepiederošajiem būtu jāspēj pārbaudīt savas visspējīgākās sistēmas, pirms kaut kas noiet greizi.
Neviens nezina, vai Koksona un Habingera aprakstītie izzušanas scenāriji kādreiz īstenosies. Viņu aplēses ir spriedumi par nākotnes sistēmām, nevis prognozes, kuras mēs pašlaik varam pārbaudīt.
Ātrāku attīstību ir grūtāk noraidīt: vadošo AI laboratoriju pētnieki publiski brīdina par katastrofāliem rezultātiem, paši AI uzņēmumi pieprasa obligātus drošības standartus, un abu pušu likumdevēji runā par valdības uzraudzību.
Vašingtonā strīds pāriet no tā, vai progresīvam mākslīgajam intelektam ir vajadzīgas aizsargmargas, uz to, kā šīm margām vajadzētu izskatīties, kam tās būtu jāīsteno un vai tās var ierasties, pirms tehnoloģija pāriet ārpus tām.
