Neraugoties uz notiekošo Pentagona strīdu, NSA iegulti antropiskie inženieri, lai izvērstu Mythos kiberuzbrukumiem, ziņo FT.

Februārī Anthropic bija nesaskaņas ar Kara departamentu par to, kā tā AI tehnoloģija būtu jāizmanto. Tagad Financial Times ziņo, ka uzņēmums palīdz Nacionālajai drošības aģentūrai izvietot Mythos, jaudīgu AI modeli, kas izveidots, lai identificētu programmatūras ievainojamības un atbalstītu kiberoperācijas.

Saskaņā ar ziņojumu Anthropic ir iestrādājis NSA inženierus, lai palīdzētu izvietošanā, un tas izceļ pierobežas mākslīgā intelekta pieaugošo lomu valsts drošībā un rada jaunus jautājumus par to, kur uzņēmums novelk robežu, kad valdība izmanto savu tehnoloģiju.

“Anthropic palīdz ASV drošības aģentūrai izmantot Mythos kiberuzbrukumiem,” raksta The Financial Times ierakstā X.

Šī vienošanās iezīmē nozīmīgu soli ASV valdības progresīvā AI pieņemšanā kiberdrošības un izlūkošanas darbam. Tas notiek laikā, kad Anthropic joprojām iesaistās tiesiskā cīņā par ierobežojumiem, kas saistīti ar tās agrākajām AI sistēmām.

Mythos kļūst par vienu no visvairāk apsargātajiem AI modeļiem

Anthropic ieviesa Mythos, ko dažkārt dēvē par Claude Mythos priekšskatījumu, ierobežotā laidienā, izmantojot savu Project Glasswing iniciatīvu aprīlī. Uzņēmums izvēlējās modeli nedarīt publiski pieejamu, atsaucoties uz tā spēju identificēt un izmantot programmatūras ievainojamības tādā līmenī, kas radīja bažas par drošību.

Tiek ziņots, ka iekšējie novērtējumi parādīja, ka Mythos pārspēj iepriekšējos modeļus dažādos kiberdrošības uzdevumos. Sistēma varētu atklāt iepriekš nezināmas ievainojamības, ģenerēt darba izmantojumus un apvienot vairākus uzbrukuma ceļus. Saskaņā ar Financial Times teikto, Anthropic darbinieki bez formālas drošības pieredzes varēja iegūt pilnīgas izmantošanas ķēdes pēc tam, kad modelim bija devuši plašas instrukcijas, lai vienas nakts laikā meklētu vājās vietas.

Šīs iespējas izriet no sasniegumiem kodēšanas, argumentācijas un ilgtermiņa plānošanas jomā. Tās pašas prasmes, kas padara AI noderīgu programmatūras izstrādē, var padarīt to ļoti efektīvu, lai atrastu trūkumus sarežģītās sistēmās.

Viens avots, kas pazīstams ar NSA Mythos izmantošanu, teica Financial Times: “Labākais veids, kā izveidot labu aizsardzību, ir izveidot labu uzbrukumu.”

Ziņojumā teikts, ka modelis tiek izmantots, lai simulētu sarežģītus ielaušanās gadījumus un novērtētu ievainojamības, ko varētu izmantot ārvalstu pretinieki.

Piekļuve Mythos joprojām tiek stingri kontrolēta. Tiek ziņots, ka Anthropic ir piešķīris piekļuvi tikai nelielai uzticamu ASV organizāciju grupai un atsevišķām sabiedroto iestādēm, tostarp Apvienotās Karalistes AI drošības institūtam. Ierobežotā ieviešana ir devusi drošības komandām iespēju izpētīt modeļa identificētās ievainojamības, pirms kļūst pieejama plašāka piekļuve.

Pentagona strīds, kas nekad nav pilnībā izzudis

NSA izvietošana notiek uz notiekošā konflikta starp Anthropic un Aizsardzības ministriju fona.

Nesaskaņas sākās šā gada sākumā pēc tam, kad Anthropic atteicās noņemt drošības pasākumus, kas ierobežo noteiktus tā modeļu militārus lietojumus. Uzņēmums ir apgalvojis, ka tā AI sistēmas nevajadzētu izmantot pilnībā autonomiem nāvējošiem ieročiem vai liela mēroga iekšzemes uzraudzībai.

Šī nostāja izraisīja plašāku konfrontāciju ar Pentagonu. Martā toreizējais aizsardzības sekretārs Pīts Hegsets nosauca Anthropic par “piegādes ķēdes risku”, iezīmējot ārkārtēju soli pret vienu no valsts vadošajiem mākslīgā intelekta uzņēmumiem. Trampa administrācija lika federālajām aģentūrām pārtraukt izmantot antropiskos rīkus, un Aizsardzības departaments nolēma ierobežot Kloda izmantošanu militārajās programmās.

Anthropic atbildēja ar prasību, apgalvojot, ka valdības rīcība bija atriebība un pārsniedz tās likumīgās pilnvaras.

Tiesas nolēmumi ir bijuši dažādi. Federālais tiesnesis Sanfrancisko uz laiku bloķēja ierobežojumu izpildi. ASV DC Circuit Apelācijas tiesa vēlāk atteicās apturēt nolēmumu un maijā uzklausīja papildu argumentus. Tiesiskā cīņa joprojām nav atrisināta.

Tomēr Financial Times ziņojums liecina, ka sadarbība starp Anthropic un NSA ir turpinājusies visā strīda laikā.

Iepriekšējie Axios ziņojumi atklāja, ka NSA jau ir pārbaudījusi Mythos Preview ievainojamības skenēšanai. Axios minētie avoti norādīja, ka modeļa izmantošana, iespējams, ir bijusi plašāka par vienu aģentūru.

AI pieaugošā loma kiberkonfliktos

Mythos izvietošana uzsver plašākas pārmaiņas, kas notiek starp valdībām un izlūkošanas aģentūrām.

AI modeļi vairs netiek vērtēti tikai kā produktivitātes rīki. Tie arvien vairāk tiek uzskatīti par stratēģiskiem aktīviem, kas spēj identificēt ievainojamības, paātrināt kiberpētniecību un palīdzēt valsts drošības operācijām.

Šī realitāte nostāda tādus uzņēmumus kā Anthropic sarežģītā situācijā. To pašu tehnoloģiju, kas stiprina aizsardzības drošību, var izmantot arī uzbrukuma nolūkos. Novilkt skaidras robežas pieņemamam lietojumam kļūst grūtāk, jo modeļi iegūst jaunas iespējas.

Pilns NSA Mythos izmantošanas apjoms joprojām nav zināms. Izlūkošanas aģentūras reti atklāj operatīvo informāciju, atstājot nepiederošām personām iespēju novērtēt notikumus, izmantojot ierobežotus publiskos ziņojumus.

Skaidrs ir tas, ka Anthropic attiecības ar ASV nacionālās drošības iestādi ir iegājušas jaunā fāzē. Tiek ziņots, ka uzņēmums, kas lielu daļu gada pavadīja, cīnoties pret valdības ierobežojumiem attiecībā uz tās AI tehnoloģiju, tagad palīdz izvietot vienu no visspēcīgākajiem kiberdrošības modeļiem, kas jebkad izstrādāts vienā no Amerikas slepenākajām izlūkošanas aģentūrām.

Ne Anthropic, ne NSA publiski nekomentēja jaunāko ziņojumu.