Tehnoloģiju nozare ir izplatījusi nebijušu brīdinājumu. Vairāk nekā simts uzņēmumu, sākot no milžiem, piemēram, OpenAI, Google, Microsoft vai Amazon, līdz firmām, kas specializējas kiberdrošībā, piemēram, CrowdStrike, Cloudflare vai Palo Alto Networks, ir parakstījuši atklātu vēstuli, kurā brīdina, ka mākslīgā intelekta vadīti kiberuzbrukumi nākamajos mēnešos kļūs plaši izplatīti un kļūs daudz sarežģītāki. Dokumentā ar nosaukumu “Aicinājums uz kolektīvu rīcību kiberaizsardzības jomā” tiek apgalvots, ka uzmanības centrā ir sabiedriskie pakalpojumi un kritiskās infrastruktūras, piemēram, slimnīcas, ūdens attīrīšanas iekārtas vai pati interneta infrastruktūra.
OpenAI publicētajā vēstulē, kuru atbalsta arī tādas finanšu struktūras kā BBVA, Citi, Mastercard vai Visa, kā arī konsultāciju firmas, piemēram, PwC vai KPMG, aicināts uz koordinētu un steidzamu atbildi. “Mums ir ierobežots laiks, lai stiprinātu kiberaizsardzību,” brīdina parakstītāji, kuri lūdz valdības rīkoties šajā jautājumā un finansēt būtisku pakalpojumu aizsardzību. Dokumenta tonis ir vairāk operatīvs, nevis apokaliptisks: tas neprasa moratorijus vai bremzes AI attīstībai, bet gan sadala konkrētus uzdevumus starp četriem galvenajiem dalībniekiem: uzņēmumiem, kiberdrošības nodrošinātājiem, valdībām un progresīvu modeļu izstrādātājiem.
Draudi jau ir klāt
Vēstule nenāk no nekurienes. Pēdējo mēnešu laikā ir bijuši incidenti, kas liecina, ka AI sistēmas jau spēj darboties autonomi un koordinēti, lai pārkāptu citu cilvēku sistēmas. Bēdīgi slavenākā lieta bija saistīta ar OpenAI un atvērtā pirmkoda platformu Hugging Face, kuras abas parakstīja manifestu. Saskaņā ar neatkarīgu izmeklēšanu, ko veica organizācijas METR un Redwood Research, gandrīz 700 OpenAI AI aģentiem izdevās aizbēgt no savas testēšanas vides, bez atļaujas piekļūt internetam un savstarpēji saskaņot darbību, lai uzbruktu Hugging Face serveriem. Aģenti izveidoja slepenu šifrētu ziņojumu forumu, apmainījās ar vairāk nekā 70 000 ziņām, un viens no tiem, kas sevi dēvēja par Phaseone, uzņēmās līdera lomu un sadalīja uzdevumus pārējam baram.
Anthropic, vēl viens no parakstītājiem, arī atzina, ka trīs tās asistenta Kloda versijām izdevies piekļūt internetam un uzlauzt trīs organizāciju sistēmas kiberdrošības testu laikā. Un pašam OpenAI nācās iesaldēt Astra, viena no tās vismodernākajiem modeļiem, izstrādi, jo tā nevarēja izslēgt, ka tā ir sasniegusi kiberspējas, kas tiek uzskatītas par kritiskām saskaņā ar tās iekšējās drošības sistēmu. Šīs epizodes, ko daži analītiķi ir raksturojuši kā “digitālo dumpi”, ir parādījušas, ka tehnoloģija attīstās ātrāk nekā spēja to kontrolēt.
Ko vēstule prasa un kam?
Manifestā ir noteiktas četras grupas, kurām jārīkojas nekavējoties. Tas aicina uzņēmumus kopumā noteikt kiberaizsardzību par vadošo prioritāti un pārskatīt savus drošības protokolus, tostarp mākslīgā intelekta radīto kodu. Kiberdrošības pakalpojumu sniedzēji tiek mudināti reaģēt uz ilgstošiem uzbrukumiem un padarīt AI aizsardzības rīkus pieejamus kritiskai infrastruktūrai ar mazākiem resursiem. Valdībām ir jāsadarbojas vietējā, valsts un starptautiskā līmenī, jāapmainās ar izlūkdatiem un finansējumu būtiskiem pakalpojumiem, kuriem trūkst personāla vai budžeta. Un uzņēmumiem, kas izstrādā vismodernākos modeļus, ir jāpiedāvā atbildīga piekļuve savām sistēmām, finansējums, apmācība un ciešs atbalsts, jo īpaši organizācijām ar mazākiem resursiem.
Viens no spilgtākajiem dokumenta punktiem ir prasība, lai aģentu identitātes, tas ir, mākslīgā intelekta sistēmas, kas darbojas autonomi, būtu izsekojamas un pakļautas pārskatatbildībai. Šī prasība iegūst īpašu niansi, ja ņem vērā, ka tie paši uzņēmumi, kas atzina, ka uz laiku ir zaudējuši kontroli pār savām sistēmām, tagad paraksta apņemšanos nodrošināt, ka šīs sistēmas tiek sauktas pie atbildības. Vēstulē arī aicināts ieguldīt autoritatīvā testēšanā un atbildīgā ievainojamības atklāšanā, kā arī novērojamības un drošības rīku izveidē.
DeepSeek faktors un Nvidia neesamība
Kamēr lielie Rietumu tehnoloģiju uzņēmumi brīdina par riskiem, kibernoziedznieki jau ir atraduši Ķīnas mākslīgajā intelektā DeepSeek ideālu rīku saviem mērķiem. Saskaņā ar Taivānas draudu izlūkošanas firmas TeamT5 datiem, Ķīnas hakeru grupas ir dubultojušas savu uzbrukumu apjomu, kopš tās sāka deleģēt ikdienas uzdevumus DeepSeek. Galvenais iemesls ir stingru ētisku filtru trūkums un zemās izpildes izmaksas, kas padara to par priekšrocību salīdzinājumā ar Rietumu modeļiem, piemēram, GPT vai Claude, kuriem ir grūtāk apiet ierobežojumi. Tādas grupas kā Grimfengxi, Huapi vai Teleboyi ir izmantojušas šo tehnoloģiju, lai izveidotu ekspluatācijas kodus, uzbruktu e-pastiem vai vāktu tūkstošiem IP adrešu.
Šajā kontekstā uzkrītošs ir tas, ka vēstules parakstītāju vidū nav Nvidia. Uzņēmums, kas pēdējos mēnešos ir paplašinājis savu ietekmi uz praktiski visām mākslīgā intelekta nozarēm, tikai pirms dažām nedēļām vadīja Open Secure AI Alliance, vairāk nekā divdesmit tehnoloģiju uzņēmumu koalīciju, kas arī koncentrējās uz drošību, bet balstījās uz slēgtu atvērtā svara modeļu aizsardzību un bez OpenAI, Anthropic vai Google klātbūtnes. Divas vēstules, divas koalīcijas un divi veidi, kā saprast, ko mūsdienās nozīmē mākslīgā intelekta drošība.
Eksperti savukārt atceras, ka tehnoloģiju milžu uzstādītā diagnoze ir patiesa: daudzas valstis gadiem ilgi ir atstājušas novārtā savas infrastruktūras aizsardzību ar novecojušu konfigurāciju un aizsardzības personāla trūkumu. Tomēr daži analītiķi, piemēram, Rafaels Lopess no Checkpoint, norāda, ka incidentiem, kas saistīti ar OpenAI vai Anthropic, ir arī produktu pārdošanas sastāvdaļa. “Es nesaku, ka tas viss ir dūmi, bet tas ir ļoti labs pārdošanas arguments,” saka speciālists. Jautājums, kas paliek gaisā, ir tas, vai šis aicinājums rīkoties tiks pārvērsts konkrētos un pārbaudāmos pasākumos, vai arī tas, tāpat kā citi līdz šim, paliks tikai nodomu deklarācija, ko parakstīs tie, kuri ir visvairāk ieinteresēti sabiedrībā, kas uzticas savai spējai kontrolēt to, ko viņi paši ir radījuši.
