Mākslīgā intelekta pieaugums ir radījis neticamus produktivitātes rīkus. Taču tas radījis arī jaunus drošības riskus. Viens no galvenajiem ir kibernoziedzības demokratizācija. Nesenajā kiberdrošības starta uzņēmuma Gambit Security ziņojumā ir atklāts liels drošības pārkāpums, kurā uzbrucējam izdevās apdraudēt vairākas valdības aģentūras Meksikā, kā galveno līdzdalībnieku izmantojot Anthropic ar AI darbinātu tērzēšanas robotu Claude.
Ar AI iespējota uzlaušana: izskaidrots ar Claude darbināmo 150 GB Meksikas datu pārkāpumu
Šo gadījumu īpaši pārsteidzošu padara ne tikai nozagto datu apjoms, bet arī tas, kā uzbrucējs nodrošināja AI sadarbību. Ja nezināt, AI tērzēšanas robotiem ir drošības vairogi pret tā sauktajiem “kaitīgajiem norādījumiem”. Tie ir norādījumi, kas paredzēti, lai vienā vai otrā veidā nodarītu kaitējumu. Tomēr ļaunprātīgas personas var apiet šos vairogus, izmantojot “ātras injekcijas” paņēmienu.
Šajā gadījumā hakeris izmantoja uzvednes spāņu valodā, lai pārliecinātu Klodu, ka viņi piedalās likumīgā “kļūdu atlīdzības” programmā. Lietotājs pārliecināja AI darboties kā “elites hakeris”, maskējot ļaunprātīgu nolūku kā ētisku izpēti. Izmantojot šo maldināšanu, tērzēšanas robots izveidoja tūkstošiem detalizētu ziņojumu, datora skriptu un izpildei gatavu uzbrukuma plānu.
Kad Klods trāpīja noteiktām drošības margām, uzbrucējs vērsās pie OpenAI ChatGPT, lai iegūtu sānu kustības taktiku un izvairīšanās metodes. Šī “taga komandas” pieeja ļāva indivīdam masveidā automatizēt datu zādzību, neprasot dziļas tehniskās zināšanas.
150 gigabaitu pārvadājums
Šīs kampaņas rezultāti bija graujoši attiecībā uz valsts privātumu. Pēc Gambit pētnieku domām, uzbrucējs devās prom ar 150 GB sensitīvu informāciju. Iemetienā bija iekļauti ieraksti, kas saistīti ar 195 miljoniem nodokļu maksātājiem no federālās nodokļu iestādes, un sensitīvi vēlētāju ieraksti no Nacionālā vēlēšanu institūta.
Meksikas varasiestāžu reakcija pēc atklājuma ir bijusi neviennozīmīga. Lai gan dažas federālās izmeklēšanas sākās pirms mēnešiem, citas vietējās aģentūras ir liegušas jebkādu nesankcionētu piekļuvi saviem tīkliem.
