AI modeļi kļūst biedējoši labi, lai uzbruktu datorsistēmām. Šo pašu sistēmu aizstāvēšana ir daudz grūtāka.
Šī pieaugošā plaisa ir problēma, ko Corma vēlas atrisināt. Kiberdrošības AI starta uzņēmums ir piesaistījis 60 miljonus ASV dolāru sākuma finansējumam, ko vada Sequoia Capital, piedaloties Khosla Ventures un Coatue. Corma izstrādā pamata modeli, kas īpaši izstrādāts aizsardzības kiberdrošībai, pieņemot derības, ka vispārējas nozīmes mākslīgā intelekta modeļi, kas ir īpaši apmācīti uz kodu, ir slikti aprīkoti, lai nodrošinātu lielu korporatīvo tīklu aizsardzību.
Corma saka, ka tās eksperimenti ilustrē problēmu. Uzņēmums izveidoja uzņēmuma vides, kas modelētas pēc Fortune 500 organizācijām, un veica simtiem simulāciju, izmantojot vadošos AI modeļus, tostarp OpenAI GPT un Anthropic Claude.
Modeļiem vispirms tika lūgts darboties kā uzbrucējiem un izveidot pastāvīgus draudus simulētajās vidēs. Pēc tam pētnieki apgrieza uzdevumu un lūdza tiem pašiem modeļiem atrast un noņemt viņu radītos draudus.
Atšķirība bija pārsteidzoša: AI uzbrucējiem tas izdevās 88% gadījumu. AI aizstāvji atklāja tikai 12% no draudiem.
Šī asimetrija varētu kļūt par vienu no kiberdrošības problēmām, jo autonomie AI aģenti kļūst spējīgāki.
Mūsdienu pamatu modeļi ir guvuši milzīgus ieguvumus kodēšanas, programmatūras argumentācijas un daudzpakāpju rīku izmantošanā. Šīs prasmes pārsteidzoši labi pārvēršas aizskarošā kiberdrošībā. Ievainojamību atrašana, ļaunprātīgas koda rakstīšana un darbību ķēde pret noteiktu mērķi var līdzināties programmatūras uzdevumiem, kurus šie modeļi jau veic labi.
Aizsardzība rada citu izaicinājumu. Drošības komandām var būt nepieciešams izsijāt milzīgu daudzumu žurnālu, tīkla trafika, brīdinājumu un notikumu, savienot šķietami nesaistītus signālus dienu vai nedēļu laikā un pieņemt tūkstošiem konsekventu lēmumu, nezaudējot kontekstu.
Corma uzskata, ka tam ir nepieciešams modelis, kas jau no paša sākuma ir uzbūvēts citādi.
“Cīņa uz vispārēju izlūkdatu kiberdrošības jomā jau ir sākusies, un uzbrucējiem ir ievērojams panākums,” sacīja Alons Pluda, Corma līdzdibinātājs un izpilddirektors. “Ar mākslīgo intelektu balstīti uzbrukumi darbojas tādā ātrumā un izsmalcinātībā, kādu nevar pielīdzināt ne cilvēku komandām, ne labākiem rīkiem, ne vispārējas nozīmes mākslīgajam intelektam. Tam ir vajadzīgs pilnīgs ar AI darbināms aizsardzības darbaspēks, kas no paša sākuma ir izveidots kiberdrošībai, kas nodrošina aizsargiem tādu pašu ātrumu, izsmalcinātību un vispārinājumu, kādu AI jau ir devis uzbrucējiem. Corma ir pārliecināts, ka katrs uzdevums ir aizstāvēt, un tas ir izaicinājums nākamais.”
Ar 60 miljonu dolāru finansējumu Corma mērķis ir izveidot mākslīgā intelekta darbaspēku kiberaizsardzībai, jo AI uzbrucēji uzvar 88% laika.
Corma pamatmodelis kalpo par intelektuālā intelekta aģentu inteliģenci, kas var darboties dažādās aizsardzības drošības funkcijās. Tā vietā, lai pozicionētu programmatūru kā citu drošības informācijas paneli, starta uzņēmums vēlas, lai organizācijas izvietotu savus aģentus vairāk kā drošības komandas digitālos dalībniekus.
Uzņēmums saka, ka agrīna ieviešana jau notiek Fortune 100 un Fortune 500 organizācijās, kas aptver veselības aprūpi, finanses, enerģētiku, kritisko infrastruktūru un mazumtirdzniecību.
Corma apgalvo, ka šie izvietojumi ir samazinājuši draudu reaģēšanas laiku par vairāk nekā 94%, palielinājuši drošības funkciju pārklājumu 15 reizes un identificējuši daudzpakāpju uzbrukumus, kas citādi varētu būt nepamanīti. Šie skaitļi nāk no Corma, un tie būs jāpārbauda, salīdzinot ar plašāku izvietošanu, uzņēmumam palielinoties.
Sešas nedēļas vecais jaunizveidotais uzņēmums ir apvienojis Google un DeepMind pētniekus, kā arī kiberdrošības speciālistus ar pieredzi Izraēlas 8200. nodaļā un lielākajos drošības uzņēmumos.
“Corma ir apmācījis savu modeli reālās pasaules uzbrukumu sarežģītībai un veido izlūkošanas slāņa aizsardzību, kas faktiski nepieciešama,” sacīja Šons Magvairs, Sequoia partneris. “Aģentiskais AI sniedz uzbrucējiem strukturālas ātruma priekšrocības, bet Alona uzlaušanas talants kopā ar Corma progresīvo AI izpēti palīdz uzņēmumiem cīnīties pret šiem draudiem plašā mērogā.”
Laiks palīdz izskaidrot, kāpēc investori iegulda 60 miljonus USD aiz tik jauna uzņēmuma. AI samazina izmaksas par tādu uzdevumu automatizēšanu, kuriem kādreiz bija nepieciešami prasmīgi hakeri, potenciāli ļaujot uzbrucējiem vienlaikus darboties vairākos mērķos.
Aizsardzības pusei var nākties kļūt tikpat autonomai.
Tas padara Corma lielāko eksperimentu vērts noskatīties. Kiberdrošības nozare ir pavadījusi vairākus gadus, lai esošajiem produktiem pievienotu AI funkcijas. Corma izdara vērienīgākas likmes: lai aizsargātu organizācijas pret AI aģentiem, galu galā būs nepieciešami AI aģenti, kas ir īpaši izveidoti, lai cīnītos pret tiem.
