Alise ir savākusi 140 miljonus ASV dolāru, lai risinātu problēmu, kas kļūst grūtāka, jo AI sistēmas iegūst lielāku autonomiju: neļauj modeļiem un aģentiem darīt lietas, kuras viņu izstrādātāji nekad nav plānojuši.
Ņujorkā un Telavivā bāzētais mākslīgā intelekta drošības jaunuzņēmums otrdien paziņoja par finansējuma piešķiršanu, sakot, ka kārtu vadīja Apax Digital Funds, kam pievienojās Samsung, SentinelOne, Maj Invest, MoreTech un Phoenix Insurance. Piedalījās esošie atbalstītāji Resolute Ventures, Grove Ventures, CRV, Highland Europe, Vintage Investments, Norwest, NFX un Claltech. Finansējums palielina Alises kopējo finansējumu līdz 280 miljoniem ASV dolāru, un Apax Digital pievienosies tās padomei.
Raunds ietver vēl vienu izcilu numuru. Alise saka, ka ikgadējie regulārie ieņēmumi tuvojas 100 miljoniem USD, un tās AI bizness pēdējo divu gadu laikā ir pieaudzis par vairāk nekā 500%.
Iepriekš pazīstama kā ActiveFence, Alise pavadīja gadus, izsekojot krāpšanu, ekstrēmismu, koordinētas manipulācijas un citas pretrunīgas darbības lielākajās interneta platformās. Tagad šī pieredze tiek pielietota AI, kur jailbreaks, tūlītēja injekcija un autonomie aģenti ir radījuši jaunu drošības problēmu uzņēmumiem, kas izvieto modeļus ražošanā.
“Ir bezgalīgi veidi, kā salauzt AI, un jūs nevarat aizstāvēties pret kaut ko, ko nekad neesat redzējis,” sacīja Noams Švarcs, Alice izpilddirektors un līdzdibinātājs. “Mēs pavadījām gandrīz desmit gadus, lai precīzi uzzinātu, kā cilvēki ļaunprātīgi izmanto tehnoloģiju miljardu mērogā, vispirms pasaules lielākajās platformās un tagad modeļos, kurus tie paši cilvēki pēta. Mēs ļoti ātri demokratizējam spējas, pirms esam demokratizējuši aizsardzību. Šī kārta ir par šīs plaisas novēršanu.”
AI aģenti rada lielāku drošības mērķi
Alises piedāvājums kļūst aktuālāks, jo uzņēmumi pārceļ AI ārpus tērzēšanas robotiem un nodrošina aģentiem piekļuvi datu bāzēm, iekšējai programmatūrai, API un rīkiem, kas var veikt darbības bez pastāvīga cilvēka apstiprinājuma. Viena problēma ir modelis, kas sniedz sliktu atbildi. Aģents ar atļauju veikt darbības var radīt ļoti atšķirīgu riska klasi.
Alise strādā ar progresīvām mākslīgā intelekta laboratorijām, pirms modeļi sasniedz lietotājus, pārbaudot tos ar ļaunprātīgām uzvednēm un aģentu uzdevumiem, kuru mērķis ir atklāt neparedzētu uzvedību. Uzņēmums nosauca Anthropic, Google un Cohere starp saviem klientiem un saka, ka tas strādā ar astoņām no 10 vadošajām AI modeļu laboratorijām.
Uzņēmuma izvietošanai Alise ļauj uzņēmumiem definēt savas politikas, simulēt uzbrukumus un pārbaudīt datu noplūdes, atbilstības kļūmes un neparedzētu uzvedību. Pēc tam tās sistēmas pārrauga modeļa ievades un izvades, kad šīs lietojumprogrammas darbojas.
Aiz šī darba ir Rabbit Hole, Alises patentēta pretrunīga un kaitīga satura datu kopa, kas savākta, gadiem ilgi izsekojot ļaunprātīgu izmantošanu tiešsaistē. Alise saka, ka viena un tā pati pamatā esošā tehnoloģija aizsargā vairāk nekā 3 miljardus cilvēku platformās, tostarp Google, Meta, TikTok un Amazon.
Šie vēsturiskie uzbrukuma dati var būt Alises lielākais atšķirības faktors. AI drošība arvien vairāk atgādina bruņošanās sacensību, kurā aizstāvjiem ir jāparedz uzbrukumi, kas vēl nav sasnieguši konkrētu modeli. Alise liek derības, ka citur internetā novērotie ļaunprātīgas izmantošanas modeļi var sniegt agrīnu brīdinājumu.
“Tāpat kā mākoņa platformas maiņa radīja jaunu drošības kategoriju, AI platformas maiņa paver strauji augošu uzbrukuma virsmu, kas tikai paplašināsies, uzņēmumiem izlaižot aģentus. Tā kā pretinieki arvien vairāk izmanto AI, aizstāvji var vērsties pie Alises, lai veiktu modeļu testēšanu un aizsargmargas, kas veidotas, pamatojoties uz lielāko patentēto pretinieku metožu datu līdzekli. Mēs esam priecīgi par partneru kategoriju Aliceam un Kanee. uzņēmumā Apax Digital.
Alise plāno izmantot jauno kapitālu, lai attīstītu savu AI drošības platformu, palielinātu Rabbit Hole pētniecības komandu un attīstītu tās komerciālās darbības. Uzņēmums jau nodarbina vairāk nekā 150 AI drošības pētnieku.
Laiku ir grūti nepamanīt. AI uzņēmumi pēdējos gadus ir pavadījuši sacīkstēs, lai padarītu modeļus gudrākus. Tā kā šie modeļi kļūst par aģentiem, kas spēj darboties cilvēku un uzņēmumu vārdā, nākamā sacīkste var pārliecināties, ka viņi paliek savās rindās.
