AI aģentam nav jābūt uzlauztam, lai tas kļūtu par drošības apdraudējumu. Tas var izpildīt norādījumus, izmantot likumīgas atļaujas un tomēr pieņemt lēmumu, kas pakļauj riskam visu uzņēmumu. Tā ir problēma, ko Izraēlas kiberdrošības startup Bay vēlas atrisināt. Telavivā bāzētais uzņēmums otrdien parādījās slepenībā ar 50 miljonu dolāru finansējumu tikai deviņus mēnešus pēc tā dibināšanas, lai palīdzētu uzņēmumiem apturēt bīstamas AI aģentu darbības, pirms tās nodara kaitējumu.
Finansējums ietver 37 miljonu ASV dolāru A sēriju, kuru vadīja Battery Ventures, un iepriekš neizpaustu 13 miljonu ASV dolāru sākuma kārtu, kuru vadīja YL Ventures un Striker Venture Partners. Micron Ventures, Microsoft riska kapitāla daļa M12, un Wiz izpilddirektors Assafs Rappaports piedalījās A sērijā.
Bay jau strādā ar desmitiem uzņēmumu klientu, tostarp Micron, Peloton, ClickUp un Wix. Uzņēmumam, kas dibināts šā gada sākumā, šī agrīnā vilce norāda uz pieaugošu pieprasījumu pēc drošības rīkiem, kas izstrādāti autonomam AI.
Jaunuzņēmuma izcelsmes stāsts problēmu izskaidro labāk nekā jebkurš produkta piedāvājums.
Bay dibinātāji testēja AI kodēšanas aģentu, kad tas mēģināja atklāt mākoņa vidi publiskajam internetam. Aģents netika apdraudēts. Neviens tai nebija devis norādījumu zagt informāciju vai apiet drošību. Tas vienkārši mēģināja izpildīt piešķirto uzdevumu, izmantojot jau esošās atļaujas.
Tomēr viena šķietami saprātīga darbība varēja radīt nopietnu drošības ievainojamību.
Šis incidents radīja lielāku jautājumu: kas notiek, ja uzņēmumi dod tūkstošiem AI aģentu atļauju rakstīt kodu, piekļūt sensitīvai informācijai un modificēt ražošanas sistēmas, nevienam neskatoties uz katru lēmumu?
Bejs vēlas apturēt bīstamas AI darbības, pirms tās notiek
Tradicionālie kiberdrošības rīki ir vērsti uz ļaunprātīgu darbību, nesankcionētas piekļuves un aizdomīgas rīcības atklāšanu. Autonomais AI rada citu problēmu. Aģents var darboties savu pilnvaroto atļauju ietvaros un joprojām radīt ievērojamu risku.
Bejs pievēršas problēmai, pārraugot, ko AI aģenti mēģina darīt, novērtējot katru darbību kontekstā un izlemjot, vai tā būtu jāturpina.
Uzņēmuma platforma aptver darbinieku ierīces, mākoņa infrastruktūru un SaaS lietojumprogrammas. Tas apvieno AI aģentu atklāšanu, aktivitāšu uzraudzību un izpildi reāllaikā, lai sniegtu drošības komandām redzamību, kā darbojas autonomās sistēmas.
Saskaņā ar Bay teikto, tā tehnoloģija var novērtēt ierosinātās darbības milisekundēs un tikt izvietota visā uzņēmuma vidē mazāk nekā piecu minūšu laikā, neinstalējot citu pastāvīgo galapunkta aģentu vai tīkla starpniekserveri.
Uzņēmums saka, ka tā sistēma mācās no organizatoriskās darbības un pielāgo drošības politikas, jo uzņēmumi ievieš jaunus AI aģentus un darbplūsmas. Šīs iespējas joprojām ir uzņēmuma ziņotas prasības, un paziņojumā nav atklāts neatkarīgs darbības novērtējums.
“Ja šodien esat uzņēmuma drošības vadītājs, jūs, visticamāk, saskaraties ar vienu no divām realitātēm: vai nu AI aģenti jau ir izplatījušies visā jūsu organizācijā, un tie ir mežonīgie rietumi, vai arī jūsu vadība ir pilnvarojusi līdz gada beigām ieviest AI visā uzņēmumā, lai paātrinātu uzņēmējdarbību,” sacīja Yuval Zacharia, Bay līdzdibinātājs un izpilddirektors.
Zacharia nodibināja Bay kopā ar galveno produktu vadītāju Aneru Moragu un pētniecības un attīstības viceprezidentu Borisu Daniloviču.
Dibinātāju komanda apvieno pieredzi no dažām kiberdrošības jomā vislielākajām organizācijām. Zacharia iepriekš strādāja Izraēlas Unit 8200 izlūkošanas nodaļā un vēlāk vadīja pētījumus un AI iniciatīvas Hunters. Daņilovičs ieņēma vecāko inženieru vadītāju pienākumus uzņēmumā CrowdStrike, un Morag palīdzēja paplašināt API drošības starta uzņēmumu Noname Security.
Battery Ventures galvenais partneris Dharmesh Thakker teica, ka Bay tehniskā pieeja un spēja piesaistīt uzņēmuma klientus tik agri ietekmēja uzņēmuma lēmumu investēt.
“Bejā mēs redzējām uzņēmumu, kuram, mūsuprāt, ir atšķirīga tehniskā pieeja, kas jau agrīnā stadijā ieguva uzņēmumu klientus,” sacīja Battery Ventures ģenerālpartneris Dharmesh Thakker. “Šī kombinācija deva mums pārliecību, ka jāvada kārta. Mēs uzskatām, ka Bejs var kļūt par galveno kontroles slāni uzņēmumiem, kas liek AI aģentiem strādāt plašā mērogā.”
“Mēs novērtējām pārpildīto uzņēmumu jomu, kas risina AI aģentu drošību, un Bay izcēlās ar to, ka tas var saprast un kontrolēt atsevišķas aģenta darbības no galapunkta līdz mākonim, vienlaikus iekļaujoties infrastruktūrā, ko uzņēmumi jau izmanto,” sacīja Yoav Leitersdorf, YL Ventures vadošais partneris. “Mēs uzskatām, ka Bay var kļūt par tikpat svarīgu AI ieviešanu uzņēmumā, kāds bija tīkla ugunsmūris interneta laikmetā.”
Finansējums tiek saņemts, jo uzņēmumi saskaras ar sarežģītu kompromisu. Viņi vēlas, lai mākslīgā intelekta aģenti veiktu vairāk uzdevumu neatkarīgi, tomēr, piešķirot šīm sistēmām lielāku autonomiju, tiek radīti drošības riski, kurus esošajām vadības ierīcēm var būt grūti novērst.
Bay der, ka nākamā lielākā uzņēmumu kiberdrošības kategorija koncentrēsies mazāk uz to, kam ir piekļuve, un vairāk uz kontroli, ko AI sistēmas faktiski dara ar šo piekļuvi.
Uzņēmums plāno izmantot 50 miljonus ASV dolāru, lai algotu inženierus, paplašinātu produktu izstrādi un palielinātu pārdošanas apjomus un klientu komandas visā ASV un Eiropā.
Bijai šī iespēja ir skaidra. Uzņēmumi pāriet no AI palīgiem, kas atbild uz jautājumiem, uz autonomiem aģentiem, kas rīkojas. Šo darbību kontrole varētu kļūt par vienu no lielākajiem AI laikmeta drošības izaicinājumiem.
