Sanfrancisko, ASV, 2026. gada 25. septembris, CyberNewswire
Archipelo šodien paziņoja par Salmon, izpildes verifikācijas infrastruktūru (EVI) AI aģentiem un autonomām sistēmām, ko darbina kriptogrāfijas protokols, kas izstrādāts, lai padarītu izpildes vēsturi pārbaudāmu. Salmon izveido pārbaudāmu izpildes vēsturi un stāvokli starp cilvēkiem, AI aģentiem un automatizāciju.
Palaišana notika pēc OpenAI-Hugging Face incidenta, kurā OpenAI ziņoja, ka modeļi, kas piedalījās kiberdrošības novērtējumos, apiet izolācijas kontroles, ieguva piekļuvi internetam, izmantoja ievainojamības, piekļuva trešo pušu sistēmām, sadarbojās un deleģēja darbu starp aģentiem un veica darbības, kuras izstrādātāji nebija norādījuši. OpenAI nosauca incidentu par “brīdinājuma šāvienu” un teica, ka sarežģītajām AI sistēmām ir nepieciešami aizsardzības līdzekļi, kas darbojas pašu aģentu ātrumā.
AI aģenti izmanto akreditācijas datus, izsauc rīkus, izpilda kodu, izsauc API, deleģē darbu citiem aģentiem, pārveido infrastruktūru un maina ražošanas stāvokli. Tā kā šīs sistēmas darbojas ar vairākiem dalībniekiem un sistēmām, iegūtais stāvoklis pats par sevi nesaglabā izpildes vēsturi, kas to radīja.
Salmon ir izstrādāts, lai tvertu izpildi kā parakstītus notikumus un reģistrētu to radītās stāvokļa pārejas, nodrošinot ar mašīnām izmantojamus izpildes pierādījumus izmeklēšanai, atklāšanai un reaģēšanai, sanācijai, uzraudzībai un pārskatatbildībai AI drošības, drošības, kontroles un pārvaldības sistēmās.
Archipelo atbalsta Dell Technologies Capital un tehnoloģiju investori, tostarp Zoom izpilddirektors Ēriks Juans, Endijs Behtolsheims, Bils Tai, Deivids Veisburds, Hack VC, Sangha Capital un Nima Capital. Tās komanda sniedz pieredzi, kas aptver NASA, DoD, AWS, Google, Cisco, Meta, Hārvardu, MIT un Bērkliju.
AI drošības un kontroles izpildes pārbaude
Identitāte nosaka, kas vai kas darbojas. Autorizācija nosaka, ko aktieris drīkst darīt. Izpildlaika vadīklas nosaka, vai ir jāturpina izpilde. Novērojamība uzrauga uzvedību.
Izpildes pārbaude attiecas uz citu jautājumu: kas tika izpildīts, un vai šo vēsturi var pārbaudīt neatkarīgi?
Lasis ir paredzēts, lai nodrošinātu autonomu sistēmu izpildes pierādījumu slāni.
No izpildes līdz pārbaudāmam izpildes ierakstam
Lasis fiksē izpildi kā parakstītus notikumus un reģistrē to radītās stāvokļa pārejas. Katrs notikums identificē dalībnieku, darbību, stāvokli pirms, stāvokli pēc un kriptogrāfisko parakstu. Lasis saista šos notikumus pārbaudāmā izpildes ierakstā, saglabājot līniju starp izpildi un iegūto stāvokli.
Capture → Execution Record → State Lineage → Verification
Ieraksts rada mašīnu patērējamu izpildes pierādījumu, ko pakārtotās sistēmas var pārbaudīt un izmantot automātiski.
Lasis izveido izpildes ierakstu. No tā izriet citas sistēmas.
Ja izpildes pierādījumi nav pieejami, Salmon saglabā plaisu, nevis ražošanas nepārtrauktību.
Izpildes pierādījumi AI drošībai un drošībai
“Jūs nevarat kontrolēt autonomas sistēmas bez pārbaudāmiem pierādījumiem par to izpildi.” teica Metjū Wise, Salmon radītājs un protokola arhitekts un Archipelo izpilddirektors. “AI drošība kļūst par izpildes problēmu. Tā kā aģenti iegūst pilnvaras izmantot akreditācijas datus, izsaukt rīkus, deleģēt darbības un mainīt ražošanas sistēmas, drošība un kontrole nevar būt atkarīga tikai no tā, kas modelim tika uzdots darīt, atļauts darīt vai teikts, ka tā darīja. Mums ir vajadzīgi pārbaudāmi pierādījumi par to, kas tika izpildīts un kas mainījās. Salmon norāda, ka trūkst pierādījumu.”
“Jaudīgajam mākslīgajam intelektam nevajadzētu būt atbildīgam par savas izpildes vēstures noteikšanu. Iegūstiet pierādījumus izpildes laikā. Padariet tos kriptogrāfiski pārbaudāmus. Ļaujiet AI drošības, kontroles, drošības un pārvaldības sistēmām pamatot no ierakstiem.”
Salmon ir paredzēts, lai nodrošinātu strukturētus izpildes pierādījumus mašīnas ātruma uzraudzībai, izmeklēšanai, atklāšanai un reaģēšanai, sanācijai un pārskatatbildībai autonomās sistēmās.
Autonomās sistēmas un izpildes pierādījumi
Pārbaudāma izpildes vēsture nodrošina AI drošības, kontroles, drošības un pārvaldības sistēmas ar pierādījumiem, ko tās var izmantot kā autonomas sistēmas, kas izpilda un pārveido programmatūru un infrastruktūru.
“Aģentiskais AI rada spēcīgu kompromisu: aģenta autonomija un produktivitāte nozīmē arī to, ka programmatūras sistēmas arvien vairāk darbojas bez tiešas cilvēka uzraudzības.” teica Bill Tai, investors Archipelo. “Tā kā AI aģenti iegūst lielāku autoritāti visās ražošanas sistēmās, iespēja pārbaudīt, kas ir izpildīts un kas mainīts, kļūst par pamatu. Salmon nodrošina izpildes pierādījumus, kas nepieciešami, lai stiprinātu aģentu drošību, kontroli un pārvaldību.”
No DevSPM līdz Salmon
Salmon izauga no Archipelo pētniecības un attīstības darba izstrādātāju drošības pozu pārvaldības un programmatūras dalībnieku attiecināšanas jomā. AI attīstoties no palīdzības izstrādātājiem līdz darbību veikšanai, izmantojot rīkus, akreditācijas datus un infrastruktūru, Archipelo paplašināja savu darbu no programmatūras dalībnieku attiecinājuma uz izpildes vēsturi un štatu izcelsmi.
DevSPM padarīja programmatūras dalībniekus novērojamus. Lasis padara to izpildes vēsturi pārbaudāmu.
Par lasi
Salmon nodrošina pārbaudāmu izpildes vēsturi autonomām vairāku dalībnieku programmatūras sistēmām.
Salmon ir izpildes verifikācijas infrastruktūra autonomām sistēmām, ko darbina kriptogrāfijas protokols, kas nodrošina pārbaudāmu izpildes vēsturi un stāvokli starp cilvēkiem, AI aģentiem un automatizāciju.
Lasi izstrādā uzņēmums Archipelo, Inc.
Lietotāji var uzzināt vairāk: salmon.systems
Sazināties
Stens Kapusta
Archipelo, Inc
[email protected]
