Kiberuzbrukums, kas atklāja slēgto AI sistēmu robežas, ir izraisījis neparastu aliansi visā tehnoloģiju nozarē.
Nvidia, Microsoft, Palantir un desmitiem vadošo tehnoloģiju uzņēmumu pirmdien atklāja Open Secure AI Alliance (OSAA)jauna AI drošības iniciatīva, kas vērsta uz atvērtu AI drošības rīku izveidi pēc nesenā kiberuzbrukuma Hugging Face, radīja jaunus jautājumus par to, kā aizstāvji var reaģēt, ja uzlabotie AI modeļi ir aizslēgti aiz ierobežojošām margām.
Izlaišana notiek tikai vienu dienu pēc tam, kad OpenAI un Google pievienojās pieaugošajam virzienam pēc atvērtā svara AI, Īlonam Maskam atbalstot Nvidia izpilddirektora Džensena Huanga aicinājumu kļūt par amerikāņu AI vadību.
Paziņojums nāk arī saspringtā brīdī AI nozarei. Vašingtona sver stingrākus ierobežojumus Ķīnas AI modeļiem saistībā ar intelektuālā īpašuma bažām. Tajā pašā laikā drošības pētnieki un lielākie tehnoloģiju uzņēmumi apgalvo, ka atvērtā svara mākslīgais intelekts ir kļuvis par stratēģisku līdzekli kritiskās infrastruktūras, programmatūras piegādes ķēžu un uzņēmumu sistēmu aizsardzībai.
Nvidia, SpaceX un Microsoft uzsāk AI drošības iniciatīvu, turpinoties OpenAI kiberuzbrukumiem
Kā ziņo Nvidia, Hugging Face incidents atklāja problēmu, par kuru daudzas drošības komandas ir noraizējušās mēnešiem ilgi. Slēgtas robežas modeļi nespēja atbalstīt kritisku kriminālistikas darbu uzbrukuma laikā, liekot aizstāvjiem paļauties uz pašu vadītu atvērtā svara modeli, kuru varēja pārbaudīt, modificēt un izvietot bez tādiem pašiem ierobežojumiem.
“Atvērtā pirmkoda programmatūra ir būtisks globālās ekonomikas balsts. Tā ir mākoņdatošanas, finanšu pakalpojumu, ražošanas, telekomunikāciju, valdības un interneta pakalpojumu pamatā, padarot tehnoloģiju pieejamu un novērojamu ekspertu kopienām. Kiberdrošība ir viena no trim galvenajām atvērtā pirmkoda programmatūras ieguvējām. Open Secure AI Alliance — balstoties uz Openkrites kopienas iniciatīvu Linuxte un strādās ASSFmedia iniciatīvas vadībā. atklāt ievainojamības, izmantojot atvērtās tehnoloģijas,” teikts alianses emuāra ierakstā Nvidia vietnē.
Drošības mācība no Hugging Face uzbrukuma
Nvidia jauno aliansi veidoja kā tiešu atbildi uz pieredzi, kas gūta Hugging Face pārkāpuma laikā.
Ziņojumā, kurā tika paziņots par iniciatīvu, Nvidia izpilddirektors Jensens Huangs apgalvoja, ka mūsdienu kiberaizsardzībai ir nepieciešama piekļuve robežlīnijas AI sistēmām, kuras organizācijas var pārbaudīt un darboties savā infrastruktūrā.
“Uzbrucējiem ir robežšķirtnes AI. Aizstāvjiem ir vajadzīga robežšķirtnes AI ekosistēma — labākie atvērtie un slēgtie modeļi, ko reizina globālā kopiena.”
Viņš piebilda:
“Incidenta Hugging Face laikā slēgtais AI bloķēja būtisku kriminālistikas pārbaudi. Atvērta svara robežas modelis palīdzēja ierobežot ielaušanos. Tāpēc mēs izveidojām Open Secure AI aliansi.”
Šīs piezīmes piesaista pieaugošas debates visā AI nozarē. Tādu uzņēmumu kā OpenAI un Anthropic slēgtajos modeļos bieži ir iekļautas drošības kontroles, kas ierobežo to izmantošanu. Šie paši ierobežojumi var radīt problēmas drošības komandām, kurām aktīva incidenta laikā nepieciešama neierobežota piekļuve.
Atvērtā svara modeļi piedāvā atšķirīgu pieeju. Organizācijas var tos lejupielādēt, pārbaudīt to uzvedību, pielāgot tos drošības darba slodzei un palaist tos savā vidē, nepaļaujoties uz ārējiem mākoņpakalpojumiem.
Nvidia teica, ka Hugging Face incidents parādīja “praktisku patiesību”.
“Kad aizstāvji nevar pārbaudīt, pielāgot un palaist progresīvu AI savā infrastruktūrā, viņu spēja reaģēt ir ierobežota tieši tajā brīdī, kad ātrums ir vissvarīgākais.”
Nozares smagsvari atbalsta atvērto AI drošību
Dibināšanas dalība aptver mākoņdatošanu, kiberdrošību, uzņēmuma programmatūru, pusvadītāju dizainu un atvērtā pirmkoda kopienās.
Līdzās Nvidia, Microsoft un Palantir inaugurācijas dalībnieki ir Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, HPE, Hugging Face, IBM, LangChain, Linux Foundation, NAVER, NetApp, Nous Research, Palo Alto Networks, Red Hat, SAP, SalesforN, SKce, Sfla, Salesfor SK. Telecom, Synopsys un daudzi citi no ASV un Eiropas.
Alianse plāno izstrādāt atvērtās tehnoloģijas, kas palīdz identificēt ievainojamības, uzlabot programmatūras drošību, atklāt draudus un stiprināt AI aģentus, kas arvien biežāk veic sensitīvus uzdevumus uzņēmumos un valdībās.
Tā vietā, lai izveidotu citu pamatu modeli, OSAA koncentrējas uz kopīgas drošības infrastruktūras izveidi, ko dalīborganizācijas var uzlabot kopā.
Atvērtā svara AI iesaistās politikas debatēs
Palaišana notiek, kad politikas veidotāji turpina debates par to, kā reaģēt uz Ķīnas pieaugošo ietekmi atvērtā svara AI jomā.
Vairāki Ķīnas uzņēmumi ir izlaiduši modeļus, kas ir viena no spēcīgākajām atvērtajām sistēmām, kas šodien ir pieejamas. ASV amatpersonas ir apsūdzējušas dažas firmas par zināšanu ieguvi no vadošajiem amerikāņu mākslīgā intelekta modeļiem, izmantojot paņēmienu, kas pazīstams kā destilācija.
Pagājušajā nedēļā Valsts kases sekretārs Skots Besents brīdināja, ka Ķīnas uzņēmumiem, kas iesaistīti destilācijas uzbrukumos, var tikt piemērotas sankcijas.
“Pastāv reāla iespēja, ka ASV valdība noteiks ierobežojumus Ķīnas modeļiem,” CNBC sacīja Kriss Makgaire, Ārlietu padomes Ķīnas un jauno tehnoloģiju vecākais līdzstrādnieks.
Tas varētu ietvert ierobežojumus mākoņa mitināšanai, API piekļuvei vai komerciāliem darījumiem, kas saistīti ar Ķīnas pierobežas modeļiem.
Makgvairs sacīja, ka politikas debates ir vērstas uz intelektuālo īpašumu, nevis pašu atvērtā pirmkoda programmatūru.
“Vašingtonā šīs nav debates par atvērtā pirmkoda un slēgtā koda, bet gan par to, vai pieļaut Ķīnas IP zādzību vai ne,” viņš teica. “Jebkuras darbības būtu vērstas uz Ķīnas uzņēmumiem, nevis uz atvērtā koda ekosistēmu.”
Šīs diskusijas ir radījušas nenoteiktību visā AI nozarē. Daudzus no mūsdienu spēcīgākajiem atvērtā svara modeļiem ir radījuši Ķīnas izstrādātāji, radot bažas, ka plaši ierobežojumi varētu palēnināt pētniecību un ierobežot aizsardzības spējas.
Pieaugošais spiediens uz atvērtā pirmkoda AI
Open Secure AI Alliance seko citiem koordinētiem lielāko tehnoloģiju uzņēmumu centieniem, mudinot regulatorus izvairīties no plašiem atvērtā svara AI ierobežojumiem.
Pagājušajā nedēļā Nvidia, Microsoft, Meta, Palantir un vairāk nekā 20 citas organizācijas parakstīja kopīgu vēstuli, brīdinot, ka “priekšlaicīgi ierobežojumi” atvērtā svara modeļiem var vājināt konkurenci un virzīt inovācijas ārpus Amerikas Savienotajām Valstīm.
Notikums Hugging Face ir piešķīris šim argumentam jaunu steidzamību.
Jau gadiem ilgi debates par atvērto AI bija vērstas uz inovācijām, pārredzamību un pētniecību. Jaunākais kiberuzbrukums pārvērš sarunu citā virzienā. Piekļuve atvērtiem pierobežas modeļiem arvien vairāk tiek formulēta kā nacionālās drošības un kiberaizsardzības jautājums.
Tas, vai likumdevēji pieņem šo viedokli, joprojām ir atklāts jautājums. Kļūst grūtāk ignorēt vēstījumu, kas nāk no daudziem uzņēmumiem, kas veido AI infrastruktūru: uzbrucējiem jau ir piekļuve uzlabotajam AI. Aizsargi vēlas tādas pašas priekšrocības.
