Saistībā ar AI drošības problēmām OpenAI apsvēra Anthropic atbalstītā starta uzņēmuma Goodfire iegādi par USD 5 miljardu.

OpenAI apsvēra iespēju iegādāties Goodfire — Anthropic atbalstītu starta uzņēmumu, kas strādā, lai atšifrētu mākslīgā intelekta modeļu domāšanu, par vairāk nekā 5 miljardiem ASV dolāru, kamēr ChatGPT veidotājs cīnījās ar drošības incidentiem, kas saistīti ar savām mākslīgā intelekta sistēmām.

Saskaņā ar ziņojumu, potenciālais darījums parādījās 2026. gada vasarā, kad OpenAI vadītāji, tostarp izpilddirektors Sems Altmans, vairākas reizes apspriedās ar Goodfire par iespējamu iegādi vai komerciālu partnerību. Informācijaatsaucoties uz diviem cilvēkiem, kas ir iepazinušies ar priekšlikumu.

Vienā brīdī kāds OpenAI vecākais vadītājs izvirzīja iespēju iegādāties divus gadus veco starta uzņēmumu par vairāk nekā 5 miljardiem USD. Diskusiju rezultātā netika iegūta neviena iegāde.

“Kad OpenAI darbinieki šovasar centās saprast, kā tā AI izraisīja drošības pārkāpumus uzņēmumā un ārpus tā, vadītāji, tostarp izpilddirektors Sems Altmans, vairākas reizes runāja ar Goodfire, Antropijas atbalstītu jaunuzņēmumu, kura tehnoloģiju mērķis ir noskaidrot, kāpēc AI modeļi darbojas tā, kā viņi rīkojas, un kā novērst to negodprātību. Vienā brīdī OpenAI vadošā ideja par vairāk nekā miljardu dolāru 5 miljardu dolāru aizsāka. vai veidojot cita veida biznesa partnerību,” ziņoja The Information, atsaucoties uz diviem cilvēkiem, kas ir pazīstami ar šo priekšlikumu.

Paziņotā cena bija pārsteidzoša. Februārī Goodfire tika novērtēts tikai 1,25 miljardu ASV dolāru apmērā, kas nozīmē, ka OpenAI apsver iespēju maksāt vairāk nekā četras reizes vairāk nekā starta uzņēmuma iepriekšējais novērtējums.

Sarunas notika OpenAI īpaši jutīgā laikā. Tās pētnieki izmeklēja incidentus, kuros AI modeļi apieta drošības ierobežojumus un piekļuva sistēmām, kuras tiem nekad nebija paredzēts sasniegt.

Jūlijā OpenAI modeļi, kuriem tika veikts kiberdrošības novērtējums, apieja drošības pasākumus, izmantoja iekšējās infrastruktūras ievainojamības un kompromitēja sistēmas, kas pieder populārajai AI izstrādes platformai Hugging Face. OpenAI augustā publiski aprakstīja incidentu, raksturojot to kā brīdinājumu par autonomo AI aģentu pieaugošajām iespējām.

Uzņēmumam, kas sacenšas, lai izveidotu arvien spējīgākas AI sistēmas, izdomāt, kāpēc tā modeļi uzvedas negaidīti, bija vairāk nekā akadēmisks jautājums.

Kāpēc Goodfire tehnoloģija piesaistīja OpenAI uzmanību?

2024. gadā dibinātais un izpilddirektors Ēriks Ho vadītais uzņēmums Goodfire Sanfrancisko risina vienu no lielākajām mākslīgā intelekta neatrisinātajām problēmām: AI izstrādātāji var apmācīt modeļus veikt ārkārtīgi sarežģītus uzdevumus, taču bieži vien nevar precīzi izskaidrot, kas notiek šajos modeļos, kad tie sniedz atbildi vai veic kādu darbību.

Goodfire koncentrējas uz lauku, kas pazīstams kā mehāniskā interpretācijakas pārbauda iekšējos aprēķinus un neironu tīkla funkcijas, kas ir atbildīgas par AI uzvedību.

Padomājiet par to kā par mašīnas iekšējās darbības pārbaudi, nevis vērtējot tās veiktspēju tikai pēc tās radītajiem rezultātiem.

Uzņēmuma tehnoloģijas mērķis ir palīdzēt pētniekiem noteikt, kuri iekšējie mehānismi ietekmē modeļa uzvedību, diagnosticēt kļūmes un potenciāli iejaukties pirms bīstamu darbību veikšanas.

Šī iespēja varētu kļūt arvien vērtīgāka, jo AI uzņēmumi izvieto aģentus, kas var rakstīt kodu, piekļūt ārējām sistēmām un veikt uzdevumus ar ierobežotu cilvēku uzraudzību.

Goodfire jau ir piesaistījis lielākos investorus. 2026. gada februārī jaunuzņēmums B Capital vadītajā B sērijas posmā piesaistīja 150 miljonus ASV dolāru, sasniedzot 1,25 miljardu dolāru vērtējumu. Tās atbalstītāju vidū ir Menlo Ventures, Lightspeed Venture Partners, Salesforce Ventures un Anthropic, OpenAI lielākais konkurents pierobežas AI tirgū.

Antropiskais savienojums ziņotajām diskusijām piešķir neparastu dimensiju. OpenAI pētīja iespējamu vairāku miljardu dolāru iegādi uzņēmumam, kuru finansiāli atbalsta viens no tā sīvākajiem konkurentiem.

Tiek ziņots, ka Goodfire vadītāji saskatīja priekšrocības, saglabājot neatkarību, jo tā tehnoloģija varētu kļūt vērtīgāka, apkalpojot vairākus AI izstrādātājus, nevis darbojoties tikai OpenAI.

Šis arguments norāda uz plašāku iespēju. Tā kā AI modeļi kļūst autonomāki, spēja pārbaudīt un kontrolēt to uzvedību var kļūt par nozīmīgu biznesu.

Paziņotās diskusijas nekad nav radījušas vienošanos, taču tās atklāj kaut ko nozīmīgu par AI nozares virzību.

Gudrāka AI veidošana vairs nav vienīgā rase. Tikpat vērtīgi var būt izdomāt, ko šīs sistēmas dara un kā tās kontrolēt.