Anthropic atbalsta Goodfire 50 miljonu ASV dolāru sērijā AI modeļu atšifrēšanai, atzīmējot pirmo starta investīciju

Anthropic tikai veica savu pirmo starta ieguldījumu – un tas ir stāstīts.

AI starta aiz populārā tērzēšanas robota Kloda ir ieguldījusi USD 1 miljonu Goodfire-Sanfrancisko bāzētajā uzņēmumā, kas strādā, lai “pārtraukt ģeneratīvo AI modeļu melno kasti” un padarīt tos vieglāk saprotamus un kontrolējamus. Šī agrīnās stadijas likme ir daļa no Goodfire 50 miljonu ASV dolāru sērijas A sērijas, kuru vada Menlo Ventures un pievienojās Lightspeed, B Capital, Work-Bench, Wing, South Park Commons un citi.

Finansējums, kas nodrošināts mazāk nekā gadu pēc atklāšanas, atbalstīs pētniecības centienus un paātrinās uzņēmuma, uzņēmuma vadošo interpretācijas platformas attīstību sadarbībā ar klientiem.

“Anthropic ir veikusi savus pirmos ieguldījumus startēšanā, atbalstot jaunu uzņēmumu, kas palīdz izstrādātājiem izprast viņu AI modeļu iekšējo darbību,” ziņoja informācija.

Tas ir ievērojams brīdis antropicam, kas pazīstams ar to, ka tā koncentrējas uz AI drošību. Pārcelšanās liek domāt, ka uzņēmums sāk stiepties ārpus savām laboratorijām, atstājot savu svaru aiz rīkiem, kas, pēc viņa domām, ir galvenie, lai saglabātu progresīvas AI uz ceļa.

Goodfire uzmanības centrā: padarot AI mazāk noslēpumu

Gudfire, kuru 2024. gadā dibināja Toms Makgrets, Ēriks Ho un Daniels Balsams, sevi sauc par sabiedriskā pabalstu korporāciju, kas koncentrējas uz AI interpretējamību. Tas nozīmē, ka tas šodien risina vienu no lielākajiem jautājumiem AI: kā jums ir jēga par to, kas notiek masīvā modelī?

Startup galvenais produkts Ember dod izstrādātājiem veidu, kā paskatīties zem AI sistēmas pārsega un veikt izmaiņas konceptuālā līmenī. Izmantojot Ember, uzņēmumi var izsekot aizdevuma lēmuma loģikai, noteikt, kad AI halucinē, vai arī iedziļināties, kā tas ir iemesls medicīniskajam vaicājumam.

Komandā, kas atrodas aiz Goodfire, ir Openai un Google Deepmind pētnieki. Līdzdibinātājs Toms Makgrets iepriekš izveidoja Deepmind interpretācijas komandu, un Lī Šarkijs ir pazīstams ar nelielu autoencoderiem pielieto valodu modeļos. Izpilddirektors Ēriks Ho nodrošina starta pieredzi un uzņēmuma mērogošanu līdz USD 10 miljoniem ARR.

“AI modeļi ir bēdīgi slavenas melnās kastes,” sacīja Menlo Ventures investors Deedijs Dašs. “Goodfire pasaules klases komanda-no Openai un Google Deepmind, ir atvērtas, lai palīdzētu uzņēmumiem patiesi izprast, vadīt un kontrolēt viņu AI sistēmas.”

Ģeneratīvo AI modeļu melnās kastes dekodēšana

Pat ar visu AI progresu pētnieki joprojām pilnībā nesaprot, kā faktiski darbojas neironu tīkli. Šis ieskatu trūkums padara šīs sistēmas grūti veidojamas, neparedzamas zem spiediena un arvien riskantākas, jo tās pieaug sarežģītība un spējas.

“Neviens nesaprot mehānismus, ar kuriem AI modeļi neizdodas, tāpēc neviens nezina, kā tos salabot,” sacīja Ēriks HoGoodfire līdzdibinātājs un izpilddirektors. “Mūsu vīzija ir izveidot instrumentus, lai neironu tīkli būtu viegli saprotami, noformējami un salabojuši no iekšpuses. Šī tehnoloģija ir kritiska, lai izveidotu nākamo drošo un jaudīgo pamata modeļu robežu.”

Lai risinātu šo izaicinājumu, Goodfire dziļi izmanto mehānistisko interpretāciju-topošo zinātni par reverso inženierijas neironu tīkliem un pārvēršot šīs atziņas praktiskos rīkos. Tās platforma Ember dod izstrādātājiem programmējamu piekļuvi modeļa iekšējai darbībai, dekodējot atsevišķu neironu izturēšanos.

Tā vietā, lai uzskatītu AI par melnu kasti, Ember atver durvis uz caurspīdīgāku pieeju. Tas lietotājiem ļauj precīzi noteikt slēptos modeļus modeļos, precīzi noregulēt, kā viņi uzvedas, un pat atklāt jaunas iespējas, kas citādi paliktu apglabātas. Rezultāts: uzticamākas, kontrolējamas un efektīvākas AI sistēmas.

Kāpēc antropika tagad iesaistās

Anthropic 1 miljona dolāru čeks, iespējams, nav lielākais kārtā, bet tas nes simbolisku svaru. Tas ir uzņēmuma pirmais kapitāla ieguldījums citā starta vietā – un tas ir stratēģisks.

Antropiskais izpilddirektors Dario Amodei interpretējamību sauca par “kritisku pamatu spēcīgas AI atbildīgai attīstībai” un sacīja, ka ieguldījums atspoguļo uzņēmuma uzskatu, ka šajā apgabalā ir daži no labākajiem solījumiem, lai padarītu AI drošāku un kontrolējamāku.

“Kā progresējot AI iespējām, mūsu spējai izprast šīs sistēmas ir jānovērš. Mūsu ieguldījums Goodfire atspoguļo mūsu pārliecību, ka mehāniskā interpretācija ir vienas no labākajām likmēm, lai palīdzētu mums pārveidot melnās kastes neironu tīklus saprotamās, vadāmās sistēmās-kritisks pamats spēcīgas AI attīstībai,” sacīja Dario Amodei, izpilddirektore un antropiskā līdzfinansētāja.

Bijušo Openai pētnieku dibinātais Antropic ir piesaistījis vairāk nekā 8 miljardus dolāru no tādiem atbalstītājiem kā Amazon un Google un nesen sasniedzis 61,5 miljardu dolāru vērtējumu. Tās iesaistīšanās šeit ir saistīta ar antoloģijas fondu – 100 miljonu ASV dolāru iniciatīvu, ko tā uzsāka ar Menlo Ventures pagājušajā gadā, lai atbalstītu jaunuzņēmumus, izmantojot Anthropic modeļus. Goodfire bija viena no fonda pirmajām likmēm, un tagad tā ir kļuvusi par savu pirmo absolventu uz pilnu A sēriju.

Kāpēc šī telpa karsē

Tā kā AI sistēmas kļūst arvien jaudīgākas, arvien pieaug bažas par to, cik daudz kontroles izstrādātāju un lietotāju patiesībā ir. Tādas nozares kā finanses, veselības aprūpe un aizsardzība nevar atļauties melnās kastes uzvedību, ja dzīvības vai iztika ir uz līnijas.

Goodfire pieejas mērķis ir to mainīt. Dodot inženieriem veidu, kā precīzi noteikt specifiskas iekšējās funkcijas modeļos – neatkarīgi no tā, vai tie atklāj atsauces uz Zelta vārtu tiltu vai identificējot dzejas rhyming modeļus, tas atver jaunu caurspīdīguma līmeni.

Šķiet, ka investori piekrīt. Tiek ziņots, ka Goodfire tika novērtēts 250 miljonu dolāru vērtībā mazāk nekā gada laikā. Menlo, Lightspeed un citi derē, ka interpretācija būs nākamā AI viļņa noteicošā sastāvdaļa.

Patriks Hsu, Arc Institute līdzdibinātājs, viens no Goodfire agrīnajiem partneriem, skaidri izteicās: “Partnerība ar Goodfire ir bijusi nozīmīga, lai atbloķētu dziļāku ieskatu no mūsu DNS fonda modeļa EVO 2.”

Kas tālāk

Goodfire plāno izmantot svaigo kapitālu, lai paplašinātu pētniecību un attīstību, attīstītu savu komandu un cieši sadarbotos ar uzņēmuma klientiem. Tas arī dubultojas par partnerību ar modeļa izstrādātājiem, lai izmantotu savu tehnoloģiju vismodernākajās sistēmās.

Anthropic iesaistīšanās dod Goodfire gan finansiālu stimulu, gan tehnisku piekļuvi tādiem modeļiem kā Klods. Šī sadarbība nākamajos mēnešos varētu paātrināt kontrolējamu, caurspīdīgu AI sistēmu ieviešanu.

Final Take

Anthropic daļa Goodfire ir vairāk nekā finanšu zemsvītras piezīme – tā signalizē par maiņu. Atbalstot startup, strādājot, lai padarītu AI modeļus saprotamus un vadāmus, Antropic rāda, kur tas domā, ka AI nākotnei jāiet. Un ar USD 50 miljoniem svaigu finansējumu un komandu ar augstu kalibru, Goodfire tagad ir resursi, lai vadītu šo maksu.

---