Vēl viena vecākā figūra dodas prom no Elona Muska AI impērijas.
Igors Babusčkins, viens no oriģinālajiem Musk mākslīgā intelekta starta uzņēmuma XAI līdzdibinātājiem, trešdien paziņoja, ka viņš atkāpjas, lai izveidotu investīciju firmu, kas koncentrējas uz AI drošību. Jaunais uzņēmums Babuschkin Ventures finansēs pētījumus un jaunuzņēmumus, kas strādā, lai padarītu AI drošāku un uzticamāku.
“Šodien bija mana pēdējā diena Xai,” Babuschkin ievietoja X, apstiprinot savu aiziešanu un jauno virzienu, ko viņš veic.
Babuschkin pievienojās Xai ar pieredzi no Deepmind un Openai, divām no ievērojamākajām AI laboratorijām. XAI viņš aprakstīja agrīnās attīstības virpuli, no nulles veidojot infrastruktūras un apmācības sistēmas. Viņš sacīja, ka viņš uzbūvējis “daudzus no pamata rīkiem”, kas izmantoti modeļa apmācības vadīšanai, un vēlāk vadīja inženierzinātnes vairākās galvenajās jomās, ieskaitot infrastruktūru, produktu un piemērotu AI.
Viņa izeja papildina pieaugošo MUSK vadīto uzņēmumu izlidošanas sarakstu. Šā mēneša sākumā XAI augstākais likumīgais izpilddirektors Roberts Keele arī pameta startup. Un tikai dažas nedēļas pirms tam Linda Yaccarino atkāpās no Sociālās platformas X izpilddirektora amata, kas agrāk bija pazīstama kā Twitter, kuru Musks salocīja zem XAI jumta šī gada sākumā.
Musks ir vērsts pret apgrozījumu vairākās frontēs. Tesla, cits viņa vadības uzņēmums, arī redz, kā galvenie vadītāji aiziet no konkurences AI un Tech uzkarsē visā pasaulē. Sāncenšu firmas, piemēram, Openai, Google un Anthropic, sacenšas uz priekšu, miljardiem apmācīt progresīvākas AI sistēmas.
Nākamā Babuschkin nodaļa, šķiet, ir mazāka par sacīkstēm un vairāk par nākotnes apsardzes līdzekļiem.
Lūk, Babuschkin pilns paziņojums.
“Šodien bija mana pēdējā diena XAI, uzņēmumā, kuru es palīdzēju sākt ar Elonu Musku 2023. gadā. Es joprojām atceros dienu, kad pirmo reizi tikos ar Elonu, stundām ilgi runājām par AI un to, kas varētu būt nākotne. Mēs abi uzskatījām, ka ir nepieciešama jauna AI kompānija ar cita veida misiju.
AI veidošana, kas progresē cilvēcei, ir bijis mans mūža sapnis. Mani vecāki atstāja Krievijas federāciju pēc PSRS sabrukuma, meklējot labāku dzīvi saviem bērniem. Dzīve ne vienmēr bija viegla kā imigranti. Neskatoties uz grūtībām, mani vecāki uzskatīja, ka cilvēciskās vērtības ir nenovērtējamas: tādas vērtības kā drosme, līdzjūtība, zinātkāre par pasaules izpratni. Būdams bērns, es apbrīnoju tādus zinātniekus kā Ričards Feinmans un Makss Planks, kuri nerimstoši virzīja fizikas robežas, lai izprastu Visumu. Kā daļiņu fizikas doktorants CERN es ar prieku piedalījos šajā misijā. Bet jaunas fizikas meklēšana kļuva grūtāka un grūtāka, prasot lielākus un lielākus koliderus, savukārt jaunie atklājumi turpināja kļūt mazāk. Tāpēc es sāku domāt, vai superintelligence, nevis lielāki kolidi, varētu būt atslēga Visuma noslēpumu atbloķēšanai. Vai AI varētu attīstīt konsekventu kvantu gravitācijas teoriju? Vai AI varētu pierādīt Riemann hipotēzi? 2023. gada sākumā es pārliecinājos, ka mēs tuvojamies superintelligence receptei. Es redzēju rakstīšanu uz sienas: ļoti drīz AI varētu pamatot ārpus cilvēku līmeņa. Kā mēs varētu nodrošināt, ka šī tehnoloģija tiek izmantota uz labu? Elons gadiem ilgi bija brīdinājis par spēcīgas AI briesmām. Elons un es sapratām, ka mums ir kopīgs AI redzējums, kas izmantots, lai gūtu labumu cilvēcei, tādējādi mēs pieņēmām darbā vairāk līdzīgu domājošu inženieru un devāmies uz XAI būvēšanu.
Xai pirmajās dienās nebija viegli. Naysayers mums teica, ka mēs esam ieradušies pārāk vēlu uz spēli, tāpēc labākā AI uzņēmuma sākšana no nulles nebūtu iespējama. Bet mēs ticējām, ka mēs varētu darīt neiespējamo. Sākot uzņēmumu no nulles, bija nepieciešams daudz praktisku darbu. Sākumā es uzcēlu daudzus pamatdarbības rīkus, kas uzņēmumā tika izmantoti, lai uzsāktu un pārvaldītu apmācības darbus. Vēlāk es pārraudzīju lielu daļu inženierzinātņu uzņēmumā, ieskaitot infrastruktūru, produktu un piemērotu AI projektus. Xai cilvēki ir dziļi veltīti. Izmantojot asiņu sviedru un asaras, mūsu komandas pūslīša ātrums uzbūvēja Memfisas superklasteru un nosūtīja pierobežas modeļus ātrāk nekā jebkurš vēstures uzņēmums. Es uzzināju 2 nenovērtējamas mācības no Elona: #1 Esiet bezbailīgs, ripojot piedurknes, lai personīgi iedziļinātos tehniskās problēmās, #2 ir maniakāla steidzamības sajūta.
XAI izpilda smieklīgu ātrumu. Nozares veterāni mums teica, ka Memfisas superklastera būvēšana 120 dienu laikā nebūtu iespējama. Bet mēs ticējām, ka mēs varētu darīt neiespējamo. Mūsu mērķis bija panākt, lai mūsu apmācības iestatīšana darbotos mērogā Memfisas klastera ASAP. Līdz mūsu 120 dienu termiņa beigām mēs bijām apņēmušies ar noslēpumainiem jautājumiem, sazinoties ar RDMA starp mašīnām. Elons nolēma lidot uz datu centru, un mēs sekojām. Mūsu Infra komanda nakts vidū nolaidās Memfisā un nokļuva tieši uz darbu. Pēc desmitiem tūkstošu LSPCI izejas līniju izliešanas mēs beidzot identificējām nepareizu BIOS iestatījumu, problēmas sakni. Elons bija tur kopā ar mums līdz vēlai naktij. Kad apmācības skrējiens beidzot darbojās, Elons izlika mūsu triumfu “4:20”, liekot mums skaļi smieties. Es nekad neaizmirsīšu adrenalīna steigu tajā naktī un emocionālās saites, kuras mēs visi kopā bijām kopā. Mēs gājām gulēt, sajūtot, it kā dzīvotu vismīlīgākais savas dzīves laiks.
Man ir milzīga mīlestība pret visu ģimeni Xai. Mūsu komanda ir patiesi īpaša – jūs esat visvairāk veltītie cilvēki, ar kuriem jebkad esmu strādājis. Tieši pieķeršanās pie robežas tas ātri nav bijis viegli. To padarīja iespējamu ikviena dieharda graudā un komandas garam. Paldies katram cilvēkam, kurš man pievienojās šajā piedzīvojumā. Es gribu pagodināt jūsu ieguldījumu, jūsu laiku, upurus, kas nekad nav viegli. Es vienmēr atcerēšos strādāt kopā tālu naktīs un sadedzināju pusnakts eļļu. Es nekad neaizmirsīšu jūsu veiktos upurus un ieguldījumu. Braucot šodien, es jūtos kā lepns vecāks, braucot prom, nosūtot viņu kazlēnu prom uz koledžu. Mana sirds ir aizraujoša ar prieka asarām, sakņojas uzņēmumam, kad tā aug un nogatavojas.
Dodoties uz savu nākamo nodaļu, mani iedvesmo tas, kā mani vecāki imigrēja meklēt labāku pasauli saviem bērniem. Nesen es vakariņoju kopā ar Maksu Tegmarku, Dzīves institūta Future dibinātāju. Viņš man parādīja savu jauno dēlu fotoattēlu un jautāja: “Kā mēs varam droši uzbūvēt AI, lai nodrošinātu, ka mūsu bērni var uzplaukt?” Mani dziļi aizkustināja viņa jautājums. Iepriekš savā karjerā es biju tehnisks vadītājs Deepmind’s Alphastar StarCraft aģentam, un es redzēju, cik spēcīga ir pastiprināšanas mācīšanās, kad palielinājās. Tā kā pierobežas modeļi kļūst arvien vairāk aģentu garākā horizontā un plašāks uzdevumu klāsts, tie iegūs arvien vairāk un jaudīgākas iespējas, kas padarīs to kritisku, lai izpētītu un uzlabotu AI drošību. Es vēlos turpināt savu misiju, lai radītu AI, kas ir droša un izdevīga cilvēcei. Es paziņoju par Babuschkin Ventures atklāšanu, kas atbalsta AI drošības pētījumus un atbalsta jaunuzņēmumus AI un aģentu sistēmās, kas veicina cilvēci un atbloķē mūsu Visuma noslēpumus. Lūdzu, sazinieties ar [email protected], ja vēlaties tērzēt. Singularitāte ir tuvu, bet cilvēces nākotne ir gaiša! ”
