Neskatoties uz panākumiem ģeneratīvajā AI telpā, OpenAI turpina piedzīvot vairāku galveno locekļu aiziešanu no savas vadības komandas. Jaunākais ir Jans Leike, viens no uzņēmuma vadošajiem drošības pētniekiem, kurš šā mēneša sākumā atkāpās no amata, lai pievienotos konkurējošajam AI startam Anthropic.
Ziņā par X Leike paziņoja, ka ir pievienojies Anthropic, lai “turpinātu superlīdzināšanas misiju”. Leike atklāja savu atkāpšanos no OpenAI 15. maijā, tikai dažas dienas pirms uzņēmums izformēja viņa vadīto superlīdzināšanas grupu. Šī komanda sākotnēji tika izveidota 2023. gadā, lai risinātu ilgtermiņa AI riskus.
“Esmu priecīgs pievienoties @AnthropicAI, lai turpinātu superlīdzināšanas misiju. Mana jaunā komanda strādās ar mērogojamu pārraudzību, vāju uz spēcīgu vispārināšanu un automatizētu saskaņošanas izpēti.
Es priecājos pievienoties @AnthropicAI lai turpinātu superlīdzināšanas misiju!
Mana jaunā komanda strādās ar mērogojamu pārraudzību, vāju uz spēcīgu vispārināšanu un automatizētu pielīdzināšanas izpēti.
Ja ir interese pievienoties, mani dms ir atvērti.
— Jans Leike (@janleike) 2024. gada 28. maijs
“Atteikšanās no šī darba ir bijusi viena no grūtākajām lietām, ko jebkad esmu paveicis, jo mums steidzami jāizdomā, kā vadīt un kontrolēt AI sistēmas daudz gudrāk par mums,” Leike rakstīja citā ierakstā pēc aiziešanas no OpenAI.
Leike aiziet dažas dienas pēc tam, kad OpenAI galvenais zinātnieks un ChatGPT-4 veidotājs Iļja Suckevers paziņoja par aiziešanu no uzņēmuma, kuru viņš līdzdibināja pirms deviņiem gadiem.
AI drošība ir strauji kļuvusi par būtisku uzmanību tehnoloģiju nozarē kopš OpenAI ChatGPT palaišanas 2022. gada beigās, kas izraisīja ģeneratīvu AI produktu un investīciju pieaugumu. Tomēr daži nozares eksperti pauž bažas, ka uzņēmumi steidzas izlaist šīs jaudīgās AI tehnoloģijas, pilnībā neņemot vērā to iespējamo ietekmi uz sabiedrību.
Tikmēr OpenAI otrdien paziņoja par jaunas drošības un drošības komitejas izveidi, kuru vadīs augstākā līmeņa vadītāji, tostarp izpilddirektors Sems Altmans. Komitejas uzdevums ir ieteikt uzņēmuma valdei “drošības un drošības lēmumus OpenAI projektiem un darbībām”.
Anthropic, kuru 2021. gadā dibināja bijušais OpenAI pētniecības viceprezidents Dario Amodejs, kopā ar Džeku Klārku, Semu Makkandlišu un Tomu Braunu, Anthropic mērķis ir izmantot ģeneratīvā mākslīgā intelekta potenciālu nozīmīgai globālai ietekmei. Sajūtot liela mēroga AI sistēmu pārveidojošo spēku, Dario kopā ar savu māsu Danielu uzsāka misiju, lai radītu AI sistēmas, kas ir ne tikai mērogojamas, bet arī interpretējamas un izturīgas. Pirms Anthropic līdzdibināšanas Daniela Amodei bija OpenAI drošības un politikas viceprezidente.
