Tā pati tehnoloģija, ar kuru var rakstīt dzeju, izstrādāt olbaltumvielas vai diagnosticēt slimības, tagad tiek izmantota, lai novērstu kaut ko daudz tumšāku — mākslīgā intelekta atbalstītus bioloģiskos uzbrukumus. Lai pārvarētu šos draudus, OpenAI ir sadarbojies ar Founders Fund un Lux Capital, lai ieguldītu 30 miljonus ASV dolāru Valthos, Ņujorkā bāzētajā biodrošības jaunuzņēmumā, kas izstrādā programmatūru, kas reāllaikā var atklāt un novērst radītus bioloģiskos draudus.
Bloomberg apstiprināja finansējumu, ziņojot: “Piektdien deviņu cilvēku starta uzņēmums oficiāli izkļūs no slepenas, ar 30 miljonu ASV dolāru finansējumu no OpenAI, Founders Fund un Lux Capital.” Šis paziņojums izslēdz Valthos no slepenā režīma un nostāda to viena no vissvarīgākajām tehnoloģiju jomām: cilvēces aizstāvēšana no AI virzīta bioterorisma.
Valthos mazā, bet iespaidīgā deviņu cilvēku komanda veido rīkus, kas izmanto mākslīgo intelektu, lai skenētu bioloģiskos datus no valdības un komerciālām datubāzēm, pamanot agrīnas briesmu pazīmes ilgi pirms slimības uzliesmojuma izplatīšanās. Jaunuzņēmuma mērķis ir ambiciozs — izveidot sistēmu, kas spēj identificēt bioloģiskos draudus un lidojuma laikā radīt pretpasākumus. Īsāk sakot, viņi vēlas pārspēt bioloģisko evolūciju, izmantojot to, ko viņi sauc par “pielietojamo bioloģisko inteliģenci”.
Valthos atkāpjas no slepenības, saņemot 30 miljonu dolāru finansējumu no OpenAI un Founders Fund, lai novērstu ar AI darbināmas pandēmijas
Laiks nevarētu būt saspringtāks. Nesenajā AI drošības centra ziņojumā ir parādīta drebinoša aina: terorists, kuram ir pamata piekļuve laboratorijai, ar mākslīgā intelekta palīdzību varētu radīt hibrīdu patogēnu — tikpat lipīgu kā masalas, nāvējošu kā bakas un tikpat izvairīgu kā HIV. Šī iespēja ir satricinājusi ekspertus sabiedrības veselības, aizsardzības un AI pētījumos.
Ketlīna Makmahona, Valthos līdzdibinātāja un izpilddirektore, saka, ka uzņēmuma misija ir izvairīties no šiem riskiem. “Vienīgais veids, kā atturēt no uzbrukuma, ir zināt, kad tas notiek, atjaunināt pretpasākumus un ātri tos izvietot,” viņa sacīja. Makmahons kopā ar Tesu van Stekelenburgu nodibināja Valthos, apvienojot veterānus no Palantiras, DeepMind, Broad Institute un Arc Institute — komanda, kas apvieno AI, datu sistēmu un biotehnoloģiju pieredzi. Kopā viņi veido to, ko viņi raksturo kā “bioloģiskās drošības vairogu” AI laikmetam.
OpenAI dalība pievieno intriģējošu slāni. Uzņēmums, kas atrodas aiz ChatGPT, ir saskāries ar pieaugošu spiedienu saistībā ar tās tehnoloģiju divējāda lietojuma raksturu — rīkiem, kas var gan palīdzēt, gan kaitēt atkarībā no tā, kurš atrodas aiz tastatūras. Atbalstot Valthos, OpenAI efektīvi iegulda aizsargmargās, lai tās radītu. Šis solis atbilst nesenajiem pētnieku un politikas veidotāju aicinājumiem izveidot daudzslāņu aizsardzību: stingrāku DNS sintēzes uzraudzību, stingrāku bioloģisko datu kontroli AI modeļos un labāku koordināciju starp tehnoloģiju uzņēmumiem un veselības aģentūrām.
Founders Fund un Lux Capital, kas abi ir pazīstami ar agrīnām likmēm par progresīvu zinātni un tehnoloģijām, arī atbalsta centienus — tas ir signāls, ka investori uzskata, ka biodrošība ir joma, kas drīz paplašināsies. Viņiem Valthos pārstāv vairāk nekā nišas aizsardzības spēli; tas ir nodrošinājums pret vienu no AI eksistenciālākajiem riskiem.
Valthos agresīvi pieņem darbā, paplašinot partnerattiecības ar valdībām un pētniecības organizācijām visā pasaulē. Ņemot vērā jaunu kapitālu, uzņēmums plāno paātrināt agrīnās brīdināšanas un reaģēšanas sistēmu izstrādi — tehnoloģiju, kas varētu palīdzēt novērst nākamo pandēmiju pirms tās sākuma.
Laikmetā, kad koda rinda var ietekmēt bioloģijas likteni, Valthos ir derējis, ka mākslīgā intelekta labākā aizsardzība pret sevi ir intelekta pārvēršana modrībā.
