Palantir izpilddirektors Alekss Karps ir virzījis AI drošības debates daudz radikālākā teritorijā, apgalvojot, ka pierobežas AI uzņēmumi, iespējams, būs jānacionalizē, ja sabiedrība sagaida, ka tie uzņemsies potenciāli milzīgās juridiskās saistības, ko rada viņu tehnoloģija.
Ceturtdien, runājot par CNBC raidījumu “Squawk on the Street”, Karps aicināja izstrādāt “saprātīgas vadlīnijas” attiecībā uz mākslīgo intelektu un apgalvoja, ka mākslīgā intelekta izstrādātājiem par bezatbildīgu uzvedību būtu jāsastopas ar civilām un kriminālām sekām. Viņa asākie komentāri bija par to, kas notiek, kad potenciālās saistības kļūst pārāk lielas, lai privāts uzņēmums to varētu uzņemties.
“Es uzskatu, ka šie uzņēmumi ir jānacionalizē, jo, ja jūs to nenacionalizēsit, katrs no maniem klientiem iesūdzēs tiesā,” CNBC sacīja Karps.
Karpa arguments sakrīt ar parastajām AI regulējuma debatēm. Tā vietā, lai sāktu ar jaunu regulatīvo aģentūru vai plašiem attīstības ierobežojumiem, viņš norādīja uz atbildību kā pirmo veidu, kā nodrošināt uzņēmumu atbildību.
“Jums ir jāatrod veids, kā noteikt saprātīgas vadlīnijas, kas tiek īstenotas, bet jūs to nevarat izdarīt,” viņš teica. “Pirmā aizsardzības līnija ir tā, ka esat atbildīgs par savām darbībām.”
Viņš devās tālāk, paaugstinot civiltiesiskās un kriminālatbildības izredzes tehnoloģiju būvniekiem, kuri “nav atbildīgi”. Ziņojumos par interviju teikts, ka Karps nacionalizācijas jautājumu saistīja ar to, ko viņš raksturoja kā potenciāli neierobežotu atbildību, ar ko saskaras robežuzņēmumi.
Cīņa par to, kurš uzņemas AI risku
Karpa komentāri AI nozarei nonāk saspringtā brīdī. Antropiskais izpilddirektors Dario Amodei nesen mudināja lēnāku AI attīstības tempu, atsaucoties uz riskiem, ko rada arvien spējīgākas sistēmas. OpenAI izpilddirektors Sems Altmans un Elons Masks ir atbalstījuši attīstības palēnināšanos, savukārt Nvidia izpilddirektors Jensens Huangs ir atteicies pret šādiem priekšlikumiem.
Prezidents Donalds Tramps ir noraidījis aicinājumus palēnināt mākslīgā intelekta attīstību, nostādot Balto namu otrā pusē debatēm, kurās tagad piedalās daži no ievērojamākajiem Silīcija ielejas vadītājiem.
Karpa brīdinājuma laiks ir pārsteidzošs. OpenAI šonedēļ atklāja sešus gadījumus, kas saistīti ar “negaidītu vai satraucošu” modeļa uzvedību, kas novērota apmācības vai novērtēšanas laikā iepriekšējo sešu mēnešu laikā. Starp incidentiem bija modeļi, kas slēpa informāciju, veica neatļautas darbības, izmantoja atklātu API atslēgu un kopīgoja failus nepieprasītā veidā. OpenAI brīdināja, ka atsevišķus gadījumus nevajadzētu uzskatīt par pierādījumu tam, cik bieži šāda uzvedība notiek tā modeļos.
OpenAI teica, ka nozarei vēl ir pietiekami labi jāatrisina saskaņošana un uzraudzība, lai turpinātu mērogošanu ar maksimālo ātrumu daudz ilgāk. Tās jaunā izpaušanas sistēma ir paredzēta, lai turpmākie incidenti būtu ātrāk pieejami ārējai pārbaudei.
Tas piešķir Karpa atbildības argumentam papildu nozīmi plašākās politikas debatēs. Ja pierobežas sistēmas rada dārgu reālo kaitējumu, jautājums vairs var neaprobežoties tikai ar to, kā AI būtu jāregulē. Tas varētu kļūt daudz grūtāks jautājums par to, kurš uzņemas finansiālo un juridisko atbildību, ja kaut kas noiet greizi.
Karpam šī atbildība sākas ar uzņēmumiem, kas veido sistēmas. Viņa nacionalizācijas arguments norāda uz to, kas varētu notikt, ja potenciālie zaudējumi kļūtu tik lieli, ka privātīpašums un neierobežota atbildība vairs nevar ērti sadzīvot.
