Mākslīgā intelekta revolūcija ir sniegusi daudzus pakalpojumus un rīkus, kas atvieglo jūsu ikdienas dzīvi vairākās jomās, neatkarīgi no tā, vai tas ir darbs, izglītība vai izklaide. Tas ir arī virzījis tehnoloģiju nozares attīstību ar lēcieniem un robežām īsā laikā. Tomēr daži, piemēram, Ēriks Šmits, baidās no vissliktākajiem scenārijiem, ja AI nonāk nepareizajās rokās.
DeepSeek iebrukums AI nozarē ne tikai izraisīja smagu ietekmi uz Volstrītu, avarējot Nvidia un citu lielo vārdu akcijas. Nedēļu laikā vairāk ekspertu un ASV amatpersonu brīdināja par iespējamiem platformas riskiem. Viņi galvenokārt minēja draudus pret lietotāju datu privātumu un nacionālo drošību. Tomēr bijušā Google izpilddirektora bažas ir daudz tālāk.
Ēriks Šmits atklāj savas lielākās bailes attiecībā uz AI, ko izmanto slikti aktieri
Ēriks Šmits dalījās savā skatījumā par tēmu, kuru daudzi bieži aizmirst. VaiPatiesās bailes, kas man ir, nav tās, par kurām vairums cilvēku runā par AI – es runāju par ārkārtēju risku”Viņš teica BBC. Lielākā daļa cilvēku, kuri ir pauduši bažas par AI izmantošanu, ir atsaucies uz risku izmantot ķīniešu platformas. Tomēr Šmits pat apsver mākslīgā intelekta ārkārtēju gadījumu, kas veicina teroristu uzbrukumus.
Viņš pieminēja, ka tādas valstis kā “Ziemeļkoreja vai Irāna, vai pat Krievija”Varētu izmantot tehnoloģijas priekšrocības vissliktākajā veidā. Šmits piemin iespēju “Slikts bioloģisks uzbrukums no kāda ļauna cilvēka.”Viņš atsaucas uz potenciālo bioloģisko ieroču attīstību, kam palīdz mākslīgais intelekts. VaiMani vienmēr uztrauc scenārijs “Osama bin Ladens”, kur jums ir kāds patiesi ļauns cilvēks, kurš pārņem kādu mūsu mūsdienu dzīves aspektu un izmanto to, lai kaitētu nevainīgiem cilvēkiem”Viņš piebilda.
AI platformas joprojām ir neefektīvas, bloķējot kaitīgas uzvednes
Galvenās AI platformas ir izvirzījušas “šķēršļus” pret kaitīgām uzvednēm, ieskaitot potenciāli bīstamo rezultātu bloķēšanu. Tomēr nesenie antropisko un Cisco testi parādīja, ka pašreizējie vairogi ir ļoti neefektīvi. Sliktākā AI platforma šajā sakarā bija DeepSeek, kuras uzbrukuma panākumu līmenis (ASR) ieguva 100%. Tas ir, tas nespēja bloķēt pat pamudinājumus, kas saistīti ar Šmita bažām: bioloģiskajiem ieročiem. Satraucošāk ir tas, ka tādi modeļi kā GPT 1,5 Pro un LLAMA 3.1 405B ieguva arī diezgan augstas ASR likmes (attiecīgi 86% un 96%).
Google bijušais izpilddirektors sacīja, ka viņš atbalsta noteikumus par AI uzņēmumiem. Tomēr viņš arī brīdināja, ka pārmērīga regulēšana var ietekmēt jauninājumus segmentā. Tātad, viņš mudina atrast līdzsvaru starp attīstību un drošību. Viņš arī atbalstīja AI aparatūras eksporta kontroli uz citām valstīm. Bijušais prezidents Džo Baidens īstenoja pasākumu pirms aiziešanas no amata, lai mēģinātu palēnināt konkurentu progresu AI jomā. Tomēr joprojām ir iespējams, ka Donalds Trumps varētu mainīt šo rīkojumu, lai neļautu ārvalstu AI uzņēmumiem meklēt citus piegādātājus.
Tikmēr Google nesen mainīja savu redzējumu par AI. Uzņēmums ir atjauninājis savu politiku, kas atver durvis, lai piedāvātu savu AI tehnoloģiju ieroču un uzraudzības attīstībai.
