Pēc mēnešiem ilgušām pretrunām un pasaules mēroga pārbaudēm Groks beidzot aizliedz platformā nelegālo porno paaudzi. X ir apstiprinājis, ka tagad ir ierobežojis Grokam veidot materiālus par bērnu seksuālu izmantošanu un bez piekrišanas izteiktus attēlus. Šis lēmums ir balstīts uz globālu kritiku, valdības juridiskajiem rīkojumiem un starptautiskiem aizliegumiem attiecībā uz AI rīka izmantošanu.
Groks beidzot aizliedz nelegālu pornogrāfiju un nepārprotamu attēlu ģenerēšanu
Elona Muska sociālo mediju firma X apstiprina, ka Groks vairs nevar radīt nepārprotamus attēlus, kas nav vienprātīgi. Uzņēmums šo soli apzīmē kā “drošības pasākumu”, tomēr tā ierobežotā darbības joma ir radījusi jautājumus par atbildību, izpildi un AI attēlu ģenerēšanas nākotni.
Problēma sāka saasināties, kad daži lietotāji sāka izmantot Grok, lai ģenerētu pornogrāfiskus attēlus no reālām fotogrāfijām, tostarp satura, kurā bija iesaistīti bērni. Tas izraisīja brīdinājumus no vairāku valstu valdībām un lietotāju kritiku. Bet, neskatoties uz to, funkcija joprojām bija pieejama. Īlons Masks sākotnēji pat noraidīja bažas. Viņš arī raksturoja sistēmu kā “humorisku”, pirms vēlāk vispār noliedza ļaunprātīgu izmantošanu.
Tas rada bažas par AI rīku ļaunprātīgu izmantošanu
Kad nelegālie attēli kļuva arvien populārāki, vairākas valdības iesaistījās, lai regulētu šo rīku. Indonēzija un Malaizija ieviesa Groka aizliegumus. Apvienotā Karaliste pētīja regulatīvās iespējas to kontrolēt, un ASV likumdevēji vēl vairāk apšaubīja, vai uzņēmumi bezdarbības dēļ veicina nelegālu pornogrāfiju.
Mēģinot kontrolēt lietas, X vēlāk paziņoja, ka tagad ir ierobežojis Groku, lai novērstu nepārprotamu attēlu veidošanu, iesaistot reālus cilvēkus. Uzņēmums paziņoja, ka izmaiņas attiecas uz visiem lietotājiem, tostarp maksājošiem abonentiem. Tā arī uzsvēra, ka tā ievēro nulles tolerances politiku. Tomēr izmaiņas bija vērstas uz atbilstību, nevis atbildību. Tajā uzsvērts, ka ierobežojumi var tikt piemēroti tikai tajās jurisdikcijās, kurās šāda paaudzes darbība ir nelikumīga. Joprojām nav skaidrs, vai aizliegums ir universāls vai balstīts uz ģeogrāfiju. Uzņēmums arī nav nošķīris atļauto un ierobežoto saturu.
