Amazon nesen ziņoja par bērnu seksuālās vardarbības materiāliem (CSAM), pārskatot mākslīgā intelekta apmācības datus Nacionālajam pazudušo un izmantoto bērnu centram. Oficiālā iestāde saņēma vairāk nekā miljonu ziņojumu saistībā ar CSAM, un par milzīgu daļu no tiem ziņoja Amazon vien. Tomēr daži kritiķi ir radījuši jautājumus par skaidru detaļu trūkumu uzņēmuma oficiālajā ziņojumā.
Amazon ziņo par CSAM AI apmācību datiem bērnu drošības iestādei
Par izmeklēšanu ziņoja Blumbergs atklāj, ka Nacionālais pazudušo un izmantoto bērnu centrs 2025. gadā saņēma vairāk nekā vienu miljonu ar mākslīgo intelektu saistītu CSAM ziņojumu. Lielākā daļa šo ziņojumu tika saņemti no Amazon. Tehnoloģiju gigants sacīja, ka atklājis materiālu, skenējot datus no ārējiem avotiem, ko izmantoja tā AI sistēmu apmācībai. Uzņēmums arī paziņoja, ka nevar noteikt satura avotu.
NCMEC amatpersonas saka, ka daudzi Amazon ziņojumi izcēlās. Izpilddirektors Faljons Maknutijs piebilst, ka citi uzņēmumi parasti sniedz pietiekami daudz informācijas, lai tiesībaizsardzības iestādes varētu rīkoties. Tomēr Amazon neizdevās pievienot avota informāciju, kas apgrūtināja pārskatu izmantošanu. Viņa arī saka, ka tas rada nopietnus jautājumus par to, kā tiek vākti AI apmācības dati. Ziņojumā arī uzsvērts, ka ir jāveic atbilstošas drošības pārbaudes un kā tās var izmantot dažādās platformās.
Pieaugošais AI pieprasījums norāda uz vajadzību pēc pienācīgas tiesībaizsardzības
Lai precizētu savu nostāju, Amazon saka, ka, pārskatot apmācības datus, tā izmantoja plašus skenēšanas noteikumus. Šī metode dažkārt var izraisīt daudz viltus pozitīvu rezultātu. Turklāt uzņēmums saka, ka nav atradis pierādījumus, ka CSAM tika izmantots tā AI modeļa apmācībā. Turklāt milzis saka, ka ir iesniedzis ziņojumus, izmantojot atsevišķu sistēmu, jo dati nāk no trešajām pusēm un neietver lietotāja līmeņa informāciju.
Amazon saka, ka tā joprojām ir apņēmusies AI un bērnu drošības aizsardzības līdzekļu atsaucīgi izmantot un attīstīt. Turklāt šī nav pirmā reize, kad AI firmu un izstrādātāju morālās vērtības tiek apšaubītas. Pret uzņēmumiem, tostarp OpenAI, Character.AI un Meta, ir ierosinātas vairākas tiesas prāvas par saistītiem nodarījumiem.
