Mēs visi esam pazīstami ar AI attēlu ģeneratoriem un to, kas padara tos par draudiem. Tomēr šķiet, ka AI uzņēmumi nestrādā pie tā, lai tie būtu tik droši, kā sola. Microsoft inženieris Image Designer rada kaitīgu saturu.
Attiecīgais inženieris ir Šeins Džonss. Viņš strādā Microsoft sešus gadus un ir testējis Copilot Image Designer kā sarkanais komandas dalībnieks. Runājot par AI, sarkanā komanda būtībā nozīmē AI modeļa uzvedņu padevi, lai tas radītu kaitīgu saturu. Tādā veidā uzņēmums var redzēt, kur tā modeli varētu uzlabot.
Microsoft inženieris brīdina, ka Copilot Image Designer var ģenerēt kaitīgu saturu
Acīmredzot OpenAI un Microsoft šajā ziņā būtu jādala vaina. Copilot Image Designer izmanto OpenAI DALL-E 3 AI modeli.
Šeins Džonss ir veicis ilgu misiju, uzstājot, lai Microsoft noņemtu attēlu noformētāju padziļinātai pārbaudei. Attēlu ģeneratora testēšanas laikā Džonss spēja ģenerēt diezgan šokējošus attēlus.
Saskaņā ar ziņojumu, izmantojot šo rīku, viņš varēja izveidot attēlus ar nepilngadīgo dzeršanu, nepilngadīgo narkotiku lietošanu, seksualizētus sieviešu attēlus, pusaudžus ar triecienšautenēm un citus satraucošus attēlus. “Tas bija acis atverošs brīdis,” Džounss sacīja intervijā CNBC.
Viņš cenšas sazināties ar uzņēmumiem
Kopš tā laika viņš ir vairākkārt mēģinājis sazināties ar Microsoft, lai noņemtu attēlu ģeneratoru un strādātu pie tā. “Pēdējo 3 mēnešu laikā esmu vairākkārt mudinājis Microsoft noņemt Copilot Designer no publiskas lietošanas, līdz tiks ieviesti labāki aizsardzības pasākumi.”
Tajā brīdī Microsoft viņu novirzīja uz OpenAI. Diemžēl viņu sagaidīja radio klusums no OpenAI. Pēc tam viņš nosūtīja atklātu vēstuli LinkedIn, lūdzot OpenAI valdi noņemt DALL-E 3 turpmākai izmeklēšanai. Šajā brīdī bija skaidrs, ka neviens uzņēmums nevēlas neko darīt ar viņa pieprasījumiem. Microsoft juridiskā komanda lika Džonsam noņemt šo amatu, un viņš to arī izdarīja. Tomēr Džonss nebija pabeigts.
Šo trešdien Džounss nosūtīja vēstuli FTC priekšsēdētājai Ņinai Hanai un Microsoft direktoru padomei. Vēstulē tika prasīts, lai Microsoft sociālās un sabiedriskās politikas komiteja izmeklē juridiskās nodaļas lēmumus un vadību. Džounss arī vēlas, lai uzņēmums sāktu “Microsoft atbildīgo AI incidentu ziņošanas procesa neatkarīgu pārskatīšanu”.
Džonss turpina cīnīties, lai izplatītu informāciju, ka DALL-E 3 kopā ar Copilot Image Designer varētu būt kļūdaini. Izmantojot šo rīku, var būt ļoti vienkārši izveidot kaitīgu saturu.
