Meta, lai sāktu marķēt AI ģenerētus attēlus dažādās platformās, izmantojot caurspīdīgumu

Virzoties uz lielāku caurskatāmību, Meta otrdien paziņoja par plāniem sākt identificēt un marķēt attēlus, ko radījuši citu uzņēmumu mākslīgā intelekta dienesti. Meta augstākā politikas izpilddirektora izklāstītā kustība ietver neredzamu marķieru integrēšanu šajos attēlos nākamo dažu mēnešu laikā.

Emuāra ierakstā Meta globālo lietu prezidents Niks Klegs sacīja, ka marķieri tiks lietoti saturam, kas tiek kopīgots Meta platformās, tostarp Facebook, Instagram un Threads, lai brīdinātu lietotājus par to, ka šie attēli, kas bieži vien atgādina patiesas fotogrāfijas, patiesībā ir digitāli. radīts.

“Tā kā atšķirība starp cilvēka un sintētisko saturu kļūst neskaidra, cilvēki vēlas zināt, kur atrodas robeža. Cilvēki bieži vien pirmo reizi saskaras ar mākslīgā intelekta radītu saturu, un mūsu lietotāji mums ir teikuši, ka viņi novērtē šīs jaunās tehnoloģijas pārredzamību. Tāpēc ir svarīgi, lai mēs palīdzētu cilvēkiem uzzināt, kad, izmantojot AI, ir izveidots viņu redzētais fotoreālistisks saturs. Mēs to darām, pielietojot etiķetes “Imagined with AI” fotoreālistiskiem attēliem, kas izveidoti, izmantojot mūsu Meta AI funkciju, taču mēs vēlamies, lai tas būtu iespējams arī ar saturu, kas izveidots ar citu uzņēmumu rīkiem,” sacīja Klegs.

Meta jau izmanto etiķetes saturam, kas ģenerēts, izmantojot savus AI rīkus, un tagad tā plāno to attiecināt uz attēliem, kas izveidoti, izmantojot pakalpojumus no citiem uzņēmumiem, piemēram, OpenAI, Microsoft, Adobe, Midjourney, Shutterstock un Alphabet’s Google.

Clegg piebilda, ka Meta ir sadarbojusies ar nozares partneriem, lai izveidotu universālus tehniskos standartus, kas norāda, kad saturs ir ģenerēts, izmantojot AI. Atklājot šos signālus, varēsim marķēt AI radītos attēlus, ko lietotāji augšupielādējuši pakalpojumā Facebook, Instagram un Threads.

“Tāpēc mēs esam sadarbojušies ar nozares partneriem, lai saskaņotu tos ar kopīgiem tehniskajiem standartiem, kas norāda, kad saturs ir izveidots, izmantojot AI. Spēja noteikt šos signālus ļaus mums marķēt AI radītos attēlus, ko lietotāji ievieto Facebook, Instagram un Threads.

Meta teica, ka pašlaik izstrādā šo jauno iespēju, un dažu nākamo mēnešu laikā tā sāks lietot etiķetes visās atbalstītajās valodās katrai lietotnei. Mēs plānojam turpināt īstenot šo pieeju visu nākamo gadu, jo īpaši nozīmīgu globālo vēlēšanu laikā. Šis periods sniegs vērtīgu ieskatu par to, kā cilvēki veido un koplieto AI radītu saturu, kādam pārredzamības līmenim lietotāji dod priekšroku un kā šīs tehnoloģijas attīstās. Mūsu atklājumi veicinās nozares labāko praksi un vadīs mūsu turpmākās stratēģijas.

Šis paziņojums atklāj standartu sistēmas attīstību, ko izstrādā tehnoloģiju uzņēmumi, lai novērstu iespējamos riskus, kas saistīti ar ģeneratīvām AI tehnoloģijām. Šīs tehnoloģijas var radīt viltotu, taču pārliecinošu saturu, reaģējot uz vienkāršiem norādījumiem.

Šī pieeja balstās uz sistēmu, ko pēdējo desmit gadu laikā izveidojuši daži no tiem pašiem uzņēmumiem, lai koordinētu aizliegta satura noņemšanu no dažādām platformām, tostarp tāda satura, kurā attēlota vardarbība un izmantošana.

Intervijā aģentūrai Reuters Klegs pauda pārliecību par uzņēmumu spēju droši marķēt mākslīgā intelekta radītos attēlus, lai gan viņš atzina, ka audio un video satura marķēšana rada lielākas problēmas un joprojām ir izstrādes stadijā.

“Lai gan tehnoloģija vēl nav pilnībā nobriedusi, jo īpaši attiecībā uz audio un video, mēs ceram, ka mēs varam radīt impulsu un stimulu pārējai nozarei sekot,” sacīja Klegs.

Lai gan audio un video tehnoloģija vēl nav pilnībā nobriedusi, Clegg cer radīt impulsu un mudināt nozari sekot šim piemēram.

Tikmēr Meta plāno pieprasīt personām marķēt savu izmainīto audio un video saturu, paredzot sodus par noteikumu neievērošanu. Taču šo sodu specifika netika atklāta.

Klegs atzīmēja, ka nav piemērotas metodes, lai marķētu tekstu, ko ģenerējuši AI rīki, piemēram, ChatGPT, norādot, ka tas jau ir atrisināts.

Attiecībā uz Meta šifrēto ziņojumapmaiņas pakalpojumu WhatsApp joprojām nav skaidrs, vai uzņēmums piemēros etiķetes ģeneratīvajam AI saturam, kas tiek koplietots platformā.

Meta neatkarīgā uzraudzības padome nesen kritizēja uzņēmuma politiku attiecībā uz maldinoši izstrādātiem videoklipiem, iestājoties par marķēšanu, nevis noņemšanu. Klegs atzina šīs kritikas pamatotību, norādot, ka Meta pašreizējā politika ir neadekvāta, ņemot vērā sintētiskā un hibrīda satura izplatību.

Viņš arī minēja jauno marķēšanas iniciatīvu kā pierādījumu Meta saskaņošanai ar padomes ieteikumiem, norādot uz soli šo problēmu risināšanas virzienā.

Tikmēr Meta nav pirmais uzņēmums, kas mēģina marķēt mākslīgā intelekta radītos attēlus. Pagājušā gada sākumā populārā ChatGPT veidotājs arī laida klajā bezmaksas mākslīgā intelekta ģenerēta satura noteikšanas rīku, taču vēlāk 2023. gada 20. jūlijā tas tika slēgts zemās precizitātes līmeņa dēļ. AI radītā satura noteikšanas rīks, ko sauc par AI klasifikatoru, tika palaists janvārī, lai palīdzētu pedagogiem, žurnālistiem un pētniekiem atklāt AI radītu saturu.

“No 2023. gada 20. jūlija mākslīgā intelekta klasifikators vairs nav pieejams tā zemās precizitātes dēļ. Mēs strādājam, lai iekļautu atgriezenisko saiti, un pašlaik pētām efektīvākas teksta izcelsmes metodes, kā arī esam apņēmušies izstrādāt un ieviest mehānismus, kas lietotājiem ļauj saprast, vai audio vai vizuālais saturs ir ģenerēts mākslīgā intelekta rezultātā,” lasāms ieraksts emuārā. agrāk ieviesa AI klasifikatoru.