Ar mākslīgo intelektu manipulētu video izplatība vairs nav retums un kļuvusi par īstām galvassāpēm platformām, medijiem un iestādēm. Šajā kontekstā YouTube ir nolēmis pastiprināt ofensīvu pret dziļiem viltojumiem paplašinot AI radītā līdzības noteikšanas rīka darbības jomu, iekļaujot īpaši jutīgus profilus publiskās vietās.
Līdz šim šī tehnoloģija galvenokārt bija paredzēta platformas partneru programmas veidotājiem, taču scenārijs ir mainījies. Uzņēmums par to paziņojis Konkrētai programmai varēs pievienoties politiķi, valsts amatpersonas un žurnālisti lai pārraudzītu, kā viņu attēls un balss tiek izmantots pakalpojumā YouTube publicētajos videoklipos, un, ja nepieciešams, pieprasīt, lai tiktu pārskatīti un noņemti tie fragmenti, kas atspoguļo uzdošanos par citu personu bez piekrišanas.
No Content ID līdz vairogam pret manipulētu identitāti
Dziļās viltojumu noteikšanas rīks, ko izvieto YouTube, ir tieši iedvesmots no vienas no tā pazīstamākajām sistēmām: Content ID — mehānisms, kas salīdzina augšupielādētos videoklipus ar ar autortiesībām aizsargātu darbu katalogugalvenais elements YouTube ceļvedī. Atšķirība ir tāda, ka tā vietā, lai meklētu jau ierakstīta audio vai video fragmentus, jaunā sistēma koncentrējas uz cilvēku identitāti.
Lai to izdarītu, platforma izmanto to, ko tā sauc līdzības noteikšanapaņēmienu kopums, kas ņem vērā sejas vaibsti, kustību modeļi un pat balsslai noteiktu, vai kāda cilvēka seju vai balsi ir ģenerējis vai mainījis AI videoklipā, kurā šī persona faktiski nav piedalījusies.
Process sākas, kad lietotājs ir iekļauts programmā Norādiet atsauces video un oficiālo ID. Izmantojot šo materiālu, sistēma izveido līdzības profilu, kas automātiski salīdzinās platformā augšupielādēto jauno saturu, meklējot aizdomīgas atbilstības.
Kad tiek atklāta iespējamā uzdošanās, rīks ģenerē brīdinājumu, kas tiek parādīts dalībnieka informācijas panelīlai jūs varētu pārskatīt saturu un izlemt, vai ierosināt noņemšanas pieprasījumu par jūsu konfidencialitātes pārkāpumu vai jūsu attēla un balss ļaunprātīgu izmantošanu.
Uzņēmums to uzstāj automātiskā noteikšana nenozīmē tūlītēju videoklipa noņemšanu. Pēc tam katrs gadījums tiek analizēts, pamatojoties uz iekšējiem privātuma, dezinformācijas un pilsoniskā satura noteikumiem, īpašu uzmanību pievēršot tam, vai tas ir maldinošs materiāls vai likumīgs resurss publiskajās debatēs.
No partneru programmas līdz augsta riska sabiedrībā zināmām personām
Kad YouTube uzsāka šo sistēmu 2024. gada oktobrī, tas tika darīts, tikai koncentrējoties uz lielajiem satura veidotājiem, kuri bija daļa no YouTube partneru programmatas ir, augstas ietekmes kanāli, kas jau cieta no dziļo viltojumu izmantošanas, lai atdarinātu savu tēlu vai balsi komerciālos vai maldināšanas nolūkos.
Pēc šī pirmā posma platforma ir nolēmusi pakāpeniski paplašināt piekļuvi esošo politiķu, kandidātu, ierēdņu un žurnālistu izmēģinājuma grupaiko uzskata par īpaši neaizsargātu pret dezinformācijas kampaņām un audiovizuālām manipulācijām, īpaši vēlēšanu periodos vai informācijas spriedzes brīžos.
Jaunais posms pieļauj šāda veida profilus Aktīvāk pārraugiet, kā jūsu attēls parādās platformā, kad tas ir ģenerēts vai pārveidots, izmantojot AI. Praksē rīks sniedz viņiem iespēju atklāt safabricētus videoklipus, kas tiem var attiecināt apgalvojumus, žestus vai pozīcijas, ko viņi nekad nav izteikuši.
Uzņēmums nav precizējis, cik cilvēku piedalās šajā izmēģinājumā, kā arī nav publiskojis vārdus, taču ir skaidri norādījis, ka Tās nolūks ir iekļaut vairāk augsta riska publisku personu, ja tests parāda, ka sistēma darbojas efektīvi un netiek izmantots ļaunprātīgi, lai mēģinātu dzēst likumīgu kritiku vai saturu.
Paralēli veidotāji, kuri jau bija partneru programmā, saglabā piekļuvi šai pašai tehnoloģijai, tādējādi paplašinot aizsardzības tīklu gan izklaides, gan politikas un mediju jomā.
Kā pieprasīt videoklipa noņemšanu un kādi ierobežojumi ir rīkam
Ja sistēma konstatē atbilstību starp pakalpojumā YouTube augšupielādētu videoklipu un aizsargātās personas biometrisko profilu, šī persona var ierosināt oficiālu atsaukšanas pieprasījumu. Šis pieprasījums tiek apstrādāts, izmantojot pašas platformas privātuma rīkus, līdzīgi kā tiek pārvaldīti citi paziņojumi par sensitīvu vai neatļautu saturu.
Tomēr YouTube to uzsver rīks negarantē, ka visi atzīmētie videoklipi tiks izdzēsti. Publisku personu gadījumā platforma piemēro stingrāku kritēriju un novērtē, vai skaņdarbs ir daļa no vārda brīvības īstenošanas, īpaši, ja tā ir satīra, parodija vai politiski komentāri, kas ir acīmredzami auditorijai.
Tādējādi pat situācijās, kad līdera vai žurnālista tēls ir ģenerēts vai pārveidots ar AI, Saturu var glabāt tiešsaistē, ja tā mērķis ir humoristisks vai kritisks un tā mērķis nav maldināt skatītāju liek jums noticēt, ka tas ir autentisks paziņojums. Šīs atšķirības mērķis ir novērst to, ka instruments kļūst par netiešas cenzūras instrumentu.
No otras puses, uzņēmums to apliecina Atklāšanai izmantotie dati – atsauces video un personu apliecinoši dokumenti – tiek izmantoti tikai identitātes pārbaudei un baro aizsardzības sistēmu, un tie nav paredzēti Google ģeneratīvo modeļu apmācībai. Šis precizējums kļūst būtisks kontekstā, kurā biometrisko datu izmantošana rada ievērojamas bažas regulatoru un pilsoņu vidū.
Pašlaik piekļuve paplašinātajam rīkam joprojām ir ierobežota tikai izmēģinājuma grupai, taču uzņēmuma nolūks ir paplašināt programmu, iekļaujot vairāk dalībnieku, jo viņi precīzi noregulē sistēmu un pielāgo saistītās regulēšanas politikasjo īpaši attiecībā uz masveida dezinformācijas kampaņām.
Pārbaudes un atbilstības prasības Eiropas sistēmā
Lai pievienotos programmai, gan veidotājiem, gan sabiedriskajām personām ir jāiziet a iepriekšēja identitātes verifikācijas process. Šī darbība ietver sava nesenā video un derīga identifikācijas dokumenta iesniegšanu, kas tiek izmantots, lai apstiprinātu, ka persona, kas pieprasa aizsardzību, patiešām ir tā persona, kuras attēls tiks uzraudzīts.
Šis verifikācijas veids digitālajā vidē nav jaunums, taču dziļās viltojumu noteikšanas gadījumā tas iegūst īpašu nozīmi, jo ļauj samazināt risku, ka trešās puses iesniedz nepatiesas pretenzijas par videoklipiem, kas tām nepieder vai mēģināt pārņemt citas personas identitāti, lai manipulētu ar sistēmu.
Eiropā YouTube stratēģija nāk paralēli pieaugošajam likumdošanas spiedienam uz mākslīgā intelekta un sintētiskā satura izmantošanu. Topošais Kopienas tiesiskais regulējums attiecībā uz mākslīgo intelektu un jau esošie digitālie pakalpojumi norāda uz to pašu virzienu: pieprasīt lielāku pārredzamību mākslīgi radīta satura izveidē un izplatīšanākā arī skaidrāki pienākumi lielajām platformām.
Lēmums par prioritāti noteikt politiķus, ierēdņus un žurnālistus atbilst šai loģikai, jo tie ir profili, kuru Uzdošanās par citu personu var tieši ietekmēt iestāžu stabilitāti, uzticēšanos plašsaziņas līdzekļiem un demokrātisko procesu pareizu attīstību.. Ar pārliecinošu, bet viltotu ministra, EP deputāta vai reportiera video var pietikt, lai izraisītu reputācijas krīzi vai veicinātu sazvērestības teorijas.
Attiecībā uz YouTube turpmāko normatīvo pienākumu izpildei ir arī stratēģisks komponents. saglabāt Eiropas lietotāju, reklāmdevēju un satura veidotāju uzticībulaikā, kad mākslīgā intelekta radītā satura piesātinājums, tostarp zemas kvalitātes vai nepārprotami maldinošs saturs, sāk graut priekšstatu par lielu platformu uzticamību.
Deepfakes kā strukturāls drauds publiskajām debatēm
Rīka paplašināšana pret deepfakes tiek saprasta ne tikai kā tehnisks atjauninājums, bet arī kā daļa no plašākas tendences digitālajā nozarē. Arvien vairāk kļūst skaidrs, ka Hiperreālistisks sintētiskais saturs rada strukturālus draudus informācijas ekosistēmai un mūsdienu demokrātiju funkcionēšanai.
Daudzas akadēmiskās analīzes un neatkarīgu organizāciju ziņojumi brīdina, ka šie viltotie videoklipi var būt sabojāt konkrētu cilvēku reputāciju, manipulēt ar sabiedrisko domu vai radīt neskaidrības svarīgākajos brīžospiemēram, vēlēšanas vai diplomātiskā krīze. Eiropas gadījumā, kur mediju sadrumstalotība jau tagad apgrūtina aktuālo notikumu uzraudzību, dziļo viltojumu parādīšanās rada papildu trokšņa un dezinformācijas slāni.
Atbildot uz to, ne tikai YouTube, bet arī citas platformas, piemēram, Meta vai TikTok, paātrina AI radītās automātiskās noteikšanas, marķēšanas un satura regulēšanas sistēmasjo īpaši, ja tie skar sensitīvus pilsoniskos jautājumus. Ideja ir tāda, ka salīdzinoši īsā laikā šāda veida mehānismi kļūs par atšķirīgu elementu, lai kļūtu par jebkura liela digitālā pakalpojuma pamata infrastruktūru.
Paralēli tam sāk atvērties telpa trešo pušu risinājumiem, kas vērsti uz mediju uzņēmumiem, iestādēm un valsts pārvaldes iestādēm, koncentrējoties uz Video autentiskuma pārbaude un digitālās identitātes aizsardzība. Spēja atšķirt oriģinālo saturu no izgatavota vai manipulēta satura jau kļūst par galveno prasību, lai saglabātu uzticību institucionālajai un žurnālistiskajai komunikācijai.
Galu galā YouTube lēmums paplašināt savu rīku pret viltojumiem, iekļaujot augsta riska sabiedrībā pazīstamas personas, sākot ar politiķiem, amatpersonām un žurnālistiemilustrē, kā lielas platformas cenšas pielāgoties videi, kurā ģeneratīvais AI vairo gan radošās iespējas, gan manipulāciju riskus. Līdzības noteikšanas tehnoloģija apvienojumā ar cilvēka pārbaudes un pārskatīšanas procesiem cenšas piedāvāt noteiktu vairogu tiem, kas atrodas sabiedrisko debašu priekšējās līnijās, vienlaikus saglabājot būtiskas vietas kritikai, satīrai un vārda brīvībai.
