Arvien grūtāk noteikt, kas internetā ir ģenerēts ar mākslīgo intelektu, un tas jo īpaši attiecas uz AI ģenerētu tekstu. AI ir daudz vieglāk viltot tekstu nekā audio, attēlu vai video. Tādējādi ūdenszīmes pievienošana minētajam saturam šķiet neiespējams uzdevums. Tomēr šķiet, ka Google ir risinājums SynthID teksta rīka veidā.
Tā kā AI ir tik pārliecinošs, ir svarīgi, lai būtu rīki, kas palīdzētu cilvēkiem noteikt, vai ChatGPT ir izspļāvis pētniecisko darbu. Lai gan krāpties ar koledžas ziņojumu ir slikti, tā nebūt nav kaitīgākā lieta, ko varat darīt ar AI ģenerētu tekstu. Galvenā problēma ir dezinformācijas un cita kaitīga satura izplatība.
Šeit parādās Google SynthID teksts
Uzņēmumi, kas mums piedāvā jaudīgākos AI tērzēšanas robotus, arī cenšas sniegt mums rīkus, lai palīdzētu mums noteikt, kad šie tērzēšanas roboti kaut ko ir radījuši. OpenAI izstrādāja un pārbaudīja rīkus, lai palīdzētu noteikt, kad kaut kas tika izveidots ar ChatGPT, taču uzņēmums nav uzskatījis par vajadzīgu to izlaist.
No otras puses, Google mūs ir svētījis ar ūdenszīmju rīku. Kā norāda nosaukums, šis ir rīks, ko cilvēki varēs izmantot, lai noteiktu, vai teksta sadaļa ir AI ģenerēta. SynthID Text ir brīvi pieejams izstrādātājiem un uzņēmumiem, sākot no šodienas. Mēs neesam pārliecināti, vai Google izlaidīs lietotājiem paredzētu rīku, kas paredzēts parastajiem cilvēkiem, lai pārbaudītu, vai teksts ir AI ģenerēts.
Ūdenszīmju teksts?
Šķiet, ka tas būtu diezgan neiespējams. Ir vieglāk saprast AI ģenerētus attēlus ar ūdenszīmēm. Tomēr tekstu ir daudz vieglāk rediģēt. Varat viegli rediģēt vai pārfrāzēt tērzēšanas robota radīto tekstu. Google izdevās atrast veidu, taču tas nav ideāls.
Šī metode ir saistīta ar to, ko sauc Žetoni. Ja esat izmantojis AI rīkus, iespējams, esat redzējis, ka šis termins tiek izmests. Kad izmantojat AI rīku, jūs ievadāt datus un iegūstat datus kā izvadi. Piemēram, tērzēšanas robotā ierakstot uzvedni “uzrakstīt stāstu par trusi” un kā atbildi saņemt 100 vārdu stāstu.
Teksts jūsu uzvednē ir sadalīts tā sauktajos marķieros. Tās ir vārdu sadaļas vai veseli vārdi, ko ievadāt modelī, lai tos sadalītu un analizētu. Jūsu atbilde sastāv arī no marķieriem.
Saskaņā ar Google datiem, kad modelis ģenerē tekstu, tas katram marķierim piešķir punktu skaitu, pamatojoties uz to, cik iespējams, ka tas tiks izmantots atbildē. SynthID Text ievieto papildu informāciju katrā pilnvarā, izmantojot “žetonu ģenerēšanas iespējamības modulēšana.Pēc tam Google salīdzina sākotnējā modeļa rezultātu ar koriģēto rezultātu. Tad šo punktu galīgais modelis ir “salīdzinot ar paredzamo punktu skaitu tekstam ar ūdenszīmi un bez ūdenszīmes, palīdzot SynthID noteikt, vai AI rīks ir ģenerējis tekstu vai tas varētu nākt no citiem avotiem,”saka Google.
Ierobežojumi
Tas ir daudz jāņem vērā, taču ir svarīgi atzīmēt, ka tas ir diezgan efektīvs rīks. Vienīgais ir tas, ka tas nav ūdensnecaurlaidīgs risinājums. SynthID teksts nav tik precīzs, ja runa ir par īsākiem teksta bitiem. Tātad jums veiksies vairāk, ja kāds vēlēsies izveidot romānu vai koledžas ziņojumu, taču jums būs problēmas, ja tas ir reklāmas kopija.
Turklāt šis rīks cīnīsies ar tekstu, kas ir tulkots no citas valodas vai pārrakstīts. Tas ir loģiski, jo tas būtībā mainītu visus oriģinālā teksta marķierus.
Līdz ar to atbildes uz faktiskajiem jautājumiem ir arī problēma SynthID tekstam. Tas ir tāpēc, ka ir grūti pielāgot marķiera rādītājus, nemainot faktisko faktisko informāciju atbildē. Ja jūs runājat par noteikta putna dabisko dzīvotni, ir ļoti maz, ko jūs varat mainīt savā atbildē, pirms sākat mainīt faktiskos faktus.
Nedaudz pārsteidzošā paziņojumā Google paziņoja, ka šis rīks tika integrēts Gemini pirms mēnešiem, un lielākā daļa no mums pat nezināja. Cerams, ka šis rīks parādīs ceļu citiem rīkiem, kas palīdzēs mums atklāt mākslīgā intelekta radītu saturu.
