Apple atkal ir pieskāries sava lietotņu veikala šuvēm, lai atstātu mazāk vietas mākslīgā intelekta rīkiem, kas bez atļaujas rada intīmus attēlus. Uzņēmums ir precizējis un pastiprinājis savas vadlīnijas lai izstrādātāji ne tikai reaģētu, kad kāds ziņo par pārkāpumu, bet arī rīkojas pirms šī satura parādīšanās. Kustība skar jebkuru App Store publicēto aplikāciju un līdz ar to arī komandas, kas strādā no Spānijas un pārējās Eiropas.
Atjauninājums nenozīmē, ka veikals pirmo reizi sāk aizliegt pornogrāfiju vai viltotu kailumu, jo par šīm darbībām jau tika ierosināta kriminālvajāšana. Mainās detalizācijas līmenis un pieprasījums: intīmi attēli bez piekrišanas, tostarp tie, kas ģenerēti ar AIir skaidri norādīti moderēšanas prasībās. Ikviens, kurš pēc brīdinājuma neveic pasākumus vai neizlabo kļūdas, riskē tikt izslēgts no Apple ekosistēmas.
Kas mainās App Store vadlīnijās
Pārskatītais teksts ietekmē 1.2. sadaļu, kas veltīta lietotāju nodrošinātajam saturam. Lietojumprogrammas, kas ļauj jums izveidot, augšupielādēt vai kopīgot AI ģenerētu materiālu, iederas tur, un Apple jautā filtri nevēlamam saturam, ātri ziņošanas kanāli un iespējas bloķēt ļaunprātīgus lietotājus. Ideja ir tāda, ka mērenība nav atkarīga tikai no izstrādātāja labās gribas vai vēlākas sūdzības, bet gan no sistēmas, kas darbojas no pirmā brīža.
Uzņēmums arī vēlējās aizvērt durvis, kas agrāk tika atstātas atvērtas: lietotņu durvis, kas pārskatīšanas laikā šķiet nekaitīgas un pēc apstiprināšanas aktivizē kaitīgas funkcijas. Jaunā pamatnostādne 2.5.19 aizliedz slēpt nedokumentētas funkcijas un brīdina, ka iespēju slēpšana kodā var izraisīt lietojumprogrammas noņemšanu un izstrādātāja konta slēgšanu. Ja kāda lietotne vēlāk pievienos viltotu aktu ģeneratoru, tā nevarēs paslēpties aiz fakta, ka tā kādreiz ir izturējusi filtru.
Praksē izstrādātājiem tas būs jādara paredzēt seksuāla rakstura attēlu parādīšanos bez piekrišanas un dzēst tos kad tie tiek atklāti. Nepietiek ar atbildi uz sūdzību vai vispārīga brīdinājuma iekļaušanu. Ja drošības pasākumi nav pietiekami vai pārkāpumi tiek atkārtoti pēc paziņojuma, Apple var uzskatīt, ka ir pārkāpts izstrādātāja rīcības kodekss, un piemērot pasākumus, sākot no pagaidu izņemšanas līdz izraidīšanai no veikala.
Atjauninātajās pamatnostādnēs ir saglabāts arī tiešs veto pieteikumiem, kas saistīti ar cilvēku tirdzniecība vai nepilngadīgo ekspluatācija. Šādos gadījumos uzņēmums ne tikai runā par to izņemšanu no App Store, bet arī par to izplatīšanas bloķēšanu, izmantojot alternatīvus līdzekļus. Tas ir vēstījums, kas pastiprina stingro nostāju pret noteiktiem AI lietojumiem, lai gan uzņēmums uzstāj, ka tas nav noteikums, kas radies no nekurienes, bet gan skaidrāks jau pastāvošo politiku formulējums.
Konteksts, kas licis Apple pārvietoties
Izmaiņas notiek pēc mēnešiem ilga sabiedrības spiediena saistībā ar mākslīgā intelekta rīku izmantošanu, kas spēj izgatavot viltotus aktus. Visvairāk runātais bija X un viņa palīga Groka gadījums, kurš bija saistīts ar aptuveni trim miljoniem seksualizētu attēlu janvārī, tostarp aptuveni 23 000, kuros bija redzamas nepilngadīgas personas, un gandrīz 1,8 miljoni sieviešu. Strīdi bija vērsti uz lietojumprogrammu veikalu atbildību, ja rīks pieļauj šāda veida ļaunprātīgu izmantošanu.
Apple pat brīdināja xAI noņemt Grok no App Store, ja tas neizlaboja problēmu, bet aplikācija palika pieejama visos laikos. Šis attālums starp draudiem un galīgo lēmumu ir bijis viens no kritikas argumentiem. Ar jaunajām vadlīnijām uzņēmums vēlas rakstiski norādīt, kāda rīcība var beigties ar sankcijām un kas izstrādātājam jādara, lai pierādītu, ka viņi izbeidz viskaitīgākos lietojumus.
AI radītā satura regulēšana ir īpaši sarežģīta, jo jūs ne vienmēr zināt, ko lietotājs gatavojas ražot. Tāpēc Apple uzsver vadības sistēmas, spēju ātri reaģēt un saskaņotību starp to, ko lietotne apgalvo, un to, ko tā faktiski dara. Sākotnējā pārskatīšana vairs nav vienīgais filtrs: Tiek ņemts vērā arī tas, kas notiek pēc tam, kad lietotne jau vairākus mēnešus atrodas veikalā un saņem jaunas funkcijas vai neparedzētus lietojumus.
Izstrādātājiem, kas publicē Spānijā un pārējā Eiropā, šim paziņojumam ir praktiskas sekas. Noteikumi nepaliek par nodomu deklarāciju: to rezultātā var tikt noraidīti atjauninājumi, var tikt atsauktas lietotnes vai konts, ja prasības netiek izpildītas. Tie arī prasa pārskatīt ziņošanas sistēmas, automātiskos filtrus un iekšējos atbildes procesus, kas var būt īpaši apgrūtinoši mazām komandām.
Apple ir aizstāvējis savu rīcību ar mēreniem skaitļiem: tas apliecina, ka pagājušajā gadā novērsa vairāk nekā 150 000 lietojumprogrammu ar drošības problēmām sasniedza lietotājus un ka tas krāpšanas un ļaunprātīgas izmantošanas dēļ anulēja vairāk nekā 193 000 izstrādātāju kontu. Šie ir dati, ko uzņēmums izmanto, lai uzsvērtu, ka App Store ir noteikumi un, konstatējot neregulāru rīcību, tas rīkojas. Jautājums, kas joprojām ir aktuāls, ir, vai šie pasākumi ir pietiekami, lai apturētu tehnoloģiju, kas attīstās ātrāk nekā kontroles sistēmas.
Tagad bumba ir izstrādātāju pusē: viņiem būs jāpierāda, ka viņu moderēšanas sistēmas darbojas pirms un pēc apstiprināšanas, jo Apple skaidri norāda, ka palikšana veikalā ir atkarīga no tā. Sociālais un politiskais spiediens uz mākslīgā intelekta rīkiem, kas rada viltotus aktus, nav pazudis, un uzņēmums ir izvēlējies virzīties uz priekšu ar detalizētākiem noteikumiem, nevis ļaut problēmai turpināt augt. Galvenā uzmanība tiek pievērsta tam, lai App Store nekļūtu par pārkāpumu, kas daudzos gadījumos skar reālus cilvēkus bez viņu piekrišanas.
