Character.AI veic lielas izmaiņas, lai turpinātu nodrošināt pusaudžu lietotāju drošību. Saskaņā ar uzņēmuma emuāra ierakstu Character.AI ir pievienojis vairākas jaunas funkcijas, lai nodrošinātu pusaudžu drošību platformā, un drīzumā ieviesīs vecāku kontroli, kas sniegs vecākiem daudz lielāku pārraudzību. Uzņēmums saka, ka šie pasākumi bloķēs nepiemērotu saturu un padarīs kopējo pieredzi drošāku.
Kāda māte nesen iesūdzēja Character.AI tiesā, vainojot to sava 14 gadus vecā dēla pašnāvībā.
Character.AI ir atsevišķs LLM lietotājiem, kas jaunāki par 18 gadiem
Character.AI ir atjauninājis savu LLM pusaudžu lietotājiem. Tā ir izveidojusi atsevišķu lielas valodas modeli (LLM) lietotājiem, kas jaunāki par 18 gadiem. Šī LLM identificē neatbilstošas atbildes, īpaši par sensitīvām tēmām, piemēram, romantiku vai paškaitējumu, un bloķē tās.
Platformā tiks parādīts arī īpašs uznirstošais logs, kas novirzīs lietotājus uz Nacionālo pašnāvību novēršanas līniju, ja LLM identificēs valodu, kas norāda uz paškaitējumu vai pašnāvību. Jaunās izmaiņas padarīs to par draudzīgāku un drošāku vietu pusaudžiem.
Tas arī neļāva nepilngadīgajiem lietotājiem rediģēt atbildes uz tērzēšanas robotiem. Iepriekš lietotāji varēja rediģēt robotprogrammatūras teikto, taču pusaudži vairs nevarēs mainīt sarunas. Tā ir daļa no uzņēmuma centieniem bloķēt nepiemērota satura pievienošanu tērzēšanai.
Kāpēc šīs jaunās izmaiņas ir nepieciešamas Character.AI?
Šīs izmaiņas ir nepieciešamas, lai aizsargātu pusaudžus no kaitīgām sarunām. Tas palīdzēs izveidot drošu zonu mazākai vecuma grupai. Izmaiņas tiek veiktas kopā ar “vairākiem pusaudžu tiešsaistes drošības ekspertiem”, tostarp organizāciju ConnectSafely.
Uzņēmums arī pievieno jaunas vecāku kontroles, kas ļaus vecākiem redzēt, cik daudz laika viņu bērns pavada vietnē Character.AI un ar kuriem AI tērzēšanas robotiem viņi mijiedarbojas visvairāk. Jaunā vecāku kontrole būs pieejama 2025. gada pirmajā ceturksnī.
Uzņēmums ieviesīs arī laika ierobežojuma funkciju: tas informēs lietotājus pēc stundas tērzēšanas ar robotu, lai viņi paņemtu pārtraukumu. Šī funkcija novērsīs atkarību no platformas un nodrošinās veselīgus lietošanas paradumus.
“Mēs esam apņēmušies veicināt drošu vidi visiem mūsu lietotājiem. Lai izpildītu šo apņemšanos, mēs atzīstam, ka mūsu pieejai drošībai ir jāattīstās līdztekus tehnoloģijai, kas virza mūsu produktu — radot platformu, kurā radošums un izpēte var attīstīties, neapdraudot drošību. Character.AI teikts emuāra ziņā.
