DeepSeek ieeja mākslīgā intelekta segmentā nav bijusi bez strīdiem. Tas ir normāli, ņemot vērā to, ka mēs runājam par uz AI orientētu firmu, kuras vienkāršā pieejamība Volstrītā samazināja lielo tehnoloģiju uzņēmumus, piemēram, Nvidia. Viena no bažām ir par tērzēšanas robotu potenciāli “bloķēt” atbildes uz sarežģītiem jautājumiem par Ķīnu. Nu, jauns pētījums apstiprina, ka DeepSeek AI faktiski cenzē savas reakcijas uz lielāko daļu šo uzvedņu.
DeepSeek pieaugošā popularitāte un tās tiešā saistība ar Pekinu liek ASV ekspertiem un varas iestādēm modināt. Amerikas Savienotās Valstis jau ir veikušas smagus pasākumus pret tiktok, cita starpā, par iespējamām manipulācijām ieteikumu algoritmos, kurus varētu izmantot, lai ietekmētu jauniešus. Tagad varas iestādes baidās no līdzīga kontroles līmeņa vai cenzūras DeepSeek iznākumā.
DeepSeek AI cenzori 85% jautājumu, kas saistīti ar “jutīgām tēmām” Ķīnai
Acīmredzot ķēniņās tēmas Ķīnas valdībai, piemēram, sociālie protesti, Tiananmen Square slaktiņš, Taivānas statuss vai Xi Jinping līdzība Vinnijam Pūķim, par kuru daudzi apgalvo, ka redz, ka par to nevar runāt DeepSeek Chatbot. Pašlaik pakalpojums ir pieejams gan ar firmas vietni, gan kā Android/iOS lietotnēm. Faktiski pagājušajā nedēļas nogalē DeepSeek kļuva par visvairāk lejupielādēto bezmaksas lietotni Apple App Store, pārspējot Chatgpt.
AI kiberdrošības starta PromptFoo ir eksperimentējis ar DeepSeek R1 modeli. Ja nezināt, R1 ir modelis, kas koncentrējas uz “spriešanu”, padarot to ideālu sarežģītiem uzdevumiem. Tā mērķis ir tieši konkurēt ar Openai O1 modeli, kura pieeja ir līdzīga. Promptfoo uzdeva tam 1360 jautājumus, kas saistīti ar to, ko tā sauc par “jutīgiem jautājumiem” Ķīnas valdībai. Rezultāti parādīja, ka DeepSeek atteicās reaģēt 85% laika.
PromptFoo arī atklāja, ka DeepSeek modelis ir neaizsargāts pret jailbreaks. Tas varētu būt pasākums, ko Ķīnas valdība veikusi, lai manipulētu ar rezultātiem, ja viņiem tas nepieciešami. Pētnieki pat atzīmēja “pārmērīgs nacionālistiskais tonis”Runājot par Ķīnu.
Iepriekš eksperti un ASV amatpersonas brīdināja par iespējamo lietotāju privātumu un nacionālās drošības riskiem, kas saistīti ar DeepSeek. Tagad šķiet skaidrs, ka Ķīna var traucēt AI platformas rezultātiem.
