Mēs labprāt teiktu, ka DeepSeek ir drošākā un ētiskākā AI uz planētas. Bet pēc AppSOC jaunākā ziņojuma izlasīšanas mēs sākam domāt, ka Džordžs Orvels bija tikai dažas desmitgades. Varbūt deviņpadsmit astoņdesmit četrus vajadzēja saukt par divdesmit pieciem. Viņu secinājumi nav tikai par to – tie ir tieši atdzesējoši. Daži no DeepSeek drošības trūkumiem, kas atklāti savā ziņojumā, var likt jums pārdomāt DeepSeek, vai tas ir bizness, vai tikai gadījuma prieks.
Tumšais zirgs paceļas
Pirms ienirt plaisās zem DeepSeek pulētās ārpuses, mums jāsaprot, kāpēc šis AI modelis ir satricinājis nozari līdz savam kodolam.
Pēdējos pāris gadus Openai dominēja AI telpā. Google gadiem ilgi bija ķēries pie AI, bet, kad Openai atlaida Chatgpt uz masām, kļuva sāpīgi skaidrs, cik tālu aiz lielās tehnoloģijas patiesībā bija.
Tad no nekurienes ieradās Deepseeks.
Nebija lēnas uzbūves. Nav ķircinātāju. Tikai pēkšņa pavisam jauna AI modeļa parādīšanās, kas varētu iet no kājām līdz kājām ar Chatgpt. Ķīniešu riska ieguldījumu fonds ar augstiem lidojumiem, kas ir pietiekami dziļi, ir pietiekami dziļi, lai daži miljardieri sarkt, DeepSeek ne tikai ienāca tirgū-ar tā tērauda pirkstu zābaku, tas meta durvis uz leju.
Tas apžilbināja nozari ar modeli, kas konkurē ar nelielu daļu no izmaksām. Tradicionālo, smago resursu apmācības metožu vietā, ko izmanto Openai un Google, DeepSeek Leverage destilācija. Nespeciālistā tā uzzināja no esošajiem AI izejām, nevis neapstrādātiem datiem.
Aidans Gomezs, Cohere izpilddirektors, atzina šīs pieejas spožumu, stāstot Business Insider, “Es domāju, ka tā apstiprināja Cohere stratēģiju, kuru mēs jau kādu laiku īstenojam. Lai iegūtu konkurētspējīgu, nav nepieciešams tērēt miljardiem dolāru gadā. ”
Ar savu ierašanos DeepSeek atstāja triljonu dolāru caurumu ASV tehnoloģiju akciju tirgū. Kamēr uzņēmums uzstāj, ka tas izveidoja savu modeli ar kurpju auklas budžetu, daži ziņojumi liecina, ka patiesie ieguldījumi faktiski var būt miljardos.
DeepSeek atvērtā koda modelis to arī atšķir. Tas ir bez maksas (gala lietotājiem), pieejams un viegli modificēts. Kamēr konkurenti iekasē līdz USD 200 mēnesī, DeepSeek maksā gandrīz neko, padarot to par acīmredzamu izvēli – vai tā šķiet.
Kad kaut kas šķiet pārāk labs, lai būtu patiesība, parasti tā ir. APPSOC atklājumi liecina, ka DeepSeek pieejamībai varētu būt slēptas izmaksas – tādai, kurai nav nekā kopīga ar naudu.
Stažs no elles
APPSOC ziņojums dziļi iedziļinās DeepSeek drošības trūkumu tehniskajos aspektos, bet mazliet izlaidīsim tehnoloģiju žargonu. Tā vietā mēs vēlamies, lai jūs iedomāties šo scenāriju.
Iedomājieties, ka nolīgt interntu, kurš, šķiet, ir gatavs būt gada darbinieka kandidāts – lielāks, efektīvs un praktiski brīvs. Viņi rīkojas ar pētījumiem un palīdz citiem jūsu uzņēmuma darbiniekiem ar sūdzību. Viss šķiet ideāli. Vai vismaz tā šķiet.
Tad plaisas sāk parādīties. Viņi klientiem sniedz nepatiesu informāciju ar prātu aizraujošu pārliecību. Viņi veic uzdevumus, kas pārsniedz viņu darba jomu. Vissliktākais ir tas, ka viņi izšļāc uzņēmuma noslēpumus ikvienam, kurš uzdod pareizos jautājumus. Kad jūs saprotat kaitējumu, ir par vēlu. Vai jūs kādreiz uzticētos kādam šādam jūsu biznesā?
Tagad nomainiet šo internu ar DeepSeek. APPSOC ziņojums atklāj, ka DeepSeek ir tikpat neapdomīgs kā šis interns no elles. Tas ir viegli pievilināts no noplūdušiem sensitīviem datiem, ģenerējot ļaunprātīgu programmatūru un ētisko aizsardzības pasākumu neievērošanu. Tas ir AI, kas ne tikai halucinē – tas pakļauj jūsu biznesu ļoti reāliem riskiem ar ļoti reālām sekām.
Tātad jautājums par miljonu dolāru ir šāds: ja jūs neuzticētos šādai atbildībai savā birojā, kāpēc to ļaut jūsu sistēmām?
Dziļais? Hah! Vairāk kā dziļi kļūdaini
Tagad, kad jūs labāk saprotat Deepseek drošības trūkumus, apskatīsim AppSOC ziņojuma tehnisko pusi un to, kāpēc jums vajadzētu uztraukties.
Jūs, iespējams, esat dzirdējis par Jailbreaking, kad runa ir par viedtālruņiem. Ja jūs domājat, ka, ja jailbreaking tālrunis ir riskants, AI tas kļūst tieši bīstams. Jailbreaking trieciens AI ignorēt savus drošības noteikumus, ļaujot tai ģenerēt saturu, kāds tam nevajadzētu. DeepSeek neizdevās šajā testā 91% laika. Tas nozīmē, ka ar to var manipulēt, sakot vai darīt gandrīz jebko ar pareizo uzvedni.
Vai esat kādreiz dzirdējuši par ātru injekcijas uzbrukumu? Hakeri izmanto gudri formulētas ieejas, lai pievilinātu AI, lai atklātu slēpto informāciju vai veiktu neatļautas darbības. DeepSeek neizdevās šajā testā 86% laika. Tas nozīmē, ka, ja uzbrucējs zina, ko viņi dara, viņi var pievilināt Deepeek, lai noplūst sensitīvi dati, apietu ierobežojumus vai pat izpildītu uzdevumus, kuriem tas nekad nevajadzētu atļaut. Faktiski Wallarm pētniekiem izdevās pievilināt Deepeek, lai atklātu savu iekšējo sistēmu.
Šeit lietas kļūst patiesi satraucošas. DeepSeek neizdevās 93% laika, kad tika pārbaudīta ļaunprātīgas programmatūras ģenerēšana. Tas nozīmē, ka tas ir satraucoši efektīvs, lai palīdzētu lietotājiem izveidot kaitīgus skriptus, vīrusus un izmantošanu. Tas nav tikai trūkums – tas ir scenārija Kiddija sapņa piepildījums! Tagad gandrīz ikviens un viņu vecmāmiņa var radīt ļaunprātīgu programmatūru lidojumā.
Domājams, ka AI modeļiem ir aizsardzības pasākumi pret aizskarošu, diskriminējošu vai kaitīgu saturu. DeepSeek neizdevās šos aizsardzības pasākumus 68% laika. Tas nozīmē, ka uzbrucēji var viegli manipulēt, lai iegūtu toksisku, aizskarošu vai tieši neētisku saturu. Vai jūs uzticētos šādam AI jūsu biznesā? Iedomājieties kaitējumu, ko tas varētu nodarīt jūsu biznesa reputācijai!
DeepSeek arī cīnās ar tā dēvēto halucinācijām – izdomātu veidu, kā pateikt, ka tā izgatavo informāciju. AppSOC testi atklāja 81% neveiksmju līmeni šajā jomā. Ja jūs lūdzat DeepSeek informāciju, tikai lai uzzinātu vēlāk, tas kaut ko pilnībā izveidoja, vai jūs varētu turpināt uzticēties tam, ko tā saka?
Īstais kicker? 72% kļūme piegādes ķēdes drošībā. Neviens nezina, no kurienes nāk tās dati, un tas ir masīvs sarkanais karogs, ja mēs to kādreiz redzējām. Ja mēs nezinām, kur DeepSeek iegūst savu informāciju, lai apmācītu sevi, kā mēs tam varam uzticēties? Mēģiniet citēt “puisi internetā” savā nākamajā pētniecības dokumentā un redzēt, cik labi tas ir saņemts.
Pēc bijušā NVSA hakera Džeika Viljamsa teiktā, viņš norāda, ka šī ir būtiska atšķirība starp atvērtā koda AI un atvērtā koda kodu. “Ir svarīgi atcerēties, ka atvērtā koda AI (piemēram, Deepseek’s R1) nozīmē kaut ko atšķirīgu nekā atvērtā koda kods. Izmantojot atvērtā koda kodu, mēs varam revidēt kodu un identificēt ievainojamības. Izmantojot atvērtā pirmkoda AI, mēs nevaram darīt nevienu lietu. Ir arī ļoti reālas bažas par piegādes ķēdi, R1 ir diezgan viegli jailbreak, un tam ir daudz mazāk aizsargu nekā citiem komerciāliem modeļiem. ”
Ietekme uz jūsu biznesu
DeepSeek ir pievilcīga AI iespēja, īpaši indivīdiem vai MVU, kuriem, iespējams, nav budžeta dārgākiem AI modeļiem. Tas ir zemu izmaksu, atvērtā koda un darbojas gandrīz tikpat labi, kā arī konkurenti, piemēram, Openai’s Chatgpt un Google Dvīņi. Bet pirms jūsu bizness steidzas to pieņemt, jums jāuzdod sev viens kritisks jautājums: vai tas tiešām ir riska vērts?
Atbilde, pamatojoties uz ziņojumu, ir grūti nē. DeepSeek ir atzīmējoša laika bumba, kas pārņemta ar likumīgām, drošības un finanšu saistībām, kas gaida eksplodēšanu.
Viens no lielākajiem sarkanajiem karodziņiem ir juridiskās atbildības jautājums. Atšķirībā no Openai, Microsoft un Google, kas piedāvā tiesisko aizsardzību (līdz noteiktam brīdim), izmantojot savus noteikumus un nosacījumus, DeepSeek neatbalsta tā lietotājus. Tas nozīmē, ka, ja kaut kas noiet greizi – ja tas noplūst sensitīvus datus, ģenerē aizskarošu saturu, rada ļaunprātīgu programmatūru vai pārkāpj noteikumus – jūs esat uz āķa, nevis dziļi.
Augstie halucinācijas kļūmju līmeņi arī padara DeepSeek neuzticamu situācijās, kas prasa faktisku precizitāti. Tas ietver finanšu analīzi, juridiskus norādījumus vai medicīniskus pieteikumus. Piegādes ķēdes risku neveiksmes līmenis rada arī bažas par datu integritāti. Ja uzņēmumi nezina, no kurienes nāk DeepSeek apmācības dati, vai viņiem tas tiešām vajadzētu uzticēties? Tas varētu nozīmēt tiesas prāvas, naudas sodus un PR katastrofu. Vai esat gatavs tos uzņemt?
Ir vērts ņemt vērā arī juridisko un normatīvo ainavu, kas apņem DeepSeek. Dažas valstis un valdības jau ir aizliegušas vai ierobežojušas tās izmantošanu. Neatkarīgi no tā, vai to virza politika vai patiesas bažas par drošību, patiesībā nav nozīmes – jēga ir tā, ka šie drošības trūkumi padara DeepSeek nākotni neskaidru. Ja jūsu uzņēmums nolemj veidot savu darbību ap DeepSeek, kas notiek, ja jūsu valsts valdība nolemj to bloķēt? Ko darīt, ja ir jauni normatīvie likumi, kas to izmanto nelikumīgu vai ļoti ierobežotu?
Tas nozīmē, ka, ja jūsu bizness šodien paļaujas uz DeepSeek, tas varētu būt spiests rīt to pamest. Tas izraisīs traucējumus un izšķērdētus resursus, kas jums varētu maksāt diezgan daudz.
NowSecure drošības eksperts Endrjū Hoogs atrada arī drošības trūkumus DeepSeek iOS lietotnē, kas ne šifrēja pārraidītus datus. Lai to padarītu vēl sliktāku, tas datus glabā nedroši, atverot durvis akreditācijas zādzībām. Runājot ar Braienu Krebu Krebsonsecurity, Hoog to atklāti ielieciet, “Kad mēs redzam, ka cilvēki izrāda patiešām vienkāršotas kodēšanas kļūdas, kad jūs rakt dziļāk, parasti ir daudz vairāk problēmu. Drošībai vai privātumam praktiski nav prioritātes. ”
Ķīnas savienojums
It kā tas nebūtu pietiekami, ziņojumi liecina, ka DeepSeek var saturēt slēptu kodu, kas lietotāju datus nosūta atpakaļ uz Ķīnu. Ivans Tsarynny, Feroot Security izpilddirektors, ir brīdinājis, “Mūsu personiskā informācija tiek nosūtīta uz Ķīnu, nav nolieguma, un DeepSeek rīks apkopo visu, ko amerikāņu lietotāji ar to savieno.”
Drošības firmas ir atklātas tiešas saiknes starp DeepSeek un Ķīnas valdības serveriem. Tas rada jautājumu: vai kāds uzrauga lietotāju datus? Vai sliktie aktieri varētu siphon izslēgt patentētu informāciju? Uzņēmumi, kas izmanto DeepSeek, riskē kļūt par neapzinātu datu dārgumu krātuvi, kas sensitīvu informāciju baro ar ārvalstu vienībām.
NordVPN kiberdrošības eksperts Adrianus Warmenhoven norāda uz DeepSeek politiku attiecībā uz datu vākšanu, “Tas rada bažas par aprakstītu datu vākšanu-sākot no lietotāju koplietotas informācijas līdz datiem no ārējiem avotiem-, kas ietilpst iespējamos riskos, kas saistīti ar šādu datu glabāšanu jurisdikcijā ar dažādiem privātuma un drošības standartiem.”
Nav arī pārsteigums, ka DeepSeek veido Ķīnas noteikumi un likumi, kas saistīti ar saturu. Izmeklētāji ir atklājuši, ka DeepSeek cenzori politiski jutīgas tēmas un rada atbildes, kas saskaņotas ar Ķīnas valsts stāstījumiem. Šis New York Times ziņojums citē vairākus pētniekus, kuri atklāja, ka DeepSeek nav tikai potenciāls drošības risks; Tas varētu būt propagandas līdzeklis.
Pētnieki atklāja, ka 80% laika Deepseek atbildes atspoguļoja Ķīnas oficiālo viedokli par noteiktām tēmām. Kad Ķīnā tika uzdoti politiski tabu jautājumi, tā atteicās atbildēt, izvairīties no tēmas un novirzīja tās atbildes.
Secinājums
AI vajadzētu kalpot par aktīvu, nevis atbildību, tāpat kā jebkuram citam rīkam. Kaut arī DeepSeek piedāvā progresīvas iespējas par nelielu daļu no cenas, salīdzinot tās konkurentus, reālās izmaksas, piemēram, datu iedarbība, atbilstības riski un ģeopolitiskās sapulces, varētu būt daudz lielākas.
Iespējams, ka visvairāk satraucošākā daļa no tā ir tā, ka DeepSeek drošības trūkumi nav potenciāli scenāriji. Vienkāršs programmatūras atjauninājums šīs kļūmes neizlabos. Šīs ir galvenās problēmas, kas padara DeepSeek par ļoti reālu atbildību uzņēmumiem, kuri to izvēlas izmantot. Mēs runājam par AI modeli, kuru var viltot, izmantot, manipulēt un potenciāli izmantot kibernoziegumiem, pakļaujot uzņēmumus ļoti nopietnām reālās dzīves juridiskajām un finansiālajām sekām.
Tātad, pirms jūs nolemjat integrēt DeepSeek savās biznesa operācijās, jums ir jāizvērtē riski pret atlīdzību. Mēs nerunājam tikai par AI modeļa izvēli, kā jūs šeit izvēlētos pārdevēju sava biroja printera papīram, tas ir par izlemšanu, vai spēlēt ar sava uzņēmuma drošību, reputāciju un nākotni. Dienas beigās DeepSeek var ietaupīt tonnu naudas, salīdzinot ar citiem AI modeļiem, taču tās patiesās izmaksas varētu būt daudz lielākas. Galu galā viņi saka, ka nav tādas lietas kā bezmaksas pusdienas.
