Pasaulē, kurā arvien pieaug uz mākslīgā intelekta balstītas funkcijas, cilvēkus var viegli apmānīt ar mākslīgā intelekta rīkiem izveidotiem viltotiem fotoattēliem un videoklipiem. Daži no populārākajiem šādiem rīkiem ir OpenAI ChatGPT-4.0 vai GPT-4o un Google Gemini. ChatGPT-4.0 versija ir viens no populārākajiem rīkiem. Tas var viegli ģenerēt dziļi viltotus videoklipus ar reālu personu. Tagad pētnieki ir ierosinājuši, ka OpenAI GPT-4o var viegli uzlauzt, lai uzsāktu balss krāpniecību, lai cilvēki varētu nepareizi interpretēt.
OpenAI GPT-4o versiju var uzlauzt ar balsi balstītu krāpniecību, liecina jauns ziņojums
Saskaņā ar BleepingComputer ziņojumu, ChatGPT-4o versiju var uzlauzt, lai uzsāktu balss krāpniecību. Pētnieki ir parādījuši, ka ir iespējams, ka OpenAI reāllaika balss API ChatGPT-40 var tikt uzlauzta, lai radītu dažas krāpniecības. Tiem var būt zems vai mērens panākumu līmenis, liecina ziņojums. Ir vērts atzīmēt, ka ChatGPT-40 uzlauztās krāpniecības lielākoties balstās uz viltus balsi.
GPT-40 versijas uzlauztā krāpniecība jau var būt “vairāku miljonu dolāru problēma”, norāda avots. Viņi var izmantot ChatGPT dziļo viltojumu tehnoloģiju un AI nodrošinātos teksta pārvēršanas runā rīkus, lai pasliktinātu situāciju. Turklāt avots liecina, ka šos rīkus var izmantot, lai bez cilvēka piepūles veiktu un izveidotu liela mēroga krāpniecības darbības.
Sarunā ar BleepingComputer OpenAI paskaidroja savu jaunāko modeli, kas pašlaik ir priekšskatījumā, atbalsta “uzlabotu argumentāciju” un tika izveidots, lai labāk pamanītu šāda veida pārkāpumus: “Mēs pastāvīgi uzlabojam ChatGPT, lai apturētu apzinātus mēģinājumus to apmānīt, nezaudējot. tā izpalīdzību vai radošumu,” izdevumam sacīja uzņēmuma pārstāvis.
OpenAI jaunākajā modelī ir ar balsi iespējots AI aģents, un to var izmantot, lai izveidotu krāpniecību
Proti, OpenAI jaunāko modeli, kas piedāvā balss AI aģentu, var izmantot, lai, izmantojot šo tehnoloģiju, izveidotu dažas krāpniecības. Jo īpaši jaunākajai ChatGPT versijai ir daži aizsardzības līdzekļi, lai tās rīki netiktu ļaunprātīgi izmantoti. Turklāt dažiem hakeriem ir izdevies to uzlauzt, lai izveidotu ievainojamības rīkus, liecina avots. Šīs krāpniecības panākumu līmenis dažādās lietotnēs ir atšķirīgs, piemēram, Gmail akreditācijas datu zādzība.
