Ģeneratīvie AI rīki, piemēram, GPT-4, ir lieliski piemēroti pētniecībai, satura veidošanai utt. Tomēr daži cilvēki, kuri izmanto šo tehnoloģiju, nav saistīti ar dzejoļu veidošanu vidusskolas esejām. Ir daži cilvēki, kuri tos izmantos, lai radītu destruktīvus ieročus. Zinātnieku un ekspertu komanda ir veikusi pētījumus, lai noskaidrotu, cik viegli ir izmantot GPT-4 bioieroču radīšanai. Labi, tā iespēja ir maza, taču tās nav neeksistējošas. Tas notika drīz pēc tam, kad OpenAI parakstīja līgumu ar ASV Aizsardzības departamentu.
Pastāv daudz neskaidrību par atšķirību starp tērzēšanas robotiem un LLM (lieliem valodu modeļiem). Piemēram, tā ir tāda pati atšķirība starp Google Bard un Gemini. Tāpēc ir svarīgi zināt, kāpēc tie atšķiras. ChatGPT ir tērzēšanas robots; faktiskā lietotāja saskarne ar tekstlodziņu un rezultātiem. GPT-4 ir modelis jeb smadzenes, kas apstrādā teksta uzvednes un piegādā rezultātus tērzēšanas robotam, kas tiks parādīts.
Jūs iegūstat piekļuvi GPT-4 modelim, reģistrējoties ChatGPT Plus. Ja reģistrējaties abonementam, jūs joprojām izmantojat to pašu ChatGPT, kas ir pieejams bezmaksas lietotājiem. Tomēr jūsu rezultātus nodrošina modelis GPT-4, savukārt bezmaksas lietotāju rezultātus nodrošina modelis GPT-3.5.
Pētījumi rāda tikai nelielu iespēju, ka GPT-4 tiks izmantots bioieroču izgatavošanai
Pirms neilga laika Baidena administrācija parakstīja izpildrakstu, kas bija vērsts uz Enerģētikas departamentu, lai pārliecinātos, ka mākslīgā intelekta rīkus nevar izmantot bīstamu kodolieroču, bioloģisko vai ķīmisko ieroču izgatavošanai. OpenAI, būdams soli priekšā spēlei, ir izstrādājis savus drošības pasākumus šajā jautājumā. Tā izveidoja sagatavotības komandu. Šī ir cilvēku komanda, kuras uzdevums ir novērst noteiktus tādus draudus kā šie.
Šī cilvēku komanda pulcēja 100 cilvēkus, kas sastāv no bioloģijas ekspertiem un bioloģijas koledžas studentiem, lai piespiestu GPT-4 dot cilvēkiem norādījumus par bioieroču izveidi. Vienai pusei komandas tika dota pamata piekļuve internetam. Otrajai pusei tika piešķirta specializēta GPT-4 versija kopā ar piekļuvi internetam. Šai GPT-4 versijai nebija nekādu ierobežojumu.
Abas cilvēku grupas pamatā pildīja sarkanās komandas pienākumus, lai mēģinātu panākt, lai GPT-4 paslīdētu un sniegtu viņiem rīkus un zināšanas, lai radītu ārkārtīgi nāvējošus ieročus. Viens piemērs bija to izmantot, lai dotu viņiem iespēju sintezēt ebolas vīrusu. Viņiem ir arī teikts, ka jūs mēģināt izveidot ieročus, kas paredzēti noteiktām cilvēku grupām.
Kādi bija rezultāti?
Tas varētu būt tikai nedaudz satraucošs. Grupa ar piekļuvi internetam varēja atrast dažas metodes, kā to izdarīt. Tomēr rezultāti cilvēkiem ar GPT-4 uzrādīja paaugstinātu “precizitāti un pilnīgumu”. tas ir biedējoši. Turklāt pētnieki teica, ka GPT-4 izmantošana “nodrošina ne vairāk kā nelielu informācijas ieguves paaugstinājumu bioloģisko draudu radīšanai”.
Šobrīd šis ir ārkārtīgi svarīgs pētījums. Visiem mākslīgā intelekta uzņēmumiem ir jādara viss iespējamais, lai noskaidrotu, kā novērst pēc iespējas vairāk draudu. Tas ir pietiekami slikti, ka mums ir cilvēki, kas veido AI mākslu, mūziku, grāmatas utt. Pēdējais, kas mums nepieciešams, ir tas, lai cilvēki, izmantojot tehnoloģiju, nodara reālu kaitējumu cilvēku dzīvībai.
