Mūsdienās ap ģeneratīvo AI ir daudz trokšņu, taču ap to ir arī daudz baiļu. Tas ir tāpēc, ka, ja tas nonāk nepareizās rokās, tas var radīt nopietnus bojājumus. Nu, saskaņā ar jauno ziņojumu, jums vajadzētu tikai mēreni uztraukties par OpenAI AI. GPT-4o ir vidēja riska pakāpe.
Microsoft atbalstītais OpenAI pēdējā laikā ir bijis ziņas par savu jauno drošības komandu. Iepriekš komanda sastāvēja no dalībniekiem ārpus uzņēmuma, kas ir labākais ceļš. Tādā veidā cilvēki var objektīvi novērtēt drošības protokolus. Tomēr jaunā drošības komanda sastāv no uzņēmuma dalībniekiem. Ir nedaudz grūti uzticēties to cilvēku viedokļiem, kuri ir saistīti ar uzņēmumu.
GPT-4o ir vidēja riska pakāpe
OpenAI tikko izlaida sistēmas karti GPT-4o. Būtībā šī ir pārskata karte ar informāciju par to, kā uzņēmums nodrošina sava modeļa drošību. Tajā ir izklāstīti drošības mērījumi un riski.
Saskaņā ar karti GPT-4o ieguva vidēju riska rādītāju. Tas nav tik slikti, kā izklausās. Modeļa drošība tika novērtēta četrās jomās: pārliecināšana, kiberdrošība, bioloģiskie draudi un modeļa autonomija. Modelis saņēma zema riska novērtējumu pēdējiem trim. Runājot par pārliecināšanu, modele ieguva vidējo atzīmi. Tā kā kopējo punktu skaitu nosaka jebkura apgabala augstākais rezultāts, modeļa kopējais vērtējums ir vidējs.
Ko tas nozīmē? Ir reizes, kad šis modelis var radīt pārliecinošāku tekstu nekā cilvēka rakstīts teksts. Tas ir biedējoši, jo cilvēki var izmantot ChatGPT rakstīto tekstu, lai maldinātu masu savām vajadzībām. Tātad uzņēmumam tas būs jārisina.
Vai mēs varam tam uzticēties?
Jautājums ir par to, vai mēs varam uzticēties šim vērtējumam. Atkal, to galvenokārt nodrošināja iekšēja komanda. Neatkarīgi no tā, cik daudz uzņēmums pieprasa savu atbildību, mēs nevaram ignorēt šo faktu. Neatkarīgi no tā, cik labs ir skolēns, jūs būsiet nedaudz skeptisks, ja viņš novērtēs pats savu matemātikas testu.
