Ģeneratīvais AI joprojām ir salīdzinoši jauns, salīdzinot ar lielāko daļu tehnoloģiju, kas darbojas mūsu pasaulē. Tātad tās iespējamās plašās sekas joprojām ir mīkla. Šī iemesla dēļ mēs nevēlamies, lai tas būtu saistīts ar lielām valsts iestādēm… Jebkurā gadījumā OpenAI tikko parakstīja līgumu ar lielu valsts iestādi. Saskaņā ar avotiem OpenAI parakstīja līgumu ar ASV Aizsardzības departamentu (DOD).
OpenAI DOD līgums nav tik biedējošs, kā izklausās
Tomēr varat pārtraukt Google meklēšanu “Kā izveidot kodolbunkuru”. Valdība neuzliek ChatGPT atbildīgo par valsts militāro spēku vai lielām raķetēm. Tas tiks izmantots kiberdrošības apsvērumu dēļ. Mēs nezinām, kādu programmatūru DOD izmantos tieši. Mēs neesam pārliecināti, vai tas izmantos GPT-4, vai arī OpenAI izstrādās specializētu modeli šiem lietojumiem.
Jebkurā gadījumā līguma mērķis ir palīdzēt uzlabot valsts kiberdrošību. OpenAI aizdos savu programmatūru, lai palīdzētu izstrādāt atvērtā koda kiberdrošības rīkus. Tātad, par laimi, bez raķetēm. Turklāt šī tehnoloģija tiks izmantota, lai piedalītos DARPA AI Cyber Challenge. Šis ir nepārtraukts konkurss datorzinātniekiem, AI pētniekiem, izstrādātājiem utt. lai palīdzētu izstrādāt jaudīgus kiberdrošības rīkus un izlabot kritiskās ievainojamības. Izmantojot OpenAI jaudīgos AI rīkus, mēs esam pārliecināti, ka tas būs milzīgs sāncensis.
Vai jums vajadzētu uztraukties?
Mēs joprojām esam AI iesaistīšanās valdības lietās pašā sākumā, tāpēc tas vēl ir jāredz. Valdība izmanto šos rīkus tikai, lai palīdzētu izstrādāt kiberdrošības rīkus, tāpēc tā ne par ko nebūs atbildīga. Visus galvenos lēmumus pieņems cilvēki.
Tomēr problēma ir tāda, ka AI tehnoloģija vēl nav 100% uzticama. Joprojām pastāv AI halucināciju iespēja. Lai arī kā uzņēmumi censtos šo parādību mazināt, tā tomēr notiek. Tas nav tik slikti, ja rodas halucinācijas, ģenerējot recepti vai grāmatas ziņojumu, taču tas ir briesmīgi, ja uz spēles tiek likta valsts kiberdrošība. Tas ir kaut kas, kas mums būs jāgaida, lai redzētu.
