Mēs esam situācijā, kad mēs nevaram īsti uzticēties AI uzņēmumiem, bet mums ir jādod kredīts uzņēmumiem, kas pieliek pūles. Lai gan OpenAI noteikti ir savi noslēpumi, AI starta programma vismaz veic pasākumus, lai iegūtu sabiedrības uzticību. Saskaņā ar jauno ziņojumu OpenAI apņēmās nodrošināt AI drošības institūtam agrīnu piekļuvi tā jaunākajam modelim.
Dažādas valstis izstrādā nodaļas, kas nodarbojas ar mākslīgā intelekta analīzi un iespējamo apdraudējumu mazināšanu. ASV vienu nodaļu sauc par AI drošības institūtu. Šī ir nodaļa, kas ir atbildīga par to, lai AI nekādā veidā nenodarītu kaitējumu cilvēkiem. Tā ir salīdzinoši jauna nodaļa, un tā ir pozicionēta kā galvenā vienība AI nozarē turpmāk.
OpenAI dos ASV AI drošības institūtam agrīnu piekļuvi tā jaunākajam modelim
OpenAI nodrošinās AI drošības institūtam agrīnu piekļuvi tā jaunākajam pamata modelim. Tas ir diezgan liels solis. Viena no galvenajām lietām, ko vēlas visas valdības struktūras, ir, lai mākslīgā intelekta uzņēmumi būtu pārredzami un informētu par to, pie kā viņi strādā. Uzņēmumam ir ļoti iespējams izlaist produktu, kas rada reālus bojājumus. Dažreiz var būt grūti vai neiespējami atgūt bojājumus.
OpenAI izpilddirektora Sema Altmena ziņojumā mēs saņemam ziņas, ka uzņēmums piešķir tam piekļuvi savam jaunākajam pamata modelim. Tomēr ziņojumā nebija minēts, kurš modelis, tāpēc mēs nezinām, vai tas nodrošina agrīnu piekļuvi modelim, kas maina spēli, vai modelim, kas paredzēts mazākām lietojumprogrammām.
Turklāt ierakstā minēts, ka tas ir tikai nākamais modelis. Mēs nezinām, vai uzņēmums gatavojas nodrošināt agrīnu piekļuvi nākotnes modeļiem. Jebkurā gadījumā tas joprojām ir lielisks solis.
Uzņēmums veic citus pasākumus
Ziņojumā Altmans arī norādīja, ka uzņēmums gatavojas veltīt 20% no saviem datoru resursiem drošības pasākumiem visā uzņēmumā. To ir patīkami dzirdēt, jo nesen notika drāma, kas saistīta ar uzņēmuma drošības pasākumiem. Bija ziņojumi par to, ka uzņēmums novirzīja resursus no savas drošības komandas. Tomēr OpenAI pēc tam iekšēji izstrādāja jaunu komandu.
