Google jaunākais mēģinājums integrēt ģeneratīvo AI mūsu dzīves telpās, Gemini for Home, rada virsrakstus, taču, iespējams, ne tādus, kādus Google bija iecerējis. Funkcija, kas tiek ieviesta kā daļa no Google maksas mājas abonementa, sola gudrus ikdienas kopsavilkumus un sarunu ieskatus no jūsu Nest kameras uzņemtā materiāla. Tomēr sākotnējie lietotāju ziņojumi liecina, ka Gemini for Google Home sistēma bieži nepareizi identificē parastos sadzīves notikumus, pat kļūdaini atklājot briežu vai viltus cilvēku klātbūtni, radot šaubas par precizitāti.
Jaunā funkcija izmanto Gemini AI modeli, lai apstrādātu videoklipus, ģenerētu kopsavilkumus un atbildētu uz jautājumiem, izmantojot tērzēšanas robotu “Ask Home”. Saskaņā ar ziņojumiem tas labi tiek galā ar tādiem pamatuzdevumiem kā automatizācijas izveide. Tomēr tā video identifikācijas prasme dažkārt izrādās neuzticama, kā rezultātā tiek saņemti daži patiesi satraucoši paziņojumi.
Google Gemini for Home suņus nepareizi identificē kā briežus, un šī precizitāte ir apšaubāma
Kā atzīmēja Ars Technica, atkārtota problēma ir saistīta ar AI ziņošanu par izdomātiem notikumiem. Viens lietotājs tika brīdināts, ka “negaidīti ģimenes istabā uz īsu brīdi ienāca briedis.” Tajā brīdī kamera vienkārši skatīsies uz suni. Tā nav vienreizēja kļūda; sistēma bieži sajauc suņus un ēnas ar “briežiem”, “kaķiem” vai pat “cilvēku”, kas klīst pa tukšu istabu.
Problēma ir īpaši satraucoša, ja Dvīņi nepareizi marķē drošībai būtiskus notikumus. Brīdinājums par to, ka “Ģimenes istabā ir redzēts cilvēks”, var izraisīt īstu trauksmi, tikai lietotājs var pārbaudīt plūsmu un atrast neko. Pēc dažiem viltus pozitīviem rezultātiem lietotāji ātri iemācās neuzticēties sistēmai. Šīs kļūmes pārspēj visu drošības uzraudzības sistēmas mērķi.
Google šīs kļūdas saista ar lielu valodu modeļu raksturu. Uzņēmums skaidro, ka Dvīņi var pieļaut “secināšanas kļūdas”, ja tiem trūkst pietiekami daudz vizuālu detaļu vai pamata līmeņa veselā saprāta. Faktiski tiek ziņots, ka AI lieliski atpazīst automašīnu modeļus un logotipus. Tomēr tas cīnās ar vienkāršo, nepieciešamo kontekstu, kuru cilvēka novērotājs nekad nepalaistu garām.
Jautājums par palaišanas gatavību
Lai drošības uzraudzības sistēma būtu patiesi noderīga, šīm secinošajām kļūdām vajadzētu nedaudz samazināties. Google “iegulda lielus ieguldījumus precīzas identifikācijas uzlabošanā” un mudina lietotājus labot modeli, izmantojot atsauksmes. Tomēr vismaz pagaidām galvenais jautājums paliek.
Pārsteidzoši, ka Google izvēlējās palaist augstākās kvalitātes funkciju, kas prasa tik daudz “turēšanas ar roku”, lai tā darbotos pareizi. Gemini for Home ir jauns produkts, un tas, iespējams, ievērojami uzlabosies. Uzņēmumam ir jāapkopo vairāk datu un jāpilnveido modelis. Tomēr, izlaižot drošības līdzekli, kas jau pašā palaišanas brīdī iesaucas par iebrucējiem, var iedragāt lietotāju uzticību un apgrūtināt attaisnot papildu abonēšanas maksu 20 ASV dolāru mēnesī. Lietotāji var uzskatīt, ka abonements 10 $ mēnesī, kas piedāvā mazāk video vēstures, bet izvairās no neuzticamām mākslīgā intelekta funkcijām, ir daudz gudrāka likme.
Ziņa Google Gemini for Home AI Labels Pets as Deer appeared first on Android Headlines.
