Atjaunots 12. janvārī, 14:57: Google pārstāvis sazinājās ar mums, lai izskaidrotu situāciju. Viņi apgalvo, ka viņi noņēma tikai vienu konkrētu meklēšanas rezultātu, apgalvojot, ka AI pārskati sniedz arī precīzu informāciju par veselības tēmām. Šķiet, ka problēma ar noņemto rezultātu radās tāpēc, ka to sākotnēji atbalstīja augstas kvalitātes vietnes.
Šeit ir oficiālais paziņojums:
“Mēs ieguldām ievērojamus līdzekļus AI kopsavilkumu kvalitātē, īpaši tādām tēmām kā veselība, un lielākā daļa sniedz precīzu informāciju. Mūsu iekšējā klīnicistu komanda pārskatīja ar mums kopīgoto informāciju un konstatēja, ka daudzos gadījumos informācija nebija neprecīza, un to atbalstīja arī augstas kvalitātes vietnes. Gadījumos, kad AI pārskatos trūkst konteksta, mēs strādājam, lai veiktu plašus uzlabojumus mūsu politikās.
Sākotnējais stāsts (12. janvāris, 10:59) tālāk.
Lielākā daļa cilvēku vēlas ātras, skaidras atbildes, meklējot medicīnisku padomu tiešsaistē. Taču nesen veikts pētījums ir parādījis, ka šo atbilžu paļaušanās uz mākslīgo intelektu var būt bīstama. Nesenā izstrādē Google ir noņēmis savus “AI pārskatus” no dažiem ar veselību saistītiem meklēšanas vaicājumiem, jo rīks sniedza nepatiesu vai nepilnīgu medicīnisko informāciju.
Vai jūsu medicīniskā meklēšana ir droša? Kāpēc Google samazina AI veselības ieteikumus
Izmaiņas notiek pēc The Guardian pētījuma. Pētījumā tika atklātas dažas lielas problēmas saistībā ar to, kā Google AI risināja sarežģītus veselības datus. Piemēram, mākslīgais intelekts norādīja, kāds ir aknu asins analīžu “normālais diapazons”, taču tas neņēma vērā tādas lietas kā personas vecums, dzimums vai rase. Citā gadījumā sistēma nepareizi teica, ka Pap tests var pārbaudīt maksts vēzi, ja tas patiešām pārbauda tikai dzemdes kakla vēzi.
Veselības eksperti ir ļoti noraizējušies par šiem kopsavilkumiem. Cilvēki no tādām grupām kā Pancreatic Cancer UK un British Liver Trust teica, ka medicīniskajiem ieteikumiem bieži ir vajadzīgs plašāks konteksts, nekā var sniegt īss AI rezultāts. Pacientiem ar nopietnām slimībām nevajadzētu tikai ievērot vienkāršus vai nepareizus ieteikumus; tas varētu atturēt viņus no pareizās ārstēšanas.
Google atbilde un pielāgojumi
Reaģējot uz konstatējumiem, Google ir veikusi pasākumus attiecībā uz konkrētiem meklēšanas vienumiem. Vaicājumi par aknu asins analīžu diapazoniem, kas iepriekš aktivizēja AI kopsavilkumu, tagad bieži vien atgriež tradicionālos meklēšanas rezultātus. Tomēr šo noņemšanas gadījumu izlaišana šķiet selektīva. Daži lietotāji atklāja, ka viens konkrēts jautājums, iespējams, vairs nerāda AI pārskatu. Tomēr tā paša vaicājuma nedaudz pārfrāzēta versija joprojām var to aktivizēt.
Google ir aizstāvējis sava rīka vispārējo kvalitāti. Uzņēmums norāda, ka iekšējā klīnicistu komanda pārskatīja atzīmētos piemērus. Pēc uzņēmuma domām, daudzas AI radītās atbildes tika atbalstītas augstas kvalitātes, cienījamās vietnēs. Google apgalvoja, ka viņi nekomentē atsevišķus noņemšanu, taču uzsvēra, ka viņi pastāvīgi strādā pie plašiem uzlabojumiem, kā sistēma apstrādā sensitīvu kontekstu.
Līdzsvarojošs akts meklēšanai
Situācija parāda, kā pieaug spriedze tehnoloģiju pasaulē. Uzņēmumi vēlas izmantot AI, lai padarītu informāciju vieglāk atrodamu un pieejamāku. Bet veselības aprūpē kļūdām nav daudz vietas. Jā, filmas sižeta vai receptes kopsavilkums nav īpaši svarīgs. No otras puses, medicīniskajiem datiem ir nepieciešams tāds precizitātes līmenis, kādu dažiem pašreizējiem AI modeļiem ir grūti sekot līdzi.
Pagaidām šķiet, ka Google izmanto piesardzīgāku pieeju. “Klusi” atzvaniet funkciju noteiktām augsta riska tēmām, lai nodrošinātu gudru tūlītēju kustību. Lietotājiem tas kalpo kā atgādinājums, ka mākslīgais intelekts neaizstāj profesionālus klīniskus padomus.
