Atbildot uz ziņojumiem, kas liecina, ka MyCity, iespējams, sniedz nepareizu, nepareizu un maldinošu informāciju, Ņujorkas mērs Ēriks Adamss ir nācis klajā, lai to aizstāvētu. Tiem, kas to nezina, Ņujorkas valdība nesen ieviesa MyCity AI tērzēšanas robotu, lai palīdzētu uzņēmumu īpašniekiem ar viņu jautājumiem.
Ņujorkas mērs aizstāv pretrunīgi vērtēto AI Chatbot saistībā ar apsūdzībām par maldinošiem norādījumiem
Tās mērķis ir palīdzēt uzņēmumu īpašniekiem, kuriem nepieciešama nepārtraukta piekļuve informācijai un norādījumiem. Tomēr izmeklēšanā, ko veica The Markup ar vietējo ziņu biroju Documented un The City atbalstu, tika konstatēti vairāki gadījumi, kad tas sniedza nepareizu juridisku padomu.
Piemēram, robotprogrammatūra nepareizi apgalvoja, ka namīpašnieki var diskriminēt īrniekus ienākumu dēļ un ka darba devēji var iekasēt dažus sava pakalpojumu sniedzēja dzeramnaudu; abas prakses Ņujorkā ir nelikumīgas.
Tāpat kā citi AI modeļi, kurus vada Microsoft Azure AI lielo valodu modeļi, MyCity ir tendence sniegt neprecīzu vai maldinošu informāciju. Attiecīgi mērs Adams atzina kļūdas saistībā ar šo rīku, sakot: “Tas ir izslēgts dažās jomās”, taču viņš aizstāvēja tā vispārējo mērķi.
Viņš teica, ka pēc būtības šāda veida tehnoloģijām ir jāpierāda sevi reālās dzīves apstākļos, lai izceltu problēmas un to risinājumus. Tomēr turpmākajās izmeklēšanās atklājās, ka mēģinājumi cieta neveiksmi, jo tas joprojām sniedza nepatiesus apgalvojumus, piemēram, “uzņēmumi vairs nepieņem skaidras naudas maksājumus”, kas ir pretrunā ar Ņujorkas tiesību aktiem.
MyCity AI varētu izrādīties neefektīvs, tāpēc būs nepieciešams vairāk dialogu ar juristiem
Endrjū Rigie, kurš strādā par Ņujorkas viesmīlības alianses direktoru, uzslavēja pilsētas mēģinājumu izmantot ar AI darbinātu tehnoloģiju, vienlaikus uzsverot precizitāti. Rigie apgalvoja, ka šādu robotu kļūdainu ieteikumu ievērošana varētu sagraut tā mērķi un prasīt vairāk dialogu ar juristiem.
Sakarā ar šo strīdu MyCity tērzēšanas robots tagad ietver atruna, brīdinot lietotājus, ka atbildes var būt neuzticamas vai nepilnīgas; tāpēc viņiem nevajadzētu paļauties uz tiem juridiskos vai profesionāļos.
Šis incidents parāda, cik grūti ir ieviest mākslīgo intelektu sabiedriskajos pakalpojumos, vienlaikus uzsverot vajadzību pēc precizitātes un uzticamības, vadoties pēc juridiskā pamata. Tā kā turpinās centieni uzlabot MyCity tērzēšanas robotu, dažādas ieinteresētās personas joprojām meklē problēmas, kas varētu būt jārisina.
