Kalifornijas tiesnesis nesen ieņēma stingru nostāju pret AI platformu neizpaužamu izmantošanu juridiskos pieteikumos. Tiesnesis Maikls Vorners atklāja papildu īsu īsu īsu, kas bija saistīts ar safabricētiem juridiskiem citātiem un citātiem. Viņa atbilde? Sankcijas 31 000 USD apmērā, kas iekasētas pret diviem iesaistītajiem advokātu birojiem.
Tiesnesis Vorners pauda bažas par šādu praksi. Viņš paziņoja, ka paļaušanās uz AI juridiskiem pētījumiem un rakstīšanai bez pienācīgas pārraudzības ir būtiska kļūda jebkuram kompetentam advokātam. Juridiskie eksperti Ēriks Goldmans un Bleiks Reids arī uzsvēra šo jautājumu par Bluesky.
Advokāti, kas sankcionēti par neizpaužamu AI izmantošanu juridiskos pētījumos
Tiesnesis stāstīja par savu pieredzi, atzīmējot, ka citētās lietas sākotnēji šķita pārliecinošas, liekot viņam izmeklēt tālāk. Tad viņš pieņēma šos lēmumus vienkārši neeksistēja. Viņš uzsvēra iespējamās briesmas, izskaidrojot, cik viegli šāda nepatiesa informācija varētu būt nonākusi tiesā.
Būtībā šis ir vēl viens gadījums, kad “AI halucinācijas” atklāj tērzēšanas robotu izmantošanu. Līdzīga situācija radās 2024. gada beigās-parhiski-anti-AI gadījumā.
Situācija izvērsās, kad prasītāja juridiskā komanda izmantoja AI, lai izstrādātu izklāstu īsam pret valsts saimniecību. Šis izklāsts, kas satur to, ko tiesnesis sauca “Viltus AI ģenerēts pētījums”Pēc tam tika nodots citai firmai K&L Gates, kas to iekļāva galīgajā īsumā. Šokējoši neviena firma acīmredzami pārbaudīja AI ģenerēto informāciju pirms iesniegšanas tiesā.
Tiesnesis identificēja AI halucinācijas, pateicoties viņa pieredzei
Pēc pārskatīšanas tiesnesis Vorners identificēja vismaz divas pilnīgi neeksistējošas juridiskās iestādes. Kad viņš pieprasīja paskaidrojumus no K&L Gates, viņu iesniegtajā pārskatītajā īsumā bija vēl vairāk safabricētu atsauce un citāti. Tas pamudināja tiesnesi izdot rīkojumu, kas advokātiem prasīja izskaidrot savu rīcību saskaņā ar zvērestu. Tas galu galā apstiprināja AI izmantošanu. Advokāts, kurš izveidoja sākotnējo izklāstu, kas atzīts, ka Westlaw Precision With Cocounsel izmantoja Google Gemini un AI juridisko pētījumu rīkus.
Tiesnesis Vorners secināja, ka sākotnējā, neizpaužamā AI izmantošana, lai sagatavotu īsu īsu, ir principiāli nepareiza. Viņš arī uzsvēra risku, kas saistīts ar AI ģenerēta materiāla nodošanu, neatklājot tā izcelsmi, potenciāli maldinot citus juridiskos speciālistus.
