Anthropic un OpenAI palīdz uzņēmumiem automatizēt kodu, klientu atbalstu, izpēti un iekšējās darbplūsmas. Tagad daži no tiem pašiem uzņēmumiem atklāj, ka, iespējams, ir maksājuši pārāk daudz par šo privilēģiju.
Jaunuzņēmums ar nosaukumu Vaudit saka, ka ir atradis aptuveni 1,7 miljonu ASV dolāru pārmaksas rēķinos pēc tam, kad no marta līdz jūnijam bija pārskatījis AI rēķinus, kas tika nosūtīti 60 uzņēmumiem no marta līdz jūnijam un kuru lielākā daļa bija saistīti ar Anthropic’s Claude Code. Revīzijas aptvēra rēķinus, kas saistīti ar Anthropic un OpenAI izmantošanu, un atklājumi norāda uz pieaugošu problēmu uzņēmumu pircējiem, kuri iesaistās AI bez skaidra priekšstata par to, par ko viņiem faktiski tiek iekasēta maksa.
Vaudit izpilddirektors Maikls Hāns izdevumam The Information pastāstīja, ka bieži sastopamās problēmas bija tādas, ka klientiem tiek iekasēta maksa par jaunākiem, dārgākiem modeļiem, kad viņi faktiski izmantoja vecākus, lētākus modeļus. Citos gadījumos no klientiem tika iekasēta maksa, ja AI aģenti vai tērzēšanas roboti neizpildīja pieprasījumus vai atgrieza kļūdu ziņojumus. Hāns sacīja, ka Vods atklāja arī gadījumus, kad neveiksmīgi aģenti turpināja atkārtot uzdevumus fonā, klusi veidojot rēķinus tā dēvētajā atkārtotā mēģinājuma vētrā.
“No marta līdz jūnijam Vaudit pārbaudīja rēķinus, kas tika nosūtīti 60 uzņēmumiem par kopējo summu 34 miljoni ASV dolāru, galvenokārt par Anthropic’s Claude Code izmantošanu, un atklāja aptuveni 1,7 miljonus dolāru kļūdainas pārmaksas”, ziņoja The Information, atsaucoties uz Hānu.
“Mēs novērojam, ka uzņēmuma AI norēķini ir kļuvuši arvien neskaidrāki,” sacīja Hāns.
AI slēptās izmaksas: audits atklāj 1,7 miljonus USD antropiskās un OpenAI norēķinu kļūdas
Prasība tiek iesniegta brīdī, kad uzņēmumu tēriņi ģeneratīvajai AI strauji pieaug, un finanšu komandas ir pakļautas spiedienam saprast lietošanas rēķinus, kas var mainīties katru stundu. AI cenu noteikšanai jau ir pietiekami daudz kustīgu daļu: modeļu līmeņi, marķiera lietojums, API zvani, atkārtojumi, mākoņa uzcenojumi un dažādi norēķinu ceļi atkarībā no tā, vai klienti pērk tieši no modeļu nodrošinātājiem vai izmantojot lielas mākoņa platformas. Vaudit norāda, ka daudziem uzņēmumiem trūkst iekšējo rīku, lai pārbaudītu rēķinu precizitāti. Vaudit savu klientu vidū uzskata Panasonic, HP un Honda, sacīja Hāns.
Antropisks atstumts ziņojuma daļās. Pārstāvis sacīja, ka uzņēmums neiekasē no klientiem maksu par nepilnīgiem pieprasījumiem vai kļūdu ziņojumiem, nevirza klientu pieprasījumus uz vecākiem modeļiem un nesaskata pazīmes, kas liecinātu, ka pārmaksa ir plaši izplatīta problēma. OpenAI teica, ka tai nav pierādījumu, ka šīs problēmas notiek starp tā klientiem.
Tas atstāj svarīgu brīdinājumu stāsta vidū: ne katra Vaudit aprakstītā norēķinu problēma obligāti norāda uz tiešu Anthropic vai OpenAI kļūdu. Hāns sacīja, ka daži no revidētajiem klientiem piekļuva šiem modeļiem, izmantojot lielākos mākoņpakalpojumu sniedzējus, kas papildina vēl vienu slāni starp lietošanu un rēķinu izrakstīšanu. Tam ir nozīme, jo maksa var pāriet caur Amazon, Google vai Microsoft, pirms tās nonāk klienta finanšu informācijas panelī.
Tomēr Vaudits saka, ka nauda bija īsta. Hāns pastāstīja The Information, ka pēc tam, kad Vaudit un tā klienti apstrīdēja rēķinus, Amazon, Google, Microsoft, Anthropic un OpenAI atmaksāja aptuveni 80% no apstrīdētajām pārmaksām. Viņš raksturoja šos uzņēmumus kā “neticami sadarbīgus”, kad tika atzīmētas norēķinu problēmas.
Lielāka līdzņemšana var būt mazāka par jebkuru apstrīdētu rēķinu un vairāk par paša uzņēmuma AI tirgus formu. Uzņēmumi ir pavadījuši pēdējos divus gadus, steidzoties izvietot koppilotus, iekšējos palīgus, koda aģentus un klientu atbalsta robotprogrammatūras, bieži vien ar aptuvenu priekšstatu par to, cik lielas ražošanas izmaksas izmaksās. Komanda var sākt ar daudzsološu pilotu un beigties ar ikmēneša rēķinu, kuru ir grūti pārbaudīt, prognozēt vai apstrīdēt.
Pieaugot AI izdevumiem, pieaug arī jautājumi par to, par ko uzņēmumi faktiski maksā
Šī norēķinu neskaidrība sāk parādīties citur. Anthropic jau saskaras ar cenu noteikšanu no cita virziena. Pagājušajā nedēļā klients iesniedza ierosināto kolektīvo prasību tiesā, apsūdzot uzņēmumu par lietotāju maldināšanu par tā augstāko cenu abonēšanas līmeņu vērtību. Tajā pašā laikā daudzi uzņēmumi, kas savulaik vēlējās brīvi tērēt augstākās klases modeļos, sāk jautāt, vai tie viņiem patiešām ir vajadzīgi. Daži no viņiem pārceļ daļu no savas darba slodzes uz lētākiem modeļiem vai atvērtā pirmkoda alternatīvām, lai ierobežotu izmaksas.
Vaudits cenšas šo satraukumu pārvērst biznesā. 30 personu starta uzņēmums, kas dibināts 2023. gadā, pārdod programmatūru, ko klienti instalē savā AI vidē, parasti izmantojot programmatūras izstrādes komplektu, lai iegūtu neapstrādātus lietošanas datus un salīdzinātu tos ar rēķiniem un norēķinu ierakstiem. Hāns, bijušais Oracle direktors, sākotnēji izveidoja uzņēmumu, lai pārbaudītu rēķinus, kas saistīti ar loģistiku, piegādi, reklāmu un mākoņpakalpojumiem, pirms šī gada sākumā laida klajā savu AI norēķinu produktu.
Uzņēmums saka, ka tas no klientiem iekasē 1% no pārskatīto rēķinu vērtības, kā arī 30% no jebkādām atmaksām, kas atgūtas pēc audita. Šis cenu noteikšanas modelis darbojas tikai tad, ja ir nauda, ko atrast. Vaudits saka, ka ir.
Uzņēmumiem, kuri liek lielas likmes uz AI, vēstījums ir neērts, taču vienkāršs: grūtākais, iespējams, vairs nav likt darbiniekiem izmantot šos rīkus. Tas var būt izdomāts, vai rēķinam mēneša beigās ir kāda jēga.
