Bija paredzēts, ka atvērtā pirmkoda AI izspiedīs nozares lielāko spēlētāju ekonomiku. Goldman Sachs saskata vēl vienu iespēju: lētāki modeļi varētu padarīt uzņēmuma AI pietiekami pieejamu, lai palielinātu lietojumu, palīdzot Big Tech aizpildīt milzīgo skaitļošanas jaudu, kuras izveidei tā tērē miljardus.
Iespējams, ka AT&T jau ievieš šo disertāciju.
Telekomunikāciju gigants ir samazinājis kodēšanas un dažu citu progresīvu AI uzdevumu izmaksas pat par 56%, izmantojot rīkus, kas novirza darbinieku vaicājumus uz lētākiem modeļiem, ja darbam nav nepieciešams augstākās klases modelis, ceturtdien ziņoja The Information.
AT&T nosūta vienkāršākus uzdevumus, piemēram, dokumentu un kodu kopsavilkumus, atvērtiem modeļiem, tostarp Meta’s Llama un Google’s Gemma. Tās izstrādātāji joprojām var izmantot modernākus modeļus no tādiem uzņēmumiem kā Anthropic un OpenAI prasīgam darbam, tostarp sarežģītu kodu ģenerēšanai.
Šī pieeja radīja pārsteidzošu rezultātu: dažu kodēšanas uzdevumu izmaksas samazinājās par 56%, bet kvalitāte samazinājās tikai par 2%, ziņo The Information.
Tam ir nozīme daudz tālāk par AT&T. Tas norāda uz izmaiņām tajā, kā uzņēmumi var pirkt un izmantot AI. Tā vietā, lai jautātu, kurš modelis ir labākais, uzņēmumi sāk uzdot ekonomiski noderīgāku jautājumu: Kāds ir lētākais modelis, kas var droši tikt galā ar šo konkrēto darbu?
Goldman Sachs uzskata, ka lētāks AI nodrošina vairāk AI
Džims Kovello, Goldman Sachs Equity Research vadītājs, uzskata, ka mazāku, lētāku atvērtā pirmkoda modeļu attīstība varētu sniegt labumu tādiem hiperskaliem kā Amazon, Microsoft un Google, nevis vienkārši apdraudēt viņu AI biznesu.
“Atvērtā koda modeļi palielinās iespējamību, ka uzņēmumi var rentabli ieviest AI organizācijā,” nesenajā Goldman Sachs Wealth Management investīciju stratēģijas grupas diskusijā sacīja Kovello.
Loģika ir pretintuitīva. Atvērtie modeļi var samazināt cenu, ko uzņēmumi maksā par atsevišķām AI darba slodzēm, tādējādi radot spiedienu uz augstākās kvalitātes modeļu ekonomiku. Zemākas cenas var arī padarīt daudz praktiskākas AI lietojumprogrammas finansiāli praktiskākas.
Dzīvotspējīgākas lietojumprogrammas varētu nozīmēt vairāk vaicājumu, vairāk apstrādātu marķieru un lielāku pieprasījumu pēc datu centriem un skaitļošanas infrastruktūras, kas atrodas zem šiem modeļiem.
“Es domāju, ka tas ir patiešām labs hiperskaloriem, jo ir lielāka iespēja, ka jūs varēsit rentabli aizpildīt visu šo jaudu, ko pievienojat,” sacīja Kovello.
Šī jauda ir kļuvusi par vienu no Volstrītas lielākajiem jautājumiem.
Big Tech uzņēmumi ir ieguldījuši milzīgas summas AI mikroshēmām, datu centriem, tīklu un enerģijas infrastruktūrai. Investori sākotnēji uzmundrināja pieaugošos kapitālizdevumus kā pierādījumu tam, ka uzņēmumi pozicionē sevi mākslīgā intelekta uzplaukumam. Kovello saka, ka noskaņojums ir sācis mainīties.
“Vēl salīdzinoši nesen ikreiz, kad kāds no šiem uzņēmumiem paziņoja par lielākiem kapitālizdevumiem, tirgus šim uzņēmumam atalgoja. Apmēram pēdējā ceturkšņa laikā jūs patiešām esat redzējuši ievērojamas pārmaiņas, kurās tirgus to apšauba daudz vairāk,” viņš teica.
Jautājums vairs nav par to, vai Big Tech var izveidot pietiekami daudz AI infrastruktūras. Tas ir tas, vai uzņēmumi var radīt pietiekami ienesīgu AI pieprasījumu, lai attaisnotu to, kas ir uzbūvēts.
Lētāki atvērtie modeļi varētu palīdzēt novērst šo plaisu.
AT&T piedāvā agrīnu ieskatu modeļu maršrutēšanas ekonomikā
Saskaņā ar The Information AT&T jau apstrādā aptuveni 45 miljardus AI marķieru dienā. Aptuveni 40% darbinieku AI vaicājumu tiek novirzīti uz atvērtā pirmkoda modeļiem, un uzņēmums sagaida, ka šis skaitlis sasniegs 60% līdz 70%.
Marks Ostins, AT&T viceprezidents, pastāstīja The Information, ka viņš ir atklājis, ka atvērtā pirmkoda modeļi ir “tikpat labi vai labāki” nekā vecāki modeļi, ko daudziem darbiem pārdod uzņēmumi, tostarp Anthropic un OpenAI.
“Piemēram, AT&T programmatūras izstrādātāji joprojām paļaujas uz modernākajiem modeļiem sarežģītiem uzdevumiem, piemēram, koda ģenerēšanai, bet var izmantot lētākus atvērtā pirmkoda modeļus mazāk intensīviem uzdevumiem, piemēram, iepriekš iesniegtā koda kopsavilkumu ģenerēšanai,” ziņoja The Information.
“Mēs sagaidām, ka tas turpinās uzlaboties,” sacīja Ostins.
Šeit AT&T pieredze cieši krustojas ar Kovello argumentu.
Kovello identificē to, ko viņš sauc “modeļa optimizācijas slānis” kā tehnoloģiju vājais kakls uzņēmuma AI. Ideja ir vienkārša: augstas sekas pieprasījumi tiek nosūtīti uz dārgiem robežas modeļiem, un parastie pieprasījumi tiek nosūtīti uz lētākiem atvērtiem modeļiem.
“Tā būs viena no galvenajām atslēgām, lai atraisītu AI ekonomisko vērtību uzņēmumā,” sacīja Kovello.
Ja šis modelis pieņemsies spēkā, AI konkurss varētu izskatīties pavisam savādāk.
Uzņēmumi var izmantot vairākus modeļus, nevis uzticēt lielāko daļu darba slodzes vienam pakalpojumu sniedzējam. Modeļu maršrutētāji varētu pieņemt lēmumus, pamatojoties uz izmaksām, kvalitāti, latentumu un uzdevumu grūtībām, AI modeļus arvien vairāk uztverot kā maināmus skaitļošanas resursus ikdienas darbam.
Tas varētu radīt cenu spiedienu uz pārrobežu modeļu uzņēmumiem. Tomēr tas varētu radīt daudz lielāku tirgu AI secinājumiem.
AT&T ir noderīga agrīna pārbaude. Tiek ziņots, ka uzņēmums sagaida plašāku atvērto modeļu izmantošanu, lai palīdzētu saglabāt tēriņus augstākās kvalitātes AI pakalpojumiem, jo tā kopējais AI lietojums palielinās.
Tas ir paradokss Goldmena disertācijas centrā: lētāki modeļi varētu nozīmēt mazākus ieņēmumus no viena vaicājuma, bet ievērojami vairāk vaicājumu, kurus ir vērts izpildīt.
Hiperskalētājiem, kas tērē miljardus, lai izveidotu infrastruktūru zem šiem vaicājumiem, atvērtā pirmkoda AI var izrādīties mazāks drauds nekā negaidīts pieprasījuma avots.
