Intel veterānu dibinātais mikroshēmu starta uzņēmums Delos Data ir savācis vairāk nekā 100 miljonus dolāru, lai cīnītos pret problēmu, kas apdraud AI uzplaukuma ekonomiku: dārgi GPU un akseleratori stāv dīkstāvē un gaida datus.
Uzsākšana paredz, ka nākamais lielais ierobežojums AI datu centros radīsies no savienojumiem starp mikroshēmām, nevis pašām mikroshēmām. Šī problēma kļūst grūtāka, jo datu centri pārvietojas ārpus plauktiem, kuros dominē Nvidia GPU, un sāk sajaukt Nvidia, AMD, Cerebras un citu piegādātāju aparatūru.
Finansēšanas kārtā piedalījās Matrix Partners, Playground Global, Socratic Partners, Capricorn’s Technology Impact Fund, Matter Venture Partners, IAG un DYNAMIQ. Bijušais Intel izpilddirektors Pats Gelsingers, tagad Playground Global galvenais partneris, ir viens no investoriem, kas atbalsta uzņēmumu.
Delos Data plāno izmantot jauno kapitālu, lai palielinātu aparatūras un programmatūras inženieru komandas un paātrinātu produktu izstrādi un pārdošanu.
Laukums ir tiešs. Vairāk AI mikroshēmu iegāde nedod nekādu labumu, ja šie procesori pavada pārāk daudz laika, gaidot informācijas saņemšanu.
“Man var būt visi pasaulē esošie datori, un, ja es nevaru panākt, lai šīs ierīces efektīvi sazinātos savā starpā, man ir daudz karstas aparatūras, dedzinoši vati un sēžu šeit, vicinot īkšķus,” saskaņā ar Reuters sacīja Gelsingers.
AI sašaurinājums pārvietojas starp mikroshēmām
Pirmajā ģeneratīvā AI uzplaukuma posmā galvenā uzmanība tika pievērsta milzīgu modeļu apmācībai, izmantojot Nvidia GPU kopas, kas savienotas, izmantojot Nvidia tīkla tehnoloģiju. AI infrastruktūra kļūst neviendabīgāka, jo uzņēmumi izvieto modeļus plašā mērogā un AI aģenti veic ilgākus un noturīgākus uzdevumus.
Šīs darba slodzes var aptvert GPU, CPU, pielāgotus paātrinātājus, atmiņu un krātuvi. Delos Data uzskata šo augošo maisījumu kā atvērumu.
“Dārgākais dīkstāves līdzeklis datu centrā ir GPU, centrālais procesors vai paātrinātājs, kas gaida tīklā. Izsecināšanas darba slodzes pārvieto datus tādā veidā, kādā mūsdienu starpsavienojums nekad nav paredzēts lietošanai,” sacīja Ed Doe, Delos Data izpilddirektors un līdzdibinātājs. “Šis finansējums ļauj uzņēmumam paplašināt mūsu komandu un piedāvājumus, lai holistiski atrisinātu datu pārraides problēmu, optimizējot tīklu kā AI sistēmas kodolu, tādējādi maksimāli palielinot infrastruktūras ieguldījumu atdevi un nodrošinot, ka AI var mērogot, lai neatpaliktu no MI secinājumu masveida pieauguma.”
Uzņēmums ir izstrādājis tīkla mikroshēmas un programmatūru, lai pārvietotu datus starp šiem komponentiem ar mazāku latentumu un lielāku efektivitāti, nepiesaistot klientus viena veida skaitļošanas aparatūrai.
“Mēs nezinām, kāda būs nākamā aģentūras (AI) infrastruktūras arhitektūra,” intervijā sacīja Delos Data galvenais tehnoloģiju vadītājs un līdzdibinātājs Dens Deilijs. “Taču mēs zinām, ka varam nodrošināt ātrāko un ātrāko veidu, kā pārvietot šos datus.”
Delos Data otrdien iepazīstināja ar savu Nonstop AI datu saskarni, kas, pēc uzņēmuma domām, var nodrošināt 10 reizes mazāku latentumu un 10 reizes lielāku efektivitāti. Tas pievienojas starta iepriekš paziņotajiem Nonstop AI Cluster un Nonstop AI Server produktiem.
Tie ir uzņēmuma darbības apgalvojumi, un tie būs vissvarīgākie, kad klienti pārbaudīs tehnoloģiju lielas ražošanas slodzes apstākļos. Tomēr problēma, uz kuru Delos ir vērsta, ir reāla: AI infrastruktūras operatoriem pietiekami bieži ir jānodrošina dārgi procesori, kas tiek apgādāti ar datiem, lai attaisnotu viņu ieguldīto milzīgo kapitālu.
Ekonomika kļūst arvien aktuālāka, jo AI pāriet uz secinājumiem, kur apmācīti modeļi reaģē uz lietotājiem un programmatūras aģenti veic uzdevumus. Delos atsaucas uz nozares prognozēm, kas norāda uz aptuveni 300 reižu lielāku žetonu pieprasījumu līdz 2030. gadam, un lielāko daļu šī pieauguma veido aģentu secinājumi.
Likme par sadrumstalotāku AI datu centru
Delos Data iespēja daļēji balstās uz citu maiņu, kas notiek visā AI nozarē. Nvidia joprojām ir dominējošais mākslīgā intelekta paātrinātāju piegādātājs, tomēr klientiem ir vairāk izvēles iespēju nekā ģeneratīvā AI uzplaukuma sākumā. AMD ir iespiedies dziļāk AI infrastruktūrā, Cerebras ir pievērsis uzmanību savām vafeļu mēroga sistēmām, un hiperskalori turpina izstrādāt pielāgotu silīciju.
Pats Nvidia tagad pārdod vairāku veidu procesorus AI sistēmām.
Tas rada tīkla izveides izaicinājumu. Datu centram, kas piepildīts ar dažādiem procesoriem, ir nepieciešams veids, kā pārvietot milzīgus informācijas apjomus starp tiem, neatstājot dārgu aparatūras gaidīšanu.
“Dārgākais dīkstāves līdzeklis datu centrā ir GPU, centrālais procesors vai paātrinātājs, kas gaida tīklā. Izsecināšanas darba slodzes pārvieto datus tādā veidā, kādā mūsdienu starpsavienojums nekad nav bijis paredzēts lietošanai,” sacīja Delos Data izpilddirektors un līdzdibinātājs Eds Do.
Delos šai derībai ienes zināmu vēsturi. Tās dibinātāji ir pavadījuši vairākus gadus, veidojot datu centru silīciju un sistēmas, tostarp strādājot Intel. Matter Venture Partners dibinātāja vadošais partneris Wen Hsieh teica, ka komanda ir strādājusi kopā ar datu centru tehnoloģiju divas desmitgades.
100 miljonu dolāru kārta dod Delos ievērojamu kapitālu, lai pierādītu, ka pieredze var pārvērsties jaunā AI infrastruktūras biznesā.
Gadiem ilgi AI sacīkstes tika balstītas uz to, kurš varētu uzbūvēt vai nopirkt ātrākos procesorus. Delos ir derības, ka nākamo sacīksti izšķirs tas, cik ātri visi šie procesori varēs sarunāties savā starpā.
Ja šī disertācija būs spēkā, nozare var atklāt, ka vairāk GPU piederēšana bija tikai puse no problēmas. Noturēt viņus aizņemtus varētu būt grūtākā puse.
