Ar ģeneratīvo AI pieplūdumu mašīnmācīšanās modeļu pārvietošana no attīstības līdz ražošanai ir kļuvusi par lielāku izaicinājumu. Uzņēmumi saskaras ar tādām problēmām kā pārvaldība, datu privātums un pieaugošās infrastruktūras izmaksas – it īpaši ar GPU orķestrēšanas un mērogošanas modeļiem -, kas palēnina inovācijas. Tagad Sanfrancisko bāzētā AI infrastruktūras startēšana ir misijā, lai risinātu šos izaicinājumus un vienkāršotu AI infrastruktūru, izveidojot pašpietiekamas sistēmas, kurās AI pārvalda AI, ļaujot uzņēmumiem koncentrēties uz jauninājumiem.
Ievadiet TrueFoundry, AI izvietošanas un mērogošanas platformu, kas palīdz uzņēmumiem efektīvi un droši izvietot, pārvaldīt un mērogot AI lietojumprogrammas – bez bankas pārkāpšanas
Šodien TrueFoundry paziņoja, ka ir nodrošinājis 19 miljonus dolāru A sērijas finansējumā, kuru vada Intel Capital. Eniac Ventures un Peak XV’s Surge (agrāk Sequoia Capital India & Sea) pievienojās kārtai kopā ar jauno investoru Jump Capital un vairākiem eņģeļu investoriem, ieskaitot Gokul Rajaram, Mohit Aron un Fortune 1000 uzņēmumu vadītājus. Darījuma ietvaros Intel Capital investīciju direktors Avi Bharadwaj ieņems vietu TrueFoundry valdē.
“Uzņēmumi, kas izmanto TrueFoundry, ir izveidojuši un uzsākuši savas iekšējās AI platformas tikai divos mēnešos, redzot ROI četru mēnešu laikā-salīdzinot ar nozares vidējo rādītāju 14 mēnešus,” sacīja Nikunj Bajaj, TrueFoundry izpilddirektors un līdzdibinātājs. “Mūsu platforma vienmērīgi integrējas dažādos mākoņos, modeļos un ietvaros, novēršot pārdevēju ieslodzījumu, vienlaikus saglabājot izvietošanu pielāgojamas jaunām AI tendencēm, piemēram, lupatām un aģentiem.”
TrueFoundry platforma kā pakalpojums (PAAS) ir paredzēts uzņēmuma AI/ML komandām, lai izveidotu, izvietotu un pārvaldītu lielas valodas modeļa (LLM) lietojumprogrammas mākonī vai infrastruktūrā. Tas ir draudzīgs izstrādātājam, padarot AI izvietošanu taisnu pilnu kaudzes datu zinātniekiem, lai patstāvīgi izveidotu, pārbaudītu un mērogotu lietojumprogrammas. Platforma apvieno galvenās AI izvietošanas funkcijas, piemēram, modeļa kataloģizēšanu, precizēšanu un API izvietošanu-vienā sistēmā, nodrošinot drošu, efektīvu darbību, vienlaikus pārvarot plaisu starp DevOps un MLOPS.
Šis finansējums nāk pēc spēcīga TrueFoundry gada, ko iezīmē ar 4x pieaugumu klientu bāzē, izvietojot vairāk nekā 1000 ML darba slodzes kopas un nodrošinot partnerību ar Fortune 500 uzņēmumiem, piemēram, Siemens Healthiners, ResMed, automatizāciju jebkur, spēlēm 24 × 7 un 7 un 7, un 7, un NVIDIA.
Sanfrancisko bāzētais startup, ko 2021. gadā dibināja Nikunj Bajaj, Anuraag Gutgutia un Abhishek Choudhary, koncentrējas uz to, lai palīdzētu uzņēmuma AI/ML komandām pārvaldīt lielas valodas modeļa lietojumprogrammas ar ātrumu, izmaksu efektivitāti un spēcīgu pārvaldību. Platforma vienkāršo visu AI izvietošanas procesu ar tādām funkcijām kā automātiskā mērogošana, proaktīva apkope un centralizētas piekļuves vadības ierīces. TrueFoundry mērķis ir izveidot pašpietiekamu AI ekosistēmu, kurā AI pārvalda AI, palielinot ātrumu, mērogu un jauninājumus uzņēmumiem.
TrueFoundry platforma ir palīdzējusi klientiem paātrināt attīstību, sasniegt ātrākus biznesa rezultātus, ietaupīt uz infrastruktūras izmaksām un mērogot ar mazākām komandām. Piemēram, tas optimizēja NVIDIA GPU izmantošanu LLM darba slodzēm, automatizējot resursu sadalījumu un darba plānošanu, samazinot dīkstāves laiku, samazinot izmaksas un uzlabojot efektivitāti. Tā reālā laika uzraudzība un adaptīvā mērogošana nodrošināja uzticamu AI modeļa apmācību un izvietošanu, savukārt bezšuvju integrācija paātrināja iterāciju un laika vērtību.
“TrueFoundry vienkāršo AI izvietošanu komandām, palīdzot tām ātri un efektīvi izveidot, izvietot un appludināt lietojumprogrammas,” sacīja Intel Capital investīciju direktors Avi Bharadwaj. “Ar lielu uzmanību pievēršot rentabilitātei, pārvaldībai un drošībai, viņi risina galvenos izaicinājumus uzņēmumiem, un mēs uzskatām, ka viņi ir pozicionēti augošajā AI infrastruktūras telpā.”
A sērijas finansējums, kas palielina uzņēmuma kopsummu līdz 21 miljonam dolāru, palīdzēs TrueFoundry paplašināt savu komandu un palielināt savus centienus piesaistīt vairāk klientu.
“TrueFoundry mēs veidojam nākotni, kurā AI pārvalda AI-kas rodas cilvēku sastrēgumu un nesasniedzu ātrumu un mērogu,” sacīja Abhishek Choudhary, Trufoundry CTO un līdzdibinātājs. “Mūsu platforma apstrādā infrastruktūru ar automātisku mērogošanu, viedo apkopi un proaktīvu problēmu atklāšanu, lai nodrošinātu vienmērīgu darbību. Centralizējot modeļa piekļuvi, izmaksu izsekošanu un stingru datu privātuma saglabāšanu, mēs garantējam drošību un atbilstību, dodot uzņēmumiem iespēju bez piepūles un efektīvi izvietot AI bez piepūles un efektīvi. ”
Raugoties nākotnē, TrueFoundry plāno no jauna definēt AI izvietošanu ar savu AI aģentu-proaktīvu, pašpietiekamu sistēmu, kas paredz un pielāgojas. Automatizējot darbplūsmas, optimizējot resursus un atrisinot iespējamās problēmas pirms to rašanās, AI aģents palīdz uzņēmumiem izvietot gudrāku, ātrāk un sasniegt rezultātus ar lielāku efektivitāti.