AI jaunuzņēmumi palielina miljardiem, bet lielākā daļa naudas tiek ielietas modeļa apmācībā. Kas notiek pēc modeļa apmācības? Tam ir jāstāv ražošanā – ātri, uzticami un nemaksāja laimi. Tieši tur nonāk Baseten. Sanfrancisko bāzētais startup tikko noslēdza 75 miljonu dolāru C sērijas kārtu, kuru vadīja IVP un Spark Capital, ar atbalstu no Greylock, notiesāšanas, South Park Commons, 01 Advisors un Lachy līgavainis.
Izmantojot šo svaigo finansējumu, Baseten tagad ir piesaistījis 135 miljonus dolāru, lai risinātu vienu no AI lielākajiem izaicinājumiem: secinājumiem-AI modeļu vadīšanas process reālās lietojumprogrammās. Nauda veicinās produktu paplašināšanu, pieņemšanu darbā un globālo izaugsmi, jo uzņēmums mērogas, lai apmierinātu pieaugošo pieprasījumu.
Sanfrancisko bāzes bāzē, kuru 2019. gadā dibināja Amirs Haghighat, Tuhin Srivastava (izpilddirektors), Filips Hovess un Pankaj Gupta, kopš tā sākuma pirms sešiem gadiem ir kļuvusi par komandu, kurā ir aptuveni 60 darbinieku. Uzņēmums ir arī izveidojis spēcīgu klientu bāzi, kas apkalpo vairāk nekā 100 uzņēmumus un simtiem mazāku uzņēmumu, ieskaitot aprakstu, Patreonu un rakstnieku.
Tā kā AI efektivitāte kļūst par galveno prioritāti pēc nozīmīga ķīniešu AI laboratorijas Deepseek izrāviena janvārī, Baseten ātri pārcēlās, lai atbalstītu Deepseek R1 spriešanas modeli, kas konkurē ar Openai O1. Uzņēmums veicina savu spēju nodrošināt augstākā līmeņa sniegumu par ievērojami zemākām izmaksām nekā Openai.
DeepSeek apgalvo, ka tās modeļi tika apmācīti par nelielu daļu no izmaksām, salīdzinot ar ASV kolēģiem, palielinot paaugstinātu interesi par alternatīvām augstām cenām AI risinājumiem.
Pēc izpilddirektora Tuhina Srivastavas teiktā, Baseten ir piedzīvojis pieprasījuma pieaugumu no organizācijām, kas pēta pāreju uz DeepSeek. Uzņēmums ir smagi strādājis, lai neatpaliktu no pieaugošās intereses, nodrošinot, ka tā platforma var apmierināt uzņēmumu vajadzības, kas meklē pieejamākus AI risinājumus.
“Ir daudz cilvēku, kas maksā miljoniem dolāru par ceturtdaļu Openai un Anthropic, kuri domā:” Kā es varu ietaupīt naudu? “” Viņš teica. “Un viņi ir plūstoši.”
Pieaugošais pieprasījums pēc AI secinājumiem
AI produkti arvien vairāk iegulst modeļus kā galvenos komponentus, nevis izvēles papildinājumus. Šī maiņa nozīmē secinājumus-apmācīta modeļa vai rezultātu vai rezultātu saņemšanas procesu-ir ātri, mērogojams un rentabls. Bet secinājumu veikšana mērogā ir dārga, ko bieži nomoka lēns reakcijas laiks un GPU deficīts.
“Ikviens, kas veido AI produktu, kas neuztraucas par secinājumiem, vēl nav skāris reālu mērogu,” sacīja Vils Rīds, Spark Capital ģenerālpartneris. “Katram veiksmīgam AI produktam ir nepieciešama ārkārtas secinājumu sniegums, vai arī neviens nevēlas to izmantot. Un, kad jūs derējat par sava produkta vai sava uzņēmuma nākotni par šo sniegumu, pareizā partnera izvēle ir pārtraukšana. ”
Kā Baseten liek AI modeļiem darboties ražošanā
Daudziem uzņēmumiem pāreja no AI attīstības uz izvietošanu ir sāpīgs process. Modeļi, kas labi darbojas laboratorijas vidē, bieži cīnās ražošanā, izraisot kavēšanos, dīkstāvi un negaidītas izmaksas. Baseten platforma ir paredzēta, lai apstrādātu smago celšanu, ļaujot AI komandām koncentrēties uz savu produktu veidošanu, nevis uztraukties par infrastruktūru.
Tā vietā, lai vadītu savus datu centrus, Baseten izmanto savu programmatūru infrastruktūrā no vadošajiem mākoņu pakalpojumu sniedzējiem, piemēram, Amazon un Google. Uzņēmējdarbības klienti var integrēt savu infrastruktūru, izmantojot īpašu līmeni, savukārt Baseten vairāku mākoņu pieeja nodrošina piekļuvi lielākam GPU baseinam, nekā jebkurš atsevišķs pakalpojumu sniedzējs var piedāvāt noteiktā laikā.
“Šajā tirgū jūsu 1. diferenciācija ir tā, cik ātri jūs varat pārvietoties. Tas ir galvenais ieguvums mūsu klientiem, ”CNBC sacīja Srivastava. “Jūs varat doties uz ražošanu, neuztraucoties par uzticamību, drošību un veiktspēju.”
Kāpēc investori derē uz bāzi
Baseten pieeja jau ir uzvarējusi tādos klientos kā Abridžs, Gamma un rakstnieks, kuri paļaujas uz AI darbināmiem produktiem un nepieciešami viņu modeļi, lai veiktu reālās pasaules apstākļos.
“Mūsu klienti prioritizē augstas kvalitātes produktu ātri tirgū, un viņi izvēlas mūs, lai palīdzētu tam notikt,” sacīja Tuhins Srivastava, Baseten izpilddirektors un līdzdibinātājs. “Ātrums, uzticamība un izmaksu efektivitāte nav sarunu lielumi, un tur mēs veltām 100 procentus no mūsu uzmanības. Tā ir šī centība – un uzticība, ko esam izveidojuši kopā ar neticamu klientu grupu, kuri ir kolektīvi piesaistījuši miljardus -, kas pēdējā gada laikā ļāva mums izaugt pieckārt, pamatā ar nulles kņadu. ”
Baseten komanda ir trīskāršojusi lielumu, tagad pie 50 darbiniekiem, ar talantiem no tādiem uzņēmumiem kā Github, Google, Uber, Amazon, Palantir, Atlassian un Airtable. Uzņēmums ir arī ieviesis vairāku mākoņu atbalstu, hibrīdas mākoņu iespējas un integrāciju ar Tensorrt, padarot AI komandām vieglāk efektīvi vadīt savus modeļus.
“Baseten ir nepārtraukti koncentrējusies uz AI secinājumu veiktspējas, uzticamu, mērogojamu un daudzkodolu padarīšanu,” sacīja Sāra Guo, notiesājošā sprieduma galvenā partnere un dibinātāja. “Viņu izaugsmi veicina nobrieduša produkta piedāvājums īstajā laikā, ko paātrina spēcīgi astes virzieni: modeļa spēju uzlabošana, vairāk atvērtā koda modeļi un uzņēmumu pieaugošā interese ātri piegādā ražošanas AI lietojumprogrammas.”
Ceļš uz priekšu
Pieejot AI adopcijai, palielināsies pieprasījums pēc ātra, uzticama secinājuma. Baseten sevi pozicionē kā AI vietējo uzņēmumu pakalpojumu sniedzēju, kuriem ir jāizvieto modeļi, neveicot infrastruktūras sašaurinājumus. Ar svaigu kapitālu un pieaugošo nozares impulsu starta mērķis ir nākamajam izaugsmes posmam.
