Pēc veiksmīgās “Code Llama 70B” palaišanas janvārī, Meta tagad ir izlaidusi jaunāko sava atvērtā koda LLM spēkstacijas Llama 3 iterāciju Amazon AWS infrastruktūrā.
E-pastā TechStartups Amazon atklāja, ka “Meta Llama 3 tagad ir pieejams, izmantojot Amazon SageMaker JumpStart.” Šī jaunākā versija seko tās priekšgājēja Llama 2 pēdās, kas kopš iepriekšējā gada ir pieejama vietnēs Amazon SageMaker JumpStart un Amazon Bedrock.
Ar diviem parametru izmēriem — 8B un 70B ar 8 k konteksta garumu — Llama 3 sola nodrošināt dažādus lietošanas gadījumus ar uzlabojumiem argumentācijā, koda ģenerēšanā un norādījumu izpildē. Llama 3 arhitektūra izmanto tikai dekodera transformatora dizainu kopā ar jaunu marķieri, kā rezultātā modeļa veiktspēja ir uzlabota 128 k izmērā.
“Lama 3 ir pieejams divos parametru izmēros — 8B un 70B ar 8 k konteksta garumu —, kas var atbalstīt plašu lietojuma gadījumu klāstu ar uzlabojumiem argumentācijā, koda ģenerēšanā un norādījumu izpildē,” rakstīja Amazon.
Ja izmantojat SageMaker Studio, turpat atradīsit SageMaker JumpStart, kas piedāvā virkni parocīgu lietu, piemēram, iepriekš apmācītus modeļus, piezīmjdatorus un gatavus risinājumus. Vienkārši dodieties uz sadaļu “Iepriekš izveidotie un automatizētie risinājumi”, un viss ir gatavs!
Kad atrodaties SageMaker JumpStart lapā, ir diezgan vienkārši atrast dažādus modeļus. Vienkārši pārlūkojiet centrus, kas būtībā ir sadaļas, kas nosauktas to cilvēku vārdā, kuri nodrošina modeļus. Piemēram, ja meklējat Llama 3 modeļus, dodieties uz Meta centru. Un, ja jūs tos nepamanāt uzreiz, neuztraucieties — vienkārši mēģiniet atjaunināt savu SageMaker Studio versiju, izslēdzot to un restartējot. Tam vajadzētu darīt to triku!
Turklāt Meta ir uzlabojusi pēcapmācības procedūras, lai ievērojami samazinātu viltus atteikumu skaitu, uzlabotu saskaņošanu un palielinātu modeļu atbilžu dažādību. Lietotāji tagad ir pilnvaroti izmantot Llama 3 veiklības un MLOps vadības kombinētās priekšrocības, izmantojot Amazon SageMaker funkcijas, piemēram, SageMaker cauruļvadus, SageMaker atkļūdotāju vai konteineru žurnālus. Turklāt modelis tiks izvietots AWS drošās robežās saskaņā ar viņu VPC kontroli, stiprinot datu drošības pasākumus.
Pašlaik AWS ir vienīgais mākoņdatošanas pakalpojumu sniedzējs, kas klientiem nodrošina piekļuvi vispieprasītākajiem un vismodernākajiem pamatu modeļiem. Amazon Bedrock pastāvīgi uzņemas vadību, padarot šos populāros modeļus viegli pieejamus:
- Amazon Bedrock ir izcils un ekskluzīvs pārvaldītais pakalpojums, kas piedāvā visus Anthropic Claude 3 modeļus — Opus, Sonnet un Haiku — kā parasti ir pieejams.
- AWS ir ieviesusi visus Mistral AI modeļus, tostarp Mistral Large, Amazon Bedrock.
- Amazon Bedrock vadīja Meta Llama 2 pieejamību, izmantojot pārvaldītu API.
Funkcionējot kā pilnībā pārvaldīts pakalpojums, Amazon Bedrock kalpo kā galamērķis plašai augstas veiktspējas pamatu modeļu izvēlei no tādiem nozares titāniem kā AI21 Labs, Amazon, Anthropic, Cohere, Meta, Mistral AI un Stability AI. var piekļūt, izmantojot vienu API. Turklāt tas nodrošina visaptverošu iespēju komplektu, kas ietver aģentus, aizsargmargas, zināšanu bāzes un modeļu novērtēšanu, dodot organizācijām iespēju izstrādāt ģeneratīvas AI lietojumprogrammas, liekot uzsvaru uz drošību, privātumu un atbildīgu AI. Desmitiem tūkstošu organizāciju visā pasaulē paļaujoties uz Amazon Bedrock, tā ir nostiprinājusi savu statusu kā galvenais spēlētājs ģeneratīvo AI lietojumprogrammu jomā.
