AWS in Hugging Face sodelujeta, da naredita generativno umetno inteligenco bolj dostopno in stroškovno učinkovito

Z veseljem objavljamo razširjeno sodelovanje med AWS in Hugging Face za pospešitev usposabljanja, natančnega prilagajanja in uvajanja velikih jezikovnih in vidnih modelov, ki se uporabljajo za ustvarjanje generativnih aplikacij AI. Generativne aplikacije AI lahko izvajajo različne naloge, vključno s povzemanjem besedil, odgovarjanjem na vprašanja, ustvarjanjem kode, ustvarjanjem slik ter pisanjem esejev in člankov.

AWS ima globoko zgodovino inovacij na področju generativne umetne inteligence. Amazon na primer uporablja umetno inteligenco za zagotavljanje pogovorne izkušnje z Alexo, s katero stranke komunicirajo milijarde krat vsak teden, in vse pogosteje uporablja generativno umetno inteligenco kot del novih izkušenj, kot je Ustvarjajte z Alexa. Poleg tega je M5, skupina znotraj Amazonovega iskanja, ki pomaga ekipam v Amazonu pripeljati velike modele v svoje aplikacije, usposobila velike modele za izboljšanje rezultate iskanja na Amazon.com. AWS nenehno uvaja inovacije na vseh področjih ML, vključno z infrastrukturo, orodji Amazon SageMaker, in storitve AI, kot je npr Amazon Code Whisperer, storitev, ki izboljša produktivnost razvijalcev z ustvarjanjem priporočil za kodo na podlagi kode in komentarjev v IDE. AWS je ustvaril tudi namensko izdelane pospeševalnike ML za usposabljanje (AWS Trainium) in sklepanje (Sklepanje AWS) velikih jezikovnih in vizualnih modelov na AWS.

Hugging Face je izbral AWS, ker ponuja prilagodljivost prek najsodobnejših orodij za usposabljanje, natančno nastavitev in uvajanje modelov Hugging Face, vključno z Amazon SageMaker, AWS Trainiumin Sklepanje AWS. Razvijalci, ki uporabljajo Hugging Face, lahko zdaj preprosto optimizirajo zmogljivost in znižajo stroške, da bodo generativne aplikacije AI hitreje prenesli v proizvodnjo.

Visoko zmogljiv in stroškovno učinkovit generativni AI

Gradnja, usposabljanje in uvajanje velikih jezikovnih in vizualnih modelov je drag in dolgotrajen proces, ki zahteva globoko strokovno znanje na področju strojnega učenja (ML). Ker so modeli zelo zapleteni in lahko vsebujejo na stotine milijard parametrov, je generativni AI za mnoge razvijalce večinoma nedosegljiv.

Da bi zapolnil to vrzel, Hugging Face zdaj sodeluje z AWS, da bi razvijalcem olajšal dostop do storitev AWS in uvedel modele Hugging Face posebej za generativne aplikacije AI. Prednosti so: hitrejše usposabljanje in skaliranje, nizka zakasnitev in sklepanje z visoko zmogljivostjo. Na primer primerki Amazon EC2 Trn1, ki jih poganja AWS Trainium zagotavljajo hitrejši čas za usposabljanje, hkrati pa ponujajo do 50 % prihranka pri stroških za usposabljanje v primerjavi s primerljivimi primerki, ki temeljijo na grafični procesorji. Nove instance Inf2 Amazon EC2, ki jih poganja najnovejša generacija Sklepanje AWS, so namensko izdelani za uvajanje najnovejše generacije velikih jezikovnih in vizualnih modelov ter dvigovanje zmogljivosti Inf1 z zagotavljanjem do 4-krat višje prepustnosti in do 10-krat nižje zakasnitve. Razvijalci lahko uporabljajo AWS Trainium in AWS Inferentia prek upravljanih storitev, kot je Amazon SageMaker, storitev z orodji in poteki dela za ML. Ali pa lahko sami upravljajo na Amazon EC2.

Začnite danes

Stranke lahko začnejo uporabljati modele Hugging Face na AWS na tri načine: prek SageMakerja JumpStart, o Hugging Face AWS Deep Learning Containers (DLC),  ali vaje za uvajanje vaših modelov v AWS Trainium ali AWS Inferentia. Hugging Face DLC je opremljen z optimiziranimi transformatorji, nabori podatkov in knjižnicami tokenizerjev, ki vam omogočajo natančno nastavitev in uvajanje generativnih aplikacij AI v obsegu v urah namesto tednih – z minimalnimi spremembami kode. DLC-ji SageMaker JumpStart in Hugging Face so na voljo v vse regije kjer je Amazon SageMaker Na voljo in so brez dodatnih stroškov. Preberi Dokumentacija in forum za razpraves če želite izvedeti več ali preizkusiti vzorčni zvezki danes.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/aws-and-hugging-face-collaborate-to-make-generative-ai-more-accessible-and-cost-efficient/