Amazon SageMaker kunder kan se och hantera sina kvotgränser genom Servicekvoter. Dessutom kan de se användningsstatistik nästan i realtid och skapa amazoncloudwatch metrik för att visa och programmässigt fråga SageMaker-kvoter.
SageMaker hjälper dig att bygga, träna och distribuera modeller för maskininlärning (ML) med lätthet. För att lära dig mer, se Komma igång med Amazon SageMaker. Service Quotas förenklar gränshanteringen genom att du kan se och hantera dina kvoter för SageMaker från en central plats.
Med tjänstekvoter kan du se det maximala antalet resurser, åtgärder eller objekt i ditt AWS-konto eller AWS-region. Du kan också använda Servicekvoter för att begära en ökning av justerbara kvoter.
Med den ökande användningen av MLOps-praxis, och därför efterfrågan på resurser avsedda för ML-modellexperiment och omskolning, behöver fler kunder köra flera instanser, ofta av samma instanstyp samtidigt.
Många datavetenskapsteam arbetar ofta parallellt och använder flera instanser för bearbetning, utbildning och inställning samtidigt. Tidigare nådde användare ibland en justerbar kontogräns för någon speciell instanstyp och måste manuellt begära en gränshöjning från AWS.
För att begära kvotökningar manuellt från Service Quotas UI, kan du välja kvoten från listan och välja Begär kvothöjning. För mer information, se Begär en kvothöjning.
I det här inlägget visar vi hur du kan använda de nya funktionerna för att automatiskt begära gränshöjningar när en hög nivå av instanser nås.
Lösningsöversikt
Följande diagram illustrerar lösningsarkitekturen.
Denna arkitektur inkluderar följande arbetsflöde:
- Ett CloudWatch-mått övervakar användningen av resursen. Ett CloudWatch-larm utlöses när resursanvändningen överstiger en viss förkonfigurerad tröskel.
- Ett meddelande skickas till Amazon enkel meddelandetjänst (Amazon SNS).
- Meddelandet tas emot av en AWS Lambda funktion.
- Lambdafunktionen begär kvothöjningen.
Förutom att begära en kvotökning för det specifika kontot, kan Lambdafunktionen också lägga till kvotökningen till organisationsmall (upp till 10 kvoter). På så sätt har alla nya konton som skapats under en given AWS-organisation de ökade kvotförfrågningarna som standard.
Förutsättningar
Slutför följande förutsättningssteg:
- Ställ in en AWS-konto och skapa en AWS identitets- och åtkomsthantering (IAM) användare. För instruktioner, se Säkra ditt AWS-konto.
- installera AWS SAM CLI.
Implementera med hjälp av AWS Serverless Application Model
För att distribuera applikationen med hjälp av GitHub repo, kör följande kommando i terminalen:
Efter att lösningen har distribuerats bör du ha ett nytt larm på CloudWatch-konsolen. Detta larm övervakar användningen av SageMaker notebook-instanser för ml.t3.medium-instansen.
Om din resursanvändning når mer än 50 % utlöses larmet och lambdafunktionen begär en ökning.
Om kontot du har är en del av en AWS-organisation och du har mall för begäran om kvot aktiverat, bör du också se dessa ökningar på mallen, om mallen har tillgängliga platser. På så sätt har nya konton från den organisationen också höjningarna konfigurerade när de skapas.
Implementera med CloudWatch-konsolen
Utför följande steg för att distribuera applikationen med CloudWatch-konsolen:
- Välj på CloudWatch-konsolen Alla larm i navigeringsfönstret.
- Välja Skapa larm.
- Välja Välj måttenhet.
- Välja Användning.
- Välj måtten du vill övervaka.
- Välj tillstånd för när du vill att larmet ska utlösas.
För fler möjliga konfigurationer vid konfigurering av larmet, se Skapa ett CloudWatch-larm baserat på en statisk tröskel.
- Konfigurera SNS-ämnet för att meddelas om larmet.
Du kan också använda Amazon SNS för att utlösa en Lambda-funktion när larmet utlöses. Ser Använder AWS Lambda med Amazon SNS för mer information.
- För Larmnamn, ange ett namn.
- Välja Nästa.
- Välja Skapa larm.
Städa upp
För att rensa upp resurserna som skapats som en del av det här inlägget, se till att ta bort alla skapade stackar. För att göra det, kör följande kommando:
Slutsats
I det här inlägget visade vi hur du kan använda den nya integrationen från SageMaker med Service Quotas för att automatisera begäranden om kvotökningar för SageMaker-resurser. På så sätt kan datavetenskapsteam effektivt arbeta parallellt och minska problem relaterade till otillgänglighet av instanser.
Du kan lära dig mer om Amazon SageMaker-kvoter genom att gå till dokumentation. Du kan också lära dig mer om tjänstekvoter här..
Om författarna
Bruno Klein är en maskininlärningsingenjör i AWS ProServe-teamet. Han gillar särskilt att skapa automatiseringar och förbättra livscykeln för modeller i produktionen. På fritiden gillar han att vara utomhus och vandra.
Paras Mehra är Senior Product Manager på AWS. Han är fokuserad på att hjälpa till att bygga Amazon SageMaker Training and Processing. På sin fritid gillar Paras att umgås med sin familj och cykla landsvägscyklar runt Bay Area. Du kan hitta honom på LinkedIn.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
- Källa: https://aws.amazon.com/blogs/machine-learning/best-practices-for-viewing-and-querying-amazon-sagemaker-service-quota-usage/
- :är
- $UPP
- 10
- 100
- 7
- 8
- a
- Om oss
- tillgång
- åtkomst
- Konto
- konton
- åtgärder
- Dessutom
- justerbar
- larm
- Alla
- tillåta
- amason
- Amazon SageMaker
- och
- Ansökan
- arkitektur
- OMRÅDE
- runt
- AS
- At
- automatisera
- automatiskt
- tillgänglig
- AWS
- AWS Lambda
- baserat
- bukt
- BE
- BÄST
- bästa praxis
- Bortom
- SLUTRESULTAT
- by
- KAN
- CD
- centrala
- vissa
- Välja
- fullborda
- tillstånd
- konfigurationer
- Konsol
- skapa
- skapas
- Skapa
- skapande
- Kunder
- datum
- datavetenskap
- Standard
- Efterfrågan
- distribuera
- utplacerade
- betecknad
- effektivt
- aktiverad
- ingenjör
- ange
- Eter (ETH)
- familj
- Funktioner
- hitta
- fokuserade
- efter
- För
- Fri
- från
- fungera
- gå
- ges
- Går
- Har
- hjälpa
- hjälper
- Hög
- vandring
- Hur ser din drömresa ut
- html
- http
- HTTPS
- IAM
- Identitet
- förbättra
- in
- innefattar
- Öka
- ökat
- Ökar
- ökande
- informationen
- exempel
- instruktioner
- integrering
- problem
- artikel
- jpg
- LÄRA SIG
- inlärning
- Nivå
- livscykel
- tycka om
- BEGRÄNSA
- gränser
- Lista
- läge
- Maskinen
- maskininlärning
- göra
- hantera
- ledning
- chef
- manuellt
- maximal
- Medium
- meddelande
- metriska
- Metrics
- ML
- MLOps
- modell
- modeller
- Övervaka
- monitorer
- mer
- multipel
- namn
- Navigering
- Nära
- Behöver
- Nya
- Nya funktioner
- Nästa
- anteckningsbok
- anmälan
- antal
- of
- on
- organisation
- utomhus
- panelen
- Parallell
- del
- särskilt
- särskilt
- plato
- Platon Data Intelligence
- PlatonData
- möjlig
- Inlägg
- praxis
- tidigare
- bearbetning
- Produkt
- produktchef
- Produktion
- nå
- kommit fram till
- når
- realtid
- mottagna
- minska
- region
- relaterad
- begära
- förfrågningar
- resurs
- Resurser
- omskolning
- väg
- Körning
- sagemaker
- Sam
- Samma
- Vetenskap
- senior
- Server
- service
- flera
- skall
- show
- Enkelt
- spelautomater
- lösning
- några
- specifik
- spendera
- Spendera
- Stacks
- igång
- Steg
- grupp
- lag
- mall
- terminal
- den där
- Smakämnen
- deras
- därför
- tröskelvärde
- Genom
- tid
- till
- ämne
- Tåg
- Utbildning
- utlösa
- triggas
- sann
- under
- Användning
- användning
- Användare
- användare
- utsikt
- Sätt..
- med
- Arbete
- arbetsflöde
- skulle
- Din
- zephyrnet