Lahko uporabite AWS Snowball Edge naprave na lokacijah, kot so ladje za križarjenje, naftne ploščadi in tovarniška tla z omejeno ali nič omrežne povezljivosti za široko paleto aplikacij strojnega učenja (ML), kot so nadzor, prepoznavanje obrazov in industrijski pregledi. Vendar pa je glede na oddaljeno in nepovezano naravo teh naprav uvajanje in upravljanje modelov ML na robu pogosto težavno. z AWS IoT Zelena trava in Amazon SageMaker Edge Manager, lahko izvedete sklepanje ML o lokalno ustvarjenih podatkih na napravah Snowball Edge z uporabo modelov ML, usposobljenih v oblaku. Ne samo, da imate koristi od nizke zakasnitve in prihranka pri stroških izvajanja lokalnega sklepanja, ampak tudi zmanjšate čas in trud, ki sta potrebna za pripravo modelov ML v proizvodnjo. Vse to lahko počnete ob stalnem spremljanju in izboljševanju kakovosti modela v celotnem parku naprav Snowball Edge.
V tej objavi govorimo o tem, kako lahko uporabite AWS IoT Greengrass različice 2.0 ali novejšo in Edge Manager za optimizacijo, zaščito, spremljanje in vzdrževanje preprostega klasifikacijskega modela TensorFlow za razvrščanje ladijskih kontejnerjev (connex) in ljudi.
Prvi koraki
Za začetek naročite napravo Snowball Edge (za več informacij glejte Ustvarjanje opravila AWS Snowball Edge). Naročite lahko napravo Snowball Edge s preverjenim AMI AWS IoT Greengrass.
Ko napravo prejmete, jo lahko uporabljate AWS OpsHub za Snow Family ali Odjemalec Snowball Edge da odklenete napravo. Lahko začnete Amazonski elastični računalniški oblak (Amazon EC2) z nameščenim najnovejšim AWS IoT Greengrass ali uporabite ukaze na AWS OpsHub for Snow Family.
Zaženite in namestite AMI z naslednjimi zahtevami ali zagotovite referenco AMI na konzoli Snowball pred naročilom in poslana bo z vsemi knjižnicami in podatki v AMI:
- Ogrodje ML po vaši izbiri, kot je TensorFlow, PyTorch ali MXNet
- Docker (če ga nameravate uporabljati)
- AWS IoT Zelena trava
- Vse druge knjižnice, ki jih morda potrebujete
Pripravite AMI ob naročilu naprave Snowball Edge na konzoli AWS Snow Family. Za navodila glejte Uporaba primerkov Amazon EC2 Compute. Imate tudi možnost, da posodobite AMI, potem ko je Snowball nameščen na vašo robno lokacijo.
Namestite najnovejši AWS IoT Greengrass na Snowball Edge
Če želite v svojo napravo namestiti AWS IoT Greengrass, izvedite naslednje korake:
- Namestite najnovejši AWS IoT Greengrass na vaši napravi Snowball Edge. Poskrbi
dev_tools=True
je nastavljeno imetiggv2 cli
Glej naslednjo kodo:
Sklicujemo se na --thing-name
ste izbrali tukaj, ko smo nastavili Edge Manager.
- Zaženite naslednji ukaz, da preizkusite svojo namestitev:
- Na konzoli AWS IoT potrdite uspešno registrirano napravo Snowball Edge s svojim računom AWS IoT Greengrass.
Optimizirajte modele ML z Edge Managerjem
Za uvajanje in upravljanje modela na Snowball Edge uporabljamo Edge Manger.
- Namestite agenta Edge Manager na Snowball Edge z najnovejšim AWS IoT Greengrass.
- Usposobite in shranite svoj model ML.
Svoj model ML lahko usposobite s katerim koli okvirom po svoji izbiri in ga shranite v Preprosta storitev shranjevanja Amazon (Amazon S3) vedro. Na naslednjem posnetku zaslona uporabljamo TensorFlow za usposabljanje modela z več oznakami za razvrščanje connexa in ljudi na sliki. Tukaj uporabljen model se shrani v vedro S3 tako, da se najprej ustvari datoteka .tar.
Ko je model shranjen (v tem primeru TensorFlow Lite), lahko začnete Amazon SageMaker Neo delo prevajanja modela in optimizacija modela ML za Snowball Edge Compute (SBE_C
).
- Na konzoli SageMaker pod Sklepanje v podoknu za krmarjenje izberite Kompilacijske naloge.
- Izberite Ustvari delo kompilacije.
- Poimenujte svoje delo in ustvarite ali uporabite obstoječo vlogo.
Če ustvarjate novo AWS upravljanje identitete in dostopa (IAM) zagotovite, da ima SageMaker dostop do vedra, v katerem je shranjen model.
- v Vhodna konfiguracija odsek, za Lokacija artefaktov modela, vnesite pot do
model.tar.gz
kam ste shranili datoteko (v tem primerus3://feidemo/tfconnexmodel/connexmodel.tar.gz
). - za Konfiguracija vnosa podatkov, vnesite vhodni sloj modela ML (njegovo ime in obliko). V tem primeru se imenuje
keras_layer_input
in njegova oblika je [1,224,224,3], zato vstopimo{“keras_layer_input”:[1,224,224,3]}
.
- za Ogrodje strojnega učenja, izberite TFLite.
- za Ciljna naprava, izberite sbe_c.
- pustite Možnosti prevajalnika
- za S3 Izhodna lokacija, vnesite isto mesto, kjer je shranjen vaš model s predpono (mapa)
output
. Na primer, vstopimos3://feidemo/tfconnexmodel/output
.
- Izberite Prijave se za začetek dela prevajanja.
Zdaj ustvarite paket za uvedbo modela, ki ga bo uporabljal Edge Manager.
- Na konzoli SageMaker pod Edge Manager, izberite Robna embalaža.
- Izberite Ustvarite nalog pakiranja Edge.
- v Lastnosti delovnega mesta razdelek, vnesite podrobnosti delovnega mesta.
- v Vir modela odsek, za Ime opravila kompilacije, vnesite ime, ki ste ga navedli za kompilacijsko opravilo Neo.
- Izberite Naslednji.
- v Izhodna konfiguracija odsek, za URI vedra S3, vnesite, kam želite shraniti paket v Amazon S3.
- za Ime komponente, vnesite ime za svojo komponento AWS IoT Greengrass.
Ta korak ustvari komponento modela AWS IoT Greengrass, kjer je model prenesen iz Amazon S3 in nestisnjen v lokalno shrambo na Snowball Edge.
- Ustvarite floto naprav za upravljanje skupine naprav, v tem primeru samo ene (SBE).
- za Vloga IAM¸ vnesite vlogo, ki jo je prej ustvaril AWS IoT Greengrass (–tes-role-name).
Prepričajte se, da ima zahtevana dovoljenja, tako da odprete konzolo IAM, poiščete vlogo in ji dodate zahtevane pravilnike.
- Registrirajte napravo Snowball Edge v floto, ki ste jo ustvarili.
- v Vir naprave vnesite ime naprave. Ime IoT se mora ujemati z imenom, ki ste ga uporabili prej – v tem primeru –thing-name MyGreengrassCore.
Na konzoli SageMaker lahko registrirate dodatne naprave Snowball, da jih dodate v floto naprav, kar vam omogoča združevanje in skupno upravljanje teh naprav.
Namestite modele ML v Snowball Edge z uporabo AWS IoT Greengrass
V prejšnjih razdelkih ste odklenili in konfigurirali svojo napravo Snowball Edge. Model ML je zdaj preveden in optimiziran za delovanje na Snowball Edge. S prevedenim modelom se ustvari paket Edge Manager in naprava Snowball je registrirana v floti. V tem razdelku si ogledate korake, vključene v uvajanje modela ML za sklepanje na Snowball Edge z najnovejšim AWS IoT Greengrass.
Sestavni deli
AWS IoT Greengrass vam omogoča uvajanje na robne naprave kot kombinacijo komponent in povezanih artefaktov. Komponente so dokumenti JSON, ki vsebujejo metapodatke, življenjski cikel, kaj uvesti, kdaj in kaj namestiti. Komponente tudi določajo, kateri operacijski sistem je treba uporabiti in katere artefakte je treba uporabiti pri izvajanju v različnih možnostih OS.
Artefakte
Artefakti so lahko kodne datoteke, modeli ali slike vsebnika. Na primer, komponento je mogoče definirati za namestitev knjižnice pandas Python in zagon kodne datoteke, ki bo preoblikovala podatke, ali za namestitev knjižnice TensorFlow in zagon modela za sklepanje. Sledijo primeri artefaktov, potrebnih za uvedbo aplikacije sklepanja:
- gRPC proto in Python škrbine (to se lahko razlikuje glede na vaš model in okvir)
- Koda Python za nalaganje modela in izvajanje sklepanja
Ta dva elementa sta naložena v vedro S3.
Razmestite komponente
Za namestitev so potrebne naslednje komponente:
- Agent Edge Manager (na voljo v javnih komponentah v GA)
- Model
- uporaba
Izvedite naslednje korake za namestitev komponent:
- Na konzoli AWS IoT pod Zelena trava, izberite Sestavni deliin ustvarite komponento aplikacije.
- Na seznamu javnih komponent poiščite komponento agenta Edge Manager in jo razmestite.
- Razmestite komponento modela, ki jo je ustvaril Edge Manager, ki se uporablja kot odvisnost v komponenti aplikacije.
- Razmestite komponento aplikacije v robno napravo tako, da odprete seznam uvedb AWS IoT Greengrass in ustvarite novo uvedbo.
Če imate obstoječo razmestitev, jo lahko spremenite in dodate komponento aplikacije.
Zdaj lahko preizkusite svojo komponento.
- V vaši kodi za predvidevanje ali sklepanje, razporejeni s komponento aplikacije, kodirajte logiko za lokalni dostop do datotek v napravi Snowball Edge (na primer v dohodni mapi) in zagotovite, da se predvidevanja ali obdelane datoteke premaknejo v obdelano mapo.
- Prijavite se v napravo in preverite, ali so bile napovedi izvedene.
- Nastavite kodo za izvajanje v zanki, preverjanje dohodne mape za nove datoteke, obdelavo datotek in njihovo premikanje v obdelano mapo.
Naslednji posnetek zaslona je primer nastavitve datotek pred uvedbo znotraj Snowball Edge.
Po uvedbi imajo vse testne slike zanimive razrede in so zato premaknjene v obdelano mapo.
Čiščenje
Če želite počistiti vse ali znova implementirati to rešitev od začetka, zaustavite vse primerke EC2 tako, da pokličete TerminateInstance
API proti končnim točkam, združljivim z EC2, ki se izvajajo v vaši napravi Snowball Edge. Če želite vrniti napravo Snowball Edge, glejte Izklop Snowball Edge in Vračilo naprave Snowball Edge.
zaključek
Ta objava vas je vodila skozi postopek naročanja naprave Snowball Edge z AMI po vaši izbiri. Nato s SageMakerjem sestavite model za rob, ta model zapakirate z Edge Managerjem ter ustvarite in zaženete komponente z artefakti za izvedbo sklepanja ML na Snowball Edge z uporabo najnovejšega AWS IoT Greengrass. Z Edge Managerjem lahko uvedete in posodobite svoje modele ML na floti naprav Snowball Edge ter spremljate zmogljivost na robu s shranjenimi vhodnimi in napovednimi podatki na Amazon S3. Te komponente lahko izvajate tudi kot dolgotrajne AWS Lambda funkcije, ki lahko zavrtijo model in čakajo na podatke za sklepanje.
Združite več funkcij AWS IoT Greengrass, da ustvarite odjemalca MQTT in uporabite model pub/sub za priklic drugih storitev ali mikrostoritev. Možnosti so neskončne.
Z izvajanjem sklepanja ML na Snowball Edge z Edge Managerjem in AWS IoT Greengrass lahko optimizirate, zavarujete, spremljate in vzdržujete modele ML na flotah naprav Snowball Edge. Hvala za branje in ne oklevajte z vprašanji ali komentarji v razdelku za komentarje.
Če želite izvedeti več o AWS Snow Family, AWS IoT Greengrass in Edge Manager, si oglejte naslednje:
O avtorjih
Raj Kadiyala je vodja poslovnega razvoja AI / ML v partnerski organizaciji AWS WWPS. Raj ima več kot 12 let izkušenj s strojnim učenjem in svoj prosti čas rad preživlja v raziskovanju strojnega učenja za praktične vsakodnevne rešitve in ostaja aktiven na čudovitem prostem v Coloradu.
Nida Beig je višja produktna vodja – tehnika pri Amazon Web Services, kjer dela v ekipi AWS Snow Family. Navdušena je nad razumevanjem potreb strank in uporabo tehnologije kot prevodnika transformativnega razmišljanja za zagotavljanje potrošniških izdelkov. Poleg službe uživa v potovanjih, pohodništvu in teku.
- 100
- 9
- dostop
- Račun
- aktivna
- Dodatne
- vsi
- Amazon
- Amazon EC2
- Amazon SageMaker
- Amazon Web Services
- API
- uporaba
- aplikacije
- AWS
- poslovni
- preverjanje
- Razvrstitev
- Koda
- Colorado
- komentarji
- komponenta
- Izračunajte
- dirigent
- Povezovanje
- Potrošnik
- Potrošniški izdelki
- Posoda
- Zabojniki
- Ustvarjanje
- križarjenje
- datum
- dan
- Razvoj
- naprave
- Dokumenti
- Edge
- izkušnje
- prepoznavanje obraza
- Tovarna
- družina
- Lastnosti
- prva
- FLET
- nadstropij
- Okvirni
- brezplačno
- veliko
- Odlično na prostem
- skupina
- tukaj
- pohodništvo
- Kako
- Kako
- HTTPS
- IAM
- identiteta
- slika
- industrijske
- Podatki
- obresti
- vključeni
- Internet stvari
- IT
- Java
- Job
- Zadnji
- UČITE
- učenje
- Knjižnica
- Limited
- Seznam
- obremenitev
- lokalna
- lokalno
- kraj aktivnosti
- strojno učenje
- Stave
- ML
- Model
- spremljanje
- ostalo
- NEO
- mreža
- Olje
- deluje
- operacijski sistem
- Možnost
- možnosti
- Da
- Ostalo
- na prostem
- embalaža
- partner
- ljudje
- performance
- politike
- napoved
- Napovedi
- Izdelek
- proizvodnja
- Izdelki
- javnega
- Python
- pitorha
- kakovost
- območje
- reading
- zmanjša
- Zahteve
- Run
- tek
- sagemaker
- Storitve
- nastavite
- Dostava
- ladje
- Enostavno
- sneg
- So
- rešitve
- preživeti
- Spin
- Začetek
- začel
- shranjevanje
- trgovina
- nadzor
- sistem
- tech
- Tehnologija
- tensorflo
- Test
- Razmišljanje
- čas
- Nadgradnja
- Počakaj
- web
- spletne storitve
- delo
- deluje
- let