Sen kullanabilirsiniz AWS Kartopu Kenarı gözetim, yüz tanıma ve endüstriyel inceleme gibi çok çeşitli makine öğrenimi (ML) uygulamaları için yolcu gemileri, petrol platformları ve fabrika katları gibi ağ bağlantısının sınırlı olduğu veya hiç olmadığı yerlerdeki cihazlar. Ancak bu cihazların uzak ve bağlantısız doğası göz önüne alındığında, ML modellerini uçta dağıtmak ve yönetmek genellikle zordur. İle AWS IoT Greengrass ve Amazon SageMaker Kenar Yöneticisi, bulutla eğitilmiş ML modellerini kullanarak Snowball Edge cihazlarında yerel olarak oluşturulan veriler üzerinde ML çıkarımı gerçekleştirebilirsiniz. Yalnızca yerel çıkarımı çalıştırmanın düşük gecikme süresinden ve maliyet tasarruflarından faydalanmakla kalmaz, aynı zamanda makine öğrenimi modellerini üretime geçirmek için gereken zaman ve çabayı da azaltırsınız. Tüm bunları, Snowball Edge cihaz filonuz genelinde model kalitesini sürekli izleyip geliştirirken yapabilirsiniz.
Bu yazıda, nakliye konteynırlarını (connex) ve insanları sınıflandırmak için basit bir TensorFlow sınıflandırma modelini optimize etmek, güvenliğini sağlamak, izlemek ve sürdürmek için AWS IoT Greengrass sürüm 2.0 veya üstünü ve Edge Manager'ı nasıl kullanabileceğinizden bahsediyoruz.
Başlarken
Başlamak için bir Snowball Edge cihazı sipariş edin (daha fazla bilgi için bkz. AWS Snowball Edge İşi Oluşturma). Üzerinde AWS IoT Greengrass onaylı AMI bulunan bir Snowball Edge cihazı sipariş edebilirsiniz.
Cihazı aldıktan sonra kullanabilirsiniz. AWS OpsHub Kar Ailesi için veya Kartopu Kenar istemcisi Cihazın kilidini açmak için. Bir başlayabilirsiniz Amazon Elastik Bilgi İşlem Bulutu (Amazon EC2) örneğini en son AWS IoT Greengrass yüklü olarak kullanın veya AWS OpsHub for Snow Family'deki komutları kullanın.
Aşağıdaki gereksinimlere sahip bir AMI başlatın ve yükleyin veya sipariş vermeden önce Snowball konsolunda bir AMI referansı sağlayın; AMI'deki tüm kitaplıklar ve verilerle birlikte gönderilecektir:
- TensorFlow, PyTorch veya MXNet gibi seçtiğiniz ML çerçevesi
- Docker (kullanmayı düşünüyorsanız)
- AWS IoT Greengrass
- İhtiyacınız olabilecek diğer kütüphaneler
AWS Snow Family konsolunda Snowball Edge cihazını sipariş ederken AMI'yi hazırlayın. Talimatlar için bkz. Amazon EC2 İşlem Bulut Sunucularını Kullanma. Ayrıca şunları yapma seçeneğiniz de vardır: Snowball uç konumunuza konuşlandırıldıktan sonra AMI'yi güncelleyin.
En yeni AWS IoT Greengrass'ı Snowball Edge'e yükleyin
AWS IoT Greengrass'ı cihazınıza yüklemek için aşağıdaki adımları tamamlayın:
- En yeni AWS IoT Greengrass'ı yükleyin Snowball Edge cihazınızda. Emin olmak
dev_tools=True
sahip olacak şekilde ayarlandıggv2 cli
Aşağıdaki koda bakın:
Referans veriyoruz --thing-name
Edge Manager'ı kurarken burayı seçtiniz.
- Kurulumunuzu test etmek için aşağıdaki komutu çalıştırın:
- AWS IoT konsolunda başarıyla kaydedilen Snowball Edge cihazını AWS IoT Greengrass hesabınızla doğrulayın.
ML modellerini Edge Manager ile optimize edin
Modeli Snowball Edge'de dağıtmak ve yönetmek için Edge Manger'ı kullanıyoruz.
- En son AWS IoT Greengrass'ı kullanarak Edge Manager aracısını Snowball Edge'e yükleyin.
- ML modelinizi eğitin ve saklayın.
ML modelinizi istediğiniz herhangi bir çerçeveyi kullanarak eğitebilir ve bir klasöre kaydedebilirsiniz. Amazon Basit Depolama Hizmeti (Amazon S3) kovası. Aşağıdaki ekran görüntüsünde, bir görüntüdeki connex'i ve insanları sınıflandırmak üzere çok etiketli bir modeli eğitmek için TensorFlow'u kullanıyoruz. Burada kullanılan model, önce bir .tar dosyası oluşturularak bir S3 klasörüne kaydedilir.
Model kaydedildikten sonra (bu durumda TensorFlow Lite), bir model başlatabilirsiniz. Amazon SageMaker Neo modelin derleme işini yapın ve ML modelini Snowball Edge Compute için optimize edin (SBE_C
).
- SageMaker konsolunda, sonuç gezinme bölmesinde öğesini seçin. Derleme işleri.
- Klinik Derleme işi oluştur.
- İşinize bir ad verin ve mevcut bir rol oluşturun veya kullanın.
Yeni bir tane oluşturuyorsanız AWS Kimlik ve Erişim Yönetimi (IAM) rolü, SageMaker'ın modelin kaydedildiği pakete erişebildiğinden emin olun.
- içinde Giriş yapılandırması bölümü Model yapıların konumu, yolunu girin
model.tar.gz
dosyayı kaydettiğiniz yer (bu durumda,s3://feidemo/tfconnexmodel/connexmodel.tar.gz
). - İçin Veri girişi yapılandırmasıML modelinin giriş katmanını (adını ve şeklini) girin. Bu durumda buna denir
keras_layer_input
ve şekli [1,224,224,3] olduğundan giriyoruz{“keras_layer_input”:[1,224,224,3]}
.
- İçin Makine öğrenimi çerçevesi, seçmek TFLite.
- İçin Hedef cihaz, seçmek sbe_c.
- Ayrılmak Derleyici seçenekleri
- İçin S3 Çıkış konumu, modelinizin kaydedildiği konumun aynısını önekle (klasör) girin
output
. Örneğin, girdiğimizs3://feidemo/tfconnexmodel/output
.
- Klinik Gönder derleme işini başlatmak için.
Artık Edge Manager tarafından kullanılacak bir model dağıtım paketi oluşturacaksınız.
- SageMaker konsolunda, Kenar Yöneticisi, seçmek Kenar paketleme işleri.
- Klinik Edge paketleme işi oluştur.
- içinde İş özellikleri bölümüne iş ayrıntılarını girin.
- içinde Model kaynağı bölümü Derleme işi adı, Neo derleme işi için sağladığınız adı girin.
- Klinik Sonraki.
- içinde Çıkış yapılandırması bölümü S3 kova URI'sıpaketi Amazon S3'te depolamak istediğiniz yeri girin.
- İçin Bileşen AdıAWS IoT Greengrass bileşeniniz için bir ad girin.
Bu adım, modelin Amazon S3'ten indirildiği ve sıkıştırılmamış olarak Snowball Edge'deki yerel depolamaya indirildiği bir AWS IoT Greengrass model bileşeni oluşturur.
- Bir grup cihazı, bu durumda yalnızca bir cihazı (SBE) yönetmek için bir cihaz filosu oluşturun.
- İçin IAM rolü¸ daha önce AWS IoT Greengrass tarafından oluşturulan rolü girin (–tes-role-name).
IAM konsoluna giderek, rolü arayarak ve gerekli politikaları ona ekleyerek gerekli izinlere sahip olduğundan emin olun.
- Snowball Edge cihazını oluşturduğunuz filoya kaydedin.
- içinde Cihaz kaynağı bölümüne cihaz adını girin. IoT adının daha önce kullandığınız adla (bu durumda –thing-name MyGreengrassCore) eşleşmesi gerekir.
Ek Snowball cihazlarını cihaz filosuna eklemek için SageMaker konsoluna kaydedebilirsiniz; bu, bu cihazları birlikte gruplamanıza ve yönetmenize olanak tanır.
AWS IoT Greengrass'ı kullanarak ML modellerini Snowball Edge'e dağıtın
Önceki bölümlerde Snowball Edge cihazınızın kilidini açtınız ve yapılandırdınız. ML modeli artık Snowball Edge'de performans için derlendi ve optimize edildi. Derlenen modelle bir Edge Manager paketi oluşturulur ve Snowball cihazı bir filoya kaydedilir. Bu bölümde, en son AWS IoT Greengrass ile Snowball Edge'e çıkarım yapmak için ML modelini dağıtmayla ilgili adımlara bakacaksınız.
Bileşenler
AWS IoT Greengrass, bileşenlerin ve ilgili yapıların bir kombinasyonu olarak uç cihazlara dağıtım yapmanıza olanak tanır. Bileşenler meta verileri, yaşam döngüsünü, neyin ne zaman dağıtılacağını ve neyin yükleneceğini içeren JSON belgeleridir. Bileşenler ayrıca farklı işletim sistemi seçeneklerinde çalışırken hangi işletim sisteminin kullanılacağını ve hangi yapıların kullanılacağını da tanımlar.
Eserleri
Yapıtlar kod dosyaları, modeller veya kapsayıcı görüntüler olabilir. Örneğin, bir pandanın Python kütüphanesini kurmak ve verileri dönüştürecek bir kod dosyasını çalıştırmak veya bir TensorFlow kütüphanesi kurup modeli çıkarım için çalıştırmak için bir bileşen tanımlanabilir. Çıkarım uygulaması dağıtımı için gereken örnek yapılar şunlardır:
- gRPC protokolü ve Python taslakları (bu, modelinize ve çerçevenize bağlı olarak farklı olabilir)
- Modeli yüklemek ve çıkarımı gerçekleştirmek için Python kodu
Bu iki öğe bir S3 paketine yüklenir.
Bileşenleri dağıtın
Dağıtım aşağıdaki bileşenlere ihtiyaç duyar:
- Edge Manager aracısı (GA'daki genel bileşenlerde mevcuttur)
- Model
- Uygulama
Bileşenleri dağıtmak için aşağıdaki adımları tamamlayın:
- AWS IoT konsolunda, altında Yeşil çimen, seçmek Bileşenlerve uygulama bileşenini oluşturun.
- Genel bileşenler listesinde Edge Manager aracı bileşenini bulun ve dağıtın.
- Uygulama bileşeninde bağımlılık olarak kullanılan, Edge Manager tarafından oluşturulan bir model bileşenini dağıtın.
- AWS IoT Greengrass dağıtımları listesine gidip yeni bir dağıtım oluşturarak uygulama bileşenini uç cihaza dağıtın.
Mevcut bir dağıtımınız varsa uygulama bileşenini eklemek için bunu revize edebilirsiniz.
Artık bileşeninizi test edebilirsiniz.
- Uygulama bileşeniyle dağıtılan tahmin veya çıkarım kodunuzda, Snowball Edge cihazındaki dosyalara (örneğin, gelen klasördeki) yerel olarak erişmek ve tahminlerin veya işlenen dosyaların işlenen bir klasöre taşınmasını sağlamak için mantığı kodlayın.
- Tahminlerin yapılıp yapılmadığını görmek için cihazda oturum açın.
- Kodu bir döngüde çalışacak, gelen klasörde yeni dosyalar olup olmadığını kontrol edecek, dosyaları işleyecek ve işlenen klasöre taşıyacak şekilde ayarlayın.
Aşağıdaki ekran görüntüsü, Snowball Edge'e dağıtılmadan önce dosyaların örnek kurulumudur.
Dağıtımdan sonra tüm test görüntülerinin ilgi çekici sınıfları vardır ve bu nedenle işlenen klasöre taşınır.
Temizlemek
Her şeyi temizlemek veya bu çözümü sıfırdan yeniden uygulamak için tüm EC2 bulut sunucularını durdurun. TerminateInstance
Snowball Edge cihazınızda çalışan EC2 uyumlu uç noktalara karşı API. Snowball Edge cihazınızı iade etmek için bkz. Kartopu Kenarını Kapatmak ve Snowball Edge Cihazını İade Etme.
Sonuç
Bu yazı, seçtiğiniz bir AMI'ye sahip bir Snowball Edge cihazını nasıl sipariş edebileceğiniz konusunda size yol gösterdi. Daha sonra SageMaker'ı kullanarak uç için bir model derler, Edge Manager'ı kullanarak bu modeli paketler ve en son AWS IoT Greengrass'ı kullanarak Snowball Edge'de makine öğrenimi çıkarımı gerçekleştirmek için yapıtlarla bileşenler oluşturup çalıştırırsınız. Edge Manager ile ML modellerinizi Snowball Edge cihazlarından oluşan bir filoya dağıtabilir ve güncelleyebilir ve Amazon S3'te kayıtlı giriş ve tahmin verileriyle uçtaki performansı izleyebilirsiniz. Bu bileşenleri uzun süreli olarak da çalıştırabilirsiniz. AWS Lambda Bir modeli döndürebilen ve verilerin çıkarım yapmasını bekleyebilen işlevler.
Bir MQTT istemcisi oluşturmak ve diğer hizmetleri veya mikro hizmetleri çağırmak için bir pub/sub modelini kullanmak için AWS IoT Greengrass'ın çeşitli özelliklerini birleştirirsiniz. İmkanlar sonsuzdur.
Edge Manager ve AWS IoT Greengrass ile Snowball Edge'de ML çıkarımını çalıştırarak, Snowball Edge cihaz filolarındaki ML modellerini optimize edebilir, güvenli hale getirebilir, izleyebilir ve bakımını yapabilirsiniz. Okuduğunuz için teşekkürler ve lütfen yorum bölümüne soru veya yorumlarınızı bırakmaktan çekinmeyin.
AWS Snow Ailesi, AWS IoT Greengrass ve Edge Manager hakkında daha fazla bilgi edinmek için aşağıdakilere göz atın:
Yazarlar Hakkında
Raj Kadiyala AWS WWPS İş Ortağı Kuruluşunda bir AI/ML Tech İş Geliştirme Yöneticisidir. Raj, Makine Öğrenimi alanında 12 yılı aşkın deneyime sahiptir ve boş zamanını pratik günlük çözümler için makine öğrenimini keşfetmekle ve Colorado'nun harika açık havasında aktif kalmak için harcamayı sever.
Nida Beig Amazon Web Services'te Kıdemli Ürün Yöneticisi – Teknisyendir ve AWS Snow Ailesi ekibinde çalışmaktadır. Müşteri ihtiyaçlarını anlama ve tüketici ürünleri sunmak için dönüştürücü düşüncenin bir iletkeni olarak teknolojiyi kullanma konusunda tutkuludur. İşinin yanı sıra seyahat etmekten, yürüyüş yapmaktan ve koşmaktan hoşlanıyor.
- 100
- 9
- erişim
- Hesap
- aktif
- Ek
- Türkiye
- Amazon
- Amazon EC2
- Amazon Adaçayı Yapıcı
- Amazon Web Servisleri
- api
- Uygulama
- uygulamaları
- AWS
- iş
- denetleme
- sınıflandırma
- kod
- Colorado
- yorumlar
- bileşen
- hesaplamak
- kondüktör
- Bağlantı
- tüketici
- Tüketici ürünleri
- Konteyner
- Konteynerler
- Oluşturma
- seyir
- veri
- gün
- gelişme
- Cihaz
- evraklar
- kenar
- deneyim
- yüz tanıma
- fabrika
- aile
- Özellikler
- Ad
- FİLO
- Kat
- iskelet
- Ücretsiz
- harika
- Harika Açık Alanlar
- grup
- okuyun
- yürüyüş
- Ne kadar
- Nasıl Yapılır
- HTTPS
- IAM
- Kimlik
- görüntü
- Sanayi
- bilgi
- faiz
- ilgili
- IOT
- IT
- Java
- İş
- son
- ÖĞRENİN
- öğrenme
- Kütüphane
- Sınırlı
- Liste
- yük
- yerel
- lokal olarak
- yer
- makine öğrenme
- Maç
- ML
- model
- izleme
- Navigasyon
- NEO
- ağ
- Sıvı yağ
- işletme
- işletim sistemi
- seçenek
- Opsiyonlar
- sipariş
- Diğer
- açık havada
- ambalaj
- Partner
- İnsanlar
- performans
- politikaları
- tahmin
- Tahminler
- PLATFORM
- üretim
- Ürünler
- halka açık
- Python
- pytorch
- kalite
- menzil
- Okuma
- azaltmak
- Yer Alan Kurallar
- koşmak
- koşu
- sagemaker
- Hizmetler
- set
- Kargo
- gemiler
- Basit
- kar
- So
- Çözümler
- geçirmek
- Dönme
- başlama
- başladı
- hafızası
- mağaza
- gözetim
- sistem
- teknoloji
- Teknoloji
- tensorflow
- test
- Düşünme
- zaman
- Güncelleme
- beklemek
- ağ
- web hizmetleri
- İş
- çalışır
- yıl