Οι σπόροι μιας αλλαγής παραδείγματος μηχανικής μάθησης (ML) υπάρχουν εδώ και δεκαετίες, αλλά με την άμεση διαθεσιμότητα πρακτικά άπειρης υπολογιστικής χωρητικότητας, τον τεράστιο πολλαπλασιασμό δεδομένων και την ταχεία πρόοδο των τεχνολογιών ML, οι πελάτες σε όλες τις βιομηχανίες υιοθετούν και χρησιμοποιούν γρήγορα την ML. τεχνολογίες για να μεταμορφώσουν τις επιχειρήσεις τους.
Μόλις πρόσφατα, οι παραγωγικές εφαρμογές AI έχουν τραβήξει την προσοχή και τη φαντασία όλων. Βρισκόμαστε πραγματικά σε ένα συναρπαστικό σημείο καμπής στην ευρεία υιοθέτηση του ML και πιστεύουμε ότι κάθε εμπειρία και εφαρμογή πελάτη θα εφευρεθεί εκ νέου με τη γενετική τεχνητή νοημοσύνη.
Το Generative AI είναι ένας τύπος AI που μπορεί να δημιουργήσει νέο περιεχόμενο και ιδέες, συμπεριλαμβανομένων συνομιλιών, ιστοριών, εικόνων, βίντεο και μουσικής. Όπως όλα τα τεχνητή νοημοσύνη, η γενετική τεχνητή νοημοσύνη τροφοδοτείται από μοντέλα ML—πολύ μεγάλα μοντέλα που είναι προεκπαιδευμένα σε τεράστιες ποσότητες δεδομένων και συνήθως αναφέρονται ως μοντέλα θεμελίωσης (FM).
Το μέγεθος και η φύση γενικής χρήσης των FM τα κάνουν να διαφέρουν από τα παραδοσιακά μοντέλα ML, τα οποία συνήθως εκτελούν συγκεκριμένες εργασίες, όπως η ανάλυση κειμένου για συναίσθημα, η ταξινόμηση εικόνων και η πρόβλεψη τάσεων.
Με τα παραδοσιακά μοντέλα ML, για να επιτύχετε κάθε συγκεκριμένη εργασία, πρέπει να συγκεντρώσετε δεδομένα με ετικέτα, να εκπαιδεύσετε ένα μοντέλο και να αναπτύξετε αυτό το μοντέλο. Με τα μοντέλα θεμελίωσης, αντί να συλλέγετε δεδομένα με ετικέτα για κάθε μοντέλο και να εκπαιδεύετε πολλά μοντέλα, μπορείτε να χρησιμοποιήσετε το ίδιο προεκπαιδευμένο FM για να προσαρμόσετε διάφορες εργασίες. Μπορείτε επίσης να προσαρμόσετε τα FM για να εκτελούν λειτουργίες που διαφοροποιούν τις επιχειρήσεις σας, χρησιμοποιώντας μόνο ένα μικρό κλάσμα των δεδομένων και τον υπολογισμό που απαιτούνται για την εκπαίδευση ενός μοντέλου από την αρχή.
Το Generative AI έχει τη δυνατότητα να διαταράξει πολλές βιομηχανίες φέρνοντας επανάσταση στον τρόπο δημιουργίας και κατανάλωσης περιεχομένου. Η παραγωγή πρωτότυπου περιεχομένου, η δημιουργία κώδικα, η βελτίωση της εξυπηρέτησης πελατών και η σύνοψη εγγράφων είναι τυπικές περιπτώσεις χρήσης της γενετικής τεχνητής νοημοσύνης.
Amazon SageMaker JumpStart παρέχει προεκπαιδευμένα μοντέλα ανοιχτού κώδικα για ένα ευρύ φάσμα τύπων προβλημάτων που θα σας βοηθήσουν να ξεκινήσετε με την ML. Μπορείτε να εκπαιδεύσετε και να συντονίσετε σταδιακά αυτά τα μοντέλα πριν από την ανάπτυξη. Το JumpStart παρέχει επίσης πρότυπα λύσεων που δημιουργούν υποδομές για περιπτώσεις κοινής χρήσης και εκτελέσιμα παραδείγματα σημειωματάρια για ML με Amazon Sage Maker.
Με περισσότερα από 600 προεκπαιδευμένα μοντέλα διαθέσιμα και αυξάνονται καθημερινά, το JumpStart επιτρέπει στους προγραμματιστές να ενσωματώνουν γρήγορα και εύκολα τεχνικές ML αιχμής στις ροές εργασιών παραγωγής τους. Μπορείτε να αποκτήσετε πρόσβαση στα προεκπαιδευμένα μοντέλα, πρότυπα λύσεων και παραδείγματα μέσω της σελίδας προορισμού JumpStart στο Στούντιο Amazon SageMaker. Μπορείτε επίσης να αποκτήσετε πρόσβαση σε μοντέλα JumpStart χρησιμοποιώντας το SageMaker Python SDK. Για πληροφορίες σχετικά με τον τρόπο χρήσης των μοντέλων JumpStart μέσω προγραμματισμού, βλ Χρησιμοποιήστε αλγόριθμους SageMaker JumpStart με προεκπαιδευμένα μοντέλα.
Τον Απρίλιο του 2023, το AWS αποκαλύφθηκε Θεμέλιο του Αμαζονίου, το οποίο παρέχει έναν τρόπο δημιουργίας εφαρμογών που τροφοδοτούνται από τεχνητή νοημοσύνη μέσω προεκπαιδευμένων μοντέλων από νεοφυείς επιχειρήσεις, συμπεριλαμβανομένων Εργαστήρια AI21, Ανθρωπικός, να Σταθερότητα AI. Το Amazon Bedrock προσφέρει επίσης πρόσβαση στα μοντέλα Titan foundation, μια οικογένεια μοντέλων που έχουν εκπαιδευτεί εσωτερικά από την AWS. Με την εμπειρία χωρίς διακομιστή του Amazon Bedrock, μπορείτε εύκολα να βρείτε το κατάλληλο μοντέλο για τις ανάγκες σας, να ξεκινήσετε γρήγορα, να προσαρμόσετε ιδιωτικά τα FM με τα δικά σας δεδομένα και να τα ενσωματώσετε και να τα αναπτύξετε εύκολα στις εφαρμογές σας χρησιμοποιώντας τα εργαλεία και τις δυνατότητες AWS που γνωρίζετε. με (συμπεριλαμβανομένων των ενσωματώσεων με χαρακτηριστικά SageMaker ML όπως Πειράματα Amazon SageMaker για δοκιμή διαφορετικών μοντέλων και Αγωγοί Amazon SageMaker για να διαχειρίζεστε τα FM σας σε κλίμακα) χωρίς να χρειάζεται να διαχειρίζεστε καμία υποδομή.
Σε αυτήν την ανάρτηση, δείχνουμε πώς να αναπτύξετε μοντέλα τεχνητής νοημοσύνης που δημιουργούν εικόνες και κείμενο από το JumpStart χρησιμοποιώντας το Κιτ ανάπτυξης AWS Cloud (AWS CDK). Το AWS CDK είναι ένα πλαίσιο ανάπτυξης λογισμικού ανοιχτού κώδικα για τον καθορισμό των πόρων της εφαρμογής σας στο cloud χρησιμοποιώντας γνωστές γλώσσες προγραμματισμού όπως η Python.
Χρησιμοποιούμε το μοντέλο Stable Diffusion για τη δημιουργία εικόνας και το μοντέλο FLAN-T5-XL για κατανόηση φυσικής γλώσσας (NLU) και δημιουργία κειμένου από Αγκαλιάζοντας το πρόσωπο στο JumpStart.
Επισκόπηση λύσεων
Η εφαρμογή Ιστού είναι ενσωματωμένη Ροή, μια βιβλιοθήκη Python ανοιχτού κώδικα που διευκολύνει τη δημιουργία και την κοινή χρήση όμορφων, προσαρμοσμένων εφαρμογών ιστού για ML και επιστήμη δεδομένων. Φιλοξενούμε την εφαρμογή Ιστού χρησιμοποιώντας Υπηρεσία ελαστικών εμπορευματοκιβωτίων Amazon (Amazon ECS) με AWS Fargate και είναι προσβάσιμη μέσω ενός Application Load Balancer. Το Fargate είναι μια τεχνολογία που μπορείτε να χρησιμοποιήσετε με το Amazon ECS για εκτέλεση δοχεία χωρίς να χρειάζεται να διαχειρίζεστε διακομιστές ή συμπλέγματα ή εικονικές μηχανές. Τα παραγωγικά τελικά σημεία τεχνητής νοημοσύνης ξεκινούν από τις εικόνες του JumpStart Μητρώο εμπορευματοκιβωτίων Amazon Elastic (Amazon ECR). Τα δεδομένα μοντέλου αποθηκεύονται στο Απλή υπηρεσία αποθήκευσης Amazon (Amazon S3) στον λογαριασμό JumpStart. Η διαδικτυακή εφαρμογή αλληλεπιδρά με τα μοντέλα μέσω Amazon API Gateway και AWS Lambda λειτουργεί όπως φαίνεται στο παρακάτω διάγραμμα.
Το API Gateway παρέχει στην εφαρμογή web και σε άλλους πελάτες μια τυπική διεπαφή RESTful, ενώ προστατεύει τις λειτουργίες Lambda που διασυνδέονται με το μοντέλο. Αυτό απλοποιεί τον κώδικα εφαρμογής πελάτη που καταναλώνει τα μοντέλα. Τα τελικά σημεία API Gateway είναι δημόσια προσβάσιμα σε αυτό το παράδειγμα, επιτρέποντας τη δυνατότητα επέκτασης αυτής της αρχιτεκτονικής για την υλοποίηση διαφορετικών Στοιχεία ελέγχου πρόσβασης API και να ενσωματωθεί με άλλες εφαρμογές.
Σε αυτήν την ανάρτηση, σας καθοδηγούμε στα ακόλουθα βήματα:
- εγκαταστήστε το Διεπαφή γραμμής εντολών AWS (AWS CLI) και AWS CDK v2 στο τοπικό σας μηχάνημα.
- Κλωνοποιήστε και ρυθμίστε την εφαρμογή AWS CDK.
- Αναπτύξτε την εφαρμογή AWS CDK.
- Χρησιμοποιήστε το μοντέλο AI δημιουργίας εικόνας.
- Χρησιμοποιήστε το μοντέλο AI δημιουργίας κειμένου.
- Δείτε τους πόρους που έχουν αναπτυχθεί στο Κονσόλα διαχείρισης AWS.
Παρέχουμε μια επισκόπηση του κώδικα σε αυτό το έργο στο παράρτημα στο τέλος αυτής της ανάρτησης.
Προϋποθέσεις
Πρέπει να έχετε τις εξής προϋποθέσεις:
Μπορείτε να αναπτύξετε την υποδομή σε αυτό το σεμινάριο από τον τοπικό σας υπολογιστή ή μπορείτε να τη χρησιμοποιήσετε AWS Cloud9 ως σταθμός εργασίας ανάπτυξης. Το AWS Cloud9 έρχεται προφορτωμένο με AWS CLI, AWS CDK και Docker. Εάν επιλέξετε το AWS Cloud9, δημιουργήσουν το περιβάλλον από το Κονσόλα AWS.
Το εκτιμώμενο κόστος για την ολοκλήρωση αυτής της ανάρτησης είναι 50 $, με την προϋπόθεση ότι αφήνετε τους πόρους να λειτουργούν για 8 ώρες. Βεβαιωθείτε ότι έχετε διαγράψει τους πόρους που δημιουργείτε σε αυτήν την ανάρτηση για να αποφύγετε τις τρέχουσες χρεώσεις.
Εγκαταστήστε τα AWS CLI και AWS CDK στον τοπικό σας υπολογιστή
Εάν δεν έχετε ήδη το AWS CLI στον τοπικό σας υπολογιστή, ανατρέξτε στο Εγκατάσταση ή ενημέρωση της πιο πρόσφατης έκδοσης του AWS CLI και Διαμόρφωση του AWS CLI.
Εγκαταστήστε το AWS CDK Toolkit καθολικά χρησιμοποιώντας την ακόλουθη εντολή διαχείρισης πακέτων κόμβου:
Εκτελέστε την ακόλουθη εντολή για να επαληθεύσετε τη σωστή εγκατάσταση και να εκτυπώσετε τον αριθμό έκδοσης του AWS CDK:
Βεβαιωθείτε ότι έχετε εγκαταστήσει το Docker στον τοπικό σας υπολογιστή. Εκδώστε την ακόλουθη εντολή για να επαληθεύσετε την έκδοση:
Κλωνοποιήστε και ρυθμίστε την εφαρμογή AWS CDK
Στον τοπικό σας υπολογιστή, κλωνοποιήστε την εφαρμογή AWS CDK με την ακόλουθη εντολή:
Μεταβείτε στο φάκελο του έργου:
Πριν αναπτύξουμε την εφαρμογή, ας εξετάσουμε τη δομή του καταλόγου:
Η stack
Ο φάκελος περιέχει τον κώδικα για κάθε στοίβα στην εφαρμογή AWS CDK. ο code
Ο φάκελος περιέχει τον κωδικό για τις συναρτήσεις Lambda. Το αποθετήριο περιέχει επίσης την εφαρμογή web που βρίσκεται κάτω από το φάκελο web-app
.
Η cdk.json
Το αρχείο λέει στο AWS CDK Toolkit πώς να εκτελέσετε την εφαρμογή σας.
Αυτή η εφαρμογή δοκιμάστηκε στο us-east-1
Περιοχή, αλλά θα πρέπει να λειτουργεί σε οποιαδήποτε Περιοχή έχει τις απαιτούμενες υπηρεσίες και τον τύπο του στιγμιότυπου συμπερασμάτων ml.g4dn.4xlarge
καθορίζεται σε app.py
.
Ρυθμίστε ένα εικονικό περιβάλλον
Αυτό το έργο έχει ρυθμιστεί σαν ένα τυπικό έργο Python. Δημιουργήστε ένα εικονικό περιβάλλον Python χρησιμοποιώντας τον ακόλουθο κώδικα:
Χρησιμοποιήστε την ακόλουθη εντολή για να ενεργοποιήσετε το εικονικό περιβάλλον:
Εάν βρίσκεστε σε πλατφόρμα Windows, ενεργοποιήστε το εικονικό περιβάλλον ως εξής:
Αφού ενεργοποιηθεί το εικονικό περιβάλλον, αναβαθμίστε το pip στην πιο πρόσφατη έκδοση:
Εγκαταστήστε τις απαιτούμενες εξαρτήσεις:
Προτού αναπτύξετε οποιαδήποτε εφαρμογή AWS CDK, πρέπει να κάνετε bootstrap ενός χώρου στον λογαριασμό σας και στην περιοχή στην οποία αναπτύσσετε. Για να κάνετε bootstrap στην προεπιλεγμένη περιοχή σας, εκδώστε την ακόλουθη εντολή:
Εάν θέλετε να αναπτυχθείτε σε έναν συγκεκριμένο λογαριασμό και περιοχή, εκτελέστε την ακόλουθη εντολή:
Για περισσότερες πληροφορίες σχετικά με αυτήν τη ρύθμιση, επισκεφθείτε Ξεκινώντας με το AWS CDK.
Δομή στοίβας εφαρμογής AWS CDK
Η εφαρμογή AWS CDK περιέχει πολλαπλές στοίβες, όπως φαίνεται στο παρακάτω διάγραμμα.
Μπορείτε να παραθέσετε τις στοίβες στην εφαρμογή AWS CDK με την ακόλουθη εντολή:
Ακολουθούν άλλες χρήσιμες εντολές AWS CDK:
- cdk ls – Εμφανίζει όλες τις στοίβες στην εφαρμογή
- cdk synth – Εκπέμπει το συντιθέμενο AWS CloudFormation πρότυπο
- ανάπτυξη cdk – Αναπτύσσει αυτήν τη στοίβα στον προεπιλεγμένο λογαριασμό και την περιοχή AWS σας
- cdk διαφορ – Συγκρίνει την αναπτυγμένη στοίβα με την τρέχουσα κατάσταση
- έγγραφα cdk – Ανοίγει την τεκμηρίωση του AWS CDK
Η επόμενη ενότητα σάς δείχνει πώς να αναπτύξετε την εφαρμογή AWS CDK.
Αναπτύξτε την εφαρμογή AWS CDK
Η εφαρμογή AWS CDK θα αναπτυχθεί στην προεπιλεγμένη περιοχή με βάση τη διαμόρφωση του σταθμού εργασίας σας. Εάν θέλετε να αναγκάσετε την ανάπτυξη σε μια συγκεκριμένη Περιοχή, ορίστε τη δική σας AWS_DEFAULT_REGION
μεταβλητή περιβάλλοντος ανάλογα.
Σε αυτό το σημείο, μπορείτε να αναπτύξετε την εφαρμογή AWS CDK. Πρώτα ξεκινάτε τη στοίβα δικτύου VPC:
Εάν σας ζητηθεί, εισάγετε y
για να προχωρήσετε στην ανάπτυξη. Θα πρέπει να δείτε μια λίστα πόρων AWS που παρέχονται στη στοίβα. Αυτό το βήμα διαρκεί περίπου 3 λεπτά για να ολοκληρωθεί.
Στη συνέχεια, εκκινείτε τη στοίβα εφαρμογών ιστού:
Μετά την ανάλυση της στοίβας, το AWS CDK θα εμφανίσει τη λίστα πόρων στη στοίβα. Εισαγάγετε y για να προχωρήσετε στην ανάπτυξη. Αυτό το βήμα διαρκεί περίπου 5 λεπτά.
Σημειώστε το WebApplicationServiceURL
από την έξοδο για χρήση αργότερα. Μπορείτε επίσης να το ανακτήσετε στην κονσόλα AWS CloudFormation, κάτω από το GenerativeAiDemoWebStack
εξόδους στοίβας.
Τώρα, εκκινήστε τη στοίβα τελικού σημείου μοντέλου AI δημιουργίας εικόνων:
Αυτό το βήμα διαρκεί περίπου 8 λεπτά. Το τελικό σημείο του μοντέλου δημιουργίας εικόνας έχει αναπτυχθεί, μπορούμε πλέον να το χρησιμοποιήσουμε.
Χρησιμοποιήστε το μοντέλο AI δημιουργίας εικόνας
Το πρώτο παράδειγμα δείχνει πώς να χρησιμοποιήσετε το Stable Diffusion, μια ισχυρή τεχνική γενετικής μοντελοποίησης που επιτρέπει τη δημιουργία εικόνων υψηλής ποιότητας από μηνύματα κειμένου.
- Πρόσβαση στην εφαρμογή Ιστού χρησιμοποιώντας το
WebApplicationServiceURL
από την έξοδο τουGenerativeAiDemoWebStack
στο πρόγραμμα περιήγησής σας. - Στο παράθυρο πλοήγησης, επιλέξτε Δημιουργία εικόνας.
- Η Όνομα τελικού σημείου SageMaker και API GW Url Τα πεδία θα είναι προσυμπληρωμένα, αλλά μπορείτε να αλλάξετε την ερώτηση για την περιγραφή της εικόνας εάν θέλετε.
- Επιλέξτε Δημιουργία εικόνας.
- Η εφαρμογή θα πραγματοποιήσει μια κλήση στο τελικό σημείο του SageMaker. Χρειάζονται μερικά δευτερόλεπτα. Θα εμφανιστεί μια εικόνα με τα χαρακτηριστικά στην περιγραφή της εικόνας σας.
Χρησιμοποιήστε το μοντέλο AI δημιουργίας κειμένου
Το δεύτερο παράδειγμα επικεντρώνεται στη χρήση του μοντέλου FLAN-T5-XL, το οποίο είναι ένα θεμελιώδες ή μεγάλο γλωσσικό μοντέλο (LLM), για την επίτευξη εκμάθησης εντός πλαισίου για τη δημιουργία κειμένου, ενώ ταυτόχρονα απευθύνεται σε ένα ευρύ φάσμα κατανόησης φυσικής γλώσσας (NLU) και φυσικής γλώσσας εργασίες δημιουργίας γλώσσας (NLG).
Ορισμένα περιβάλλοντα ενδέχεται να περιορίσουν τον αριθμό των τελικών σημείων που μπορείτε να εκκινήσετε κάθε φορά. Εάν συμβαίνει αυτό, μπορείτε να εκκινήσετε ένα τελικό σημείο του SageMaker κάθε φορά. Για να σταματήσετε ένα τελικό σημείο του SageMaker στην εφαρμογή AWS CDK, πρέπει να καταστρέψετε την αναπτυγμένη στοίβα τελικού σημείου και πριν ξεκινήσετε την άλλη στοίβα τελικού σημείου. Για να απενεργοποιήσετε το τελικό σημείο του μοντέλου AI δημιουργίας εικόνων, εκτελέστε την ακόλουθη εντολή:
Στη συνέχεια, εκκινήστε τη στοίβα τελικού σημείου μοντέλου AI δημιουργίας κειμένου:
Εισαγάγετε y στις προτροπές.
Μετά την εκκίνηση της στοίβας τελικού σημείου μοντέλου δημιουργίας κειμένου, ολοκληρώστε τα ακόλουθα βήματα:
- Επιστρέψτε στην εφαρμογή Ιστού και επιλέξτε Δημιουργία κειμένου στο παράθυρο πλοήγησης.
- Η Εισαγωγή περιβάλλοντος Το πεδίο είναι προσυμπληρωμένο με μια συνομιλία μεταξύ ενός πελάτη και ενός αντιπροσώπου σχετικά με ένα πρόβλημα με το τηλέφωνο πελατών, αλλά μπορείτε να εισαγάγετε το δικό σας πλαίσιο, αν θέλετε.
- Κάτω από το περιβάλλον, θα βρείτε ορισμένα προσυμπληρωμένα ερωτήματα στο αναπτυσσόμενο μενού. Επιλέξτε ένα ερώτημα και επιλέξτε Δημιουργία απόκρισης.
- Μπορείτε επίσης να εισάγετε το δικό σας ερώτημα στο Ερώτημα εισαγωγής πεδίο και μετά επιλέξτε Δημιουργία απόκρισης.
Δείτε τους πόρους που έχουν αναπτυχθεί στην κονσόλα
Στην κονσόλα AWS CloudFormation, επιλέξτε Στοίβες στο παράθυρο πλοήγησης για να δείτε τις στοίβες που έχουν αναπτυχθεί.
Στην κονσόλα Amazon ECS, μπορείτε να δείτε τα συμπλέγματα στο Συστοιχίες .
Στην κονσόλα AWS Lambda, μπορείτε να δείτε τις λειτουργίες στο Συναρτήσεις .
Στην κονσόλα API Gateway, μπορείτε να δείτε τα τελικά σημεία της πύλης API στο APIs .
Στην κονσόλα SageMaker, μπορείτε να δείτε τα αναπτυγμένα τελικά σημεία του μοντέλου στο Τελικά σημεία .
Όταν εκκινούνται οι στοίβες, δημιουργούνται ορισμένες παράμετροι. Αυτά αποθηκεύονται στο Κατάστημα παραμέτρων AWS Systems Manager. Για να τα δείτε, επιλέξτε Κατάστημα παραμέτρων στο παράθυρο πλοήγησης στο Διευθυντής συστημάτων AWS κονσόλα.
εκκαθάριση
Για να αποφύγετε περιττό κόστος, καθαρίστε όλη την υποδομή που δημιουργήθηκε με την ακόλουθη εντολή στο σταθμό εργασίας σας:
εισάγετε y
στην προτροπή. Αυτό το βήμα διαρκεί περίπου 10 λεπτά. Ελέγξτε εάν έχουν διαγραφεί όλοι οι πόροι στην κονσόλα. Διαγράψτε επίσης τους κάδους στοιχείων S3 που δημιουργήθηκαν από το AWS CDK στην κονσόλα Amazon S3 καθώς και τα αποθετήρια στοιχείων στο Amazon ECR.
Συμπέρασμα
Όπως αποδεικνύεται σε αυτήν την ανάρτηση, μπορείτε να χρησιμοποιήσετε το AWS CDK για την ανάπτυξη μοντέλων τεχνητής νοημοσύνης στο JumpStart. Δείξαμε ένα παράδειγμα δημιουργίας εικόνας και ένα παράδειγμα δημιουργίας κειμένου χρησιμοποιώντας μια διεπαφή χρήστη που υποστηρίζεται από Streamlit, Lambda και API Gateway.
Τώρα μπορείτε να δημιουργήσετε τα παραγωγικά σας έργα τεχνητής νοημοσύνης χρησιμοποιώντας προεκπαιδευμένα μοντέλα τεχνητής νοημοσύνης στο JumpStart. Μπορείτε επίσης να επεκτείνετε αυτό το έργο για να ρυθμίσετε τα βασικά μοντέλα για την περίπτωση χρήσης σας και να ελέγξετε την πρόσβαση στα τελικά σημεία της πύλης API.
Σας προσκαλούμε να δοκιμάσετε τη λύση και να συνεισφέρετε στο έργο στις GitHub. Μοιραστείτε τις σκέψεις σας για αυτό το σεμινάριο στα σχόλια!
Περίληψη άδειας
Αυτό το δείγμα κώδικα διατίθεται με τροποποιημένη άδεια MIT. Δείτε το ΑΔΕΙΑ αρχείο για περισσότερες πληροφορίες. Επίσης, ελέγξτε τις αντίστοιχες άδειες για το σταθερή διάχυση και flan-t5-xl μοντέλα στο πρόσωπο που αγκαλιάζει.
Σχετικά με τους συγγραφείς
Hantzley Tauckoor είναι ηγέτης Αρχιτεκτονικής της APJ Partner Solutions με έδρα τη Σιγκαπούρη. Διαθέτει 20ετή εμπειρία στον κλάδο των ΤΠΕ που εκτείνεται σε πολλούς λειτουργικούς τομείς, όπως η αρχιτεκτονική λύσεων, η επιχειρηματική ανάπτυξη, η στρατηγική πωλήσεων, η παροχή συμβουλών και η ηγεσία. Καθοδηγεί μια ομάδα Αρχιτεκτόνων Ανώτερων Λύσεων που επιτρέπουν στους συνεργάτες να αναπτύξουν κοινές λύσεις, να δημιουργήσουν τεχνικές δυνατότητες και να τις κατευθύνουν στη φάση υλοποίησης καθώς οι πελάτες μεταναστεύουν και εκσυγχρονίζουν τις εφαρμογές τους στο AWS.
Kwonyul Choi είναι CTO στο BABITALK, μια κορεατική πλατφόρμα περιποίησης ομορφιάς, με έδρα τη Σεούλ. Πριν από αυτόν τον ρόλο, ο Kownyul εργάστηκε ως Μηχανικός Ανάπτυξης Λογισμικού στην AWS με έμφαση στο AWS CDK και στο Amazon SageMaker.
Arunprasath Shankar είναι Ανώτερος Αρχιτέκτονας Λύσεων Specialist AI/ML με AWS, βοηθώντας τους παγκόσμιους πελάτες να κλιμακώσουν τις λύσεις AI τους αποτελεσματικά και αποδοτικά στο cloud. Στον ελεύθερο χρόνο του, ο Αρούν απολαμβάνει να βλέπει ταινίες επιστημονικής φαντασίας και να ακούει κλασική μουσική.
Σατίς Ουπρέτι είναι μια ΜΜΕ Επικεφαλής Μετανάστευσης PSA και Security στον οργανισμό εταίρο στο APJ. Η Satish έχει 20 χρόνια εμπειρίας σε τεχνολογίες ιδιωτικού και δημόσιου cloud εσωτερικού χώρου. Από τότε που εντάχθηκε στην AWS τον Αύγουστο του 2020 ως ειδικός μετανάστευσης, παρέχει εκτεταμένες τεχνικές συμβουλές και υποστήριξη στους συνεργάτες του AWS για τον σχεδιασμό και την υλοποίηση σύνθετων μετεγκαταστάσεων.
Παράρτημα: Επισκόπηση κώδικα
Σε αυτήν την ενότητα, παρέχουμε μια επισκόπηση του κώδικα σε αυτό το έργο.
Εφαρμογή AWS CDK
Η κύρια εφαρμογή AWS CDK περιέχεται στο app.py
αρχείο στον ριζικό κατάλογο. Το έργο αποτελείται από πολλαπλές στοίβες, επομένως πρέπει να εισαγάγουμε τις στοίβες:
Ορίζουμε τα παραγωγικά μας μοντέλα AI και λαμβάνουμε τα σχετικά URI από το SageMaker:
Η συνάρτηση get_sagemaker_uris ανακτά όλες τις πληροφορίες μοντέλου από το JumpStart. Βλέπω script/sagemaker_uri.py
.
Στη συνέχεια, δημιουργούμε τις στοίβες:
Η πρώτη στοίβα που θα ξεκινήσει είναι η στοίβα VPC, GenerativeAiVpcNetworkStack. Η στοίβα εφαρμογών web, GenerativeAiDemoWebStack, εξαρτάται από τη στοίβα VPC. Η εξάρτηση γίνεται μέσω της παραμέτρου που περνά vpc=network_stack.vpc.
Βλέπω app.py
για τον πλήρη κωδικό.
Στοίβα δικτύου VPC
Στη στοίβα GenerativeAiVpcNetworkStack, δημιουργούμε ένα VPC με ένα δημόσιο υποδίκτυο και ένα ιδιωτικό υποδίκτυο που εκτείνονται σε δύο Ζώνες Διαθεσιμότητας:
Βλέπω /stack/generative_ai_vpc_network_stack.py
για τον πλήρη κωδικό.
Επίδειξη στοίβα εφαρμογών ιστού
Στη στοίβα GenerativeAiDemoWebStack, εκκινούμε τις λειτουργίες Lambda και τα αντίστοιχα τελικά σημεία της πύλης API μέσω των οποίων η εφαρμογή Ιστού αλληλεπιδρά με τα τελικά σημεία του μοντέλου SageMaker. Δείτε το ακόλουθο απόσπασμα κώδικα:
Η διαδικτυακή εφαρμογή είναι κοντέινερ και φιλοξενείται στο Amazon ECS με Fargate. Δείτε το ακόλουθο απόσπασμα κώδικα:
Βλέπω /stack/generative_ai_demo_web_stack.py
για τον πλήρη κωδικό.
Στοίβα τελικού σημείου μοντέλου SageMaker δημιουργίας εικόνας
Η στοίβα GenerativeAiTxt2imgSagemakerStack δημιουργεί το τελικό σημείο του μοντέλου δημιουργίας εικόνας από το JumpStart και αποθηκεύει το όνομα τελικού σημείου στο Systems Manager Parameter Store. Αυτή η παράμετρος θα χρησιμοποιηθεί από την εφαρμογή web. Δείτε τον παρακάτω κώδικα:
Βλέπω /stack/generative_ai_txt2img_sagemaker_stack.py
για τον πλήρη κωδικό.
Στοίβα τελικού σημείου μοντέλου SageMaker δημιουργίας NLU και κειμένου
Η στοίβα GenerativeAiTxt2nluSagemakerStack δημιουργεί το τελικό σημείο του μοντέλου NLU και δημιουργίας κειμένου από το JumpStart και αποθηκεύει το όνομα τελικού σημείου στο Systems Manager Parameter Store. Αυτή η παράμετρος θα χρησιμοποιηθεί επίσης από την εφαρμογή web. Δείτε τον παρακάτω κώδικα:
Βλέπω /stack/generative_ai_txt2nlu_sagemaker_stack.py
για τον πλήρη κωδικό.
Εφαρμογή Web
Η διαδικτυακή εφαρμογή βρίσκεται στο /web-app
Ευρετήριο. Είναι μια εφαρμογή Streamlit που διατίθεται σε κοντέινερ σύμφωνα με το Dockerfile
:
Για να μάθετε περισσότερα σχετικά με το Streamlit, βλ Βελτιστοποίηση τεκμηρίωσης.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoAiStream. Web3 Data Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- Minting the Future με την Adryenn Ashley. Πρόσβαση εδώ.
- Αγορά και πώληση μετοχών σε εταιρείες PRE-IPO με το PREIPO®. Πρόσβαση εδώ.
- πηγή: https://aws.amazon.com/blogs/machine-learning/deploy-generative-ai-models-from-amazon-sagemaker-jumpstart-using-the-aws-cdk/
- :έχει
- :είναι
- $UP
- 1
- 10
- 100
- 20
- 20 χρόνια
- 2020
- 2023
- 7
- 8
- 9
- a
- Σχετικά
- πρόσβαση
- πρόσβαση
- προσιτός
- αναλόγως
- Λογαριασμός
- Κατορθώνω
- απέναντι
- προσαρμόσει
- διευθυνσιοδότηση
- υιοθετώντας
- Υιοθεσία
- προαγωγή
- συμβουλές
- Πράκτορας
- AI
- Τροφοδοτείται από AI
- AI / ML
- αλγόριθμοι
- Όλα
- Επιτρέποντας
- ήδη
- Επίσης
- Amazon
- Amazon API Gateway
- Amazon Sage Maker
- Amazon SageMaker JumpStart
- Amazon υπηρεσίες Web
- an
- αναλύοντας
- και
- κάθε
- api
- app
- Εφαρμογή
- εφαρμογές
- εφαρμογές
- Απρίλιος
- αρχιτεκτονική
- ΕΙΝΑΙ
- περιοχές
- γύρω
- AS
- Ενεργητικό
- At
- προσοχή
- Αύγουστος
- διαθεσιμότητα
- διαθέσιμος
- αποφύγετε
- AWS
- AWS Cloud9
- AWS CloudFormation
- AWS Lambda
- πίσω
- Balancer
- βασίζονται
- ΒΔΤ
- BE
- όμορφη
- Ομορφιά
- πριν
- είναι
- Πιστεύω
- μεταξύ
- Bootstrap
- ευρύς
- πρόγραμμα περιήγησης
- χτίζω
- χτισμένο
- επιχείρηση
- ανάπτυξη επιχείρησης
- επιχειρήσεις
- αλλά
- by
- κλήση
- CAN
- δυνατότητες
- Χωρητικότητα
- συλλαμβάνονται
- ο οποίος
- περίπτωση
- περιπτώσεις
- CD
- Κέντρα
- αλλαγή
- χαρακτηριστικά
- φορτία
- έλεγχος
- Επιλέξτε
- πελάτης
- πελάτες
- Backup
- Cloud9
- κωδικός
- έρχεται
- Κοινός
- συνήθως
- πλήρης
- συγκρότημα
- Υπολογίστε
- υπολογιστή
- διαμόρφωση
- πρόξενος
- κατασκευάσει
- συμβουλευτικές
- καταναλώνεται
- που περιέχονται
- Δοχείο
- Περιέχει
- περιεχόμενο
- συμφραζόμενα
- συμβάλλει
- έλεγχος
- Συνομιλία
- συνομιλίες
- διορθώσει
- Κόστος
- δημιουργία
- δημιουργήθηκε
- δημιουργεί
- δημιουργία
- ΚΟΤ
- Ρεύμα
- έθιμο
- πελάτης
- εμπειρία του πελάτη
- Εξυπηρέτηση πελατών
- Πελάτες
- προσαρμόσετε
- αιχμής
- ημερομηνία
- επιστημονικά δεδομένα
- ημέρα
- δεκαετίες
- Προεπιλογή
- Ορίζει
- κατέδειξε
- καταδεικνύει
- Εξάρτηση
- εξαρτώμενος
- παρατάσσω
- αναπτυχθεί
- ανάπτυξη
- ανάπτυξη
- αναπτύσσεται
- περιγραφή
- καταστρέψει
- ανάπτυξη
- προγραμματιστές
- Ανάπτυξη
- διαφορετικές
- Διάχυση
- Display
- Αναστατώνω
- Λιμενεργάτης
- έγγραφο
- γίνεται
- Μην
- κάτω
- κάθε
- εύκολα
- εύκολος
- αποτελεσματικά
- αποτελεσματικά
- ενεργοποιήσετε
- δίνει τη δυνατότητα
- τέλος
- Τελικό σημείο
- μηχανικός
- εισάγετε
- Περιβάλλον
- περιβάλλοντα
- αναμενόμενη
- Αιθέρας (ΕΤΗ)
- Κάθε
- κάθε μέρα
- ο καθένας είναι
- παράδειγμα
- παραδείγματα
- συναρπαστικός
- υπήρχε
- εμπειρία
- επεκτείνουν
- εκτενής
- Πρόσωπο
- ψευδής
- οικείος
- οικογένεια
- Χαρακτηριστικά
- λίγοι
- πεδίο
- Πεδία
- Αρχεία
- Εύρεση
- Όνομα
- Συγκέντρωση
- Εξής
- εξής
- Για
- Δύναμη
- Θεμέλιο
- κλάσμα
- Πλαίσιο
- από
- πλήρη
- λειτουργία
- λειτουργικός
- λειτουργίες
- πύλη
- συγκεντρώνουν
- συγκέντρωση
- γενικού σκοπού
- παράγεται
- γενεά
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- παίρνω
- Git
- Παγκόσμιο
- Παγκόσμια
- Μεγαλώνοντας
- Έχω
- που έχει
- he
- βοήθεια
- βοήθεια
- υψηλής ποιότητας
- του
- Αρχική
- οικοδεσπότης
- φιλοξενείται
- ΩΡΕΣ
- Πως
- Πώς να
- HTML
- http
- HTTPS
- ΤΠΕ
- ιδεών
- if
- εικόνα
- δημιουργία εικόνας
- εικόνες
- φαντασία
- εφαρμογή
- εκτέλεση
- εισαγωγή
- in
- Συμπεριλαμβανομένου
- ενσωματώνω
- βιομηχανίες
- βιομηχανία
- Σημείο καμπής
- πληροφορίες
- Υποδομή
- εγκαθιστώ
- εγκατάσταση
- εγκατασταθεί
- παράδειγμα
- αντί
- ενσωματώσει
- ολοκληρώσεις
- διαδραστικός
- περιβάλλον λειτουργίας
- σε
- προσκαλούν
- ζήτημα
- IT
- ενώνει
- άρθρωση
- jpg
- json
- Κορεάτικα
- προσγείωση
- σελίδα προορισμού
- Γλώσσα
- Γλώσσες
- large
- αργότερα
- αργότερο
- ξεκινήσει
- ξεκίνησε
- δρομολόγηση
- οδηγήσει
- ηγέτης
- Ηγεσία
- Οδηγεί
- ΜΑΘΑΊΝΩ
- μάθηση
- Άδεια
- Βιβλιοθήκη
- Άδεια
- άδειες
- Μου αρέσει
- LIMIT
- γραμμή
- Λίστα
- Ακούγοντας
- Λίστες
- φορτίο
- τοπικός
- που βρίσκεται
- μηχανή
- μάθηση μηχανής
- μηχανήματα
- που
- Κυρίως
- κάνω
- ΚΑΝΕΙ
- διαχείριση
- διαχείριση
- διευθυντής
- πολοί
- μαζική
- Μενού
- ενδέχεται να
- μεταναστεύσουν
- μετανάστευση
- πρακτικά
- MIT
- ML
- Τεχνικές ML
- μοντέλο
- μοντελοποίηση
- μοντέλα
- εκμοντερνίζω
- τροποποιημένο
- περισσότερο
- Κινηματογράφος
- πολλαπλούς
- Μουσική
- πρέπει
- όνομα
- Φυσικό
- Φυσική γλώσσα
- Φυσική Γλώσσα
- Φυσική κατανόηση της γλώσσας
- Φύση
- Πλοήγηση
- Ανάγκη
- ανάγκες
- δίκτυο
- Νέα
- επόμενη
- NLG
- ουδ
- κόμβος
- φορητούς υπολογιστές
- τώρα
- αριθμός
- of
- προσφορές
- on
- ONE
- συνεχή
- αποκλειστικά
- ανοικτού κώδικα
- Λογισμικό ανοικτού κώδικα
- ανοίγει
- or
- τάξη
- επιχειρήσεις
- πρωτότυπο
- ΑΛΛΑ
- δικός μας
- παραγωγή
- επί
- επισκόπηση
- δική
- πακέτο
- σελίδα
- παράθυρο
- παράδειγμα
- παράμετρος
- παράμετροι
- εταίρος
- Συνεργάτες
- Πέρασμα
- εκτελέσει
- φάση
- τηλέφωνο
- εικόνα
- σχέδιο
- πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Σημείο
- δυνατότητα
- Θέση
- δυναμικού
- τροφοδοτείται
- ισχυρός
- προαπαιτούμενα
- Πριν
- ιδιωτικός
- Πρόβλημα
- παραγωγή
- Προγραμματισμός
- γλώσσες προγραμματισμού
- σχέδιο
- έργα
- παρέχουν
- παρέχει
- δημόσιο
- Δημόσιο σύννεφο
- δημοσίως
- Python
- ερωτήματα
- γρήγορα
- σειρά
- γρήγορα
- ταχέως
- έτοιμος
- πρόσφατα
- αναφέρεται
- σχετικά με
- περιοχή
- σχετίζεται με
- Αποθήκη
- απαιτείται
- απαιτήσεις
- πόρος
- Υποστηρικτικό υλικό
- εκείνοι
- ανασκόπηση
- Επανάσταση
- δεξιά
- Ρόλος
- ρίζα
- τρέξιμο
- τρέξιμο
- σοφός
- εμπορικός
- ίδιο
- Κλίμακα
- Sci-Fi
- Επιστήμη
- μηδέν
- SDK
- Δεύτερος
- δευτερόλεπτα
- Τμήμα
- ασφάλεια
- δείτε
- σπόροι
- ΕΑΥΤΟΣ
- αρχαιότερος
- συναίσθημα
- Σεούλ
- Χωρίς διακομιστή
- Διακομιστές
- υπηρεσία
- Υπηρεσίες
- σειρά
- setup
- Κοινοποίηση
- αλλαγή
- θα πρέπει να
- δείχνουν
- έδειξε
- παρουσιάζεται
- Δείχνει
- Απλούς
- αφού
- Singapore
- Μέγεθος
- small
- EMS
- So
- λογισμικό
- ανάπτυξη λογισμικού
- λύση
- Λύσεις
- μερικοί
- Πηγή
- Χώρος
- ειδικός
- συγκεκριμένες
- καθορίζεται
- σταθερός
- σωρός
- Στοίβες
- πρότυπο
- ξεκίνησε
- εκκίνηση
- Startups
- Βήμα
- Βήματα
- στάση
- χώρος στο δίσκο
- κατάστημα
- αποθηκεύονται
- καταστήματα
- ιστορίες
- Στρατηγική
- δομή
- υποδίκτυο
- υποστήριξη
- βέβαιος
- συστήματα
- παίρνει
- Έργο
- εργασίες
- Τεχνικός
- τεχνικές
- Τεχνολογίες
- Τεχνολογία
- λέει
- πρότυπα
- δοκιμή
- δοκιμές
- δημιουργία κειμένου
- ότι
- Η
- τους
- Τους
- τότε
- Αυτοί
- αυτό
- Μέσω
- ώρα
- Τιτάν
- προς την
- εργαλειοθήκη
- εργαλεία
- παραδοσιακός
- παραδοσιακός
- Τρένο
- εκπαιδευμένο
- Εκπαίδευση
- Μεταμορφώστε
- Τάσεις
- αληθής
- όντως
- ΣΤΡΟΦΗ
- φροντιστήριο
- δύο
- τύπος
- τύποι
- τυπικός
- συνήθως
- υπό
- κατανόηση
- αποκαλυπτήρια
- ενημέρωση
- αναβάθμισης
- χρήση
- περίπτωση χρήσης
- μεταχειρισμένος
- Χρήστες
- Διεπαφής χρήστη
- χρησιμοποιώντας
- χρησιμοποιώ
- διάφορα
- Σταθερή
- επαληθεύει
- εκδοχή
- μέσω
- Βίντεο
- Δες
- Πραγματικός
- πρακτικώς
- Επίσκεψη
- θέλω
- ήταν
- παρακολουθείτε
- Τρόπος..
- we
- ιστός
- Εφαρμογή Web
- διαδικτυακές υπηρεσίες
- ΛΟΙΠΌΝ
- Ποιό
- ενώ
- ευρύς
- Ευρύ φάσμα
- διαδεδομένη
- Wikipedia
- θα
- παράθυρα
- με
- χωρίς
- Εργασία
- εργάστηκαν
- ροές εργασίας
- εργασίας
- χρόνια
- εσείς
- Σας
- zephyrnet
- ζώνες