AI Weekly: DeepMind's AlphaCode, αυτόματη επαλήθευση ηλικίας και νέο μοντέλο ανοιχτής γλώσσας

Αυτή την εβδομάδα στο AI, η DeepMind παρουσίασε ένα νέο σύστημα δημιουργίας κώδικα, AlphaCode, που ισχυρίζεται ότι είναι ανταγωνιστική με κορυφαίους ανθρώπινους προγραμματιστές. Αλυσίδες σούπερ μάρκετ στο Ηνωμένο Βασίλειο ανακοίνωσαν ότι θα αρχίσουν να δοκιμάζουν συστήματα αυτόματης επαλήθευσης ηλικίας για την εκτίμηση της ηλικίας των πελατών όταν αγοράζουν αλκοόλ. Και η EleutherAI, μια ερευνητική ομάδα που επικεντρώθηκε σε συστήματα τεχνητής νοημοσύνης ανοιχτού κώδικα, υψηλής ικανότητας, κυκλοφόρησε το GPT-NeoX-20B, ένα μοντέλο γλώσσας που είναι από τα μεγαλύτερα του είδους του.

Το AlphaCode είναι ένα από τα πιο εξελιγμένα παραδείγματα προγραμματισμού μηχανών ή εργαλεία που αυτοματοποιούν τις διαδικασίες ανάπτυξης και συντήρησης λογισμικού. Η DeepMind ισχυρίζεται ότι μπορεί να γράψει κώδικα «σε επίπεδο ανταγωνισμού», επιτυγχάνοντας μέση κατάταξη στο κορυφαίο 54.3% σε 10 πρόσφατους διαγωνισμούς στην πλατφόρμα προκλήσεων προγραμματισμού Codeforces.

Οι εφαρμογές του προγραμματισμού μηχανών είναι τεράστιες σε έκταση — εξηγώντας γιατί υπάρχει ενθουσιασμός γύρω από αυτό. Σύμφωνα με μια μελέτη από το Πανεπιστήμιο του Κέιμπριτζ, τουλάχιστον οι μισές προσπάθειες των προγραμματιστών δαπανώνται για εντοπισμό σφαλμάτων, κάτι που κοστίζει στη βιομηχανία λογισμικού περίπου 312 δισεκατομμύρια δολάρια ετησίως. Ακόμη και η μετεγκατάσταση μιας βάσης κωδικών σε μια πιο αποτελεσματική γλώσσα μπορεί να οδηγήσει σε ένα πριγκιπικό άθροισμα. Για παράδειγμα, η Commonwealth Bank of Australia πέρασε περίπου 750 εκατομμύρια δολάρια κατά τη διάρκεια των πέντε ετών για να μετατρέψει την πλατφόρμα της από COBOL σε Java.

Τα εργαλεία δημιουργίας κώδικα με τεχνητή νοημοσύνη, όπως το AlphaCode, υπόσχονται να μειώσουν το κόστος ανάπτυξης, ενώ επιτρέπουν στους κωδικοποιητές να επικεντρωθούν σε δημιουργικές, λιγότερο επαναλαμβανόμενες εργασίες. Αλλά το AlphaCode δεν είναι άψογο. εκτός του ότι είναι ακριβά για να διατηρηθεί, δεν παράγει πάντα κώδικα που είναι σωστός και θα μπορούσε - εάν παρόμοια συστήματα είναι κάποια ένδειξη - να περιέχει προβληματικό προκατάληψη. Επιπλέον, εάν δημοσιοποιηθεί ποτέ, οι κακόβουλοι παράγοντες θα μπορούσαν να το χρησιμοποιήσουν για να δημιουργήσουν κακόβουλο λογισμικό, παρακάμψει δοκιμές προγραμματισμού και ανόητος ερευνητές κυβερνοασφάλειας.

«[Α]παρόλο που η ιδέα να δώσουμε τη δύναμη του προγραμματισμού σε άτομα που δεν μπορούν να προγραμματίσουν είναι συναρπαστική, έχουμε πολλά προβλήματα να λύσουμε πριν φτάσουμε εκεί», δήλωσε ο Mike Cook, ερευνητής AI στο Queen Mary University of Λονδίνο.

Αυτόματη επαλήθευση ηλικίας

Τρεις αλυσίδες σούπερ μάρκετ στο Ηνωμένο Βασίλειο — η Asada, η Co-op και η Morrisons — χρησιμοποιούν κάμερες για να υπολογίσουν την ηλικία των πελατών ως μέρος μιας δοκιμής από το Υπουργείο Εσωτερικών, το τμήμα του Ηνωμένου Βασιλείου που είναι υπεύθυνο για τη μετανάστευση, την ασφάλεια και τον νόμο και την τάξη. Η τεχνολογία, η οποία χρησιμοποιούταν ήδη στην τοποθεσία του Aldi χωρίς ταμεία στο Λονδίνο, μαντεύει την ηλικία των πελατών που συναινούν χρησιμοποιώντας αλγόριθμους εκπαιδευμένους σε «μια βάση δεδομένων ανώνυμων προσώπων». σύμφωνα με στο BBC. Εάν αποφασίσει ότι είναι κάτω των 25 ετών, θα πρέπει να επιδείξουν ταυτότητα σε ένα μέλος του προσωπικού.

Η Yoti —η εταιρεία που παρέχει την τεχνολογία— λέει ότι δοκιμάστηκε σε περισσότερα από 125,000 πρόσωπα και υπολόγισε την ηλικία σε 2.2 χρόνια. Αλλά ενώ ο Yoti λέει ότι δεν εκτελεί αναγνώριση προσώπου ή διατηρεί τις εικόνες που τραβάει, το σύστημα εγείρει ηθικούς προβληματισμούς.

Τα συστήματα εκτίμησης ηλικίας, όπως και άλλα συστήματα τεχνητής νοημοσύνης, θα μπορούσαν να ενισχύσουν οποιαδήποτε προκατάληψη στα δεδομένα που χρησιμοποιούνται για την ανάπτυξη των συστημάτων. Μια μελέτη υπογραμμίζει την επίδραση του μακιγιάζ, το οποίο μπορεί να καλύψει σημάδια ηλικίας, όπως κηλίδες ηλικίας και ρυτίδες, και διαπιστώνει ότι το λογισμικό εκτίμησης ηλικίας τείνει να είναι πιο ακριβές για τους άνδρες. Η ίδια έρευνα διαπίστωσε ότι το λογισμικό υπερεκτιμά τις ηλικίες των νεότερων μη Καυκάσιων και υποτιμά τις ηλικίες των μεγαλύτερων Ασιατών και Μαύρων και μπορεί ακόμη και να επηρεαστεί από το αν κάποιος χαμογελά ή όχι.

Σε μία συνέντευξη με το Wired, ο συνιδρυτής και διευθύνων σύμβουλος της Yoti, Robin Tombs, παραδέχτηκε ότι η εταιρεία δεν ήταν σίγουρη για τα χαρακτηριστικά του προσώπου που χρησιμοποιεί η τεχνητή νοημοσύνη της για να καθορίσει την ηλικία των ανθρώπων. Ενώ τόνισε ότι το σύνολο δεδομένων εκπαίδευσης του Yoti με «εκατοντάδες χιλιάδες» πρόσωπα ήταν «αντιπροσωπευτικό για τους τόνους δέρματος, τις ηλικίες και το φύλο» και ότι η εσωτερική του έρευνα έδειξε παρόμοια ποσοστά λάθους μεταξύ των δημογραφικών στοιχείων, επιστημονική βιβλιογραφία φαίνεται να προτείνει κάτι διαφορετικό. Η λευκή βίβλος του Yoti δείχνει ότι η τεχνολογία είναι λιγότερο ακριβής για ηλικιωμένες γυναίκες με πιο σκούρο δέρμα.

Μια λανθασμένη εκτίμηση ηλικίας στο σούπερ μάρκετ μπορεί να είναι κάτι περισσότερο από ταλαιπωρία (και ίσως αμηχανία). Αλλά θα μπορούσε να ομαλοποιήσει την τεχνολογία, οδηγώντας σε πιο προβληματικές εφαρμογές αλλού. Ο Daniel Leufer, αναλυτής πολιτικής για την Ευρώπη που επικεντρώθηκε στην τεχνητή νοημοσύνη στην ομάδα πολιτικών ελευθεριών Access Now, είπε στο Wired ότι οι ρυθμιστικές αρχές θα πρέπει να εξετάσουν ποιος θα αποτύχει αυτά τα συστήματα όταν εξετάζουν τις περιπτώσεις χρήσης. «Συνήθως, αυτή η απάντηση είναι άνθρωποι που αποτυγχάνουν συνήθως από άλλα συστήματα», είπε.

Μοντέλο γλώσσας ανοιχτού κώδικα

EleutherAI την Τετάρτη κυκλοφόρησε το νεότερο μοντέλο γλώσσας της, το GPT-NeoX-20B, ως μέρος της αποστολής του να διευρύνει την πρόσβαση σε τεχνητή νοημοσύνη υψηλής ικανότητας δημιουργίας κειμένου. Διαθέσιμο τώρα μέσω ενός API και την επόμενη εβδομάδα σε ανοιχτό κώδικα, το GPT-NeoX-20B ξεπερνά τα άλλα μοντέλα δημόσιας γλώσσας σε πολλούς τομείς, ενώ είναι γενικά φθηνότερο στην ανάπτυξη, σύμφωνα με το EleutherAI.

Το GPT-NeoX-20B — το οποίο αναπτύχθηκε σε υποδομή που παρέχεται από την CoreWeave, έναν εξειδικευμένο πάροχο cloud — εκπαιδεύτηκε στο σύνολο δεδομένων κειμένου 825 GB της EleutherAI και περιέχει 20 δισεκατομμύρια παραμέτρους, περίπου 9 φορές λιγότερες από το GPT-3 του OpenAI. Στη μηχανική μάθηση, οι παράμετροι είναι το μέρος του μοντέλου που μαθαίνεται από ιστορικά δεδομένα εκπαίδευσης. Σε γενικές γραμμές, στον τομέα της γλώσσας, η συσχέτιση μεταξύ του αριθμού των παραμέτρων και της πολυπλοκότητας έχει διατηρηθεί εξαιρετικά καλά.

Η EleutherAI δεν ισχυρίζεται ότι το GPT-NeoX-20B επιλύει οποιοδήποτε από τα μεγάλα προβλήματα που μαστίζουν τα τρέχοντα γλωσσικά μοντέλα, συμπεριλαμβανομένων πτυχών όπως η μεροληψία και η τοξικότητα. Ωστόσο, ο όμιλος υποστηρίζει ότι τα οφέλη από την κυκλοφορία του μοντέλου - και άλλων παρόμοιων - υπερτερούν των κινδύνων. Τα μοντέλα γλώσσας μπορεί να κοστίζουν έως και εκατομμύρια δολάρια για την εκπαίδευση από την αρχή και το συμπέρασμα — (δηλαδή, η εκτέλεση του εκπαιδευμένου μοντέλου) είναι ένα άλλο εμπόδιο. Μια εκτίμηση καθορίζει το κόστος εκτέλεσης του GPT-3 σε μία μόνο παρουσία Υπηρεσιών Ιστού της Amazon σε τουλάχιστον 87,000 $ ετησίως.

«Από το spam και το astroturfing μέχρι τον εθισμό στα chatbot, υπάρχουν σαφείς βλάβες που μπορεί να εκδηλωθούν από τη χρήση αυτών των μοντέλων ήδη σήμερα, και αναμένουμε ότι η ευθυγράμμιση των μελλοντικών μοντέλων θα είναι κρίσιμης σημασίας. Πιστεύουμε ότι η επιτάχυνση της έρευνας για την ασφάλεια είναι εξαιρετικά σημαντική», δήλωσε ο συνιδρυτής της EleutherAI, Connor Leahy.

Τα προηγούμενα μοντέλα της EleutherAI έχουν ήδη δημιουργήσει εντελώς νέες νεοφυείς επιχειρήσεις AI-as-a-service. Εάν το ιστορικό αποτελεί ένδειξη, το GPT-NeoX-20B θα κάνει το ίδιο.

Για κάλυψη AI, στείλτε συμβουλές ειδήσεων Κάιλ Γουίγκερς - και φροντίστε να εγγραφείτε στο Εβδομαδιαίο ενημερωτικό δελτίο AI και να προσθέσουμε σελιδοδείκτη στο κανάλι AI, Η μηχανή.

Ευχαριστώ για την ανάγνωση,

Κάιλ Γουίγκερς

Ανώτερος Συγγραφέας του AI

Πηγή: https://venturebeat.com/2022/02/04/ai-weekly-deepminds-alphacode-automatic-age-verification-and-a-new-open-language-model/