Τα συστήματα αυτόματης συμπλήρωσης κειμένου στοχεύουν να διευκολύνουν τη ζωή μας, αλλά υπάρχουν κίνδυνοι

Εάν έχετε γράψει ένα μήνυμα κειμένου ή ένα email πρόσφατα, το πιθανότερο είναι ότι η τεχνητή νοημοσύνη σας προτείνει διαφορετικά συνώνυμα, φράσεις ή τρόπους για να ολοκληρώσετε μια πρόταση. Η άνοδος των εργαλείων αυτόματης υποβολής προτάσεων με τεχνητή νοημοσύνη, όπως το Smart Compose της Google, συνέπεσε με τον ψηφιακό μετασχηματισμό των εταιρικών επικοινωνιών, οι οποίες πλέον ζουν κυρίως στο διαδίκτυο. Του αναμενόμενη ότι ο τυπικός εργαζόμενος απαντά σε περίπου 40 email κάθε μέρα και αποστέλλει περισσότερα από 200 μηνύματα Slack την εβδομάδα.

Η ανταλλαγή μηνυμάτων απειλεί να καταναλώσει ένα αυξανόμενο μέρος της εργάσιμης ημέρας, με την Adobe συγκράτηση τιμών ο χρόνος που αφιερώνουν οι εργαζόμενοι απαντώντας σε email με 15.5 ώρες την εβδομάδα. Η συνεχής εναλλαγή εργασιών είναι ένας θάνατος για την παραγωγικότητα, η οποία οι μελέτες δείχνουν οφέλη από την αδιάλειπτη εργασία. Έρευνα από το Πανεπιστήμιο της Καλιφόρνια και το Πανεπιστήμιο Humboldt διαπίστωσαν ότι οι εργαζόμενοι μπορούν να χάσουν έως και 23 λεπτά σε μια εργασία κάθε φορά που τους διακόπτουν, περαιτέρω επιμήκυνση την εργάσιμη ημέρα.

Τα εργαλεία αυτόματης πρότασης υπόσχονται εξοικονόμηση χρόνου βελτιστοποιώντας τη σύνταξη μηνυμάτων και την απάντηση. Η Έξυπνη απάντηση της Google, για παράδειγμα, προτείνει γρήγορες απαντήσεις σε μηνύματα ηλεκτρονικού ταχυδρομείου που κανονικά χρειάζονται λίγα λεπτά για να πληκτρολογηθούν. Αλλά η τεχνητή νοημοσύνη πίσω από αυτά τα εργαλεία έχει ελλείψεις που θα μπορούσαν να εισάγουν προκαταλήψεις ή να επηρεάσουν τη γλώσσα που χρησιμοποιείται στα μηνύματα με ανεπιθύμητους τρόπους.

Η ανάπτυξη της αυτόματης πρότασης και της αυτόματης συμπλήρωσης κειμένου

Το προγνωστικό κείμενο δεν είναι μια νέα τεχνολογία. Ένα από τα πρώτα ευρέως διαθέσιμα παραδείγματα, T9, που επιτρέπει τον σχηματισμό λέξεων από ένα μόνο πάτημα πλήκτρου για κάθε γράμμα, κυκλοφόρησε ως πρότυπο σε πολλά κινητά τηλέφωνα στα τέλη της δεκαετίας του '90. Αλλά η εμφάνιση πιο εξελιγμένων, κλιμακούμενων τεχνικών τεχνητής νοημοσύνης στη γλώσσα οδήγησε σε άλματα στην ποιότητα — και το εύρος — των εργαλείων αυτόματης πρότασης.

Το 2017 ξεκίνησε η Google Έξυπνη απάντηση στο Gmail, το οποίο η εταιρεία μετέφερε αργότερα σε άλλες υπηρεσίες της Google, όπως το Chat και εφαρμογές τρίτων. Σύμφωνα με την Google, η τεχνητή νοημοσύνη πίσω από την Έξυπνη απάντηση δημιουργεί προτάσεις απαντήσεων «με βάση το πλήρες πλαίσιο μιας συνομιλίας», όχι μόνο ένα μήνυμα — φαινομενικά καταλήγοντας σε προτάσεις που είναι πιο επίκαιρες και σχετικές. Έξυπνη σύνθεση, που προτείνει πλήρεις προτάσεις στα email, έφτασε στο Gmail ένα χρόνο αργότερα και στα Έγγραφα Google αμέσως μετά. Ένα παρόμοιο χαρακτηριστικό που ονομάζεται προτεινόμενες απαντήσεις ήρθε στο Microsoft Outlook το 2018 και στο Teams το 2020.

Η τεχνολογία πίσω από τη νέα συλλογή εργαλείων αυτόματης πρότασης — την οποία ορισμένοι ακαδημαϊκοί κύκλοι αναφέρονται ως «επικοινωνία μέσω AI» — είναι άλματα πέρα ​​από αυτό που υπήρχε στη δεκαετία του '90. Για παράδειγμα, το μοντέλο AI που υποστηρίζει το Smart Compose δημιουργήθηκε χρησιμοποιώντας δισεκατομμύρια παραδείγματα email και εκτελείται στο cloud σε προσαρμοσμένο υλικό επιτάχυνσης. Εν τω μεταξύ, το Smart Reply — το οποίο χρησίμευσε ως βάση για το Smart Compose — ακολουθεί μια «ιεραρχική προσέγγιση» στις προτάσεις, εμπνευσμένη από το πώς οι άνθρωποι κατανοούν γλώσσες και έννοιες.

«Το περιεχόμενο της γλώσσας είναι βαθιά ιεραρχικό, αντικατοπτρίζεται στη δομή της ίδιας της γλώσσας…» ο ερευνητής της Google, Μπράιαν Στρόου, και ο διευθυντής μηχανικής Ρέι Κουρτσβάιλ εξηγήσει σε μια ανάρτηση ιστολογίου. "Σκεφτείτε το μήνυμα, "Αυτό το ενδιαφέρον άτομο στο καφέ που μας αρέσει, μου έριξε μια ματιά." … Προτείνοντας μια κατάλληλη απάντηση σε αυτό το μήνυμα, θα μπορούσαμε να εξετάσουμε τη σημασία της λέξης «ματιά», η οποία είναι δυνητικά διφορούμενη. Ήταν μια θετική χειρονομία; Σε αυτήν την περίπτωση, μπορεί να απαντήσουμε, "Καλό!" Ή ήταν μια αρνητική χειρονομία; Αν ναι, λέει κάτι το θέμα για το πώς ένιωσε ο συγγραφέας για την αρνητική ανταλλαγή; Απαιτούνται πολλές πληροφορίες για τον κόσμο και η ικανότητα να κάνετε λογικές κρίσεις για να κάνετε λεπτές διακρίσεις. Λαμβάνοντας υπόψη αρκετά παραδείγματα γλώσσας, μια προσέγγιση μηχανικής μάθησης μπορεί να ανακαλύψει πολλές από αυτές τις λεπτές διακρίσεις. ”

Αλλά όπως συμβαίνει με όλες τις τεχνολογίες, ακόμη και τα πιο ικανά εργαλεία αυτόματης πρότασης είναι επιρρεπή σε ελαττώματα που εμφανίζονται κατά τη διαδικασία ανάπτυξης - και ανάπτυξης -.

Τον Δεκέμβριο του 2016, ήταν αποκάλυψε ότι η δυνατότητα αυτόματης συμπλήρωσης της Αναζήτησης Google πρότεινε μίσος και προσβλητικές καταλήξεις για συγκεκριμένες φράσεις αναζήτησης, όπως "είναι οι Εβραίοι κακοί;" για τη φράση «είναι Εβραίοι». Σύμφωνα με την εταιρεία, φταίει ένα αλγοριθμικό σύστημα που ενημερώνει τις προτάσεις με βάση το τι έψαξαν οι άλλοι χρήστες πρόσφατα. Ενώ η Google εφάρμοσε τελικά μια επιδιόρθωση, χρειάστηκαν αρκετά ακόμη χρόνια για να αποκλείσει η εταιρεία τις προτάσεις αυτόματης συμπλήρωσης αμφιλεγόμενες πολιτικές δηλώσεις συμπεριλαμβανομένων ψευδών ισχυρισμών σχετικά με τις απαιτήσεις ψήφου και τη νομιμότητα των εκλογικών διαδικασιών.

Έγινε Έξυπνη απάντηση Βρέθηκαν για να προσφέρετε στο "άτομο που φορά τουρμπάνι" emoji ως απάντηση σε ένα μήνυμα που περιλάμβανε ένα emoji με όπλο. Και η αυτόματη συμπλήρωση της Apple στο iOS προηγουμένως πρότεινε μόνο αντρικά emoji για εκτελεστικούς ρόλους, όπως CEO, COO και CTO.

Μεροληπτικά δεδομένα

Τα ελαττώματα στα συστήματα αυτόματης συμπλήρωσης και αυτόματης πρότασης συχνά προκύπτουν από μεροληπτικά δεδομένα. Τα εκατομμύρια έως δισεκατομμύρια παραδείγματα από τα οποία μαθαίνουν τα συστήματα μπορούν να μολυνθούν με κείμενο τοξικές ιστοσελίδες που συνδέουν ορισμένα φύλα, φυλές, εθνικότητες, και θρησκείες με βλαβερές έννοιες. Απεικονίζοντας το πρόβλημα, Κώδιξ, ένα μοντέλο δημιουργίας κωδικών που αναπτύχθηκε από το ερευνητικό εργαστήριο OpenAI, μπορεί να ζητηθεί να γράψει «τρομοκράτης» όταν τροφοδοτηθεί η λέξη «Ισλάμ». Ένα άλλο μεγάλο μοντέλο γλώσσας από την εκκίνηση AI Συνέρχομαι τείνει να συσχετίζει άντρες και γυναίκες με στερεότυπα «αρσενικά» και «θηλυκά» επαγγέλματα, όπως «άνδρας επιστήμονας» και «γυναίκα οικονόμος».

Οι σχολιασμοί στα δεδομένα μπορούν να δημιουργήσουν νέα προβλήματα — ή να επιδεινώσουν τα υπάρχοντα. Επειδή πολλά μοντέλα μαθαίνουν από ετικέτες που επικοινωνούν αν μια λέξη, πρόταση, παράγραφος ή έγγραφο έχει ορισμένα χαρακτηριστικά, όπως θετικό ή αρνητικό συναίσθημα, εταιρείες και ερευνητές στρατολογούν ομάδες ανθρώπων σχολιαστών για να επισημάνουν παραδείγματα, συνήθως από πλατφόρμες crowdsourcing όπως η Amazon Mechanical Turk. Αυτοί οι σχολιαστές φέρνουν τις δικές τους προοπτικές - και προκαταλήψεις - στο τραπέζι.

Σε μια μελέτη από το Allen Institute for AI, Carnegie Mellon και το Πανεπιστήμιο της Ουάσιγκτον, οι επιστήμονες διαπίστωσαν ότι οι ετικέτες είναι πιο πιθανό να σχολιάζουν φράσεις στην αφροαμερικανική αγγλική διάλεκτο (AAE) πιο τοξικές από τις γενικές αμερικανικές αγγλικές ισοδύναμες - παρά το γεγονός ότι είναι κατανοητές. ως μη τοξικό από ηχεία ΑΑΕ. Jigsaw, ο οργανισμός που εργάζεται υπό τη μητρική εταιρεία Google Alphabet για την αντιμετώπιση του διαδικτυακού εκφοβισμού και της παραπληροφόρησης, έχει καταλήξει σε παρόμοια συμπεράσματα στα πειράματά του. Οι ερευνητές της εταιρείας ανακάλυψαν διαφορές στους σχολιασμούς μεταξύ των επισήμων που αυτοπροσδιορίζονται ως Αφροαμερικανοί και των μελών της κοινότητας LGBTQ+ έναντι των σχολιαστών που δεν ταυτίζονται ως καμία από αυτές τις ομάδες.

Μερικές φορές, η μεροληψία είναι σκόπιμη - θέμα τοπικών αντισταθμίσεων. Για παράδειγμα, Συγγραφέας, μια startup που αναπτύσσει έναν βοηθό τεχνητής νοημοσύνης για τη δημιουργία περιεχομένου, λέει ότι δίνει προτεραιότητα στα "επιχειρηματικά αγγλικά" στις γραπτές προτάσεις της. Ο Διευθύνων Σύμβουλος May Habib έδωσε το παράδειγμα του "habitual be" στην ΑΑΒΕ, έναν χρόνο ρήματος που δεν υπάρχει σε κανένα άλλο στυλ της αγγλικής γλώσσας.

“Since [the habitual be] traditionally hasn’t been used in business English, and thus doesn’t show up in high frequency in our datasets, we would correct ‘Y’all be doing some strange things out here’ to ‘Y’all are doing some strange things out here,’” Habib told VentureBeat via email. “[That said,] we did manually ensure that vernacular-based greetings and sign-offs would not be flagged by Writer. Some vernacular is more gender-neutral than formal business English, [for instance,] so is more modern and on-brand for companies.”

Επηρεάζοντας τη γραφή

Όταν οι προκαταλήψεις — σκόπιμες ή μη — γίνονται συστήματα αυτόματης συμπλήρωσης και αυτόματης πρότασης, μπορούν να αλλάξουν τον τρόπο που γράφουμε. Η τεράστια κλίμακα στην οποία λειτουργούν αυτά τα συστήματα καθιστά δύσκολη (αν όχι αδύνατη) την πλήρη αποφυγή τους. Έξυπνη απάντηση ήταν υπεύθυνος για το 10% όλων των απαντήσεων του Gmail που στάλθηκαν από smartphone το 2016.

Σε ένα από τα πιο ολοκληρωμένα έλεγχοι των εργαλείων αυτόματης συμπλήρωσης, μια ομάδα ερευνητών της Microsoft πραγματοποίησε συνεντεύξεις με εθελοντές στους οποίους είπαν να πουν τις σκέψεις τους σχετικά με τις απαντήσεις που δημιουργούνται αυτόματα στο Outlook. Οι ερωτηθέντες βρήκαν ότι ορισμένες από τις απαντήσεις ήταν υπερβολικά θετικές, λανθασμένες στις υποθέσεις τους για τον πολιτισμό και το φύλο και πολύ αγενείς για ορισμένα πλαίσια, όπως οι εταιρικές αλληλογραφίες. Ακόμη και πάλι, τα πειράματα κατά τη διάρκεια της μελέτης έδειξαν ότι οι χρήστες ήταν πιο πιθανό να προτιμήσουν σύντομες, θετικές και ευγενικές απαντήσεις που πρότεινε το Outlook.

Μια ξεχωριστή μελέτη του Χάρβαρντ διαπίστωσε ότι όταν οι άνθρωποι που έγραφαν για ένα εστιατόριο παρουσιάζονταν με «θετικές» προτάσεις αυτόματης συμπλήρωσης, οι κριτικές που προέκυψαν έτειναν να είναι πιο θετικές από ό,τι αν τους παρουσιάζονταν αρνητικές προτάσεις. «Είναι συναρπαστικό να σκεφτόμαστε πώς τα συστήματα πρόβλεψης κειμένων του μέλλοντος θα μπορούσαν να βοηθήσουν τους ανθρώπους να γίνουν πολύ πιο αποτελεσματικοί συγγραφείς, αλλά χρειαζόμαστε επίσης διαφάνεια και υπευθυνότητα για να προστατευτούμε από προτάσεις που μπορεί να είναι προκατειλημμένες ή χειραγωγημένες», δήλωσε ο Ken Arnold, ερευνητής στο Harvard's School of Μηχανικών και Εφαρμοσμένων Επιστημών που συμμετείχε στη μελέτη, είπε το BBC.

Εάν υπάρχει μια ολοκληρωμένη λύση στο πρόβλημα της επιβλαβούς αυτόματης συμπλήρωσης, δεν έχει ανακαλυφθεί ακόμη. Η Google επέλεξε να αποκλείσει απλώς τις προτάσεις αντωνυμιών με βάση το φύλο στο Έξυπνο Σύνταξη, επειδή το σύστημα αποδείχθηκε ότι δεν ήταν καλός προγνωστικός των φύλων και των ταυτοτήτων φύλου των παραληπτών. Το LinkedIn της Microsoft αποφεύγει επίσης τις έμφυλες αντωνυμίες στο Smart Replies, το εργαλείο πρόβλεψης μηνυμάτων του, για να αποτρέψει πιθανές γκάφες.

Οι συγγραφείς της Microsoft μελέτη προειδοποιούν ότι εάν οι σχεδιαστές συστημάτων δεν αντιμετωπίσουν προληπτικά τις ελλείψεις στις τεχνολογίες αυτόματης συμπλήρωσης, θα διατρέχουν τον κίνδυνο όχι μόνο να προσβάλλουν τους χρήστες αλλά και να τους προκαλέσουν δυσπιστία στα συστήματα. «Οι σχεδιαστές συστημάτων θα πρέπει να εξερευνήσουν στρατηγικές εξατομίκευσης σε επίπεδο ατομικού και κοινωνικού δικτύου, να εξετάσουν πώς μπορεί να διαιωνίζονται οι πολιτιστικές αξίες και οι κοινωνικές προκαταλήψεις από τα συστήματά τους και να εξερευνήσουν μοντελοποίηση κοινωνικής αλληλεπίδρασης προκειμένου να αρχίσουν να αντιμετωπίζουν τους περιορισμούς και τα ζητήματα», έγραψαν. Τα ευρήματά μας υποδεικνύουν ότι τα τρέχοντα συστήματα συστάσεων κειμένου για email και άλλες [όμοιες] τεχνολογίες παραμένουν ανεπαρκώς αποχρώσεις ώστε να αντικατοπτρίζουν τις λεπτότητες των κοινωνικών σχέσεων και των αναγκών επικοινωνίας στον πραγματικό κόσμο. "

Πηγή: https://venturebeat.com/2022/01/11/text-autocompletion-systems-aim-to-ease-our-lives-but-there-are-risks/