Ένας μαθηματικός μπαίνει σε ένα μπαρ (παραπληροφόρησης)

Παραπληροφόρηση, παραπληροφόρηση, infotainment, algowars — αν οι συζητήσεις για το μέλλον των μέσων ενημέρωσης τις τελευταίες δεκαετίες σημαίνουν κάτι, έχουν αφήσει τουλάχιστον ένα έντονο αποτύπωμα στην αγγλική γλώσσα. Υπήρξε πολλή επιθετικότητα και φόβος για το τι μας κάνουν τα μέσα κοινωνικής δικτύωσης, από τις ατομικές μας ψυχολογίες και νευρολογίες μέχρι ευρύτερες ανησυχίες για τη δύναμη των δημοκρατικών κοινωνιών. Όπως το έθεσε πρόσφατα ο Joseph Bernstein, η στροφή από τη «σοφία του πλήθους» στην «παραπληροφόρηση» ήταν πράγματι απότομη.

Τι είναι η παραπληροφόρηση; Υπάρχει, και αν ναι, πού βρίσκεται και πώς ξέρουμε ότι το εξετάζουμε; Πρέπει να μας ενδιαφέρει τι μας δείχνουν οι αλγόριθμοι των αγαπημένων μας πλατφορμών καθώς προσπαθούν να αποσπάσουν την προσοχή μας; Είναι ακριβώς αυτά τα είδη περίπλοκων ερωτήσεων μαθηματικών και κοινωνικών επιστημών που προέκυψαν Noah Giansiracusa ενδιαφέρονται για το θέμα.

Ο Giansiracusa, καθηγητής στο Πανεπιστήμιο Bentley της Βοστώνης, έχει εκπαιδευτεί στα μαθηματικά (εστιάζοντας την έρευνά του σε τομείς όπως η αλγεβρική γεωμετρία), αλλά είχε επίσης μια τάση να εξετάζει κοινωνικά θέματα μέσα από ένα μαθηματικό πρίσμα, όπως η σύνδεση υπολογιστική γεωμετρία στο Ανώτατο Δικαστήριο. Πιο πρόσφατα, κυκλοφόρησε ένα βιβλίο με τίτλο "Πώς οι αλγόριθμοι δημιουργούν και αποτρέπουν ψευδείς ειδήσειςΓια να εξερευνήσετε μερικά από τα δύσκολα ερωτήματα γύρω από το τοπίο των μέσων ενημέρωσης σήμερα και πώς η τεχνολογία επιδεινώνει και βελτιώνει αυτές τις τάσεις.

Φιλοξένησα τη Giansiracusa σε ένα Twitter Space πρόσφατα και επειδή το Twitter δεν διευκόλυνε να ακούτε αυτές τις συνομιλίες μετά (εφήμερο!), σκέφτηκα ότι θα έβγαζα τα πιο ενδιαφέροντα κομμάτια της συνομιλίας μας για εσάς και τους επόμενους.

Αυτή η συνέντευξη έχει επεξεργαστεί και συμπυκνωθεί για λόγους σαφήνειας.

Ντάνι Κρίχτον: Πώς αποφασίσατε να ερευνήσετε τα fake news και να γράψετε αυτό το βιβλίο;

Noah Giansiracusa: Ένα πράγμα που παρατήρησα είναι ότι υπάρχει πολύ ενδιαφέρουσα κοινωνιολογική, πολιτική επιστήμη συζήτηση για ψεύτικες ειδήσεις και αυτού του είδους τα πράγματα. Και μετά από την τεχνική πλευρά, θα έχετε πράγματα όπως ο Mark Zuckerberg να λέει ότι η AI θα διορθώσει όλα αυτά τα προβλήματα. Απλώς φαινόταν ότι είναι λίγο δύσκολο να γεφυρωθεί αυτό το χάσμα.

Όλοι πιθανότατα έχουν ακούσει αυτό το πρόσφατο απόφθεγμα του Μπάιντεν να λέει: «σκοτώνουν ανθρώπους», σε σχέση με την παραπληροφόρηση στα μέσα κοινωνικής δικτύωσης. Έχουμε, λοιπόν, πολιτικούς που μιλούν για αυτά τα πράγματα όπου είναι δύσκολο για αυτούς να κατανοήσουν πραγματικά την αλγοριθμική πλευρά. Τότε έχουμε ανθρώπους της επιστήμης των υπολογιστών που είναι πολύ βαθιά στις λεπτομέρειες. Έτσι κάπως κάθομαι ενδιάμεσα, δεν είμαι πραγματικά σκληροπυρηνικός άνθρωπος της πληροφορικής. Οπότε νομίζω ότι είναι λίγο πιο εύκολο για μένα να κάνω ένα βήμα πίσω και να έχω την πανοραμική θέα.

Στο τέλος της ημέρας, απλώς ένιωσα ότι ήθελα να εξερευνήσω μερικές ακόμη αλληλεπιδράσεις με την κοινωνία όπου τα πράγματα γίνονται ακατάστατα, όπου τα μαθηματικά δεν είναι τόσο καθαρά.

Crichton: Προερχόμενοι από ένα μαθηματικό υπόβαθρο, εισέρχεστε σε αυτήν την αμφιλεγόμενη περιοχή όπου πολλοί άνθρωποι έχουν γράψει από πολλές διαφορετικές οπτικές γωνίες. Τι έχουν οι άνθρωποι σωστά σε αυτόν τον τομέα και τι έχουν ίσως χάσει οι άνθρωποι κάποια απόχρωση;

Γιανσιρακούσα: Υπάρχει πολλή απίστευτη δημοσιογραφία. Ήμουν έκπληκτος με το πώς πολλοί δημοσιογράφοι ήταν πραγματικά σε θέση να αντιμετωπίσουν αρκετά τεχνικά πράγματα. Αλλά θα έλεγα ένα πράγμα που ίσως δεν έκαναν λάθος, αλλά μου έκανε εντύπωση ότι υπάρχουν πολλές φορές που βγαίνει μια ακαδημαϊκή εργασία, ή ακόμα και μια ανακοίνωση από την Google ή το Facebook ή μια από αυτές τις εταιρείες τεχνολογίας, και Κάπως θα αναφέρουν κάτι και ο δημοσιογράφος ίσως θα αποσπάσει ένα απόσπασμα και θα προσπαθήσει να το περιγράψει, αλλά φαίνεται λίγο φοβισμένος να προσπαθήσει πραγματικά να το δει και να το καταλάβει. Και δεν νομίζω ότι δεν μπόρεσαν, φαίνεται πραγματικά σαν εκφοβισμός και φόβος.

Ένα πράγμα που έχω βιώσει πάρα πολύ ως καθηγητής μαθηματικών είναι ότι οι άνθρωποι φοβούνται τόσο πολύ να πουν κάτι λάθος και να κάνουν λάθος. Και αυτό ισχύει για τους δημοσιογράφους που πρέπει να γράφουν για τεχνικά πράγματα, δεν θέλουν να πουν κάτι λάθος. Επομένως, είναι πιο εύκολο να αναφέρετε απλώς ένα δελτίο τύπου από το Facebook ή να αναφέρετε έναν ειδικό.

Ένα πράγμα που είναι τόσο διασκεδαστικό και όμορφο για τα καθαρά μαθηματικά, είναι ότι δεν ανησυχείτε πραγματικά για το ότι κάνετε λάθος, απλώς δοκιμάζετε ιδέες και βλέπετε πού οδηγούν και βλέπετε όλες αυτές τις αλληλεπιδράσεις. Όταν είστε έτοιμοι να γράψετε μια εργασία ή να μιλήσετε, ελέγχετε τις λεπτομέρειες. Αλλά το μεγαλύτερο μέρος των μαθηματικών είναι αυτή η δημιουργική διαδικασία όπου εξερευνάτε και απλώς βλέπετε πώς αλληλεπιδρούν οι ιδέες. Η εκπαίδευσή μου ως μαθηματικός νομίζετε ότι θα με έκανε να φοβάμαι να κάνω λάθη και για να είμαι πολύ ακριβής, αλλά είχε το αντίθετο αποτέλεσμα.

Δεύτερον, πολλά από αυτά τα αλγοριθμικά πράγματα, δεν είναι τόσο περίπλοκα όσο φαίνονται. Δεν κάθομαι εκεί και τα εφαρμόζω, είμαι σίγουρος ότι είναι δύσκολο να τα προγραμματίσω. Αλλά μόνο η μεγάλη εικόνα, όλοι αυτοί οι αλγόριθμοι στις μέρες μας, πολλά από αυτά τα πράγματα βασίζονται στη βαθιά μάθηση. Έχετε λοιπόν κάποιο νευρωνικό δίκτυο, δεν έχει σημασία για μένα ως ξένο τι αρχιτεκτονική χρησιμοποιούν, το μόνο που έχει πραγματικά σημασία είναι, ποιοι είναι οι προγνωστικοί παράγοντες; Βασικά, ποιες είναι οι μεταβλητές που τροφοδοτείτε αυτόν τον αλγόριθμο μηχανικής εκμάθησης; Και τι προσπαθεί να βγάλει; Αυτά είναι πράγματα που μπορεί να καταλάβει ο καθένας.

Crichton: Μία από τις μεγάλες προκλήσεις που σκέφτομαι για την ανάλυση αυτών των αλγορίθμων είναι η έλλειψη διαφάνειας. Σε αντίθεση, ας πούμε, με τον καθαρό κόσμο των μαθηματικών που είναι μια κοινότητα μελετητών που εργάζονται για την επίλυση προβλημάτων, πολλές από αυτές τις εταιρείες μπορεί στην πραγματικότητα να είναι αρκετά αντιμαχόμενες όσον αφορά την παροχή δεδομένων και αναλύσεων στην ευρύτερη κοινότητα.

Γιανσιρακούσα: Φαίνεται ότι υπάρχει ένα όριο σε αυτό που μπορεί να συναγάγει ο καθένας μόνο με το είδος της ύπαρξης από το εξωτερικό.

Ένα καλό παράδειγμα είναι λοιπόν με το YouTube — ομάδες ακαδημαϊκών ήθελαν να διερευνήσουν εάν ο αλγόριθμος συστάσεων του YouTube αποστέλλει τους ανθρώπους σε αυτές τις τρύπες του εξτρεμισμού στη θεωρία συνωμοσίας. Η πρόκληση είναι ότι επειδή αυτός είναι ο αλγόριθμος συστάσεων, χρησιμοποιεί βαθιά εκμάθηση, βασίζεται σε εκατοντάδες και εκατοντάδες προγνωστικούς παράγοντες με βάση το ιστορικό αναζήτησής σας, τα δημογραφικά στοιχεία σας, τα άλλα βίντεο που έχετε παρακολουθήσει και για πόσο χρονικό διάστημα — όλα αυτά. Είναι τόσο προσαρμοσμένο σε εσάς και την εμπειρία σας, που όλες οι μελέτες που κατάφερα να βρω χρησιμοποιούν την κατάσταση ανώνυμης περιήγησης.

Επομένως, είναι βασικά ένας χρήστης που δεν έχει ιστορικό αναζήτησης, δεν έχει πληροφορίες και θα μεταβεί σε ένα βίντεο και, στη συνέχεια, θα κάνει κλικ στο πρώτο προτεινόμενο βίντεο και στη συνέχεια στο επόμενο. Και ας δούμε πού οδηγεί ο αλγόριθμος τους ανθρώπους. Αυτή είναι μια τόσο διαφορετική εμπειρία από έναν πραγματικό άνθρωπο χρήστη με ιστορικό. Και αυτό ήταν πραγματικά δύσκολο. Δεν νομίζω ότι κάποιος έχει βρει έναν καλό τρόπο να εξερευνήσει αλγοριθμικά τον αλγόριθμο του YouTube από έξω.

Ειλικρινά, ο μόνος τρόπος που πιστεύω ότι θα μπορούσατε να το κάνετε είναι κάτι σαν μια μελέτη παλιάς σχολής όπου στρατολογείτε ένα σωρό εθελοντές και βάζετε έναν ιχνηλάτη στον υπολογιστή τους και λέτε: «Γεια, ζήσε τη ζωή όπως εσύ κανονικά ασχολείστε με τις ιστορίες σας και τα πάντα και πείτε μας τα βίντεο που παρακολουθείτε." Επομένως, ήταν δύσκολο να ξεπεράσετε αυτό το γεγονός ότι πολλοί από αυτούς τους αλγόριθμους, σχεδόν όλοι, θα έλεγα, βασίζονται τόσο πολύ στα προσωπικά σας δεδομένα. Δεν ξέρουμε πώς να το μελετήσουμε συνολικά.

Και δεν είναι μόνο εγώ ή οποιοσδήποτε άλλος στο εξωτερικό που έχει πρόβλημα επειδή δεν έχουμε τα δεδομένα. Είναι ακόμη και άτομα μέσα σε αυτές τις εταιρείες που κατασκεύασαν τον αλγόριθμο και γνωρίζουν πώς λειτουργεί ο αλγόριθμος σε χαρτί, αλλά δεν ξέρουν πώς θα συμπεριφερθεί πραγματικά. Είναι σαν το τέρας του Φρανκενστάιν: έχτισαν αυτό το πράγμα, αλλά δεν ξέρουν πώς θα λειτουργήσει. Έτσι, ο μόνος τρόπος που πιστεύω ότι μπορείτε να το μελετήσετε πραγματικά είναι αν οι άνθρωποι στο εσωτερικό με αυτά τα δεδομένα ξεφύγουν από το δρόμο τους και ξοδέψουν χρόνο και πόρους για να το μελετήσουν.

Crichton: Υπάρχουν πολλές μετρήσεις που χρησιμοποιούνται για την αξιολόγηση παραπληροφόρησης και τον προσδιορισμό της αφοσίωσης σε μια πλατφόρμα. Προερχόμενοι από το μαθηματικό σας υπόβαθρο, πιστεύετε ότι αυτά τα μέτρα είναι ισχυρά;

Γιανσιρακούσα: Οι άνθρωποι προσπαθούν να απομυθοποιήσουν την παραπληροφόρηση. Αλλά στη διαδικασία, μπορεί να το σχολιάσουν, να το κάνουν retweet ή να το μοιραστούν και αυτό μετράει ως αφοσίωση. Έτσι, πολλές από αυτές τις μετρήσεις αφοσίωσης, βλέπουν πραγματικά τη θετική ή απλώς τη συνολική δέσμευση; Ξέρεις, κάπως όλα συγκεντρώνονται.

Αυτό συμβαίνει και στην ακαδημαϊκή έρευνα. Οι αναφορές είναι η καθολική μέτρηση του πόσο επιτυχημένη είναι η έρευνα. Λοιπόν, πραγματικά ψεύτικα πράγματα όπως το πρωτότυπο χαρτί για τον αυτισμό και τα εμβόλια του Wakefield έλαβε τόνους αναφορών, πολλοί από αυτούς ήταν άνθρωποι που το ανέφεραν επειδή θεώρησαν ότι ήταν σωστό, αλλά πολλοί από αυτούς ήταν επιστήμονες που το απομυθοποιούσαν, το αναφέρουν στο έγγραφό τους ας πούμε, αποδεικνύουμε ότι αυτή η θεωρία είναι λάθος. Αλλά κατά κάποιο τρόπο μια παραπομπή είναι μια αναφορά. Επομένως, όλα μετρούν στη μέτρηση επιτυχίας.

Επομένως, νομίζω ότι αυτό είναι λίγο από αυτό που συμβαίνει με την δέσμευση. Αν δημοσιεύσω κάτι στα σχόλιά μου λέγοντας "Γεια, αυτό είναι τρελό", πώς ξέρει ο αλγόριθμος αν το υποστηρίζω ή όχι; Θα μπορούσαν να χρησιμοποιήσουν κάποια επεξεργασία γλώσσας τεχνητής νοημοσύνης για να δοκιμάσουν, αλλά δεν είμαι σίγουρος αν είναι, και είναι μεγάλη προσπάθεια για να το κάνουν.

Crichton: Τέλος, θέλω να μιλήσω λίγο για το GPT-3 και την ανησυχία σχετικά με τα συνθετικά μέσα και τις ψεύτικες ειδήσεις. Υπάρχει πολύς φόβος ότι τα ρομπότ AI θα κατακλύσουν τα μέσα ενημέρωσης με παραπληροφόρηση – πόσο φοβισμένοι ή όχι πρέπει να φοβόμαστε;

Γιανσιρακούσα: Επειδή το βιβλίο μου αναπτύχθηκε πραγματικά από μια τάξη από εμπειρία, ήθελα να προσπαθήσω να παραμείνω αμερόληπτος και απλώς να ενημερώσω τους ανθρώπους και να τους αφήσω να πάρουν τις δικές τους αποφάσεις. Αποφάσισα να προσπαθήσω να διακόψω αυτή τη συζήτηση και πραγματικά να αφήσω και τις δύο πλευρές να μιλήσουν. Νομίζω ότι οι αλγόριθμοι του newsfeed και οι αλγόριθμοι αναγνώρισης ενισχύουν πολλά επιβλαβή πράγματα και αυτό είναι καταστροφικό για την κοινωνία. Αλλά υπάρχει επίσης πολύ εκπληκτική πρόοδος στη χρήση αλγορίθμων παραγωγικά και με επιτυχία για τον περιορισμό των ψεύτικων ειδήσεων.

Υπάρχουν αυτοί οι τεχνοουτοπιστές, που λένε ότι η τεχνητή νοημοσύνη πρόκειται να διορθώσει τα πάντα, θα έχουμε αφήγηση αλήθειας, έλεγχο γεγονότων και αλγόριθμους που μπορούν να ανιχνεύσουν παραπληροφόρηση και να την καταργήσουν. Υπάρχει κάποια πρόοδος, αλλά αυτό το πράγμα δεν πρόκειται να συμβεί και δεν θα είναι ποτέ πλήρως επιτυχημένο. Θα πρέπει πάντα να βασίζεται στους ανθρώπους. Αλλά το άλλο πράγμα που έχουμε είναι ένας παράλογος φόβος. Υπάρχει αυτού του είδους η υπερβολική δυστοπία της τεχνητής νοημοσύνης όπου οι αλγόριθμοι είναι τόσο ισχυροί, κάτι σαν ιδιομορφία που πρόκειται να μας καταστρέψουν.

Όταν τα βαθιά ψεύτικα κυκλοφόρησαν για πρώτη φορά στις ειδήσεις το 2018, και το GPT-3 είχε κυκλοφορήσει πριν από μερικά χρόνια, υπήρχε μεγάλος φόβος ότι, "Ωχ, σκατά, αυτό θα κάνει όλα μας τα προβλήματα με τις ψεύτικες ειδήσεις και την κατανόηση του τι ισχύει σε ο κόσμος πολύ, πολύ πιο δύσκολος». Και νομίζω ότι τώρα που έχουμε μερικά χρόνια απόσταση, μπορούμε να δούμε ότι το έχουν κάνει λίγο πιο δύσκολο, αλλά όχι τόσο σημαντικά όσο περιμέναμε. Και το κύριο ζήτημα είναι κάπως περισσότερο ψυχολογικό και οικονομικό από οτιδήποτε άλλο.

Έτσι, οι αρχικοί συγγραφείς του GPT-3 έχουν μια ερευνητική εργασία που εισάγει τον αλγόριθμο, και ένα από τα πράγματα που έκαναν ήταν μια δοκιμή όπου επικόλλησαν κάποιο κείμενο και το επέκτεισαν σε ένα άρθρο, και στη συνέχεια έβαλαν μερικούς εθελοντές να αξιολογήσουν και να μαντέψουν ποιο είναι το αλγοριθμικά δημιουργημένο και ποιο άρθρο είναι το ανθρωπογενές. Ανέφεραν ότι είχαν πολύ, πολύ κοντά στο 50% ακρίβεια, που σημαίνει μόλις πάνω από τυχαίες εικασίες. Αυτό ακούγεται, ξέρετε, και εκπληκτικό και τρομακτικό.

Αλλά αν κοιτάξετε τις λεπτομέρειες, επεκτείνονταν σαν τίτλος μιας γραμμής σε μια παράγραφο κειμένου. Αν προσπαθήσατε να κάνετε ένα πλήρες άρθρο, μήκους του Ατλαντικού ή του New Yorker, θα αρχίσετε να βλέπετε τις αποκλίσεις, η σκέψη θα περιπλανηθεί. Οι συγγραφείς αυτού του άρθρου δεν το ανέφεραν αυτό, απλώς έκαναν το πείραμά τους και είπαν: "Γεια, δείτε πόσο επιτυχημένο είναι".

Έτσι φαίνεται πειστικό, μπορούν να κάνουν αυτά τα εντυπωσιακά άρθρα. Αλλά εδώ είναι ο κύριος λόγος, στο τέλος της ημέρας, γιατί το GPT-3 δεν ήταν τόσο μεταμορφωτικό όσον αφορά τις ψεύτικες ειδήσεις και την παραπληροφόρηση και όλα αυτά τα πράγματα. Είναι επειδή οι ψεύτικες ειδήσεις είναι κυρίως σκουπίδια. Είναι κακώς γραμμένο, είναι χαμηλής ποιότητας, είναι τόσο φθηνό και γρήγορο στην έκδοση, που θα μπορούσατε απλώς να πληρώσετε τον 16χρονο ανιψιό σας για να δημοσιεύσει ένα σωρό άρθρα ψεύτικων ειδήσεων μέσα σε λίγα λεπτά.

Δεν είναι τόσο πολύ που τα μαθηματικά με βοήθησαν να το δω αυτό. Απλώς, κατά κάποιο τρόπο, το κύριο πράγμα που προσπαθούμε να κάνουμε στα μαθηματικά είναι να είμαστε δύσπιστοι. Πρέπει λοιπόν να αμφισβητήσετε αυτά τα πράγματα και να είστε λίγο δύσπιστοι.

Πηγή: https://techcrunch.com/2021/08/20/a-mathematician-walks-into-a-bar-of-disinformation/