Χάρη στην πρόοδο της τεχνολογίας deepfake, γίνεται ευκολότερο να κλωνοποιούνται οι φωνές των ανθρώπων. Ορισμένες χρήσεις της τεχνολογίας, όπως η δημιουργία φωνητικών εκφωνήσεων για την κάλυψη κενών Roadrunner, το ντοκιμαντέρ για τον Anthony Bourdain που κυκλοφόρησε το περασμένο καλοκαίρι, είναι ακίνδυνο (αν και ακόμη και η ηθική αυτής της κίνησης ήταν καυτή συζητηθεί όταν βγήκε η ταινία). Σε άλλες περιπτώσεις, ωστόσο, χρησιμοποιούνται ψεύτικες φωνές για σκοπούς που είναι πολύ ξεκάθαρα κακόβουλοι – όπως η κλοπή εκατομμυρίων δολαρίων.
An άρθρο που δημοσιεύτηκε την περασμένη εβδομάδα από Forbes αποκάλυψε ότι μια ομάδα κυβερνοεγκληματιών στα Ηνωμένα Αραβικά Εμιράτα χρησιμοποίησε τεχνολογία deepfake ως μέρος μιας ληστείας τράπεζας που μετέφερε συνολικά 35 εκατομμύρια δολάρια εκτός της χώρας και σε λογαριασμούς σε όλο τον κόσμο.
Money Heist, Voice Edition
Το μόνο που χρειάζεστε για να φτιάξετε μια ψεύτικη εκδοχή της φωνής κάποιου είναι μια ηχογράφηση αυτού του ατόμου που μιλάει. Όπως συμβαίνει με κάθε σύστημα μηχανικής εκμάθησης του οποίου η έξοδος βελτιώνεται με βάση την ποσότητα και την ποιότητα των δεδομένων εισόδου του, μια βαθιά ψεύτικη φωνή θα μοιάζει περισσότερο με την αληθινή, εάν υπάρχουν περισσότερες ηχογραφήσεις για να μάθει το σύστημα.
Σε αυτήν την περίπτωση, οι εγκληματίες χρησιμοποίησαν λογισμικό deepfake για να αναδημιουργήσουν τη φωνή ενός στελέχους σε μια μεγάλη εταιρεία (λεπτομέρειες σχετικά με την εταιρεία, το λογισμικό που χρησιμοποιήθηκε και οι ηχογραφήσεις για την εκπαίδευση του εν λόγω λογισμικού δεν φαίνεται να είναι διαθέσιμες). Στη συνέχεια πραγματοποίησαν τηλεφωνήματα σε έναν διευθυντή τράπεζας με τον οποίο το στέλεχος είχε προϋπάρχουσα σχέση, πράγμα που σημαίνει ότι ο διευθυντής της τράπεζας γνώριζε τη φωνή του στελέχους. Οι μιμητές έστειλαν επίσης πλαστά μηνύματα ηλεκτρονικού ταχυδρομείου στον διευθυντή της τράπεζας επιβεβαιώνοντας τις λεπτομέρειες των συναλλαγών που ζητήθηκαν. Μεταξύ των email και της γνωστής φωνής, όταν το στέλεχος ζήτησε από τον διευθυντή να εξουσιοδοτήσει τη μεταφορά εκατομμυρίων δολαρίων μεταξύ λογαριασμών, ο διευθυντής δεν είδε κανένα πρόβλημα να προχωρήσει και να το κάνει.
Η απάτη έγινε τον Ιανουάριο του 2020, αλλά σχετικό δικαστικό έγγραφο μόλις κατατέθηκε στις ΗΠΑ την περασμένη εβδομάδα. Αξιωματούχοι στα Ηνωμένα Αραβικά Εμιράτα ζητούν βοήθεια από τους ερευνητές στις ΗΠΑ για τον εντοπισμό 400,000 δολαρίων από τα κλεμμένα χρήματα που πήγαν σε τραπεζικούς λογαριασμούς των ΗΠΑ στην Centennial Bank.
Οι φωνές μας, ο εαυτός μας
Η ντεμοντέ τρόπος («παλιό» σε αυτό το πλαίσιο που σημαίνει προτού η μηχανική μάθηση ήταν τόσο πανταχού παρούσα όσο είναι σήμερα) το να φτιάξεις μια ψεύτικη ανθρώπινη φωνή ήταν να ηχογραφήσεις μια πραγματική ανθρώπινη φωνή, να χωρίσεις αυτή την ηχογράφηση σε πολλές διακριτές συλλαβές λόγου και μετά να επικολλήσεις αυτές τις συλλαβές μαζί σε αμέτρητες μεταθέσεις για να σχηματίσετε τις λέξεις που θέλατε να πει η φωνή. Ήταν κουραστικό και έδωσε μια φωνή που δεν ακουγόταν καθόλου ρεαλιστική.
Είναι εύκολο να διαφοροποιήσουμε τις φωνές των κοντινών μας ανθρώπων και να αναγνωρίσουμε διάσημες φωνές—αλλά δεν σκεφτόμαστε συχνά τα πολλά στοιχεία που συμβάλλουν στο βγάζοντας φωνή μοναδικός. Υπάρχει η χροιά και ο τόνος, που αναφέρονται στο σημείο που πέφτει μια φωνή σε μια σειρά από νότες από χαμηλά προς ψηλά. Υπάρχει ο ρυθμός, ο οποίος είναι ο ρυθμός του ομιλητή και οι παραλλαγές στον τόνο και η έμφαση σε διαφορετικές λέξεις ή μέρη μιας πρότασης. Υπάρχει προφορά και ιδιορρυθμίες όπως τοπικές προφορές ή χείλη.
Εν ολίγοις, οι φωνές μας είναι εντελώς μοναδικές - κάτι που κάνει ακόμα πιο ανατριχιαστικό το γεγονός ότι γίνεται πιο εύκολη η συνθετική αναδημιουργία τους.
Ψεύτικες φωνές που θα έρθουν
Είναι η ληστεία τράπεζας των ΗΑΕ προάγγελος εγκλημάτων που θα ακολουθήσουν; Δυστυχώς, η απάντηση είναι πολύ πιθανό ναι. Δεν είναι η πρώτη τέτοια απόπειρα, αλλά είναι η πρώτη που καταφέρνει να κλέψει ένα τόσο μεγάλο χρηματικό ποσό χρησιμοποιώντας μια βαθιά ψεύτικη φωνή. Το 2019 μια ομάδα εγκληματιών ψεύτισε τη φωνή του Διευθύνοντος Συμβούλου μιας ενεργειακής εταιρείας με έδρα το Ηνωμένο Βασίλειο να μεταφέρει 243,000 δολάρια σε τραπεζικό λογαριασμό της Ουγγαρίας.
Πολλές διαφορετικές εκδόσεις του λογισμικού deepfake ήχου είναι ήδη διαθέσιμες στο εμπόριο, συμπεριλαμβανομένων εκδόσεων από εταιρείες όπως αποδημητικό πτηνό της αυστραλίας (που χρειάζεται μόνο μια εγγραφή ενός λεπτού για να δημιουργήσει μια ψεύτικη φωνή, αν και ελαφρώς σταματημένη και σαν ρομπότ) Περιγραφή, Ηχητικός, να Βεριτόνη, Για να αναφέρουμε μόνο μερικά.
Αυτές οι εταιρείες σκοπεύουν τα προϊόντα τους να χρησιμοποιηθούν για καλό, και σίγουρα υπάρχουν ορισμένες θετικές περιπτώσεις χρήσης. Τα άτομα με αναπηρία ομιλίας ή παράλυση θα μπορούσαν να χρησιμοποιήσουν το λογισμικό για να επικοινωνήσουν με τους γύρω τους, για παράδειγμα. Η Veritone εμπορεύεται το λογισμικό της για χρήση από διάσημους ανθρώπους που μπορεί να θέλουν να αδειοδοτήσουν τη φωνή τους για πράγματα όπως εγκρίσεις προϊόντων. Η Sonantic δημιούργησε πρόσφατα ένα κλώνος φωνής για τον Val Kilmer, του οποίου η φωνή χάλασε από τη μάχη με τον καρκίνο του λαιμού. Η ηχογράφηση ακουστικών βιβλίων ή podcast ειδήσεων θα μπορούσε επίσης να είναι μια παραγωγική εφαρμογή της τεχνολογίας, καθώς αυτή τη στιγμή ένα άτομο είτε πρέπει να διαβάζει δυνατά για ώρες είτε ο ακροατής αποκτά μια τεχνητή φωνή που δεν είναι πολύ ευχάριστη να ακούει.
Άλλες εταιρείες χρησιμοποιούν ήδη την τεχνητή νοημοσύνη για να αντεπιτεθούν την τεχνητή νοημοσύνη. Επαληθευτής βίντεο της Microsoft, που κυκλοφόρησε λίγο περισσότερο από ένα χρόνο πριν, αναλύει βίντεο και εικόνες και λέει στους χρήστες το ποσοστό πιθανότητας να έχουν υποστεί τεχνητή χειραγώγηση. Ομοίως, το Υπερασπιστής της πραγματικότητας του Ιδρύματος AI χρησιμοποιεί αλγόριθμους ανίχνευσης συνθετικών μέσων για την αναγνώριση πλαστού περιεχομένου. Facebook, Twitter, να YouTube έχουν λάβει όλα τα μέτρα για να προσπαθήσουν να απαγορεύσουν και να αφαιρέσουν τα deepfakes από τους ιστότοπούς τους.
Αλλά αυτή η τεχνολογία πρόκειται να γίνει πιο εξελιγμένη και σε κάθε τομέα: φωνή, εικόνα και βίντεο. Η καταπολέμηση της τεχνολογίας με περισσότερη ή καλύτερη τεχνολογία μπορεί να είναι μια από τις καλύτερες ελπίδες μας, αλλά είναι επίσης σημαντικό να αυξήσουμε την ευαισθητοποίηση σχετικά με τα deepfakes και να ενσταλάξουμε μια ευρεία αίσθηση σκεπτικισμού στους ανθρώπους σχετικά με το περιεχόμενο που βλέπουν στο διαδίκτυο.
Ας ελπίσουμε απλώς ότι το περιστατικό ληστείας τράπεζας στα ΗΑΕ θα ενσταλάξει έναν παρόμοιο σκεπτικισμό στους ανθρώπους που εργάζονται σε τράπεζες, έτσι ώστε οι ψεύτικες φωνές που βοηθούν τους απατεώνες να κλέψουν χρήματα να μην γίνονται πιο συνηθισμένο φαινόμενο.
Image Credit: John McGehjee/Wikimedia Commons
- 000
- 2019
- 2020
- Λογαριασμός
- AI
- αλγόριθμοι
- Όλα
- Εφαρμογή
- γύρω
- ήχου
- Απαγόρευση
- Τράπεζα
- τραπεζικό λογαριασμό
- Τράπεζες
- Μάχη
- ΚΑΛΎΤΕΡΟΣ
- Κυματισμός φωνής
- ΚΑΡΚΙΝΟΣ
- περιπτώσεις
- Διευθύνων Σύμβουλος
- Κοινός
- Εταιρείες
- εταίρα
- περιεχόμενο
- δημιουργία
- μονάδες
- Εγκλήματα
- Εγκληματίες
- εγκληματίες του κυβερνοχώρου
- ημερομηνία
- deepfakes
- Ανίχνευση
- ντοκυμαντέρ
- δολάρια
- εμιράτα
- τελειώνει
- ενέργεια
- δεοντολογία
- εκτελεστικός
- απομίμηση
- Ταινία
- Όνομα
- Forbes
- μορφή
- απάτη
- καλός
- Group
- Ψηλά
- HTTPS
- προσδιορίσει
- εικόνα
- Συμπεριλαμβανομένου
- Ερευνητές
- IT
- large
- ΜΑΘΑΊΝΩ
- μάθηση
- Άδεια
- μάθηση μηχανής
- Μάρκετινγκ
- Εικόνες / Βίντεο
- εκατομμύριο
- χρήματα
- μετακινήσετε
- νέα
- διαδικτυακά (online)
- ΑΛΛΑ
- People
- podcasts
- Προϊόν
- Προϊόντα
- ποιότητα
- αύξηση
- Πραγματικότητα
- αίσθηση
- Κοντά
- Sites
- So
- λογισμικό
- διαίρεση
- κλαπεί
- καλοκαίρι
- σύστημα
- tech
- Τεχνολογία
- λέει
- Οι Φωνές
- ο κόσμος
- Συναλλαγές
- Τουίτερ
- ΗΑΕ
- Ενωμένος
- Ηνωμένα Αραβικά Εμιράτα
- us
- Χρήστες
- Βίντεο
- Βίντεο
- Φωνή
- ΦΩΝΕΣ
- εβδομάδα
- Ο ΟΠΟΊΟΣ
- λόγια
- Εργασία
- κόσμος
- έτος
- YouTube