Takket være deepfake-teknologiens fremskritt, blir det lettere å klone folks stemmer. Noen bruk av teknologien, som å lage voice-overs for å fylle ut hull i Roadrunner, dokumentaren om Anthony Bourdain som ble utgitt i sommer, er harmløse (selv om etikken i dette trekket var sterkt debattert da filmen kom). I andre tilfeller blir imidlertid dypt falske stemmer brukt for mål som er veldig tydelige stygge – som å stjele millioner av dollar.
An Artikkel publisert forrige uke av Forbes avslørte at en gruppe nettkriminelle i De forente arabiske emirater brukte deepfake-teknologi som en del av et bankran som overførte totalt 35 millioner dollar ut av landet og til kontoer over hele verden.
Money Heist, Voice Edition
Alt du trenger for å lage en falsk versjon av noens stemme er et opptak av den personen som snakker. Som med ethvert maskinlæringssystem hvis utgang forbedres basert på kvantiteten og kvaliteten på inndataene, vil en dypt falsk stemme høres mer ut som den virkelige tingen hvis det er flere opptak som systemet kan lære av.
I dette tilfellet brukte kriminelle deepfake-programvare for å gjenskape stemmen til en leder i et stort selskap (detaljer rundt selskapet, programvaren som ble brukt og opptakene for å trene programvaren ser ikke ut til å være tilgjengelige). De ringte deretter en banksjef som lederen hadde et tidligere forhold til, noe som betyr at banksjefen kjente lederens stemme. Imitatorene sendte også forfalskede e-poster til banksjefen som bekreftet detaljer om de forespurte transaksjonene. Mellom e-postene og den kjente stemmen, da lederen ba lederen om å godkjenne overføring av millioner av dollar mellom kontoer, så lederen ikke noe problem med å gå videre og gjøre det.
Bedrageriet fant sted i januar 2020, men en relevant rettsdokument ble nettopp arkivert i USA forrige uke. Tjenestemenn i UAE ber etterforskere i USA om hjelp til å spore 400,000 XNUMX dollar av de stjålne pengene som gikk til amerikanske bankkontoer i Centennial Bank.
Våre stemmer, våre selv
De gammeldags måte ("gammel" i denne sammenhengen betyr før maskinlæring var så allestedsnærværende som det er i dag) å lage en falsk menneskelig stemme var å spille inn en ekte menneskelig stemme, dele opp opptaket i mange forskjellige talestavelser, og deretter lime disse stavelsene sammen i utallige permutasjoner for å danne ordene du ville at stemmen skulle si. Det var kjedelig og ga en stemme som ikke hørtes realistisk ut i det hele tatt.
Det er lett å differensiere stemmene til mennesker nær oss, og å gjenkjenne kjente stemmer – men vi tenker ikke ofte gjennom de mange komponentene som bidrar til lage en stemme unik. Det er klangen og tonehøyden, som refererer til hvor en stemme faller på et spenn av toner fra lav til høy. Det er tråkkfrekvensen, som er talerens rytme og variasjoner i tonehøyde og vektlegging av forskjellige ord eller deler av en setning. Det er uttale, og særheter som regionale aksenter eller lisp.
Kort sagt, stemmene våre er helt unike – noe som gjør det desto mer skummelt at de blir lettere å gjenskape syntetisk.
Falske stemmer som kommer
Er bankranet i De forente arabiske emirater en varsler om kommende forbrytelser? Dessverre er svaret svært sannsynlig ja. Det er ikke det første slike forsøk, men det er det første som lykkes med å stjele en så stor sum penger ved å bruke en falsk stemme. I 2019 en gruppe kriminelle falske stemmen av et britisk-basert energiselskaps administrerende direktør for å få 243,000 XNUMX dollar overført til en ungarsk bankkonto.
Mange forskjellige versjoner av audio deepfake-programvare er allerede kommersielt tilgjengelig, inkludert versjoner fra selskaper som Lyrebird (som trenger bare ett minutts opptak for å lage en falsk stemme, om enn litt stoppende og robotaktig), beskrivende, Sonantiskog Veritone, For å nevne noen få.
Disse selskapene har til hensikt at produktene deres skal brukes for godt, og noen positive brukstilfeller finnes absolutt; personer med talevansker eller lammelser kan bruke programvaren til for eksempel å kommunisere med de rundt dem. Veritone markedsfører programvaren sin for bruk av kjente personer som kanskje vil lisensiere stemmene sine for ting som produktgodkjenninger. Sonantic opprettet nylig en stemmeklone for Val Kilmer, hvis stemme ble skadet fra kampen mot halskreft. Å spille inn lydbøker eller nyhetspodcaster kan også være en produktiv anvendelse av teknologien, for akkurat nå må en person enten lese høyt i timevis eller lytteren får en datastyrt kunstig stemme som ikke er særlig behagelig å høre på.
Andre selskaper bruker allerede AI for å slå tilbake mot AI; Microsofts Video Authenticator, utgitt for litt over et år siden, analyserer videoer og bilder og forteller brukerne prosentvis sjanse for at de har blitt kunstig manipulert. På samme måte AI Foundations Reality Defender bruker algoritmer for oppdagelse av syntetiske medier for å identifisere falskt innhold. Facebook , Twitterog YouTube har alle tatt skritt for å prøve å forby og fjerne dype falske fra deres nettsteder.
Men denne teknologien kommer bare til å bli mer sofistikert, og på tvers av alle rike: stemme, bilde og video. Å bekjempe teknologi med mer eller bedre teknologi kan være et av våre beste håp, men det er også viktig å øke bevisstheten om dype forfalskninger og innpode en bred følelse av skepsis hos folk rundt innhold de ser på nettet.
La oss bare håpe bankranet i De forente arabiske emirater skaper en lignende skepsis hos folk som jobber i banker, slik at falske stemmer som hjelper svindlere med å stjele penger ikke blir en mer vanlig forekomst.
Bilde Credit: John McGehjee/Wikimedia Commons
- 000
- 2019
- 2020
- Logg inn
- AI
- algoritmer
- Alle
- Søknad
- rundt
- lyd
- Ban
- Bank
- bankkonto
- Banker
- Battle
- BEST
- Cadence
- Kreft
- saker
- konsernsjef
- Felles
- Selskaper
- Selskapet
- innhold
- Opprette
- kreditt
- forbrytelser
- kriminelle
- nettkriminelle
- dato
- deepfakes
- Gjenkjenning
- dokumentar
- dollar
- emiratene
- slutter
- energi
- etikk
- utøvende
- forfalskning
- Film
- Først
- Forbes
- skjema
- svindel
- god
- Gruppe
- Høy
- HTTPS
- identifisere
- bilde
- Inkludert
- etterforskerne
- IT
- stor
- LÆRE
- læring
- Tillatelse
- maskinlæring
- Marketing
- Media
- millioner
- penger
- flytte
- nyheter
- på nett
- Annen
- Ansatte
- Podcasts
- Produkt
- Produkter
- kvalitet
- heve
- Reality
- forstand
- Kort
- Nettsteder
- So
- Software
- splittet
- stjålet
- sommer
- system
- tech
- Teknologi
- forteller
- Stemmene
- verden
- Transaksjoner
- UAE
- forent
- De forente arabiske emirater
- us
- Brukere
- video
- videoer
- Voice
- STemmer
- uke
- HVEM
- ord
- Arbeid
- verden
- år
- youtube