Zahvaljujoč napredku tehnologije deepfake postaja glasove ljudi lažje klonirati. Nekatere uporabe tehnologije, na primer ustvarjanje glasovnih posnetkov za zapolnitev vrzeli Roadrunner, dokumentarec o Anthonyju Bourdainu, ki je bil izdan to poletje, so neškodljivi (čeprav je bila celo etika te poteze vroča razpravlja ko je film izšel). V drugih primerih pa se globoko ponarejeni glasovi uporabljajo za namene, ki so očitno nečedni – kot je kraja milijonov dolarjev.
An članek prejšnji teden objavil Forbes je razkrilo, da je skupina kibernetskih kriminalcev v Združenih arabskih emiratih uporabila tehnologijo deepfake kot del bančnega ropa, ki je nakazal skupno 35 milijonov dolarjev iz države na račune po vsem svetu.
Money Heist, glasovna izdaja
Vse, kar potrebujete, da ustvarite lažno različico glasu nekoga, je posnetek govora te osebe. Kot pri vsakem sistemu strojnega učenja, katerega izhod se izboljša glede na količino in kakovost vhodnih podatkov, bo globoko ponarejen glas zvenel bolj kot pravi, če bo na voljo več posnetkov, iz katerih se bo sistem učil.
V tem primeru so kriminalci uporabili programsko opremo deepfake, da bi poustvarili glas vodilnega v velikem podjetju (podrobnosti o podjetju, uporabljeni programski opremi in posnetki za usposabljanje omenjene programske opreme očitno niso na voljo). Nato so telefonsko poklicali direktorja banke, s katerim je bil vodja že v obstoječem razmerju, kar pomeni, da je vodja banke poznal glas direktorja. Posnemalci so vodji banke pošiljali tudi ponarejena elektronska sporočila, v katerih so potrjevali podrobnosti zahtevanih transakcij. Med e-poštnimi sporočili in znanim glasom, ko je izvršni direktor prosil upravitelja, naj odobri prenos milijonov dolarjev med računi, upravitelj ni videl nobene težave pri tem, da bi to storil.
Goljufija se je zgodila januarja 2020, a pomembna sodni dokument je bil prejšnji teden vložen v ZDA. Uradniki v ZAE prosijo preiskovalce v ZDA za pomoč pri izsleditvi 400,000 dolarjev ukradenega denarja, ki je šel na ameriške bančne račune pri Centennial Bank.
Naši glasovi, naš jaz
O staromoden način ("staro" v tem kontekstu pomeni, preden je bilo strojno učenje tako vseprisotno, kot je danes) ustvariti lažen človeški glas je pomenilo posneti pravi človeški glas, ta posnetek razdeliti na več različnih zlogov govora, nato pa te zloge zlepiti skupaj v nešteto permutacije, da oblikujete besede, ki ste jih želeli izgovoriti. Bilo je dolgočasno in prineslo je glas, ki ni zvenel prav nič realistično.
Z lahkoto je razlikovati glasove ljudi, ki so nam blizu, in prepoznati znane glasove – vendar pogosto ne pomislimo na številne komponente, ki prispevajo k ustvarjanje glasu edinstveno. Obstajata tember in višina, ki se nanašata na to, kje glas pade na razpon not od nizkih do visokih. Tu je kadenca, ki je govorčev ritem in variacije v višini in poudarku na različnih besedah ali delih stavka. Obstaja izgovorjava in posebnosti, kot so regionalni poudarki ali šepeljanje.
Skratka, naši glasovi so popolnoma edinstveni - zaradi česar je še toliko bolj grozljivo, da jih je vse lažje sintetično poustvariti.
Prihajajo lažni glasovi
Je rop banke ZAE napoved prihodnjih zločinov? Na žalost je odgovor zelo verjetno pritrdilen. To ni prvi takšen poskus, je pa prvi, ki mu je uspelo ukrasti tako veliko vsoto denarja z uporabo deepfake glasu. Leta 2019 skupina kriminalcev ponaredil glas generalnega direktorja energetskega podjetja s sedežem v Združenem kraljestvu za prenos 243,000 dolarjev na madžarski bančni račun.
Veliko različnih različic programske opreme za globoko ponarejanje zvoka je že komercialno na voljo, vključno z različicami podjetij, kot je Lyrebird (ki potrebuje samo enominutni posnetek, da ustvari ponarejen glas, čeprav rahlo zastal in podoben robotu), Opis, Sonanticin Veritone, Če jih naštejemo le nekaj.
Ta podjetja nameravajo svoje izdelke uporabljati za dobro in nekaj pozitivnih primerov uporabe zagotovo obstaja; ljudje z motnjami govora ali paralizo bi lahko uporabljali programsko opremo za komunikacijo na primer z ljudmi okoli sebe. Veritone trži svojo programsko opremo za znane ljudi, ki bodo morda želeli licencirati svoje glasove za stvari, kot so reklamacije izdelkov. Sonantic je pred kratkim ustvaril a glasovni klon za Vala Kilmerja, čigar glas je bil poškodovan zaradi bitke z rakom na grlu. Snemanje zvočnih knjig ali podcastov z novicami bi lahko bila tudi produktivna uporaba tehnologije, saj mora oseba zdaj ure ali ure brati na glas ali pa poslušalec dobi računalniško podprt umetni glas, ki ga ni ravno prijetno poslušati.
Druga podjetja že uporabljajo AI za boj proti AI; Microsoftov Video Authenticator, izdan pred nekaj več kot enim letom, analizira videoposnetke in slike ter uporabnikom pove odstotek možnosti, da so bili umetno manipulirani. Podobno je AI Foundation's Reality Defender uporablja algoritme za zaznavanje sintetičnih medijev za prepoznavanje lažne vsebine. Facebook , Twitterin YouTube so sprejeli vse potrebne ukrepe za prepoved in odstranitev globokih ponaredkov s svojih spletnih mest.
Toda ta tehnologija bo postala še bolj izpopolnjena in na vseh področjih: glas, slika in video. Boj proti tehnologiji z več ali boljšo tehnologijo je morda eden naših najboljših upov, pomembno pa je tudi ozaveščanje o globokih ponaredkih in pri ljudeh vzbuditi obsežen občutek skepticizma glede vsebine, ki jo vidijo na spletu.
Upajmo samo, da bo dogodek ropa banke v Združenih arabskih emiratih vlil podoben skepticizem ljudem, ki delajo v bankah, tako da ponarejeni glasovi, ki goljufom pomagajo pri kraji denarja, ne bodo postali pogostejši pojav.
Kreditno slike: John McGehjee/Wikimedia Commons
- 000
- 2019
- 2020
- Račun
- AI
- algoritmi
- vsi
- uporaba
- okoli
- audio
- Ban
- Banka
- Bančni račun
- Banke
- Bitka
- BEST
- Cadence
- rak
- primeri
- ceo
- Skupno
- Podjetja
- podjetje
- vsebina
- Ustvarjanje
- kredit
- Zločini
- Kriminalci
- cybercriminals
- datum
- deepfakes
- Odkrivanje
- Dokumentarec
- dolarjev
- emirates
- konča
- energija
- etika
- izvršni
- ponaredek
- Film
- prva
- Forbes
- obrazec
- goljufija
- dobro
- skupina
- visoka
- HTTPS
- identificirati
- slika
- Vključno
- Preiskovalci
- IT
- velika
- UČITE
- učenje
- Licenca
- strojno učenje
- Trženje
- mediji
- milijonov
- Denar
- premikanje
- novice
- na spletu
- Ostalo
- ljudje
- Poddaje
- Izdelek
- Izdelki
- kakovost
- dvigniti
- Reality
- Občutek
- Kratke Hlače
- Spletna mesta
- So
- Software
- po delih
- ukradeno
- poletje
- sistem
- tech
- Tehnologija
- pove
- Glasovi
- svet
- Transakcije
- ZAE
- Velika
- Združeni Arabski Emirati
- us
- Uporabniki
- Video
- Video posnetki
- Voice
- GLASOVI
- teden
- WHO
- besede
- delo
- svet
- leto
- youtube