Dzięki postępowi technologii deepfake klonowanie ludzkich głosów staje się coraz łatwiejsze. Niektóre zastosowania tej technologii, np. tworzenie narracji w celu uzupełnienia luk Roadrunner, dokument o Anthonym Bourdainie, który ukazał się latem ubiegłego roku, są nieszkodliwe (choć nawet etyka tego posunięcia była gorąco krytykowana). dyskusji kiedy film wyszedł). Jednak w innych przypadkach sfałszowane głosy są wykorzystywane do celów bardzo wyraźnie niegodziwych, takich jak kradzież milionów dolarów.
An artykuł opublikowany w zeszłym tygodniu przez Forbes ujawniło, że grupa cyberprzestępców ze Zjednoczonych Emiratów Arabskich wykorzystała technologię deepfake w ramach napadu na bank, w ramach którego przelała łącznie 35 milionów dolarów poza kraj na konta na całym świecie.
Napad na pieniądze, wydanie głosowe
Aby stworzyć fałszywą wersję czyjegoś głosu, wystarczy nagranie jej mówienia. Podobnie jak w przypadku każdego systemu uczenia maszynowego, którego wydajność poprawia się w zależności od ilości i jakości danych wejściowych, głęboko sfałszowany głos będzie brzmiał bardziej jak prawdziwy, jeśli system będzie miał więcej nagrań, z których będzie mógł się uczyć.
W tym przypadku przestępcy wykorzystali oprogramowanie deepfake do odtworzenia głosu dyrektora dużej firmy (szczegóły dotyczące firmy, używanego oprogramowania i nagrań służących do szkolenia tego oprogramowania wydają się być niedostępne). Następnie wykonali telefony do kierownika banku, z którym dyrektor miał wcześniej kontakt, co oznaczało, że kierownik banku znał głos dyrektora. Podszywacze wysyłali także fałszywe e-maile do kierownika banku, potwierdzające szczegóły żądanych transakcji. Pomiędzy e-mailami a znajomym głosem, gdy dyrektor poprosił menedżera o autoryzację transferu milionów dolarów między kontami, menedżer nie widział problemu, aby to zrobić.
Oszustwo miało miejsce w styczniu 2020 r., ale istotne dokument sądowy został złożony w zeszłym tygodniu w USA. Urzędnicy w Zjednoczonych Emiratach Arabskich proszą śledczych w USA o pomoc w wyśledzeniu 400,000 XNUMX dolarów skradzionych pieniędzy, które trafiły na amerykańskie konta bankowe w Centennial Bank.
Nasze głosy, my sami
Połączenia po staremu („stare” w tym kontekście znaczenie, zanim uczenie maszynowe było tak wszechobecne jak obecnie) utworzenie fałszywego ludzkiego głosu polegało na nagraniu prawdziwego ludzkiego głosu, podzieleniu tego nagrania na wiele odrębnych sylab mowy, a następnie wklejeniu tych sylab razem w niezliczoną ilość permutacje, aby utworzyć słowa, które chciałeś wypowiedzieć głos. Było to nudne i dawało głos, który nie brzmiał wcale realistycznie.
Łatwo jest rozróżnić głosy bliskich nam osób i rozpoznać znane głosy, ale często nie zastanawiamy się nad wieloma elementami, które przyczyniają się do tego wydawanie głosu unikalny. Jest barwa i wysokość, które odnoszą się do miejsca, w którym głos spada w zakresie nut od niskich do wysokich. Istnieje kadencja, czyli rytm mówiącego i różnice w tonie oraz nacisk na różne słowa lub części zdania. Jest wymowa i dziwactwa, takie jak regionalne akcenty lub seplenienie.
Krótko mówiąc, nasze głosy są całkowicie wyjątkowe, co czyni je tym bardziej przerażającymi, że coraz łatwiej jest je odtworzyć syntetycznie.
Nadejdą fałszywe głosy
Czy napad na bank w Zjednoczonych Emiratach Arabskich jest zwiastunem przyszłych zbrodni? Niestety, odpowiedź jest bardzo prawdopodobna. Nie jest to pierwsza tego typu próba, ale pierwsza udana, polegająca na kradzieży tak dużej sumy pieniędzy przy użyciu głęboko sfałszowanego głosu. W 2019 roku grupa przestępców sfałszował głos dyrektora generalnego brytyjskiej firmy energetycznej o przelaniu 243,000 XNUMX dolarów na węgierski rachunek bankowy.
Na rynku dostępnych jest już wiele różnych wersji oprogramowania deepfake audio, w tym wersje takich firm jak Lyrebird (którego wystarczy jednominutowe nagranie, aby stworzyć fałszywy głos, choć nieco zacinający się i przypominający robota), Opis, Sonanty, Veritone, Żeby wymienić tylko kilka.
Firmy te zamierzają używać swoich produktów w dobrym celu i z pewnością istnieją pewne pozytywne przypadki użycia; osoby z zaburzeniami mowy lub paraliżem mogą na przykład używać oprogramowania do komunikowania się z otaczającymi je osobami. Firma Veritone sprzedaje swoje oprogramowanie z myślą o sławnych osobach, które mogą chcieć licencjonować swój głos w celu np. promowania produktów. Firma Sonantic niedawno stworzyła klon głosu Vala Kilmera, którego głos został uszkodzony w wyniku walki z rakiem gardła. Nagrywanie audiobooków lub podcastów informacyjnych również mogłoby być produktywnym zastosowaniem tej technologii, ponieważ obecnie albo trzeba czytać na głos godzinami, albo słuchacz otrzymuje skomputeryzowany, sztuczny głos, którego słuchanie nie jest zbyt przyjemne.
Inne firmy już wykorzystują sztuczną inteligencję do walki ze sztuczną inteligencją; Video Authenticator firmy Microsoft, wydany nieco ponad rok temu, analizuje filmy i obrazy oraz informuje użytkowników o procentowym ryzyku, że zostały one sztucznie zmanipulowane. Podobnie, Obrońca rzeczywistości Fundacji AI wykorzystuje algorytmy wykrywania mediów syntetycznych w celu identyfikacji fałszywych treści. Facebook, Twitter, YouTube wszystkie podjęły kroki, aby zablokować i usunąć deepfake ze swoich witryn.
Ale ta technologia będzie stawała się coraz bardziej wyrafinowana i dotyczyć będzie wszystkich dziedzin: głosu, obrazu i wideo. Walka z technologią za pomocą większej lub lepszej technologii może być jedną z naszych największych nadziei, ale ważne jest również podnoszenie świadomości na temat deepfakes i zaszczepianie ludziom szerokiego poczucia sceptycyzmu wobec treści, które widzą w Internecie.
Miejmy tylko nadzieję, że incydent z napadem na bank w Zjednoczonych Emiratach Arabskich zaszczepi podobny sceptycyzm wśród osób pracujących w bankach, tak aby fałszywe głosy pomagające oszustom kraść pieniądze nie stały się częstszym zjawiskiem.
Kredytowych Image: Johna McGehjee/Wikimedia Commons
- 000
- 2019
- 2020
- Konto
- AI
- Algorytmy
- Wszystkie kategorie
- Zastosowanie
- na około
- audio
- Zakaz
- Bank
- konto bankowe
- Banki
- Bitwa
- BEST
- Kadencja
- Rak
- Etui
- ceo
- wspólny
- Firmy
- sukcesy firma
- zawartość
- Tworzenie
- kredyt
- Zbrodnie
- przestępcy
- cyberprzestępcy
- dane
- deepfakes
- Wykrywanie
- dokumentalny
- dolarów
- Arabskie
- kończy się
- energia
- etyka
- wykonawczy
- imitacja
- Film
- i terminów, a
- Forbes
- Nasz formularz
- oszustwo
- dobry
- Zarządzanie
- Wysoki
- HTTPS
- zidentyfikować
- obraz
- Włącznie z
- Śledczy
- IT
- duży
- UCZYĆ SIĘ
- nauka
- Licencja
- uczenie maszynowe
- Marketing
- Media
- milion
- pieniądze
- ruch
- aktualności
- Online
- Inne
- Ludzie
- Podcasty
- Produkt
- Produkty
- jakość
- podnieść
- Rzeczywistość
- rozsądek
- Short
- Witryny
- So
- Tworzenie
- dzielić
- skradziony
- lato
- system
- tech
- Technologia
- mówi
- Głosy
- świat
- transakcje
- i twitterze
- ZEA
- Zjednoczony
- Zjednoczone Emiraty Arabskie
- us
- Użytkownicy
- Wideo
- Filmy
- Głos
- GŁOSY
- tydzień
- KIM
- słowa
- Praca
- świat
- rok
- youtube