Nhờ sự tiến bộ của công nghệ deepfake, việc sao chép giọng nói của mọi người trở nên dễ dàng hơn. Một số ứng dụng của công nghệ, chẳng hạn như tạo thuyết minh để lấp đầy khoảng trống trong Roadrunner, bộ phim tài liệu về Anthony Bourdain được phát hành vào mùa hè vừa qua, là vô hại (mặc dù đạo đức của động thái này là nóng bỏng tranh luận khi phim ra mắt). Tuy nhiên, trong các trường hợp khác, giọng nói giả dối đang được sử dụng cho những mục đích rất rõ ràng là bất chính — như ăn cắp hàng triệu đô la.
An bài viết xuất bản tuần trước bởi Forbes tiết lộ rằng một nhóm tội phạm mạng ở Các Tiểu vương quốc Ả Rập Thống nhất đã sử dụng công nghệ deepfake như một phần của vụ trộm ngân hàng, chuyển tổng cộng 35 triệu USD ra khỏi đất nước và vào các tài khoản trên khắp thế giới.
Money Heist, Phiên bản thoại
Tất cả những gì bạn cần để tạo phiên bản giả giọng nói của ai đó là bản ghi âm giọng nói của người đó. Như với bất kỳ hệ thống học máy nào có đầu ra được cải thiện dựa trên số lượng và chất lượng của dữ liệu đầu vào, giọng nói trầm sẽ nghe giống thật hơn nếu có nhiều bản ghi âm hơn để hệ thống học hỏi.
Trong trường hợp này, bọn tội phạm đã sử dụng phần mềm deepfake để tạo lại giọng nói của một giám đốc điều hành tại một công ty lớn (thông tin chi tiết về công ty, phần mềm được sử dụng và các bản ghi âm để đào tạo phần mềm nói trên dường như không khả dụng). Sau đó, họ gọi điện thoại cho một giám đốc ngân hàng mà giám đốc điều hành đã có mối quan hệ từ trước, có nghĩa là giám đốc ngân hàng biết tiếng nói của giám đốc điều hành. Những kẻ mạo danh cũng gửi email giả mạo đến giám đốc ngân hàng để xác nhận thông tin chi tiết về các giao dịch được yêu cầu. Giữa các email và giọng nói quen thuộc, khi giám đốc điều hành yêu cầu người quản lý cho phép chuyển hàng triệu đô la giữa các tài khoản, người quản lý không thấy vấn đề gì với việc tiếp tục và làm như vậy.
Vụ gian lận diễn ra vào tháng 2020 năm XNUMX, nhưng có liên quan tài liệu tòa án vừa được nộp ở Mỹ vào tuần trước. Các quan chức ở UAE đang yêu cầu các nhà điều tra ở Mỹ giúp truy tìm 400,000 USD trong số tiền bị đánh cắp đã được chuyển đến các tài khoản ngân hàng của Mỹ tại Centennial Bank.
Tiếng nói của chúng ta, tiếng nói của chúng ta
Sản phẩm cách cổ điển (“Xưa” trong ngữ cảnh này có nghĩa là trước khi máy học phổ biến như ngày nay) để tạo ra một giọng nói giả là để ghi lại một giọng người thật, chia đoạn ghi âm đó thành nhiều âm tiết riêng biệt của giọng nói, sau đó dán các âm tiết đó lại với nhau thành vô số. hoán vị để tạo thành những từ mà bạn muốn giọng nói đó nói. Nó thật tẻ nhạt và tạo ra một giọng nói nghe không thực tế chút nào.
Thật dễ dàng để phân biệt giọng nói của những người gần gũi với chúng ta và nhận ra những giọng nói nổi tiếng — nhưng chúng ta thường không suy nghĩ thấu đáo về nhiều thành phần góp phần vào tạo ra một giọng nói duy nhất. Có âm sắc và cao độ, chỉ nơi một giọng nói rơi vào khoảng các nốt từ thấp đến cao. Có nhịp điệu, là nhịp điệu của người nói và các biến thể về cao độ và sự nhấn mạnh vào các từ hoặc các phần khác nhau của câu. Có cách phát âm và những câu khó hiểu như giọng vùng hoặc ngọng.
Nói tóm lại, giọng nói của chúng tôi hoàn toàn độc đáo — điều này càng làm cho chúng trở nên rùng rợn hơn khi chúng trở nên dễ dàng hơn để tái tạo một cách tổng hợp.
Giọng nói giả sẽ đến
Vụ trộm ngân hàng UAE có phải là dấu hiệu báo trước tội ác sắp xảy ra? Thật không may, câu trả lời rất có thể là có. Đây không phải là lần đầu tiên như vậy, nhưng đây là lần đầu tiên thành công trong việc lấy trộm một số tiền lớn như vậy bằng giọng nói trầm. Năm 2019 một nhóm tội phạm giả giọng nói của Giám đốc điều hành một công ty năng lượng có trụ sở tại Vương quốc Anh để chuyển 243,000 USD vào tài khoản ngân hàng Hungary.
Nhiều phiên bản khác nhau của phần mềm tạo âm thanh sâu đã được bán trên thị trường, bao gồm cả các phiên bản của các công ty như Lyrebird (chỉ cần một bản ghi âm dài một phút để tạo ra một giọng nói giả, mặc dù hơi ngắt quãng và giống như rô-bốt), Mô tả, siêu âmvà Veritone, Chỉ là một vài tên.
Các công ty này dự định sản phẩm của họ được sử dụng cho mục đích tốt, và một số trường hợp sử dụng tích cực chắc chắn có tồn tại; Ví dụ như những người bị khuyết tật nói hoặc bị liệt có thể sử dụng phần mềm này để giao tiếp với những người xung quanh. Veritone đang tiếp thị phần mềm của mình để những người nổi tiếng sử dụng, những người có thể muốn cấp phép tiếng nói của họ cho những thứ như xác nhận sản phẩm. Sonantic gần đây đã tạo ra một bản sao giọng nói cho Val Kilmer, giọng nói đã bị hư hại sau trận chiến với căn bệnh ung thư vòm họng. Ghi âm sách nói hoặc podcast tin tức cũng có thể là một ứng dụng hiệu quả của công nghệ, vì ngay bây giờ một người hoặc phải đọc to hàng giờ hoặc người nghe nhận được một giọng nói nhân tạo được máy tính hóa không cho phép nghe.
Các công ty khác đã và đang sử dụng AI để chống lại AI; Trình xác thực video của Microsoft, được phát hành cách đây hơn một năm, phân tích video và hình ảnh và cho người dùng biết tỷ lệ phần trăm khả năng họ đã bị thao túng nhân tạo. Tương tự, AI Foundation's Reality Defender sử dụng các thuật toán phát hiện phương tiện tổng hợp để xác định nội dung giả mạo. Facebook, Twittervà YouTube đã thực hiện tất cả các bước để cố gắng cấm và xóa deepfakes khỏi trang web của họ.
Nhưng công nghệ này sẽ ngày càng trở nên tinh vi hơn và trên mọi lĩnh vực: giọng nói, hình ảnh và video. Chiến đấu với công nghệ bằng công nghệ nhiều hơn hoặc tốt hơn có thể là một trong những hy vọng tốt nhất của chúng tôi, nhưng điều quan trọng là phải nâng cao nhận thức về những sai lầm sâu sắc và khơi dậy cảm giác hoài nghi trên diện rộng ở những người xung quanh nội dung mà họ xem trực tuyến.
Chúng ta hãy hy vọng vụ trộm ngân hàng UAE sẽ khơi dậy sự hoài nghi tương tự ở những người làm việc tại ngân hàng, để những tiếng nói thâm độc giúp những kẻ lừa đảo ăn cắp tiền không trở nên phổ biến hơn.
- 000
- 2019
- 2020
- Tài khoản
- AI
- thuật toán
- Tất cả
- Các Ứng Dụng
- xung quanh
- âm thanh
- Ban
- Ngân hàng
- tài khoản ngân hàng
- Ngân hàng
- trận đánh
- BEST
- Nhịp
- Ung thư
- trường hợp
- giám đốc điều hành
- Chung
- Các công ty
- công ty
- nội dung
- Tạo
- tín dụng
- Tội phạm
- Tội phạm
- tội phạm mạng
- dữ liệu
- deepfakes
- Phát hiện
- tài liệu
- đô la
- tiểu vương quốc
- kết thúc
- năng lượng
- đạo đức
- điều hành
- giả mạo
- Phim ảnh
- Tên
- Forbes
- hình thức
- gian lận
- tốt
- Nhóm
- Cao
- HTTPS
- xác định
- hình ảnh
- Bao gồm
- Các nhà điều tra
- IT
- lớn
- LEARN
- học tập
- Giấy phép
- học máy
- Marketing
- Phương tiện truyền thông
- triệu
- tiền
- di chuyển
- tin tức
- Trực tuyến
- Nền tảng khác
- người
- Podcasts
- Sản phẩm
- Sản phẩm
- chất lượng
- nâng cao
- Thực tế
- ý nghĩa
- ngắn
- Các trang web
- So
- Phần mềm
- chia
- ăn cắp
- mùa hè
- hệ thống
- công nghệ cao
- Công nghệ
- nói
- Những giọng nói
- thế giới
- Giao dịch
- Các Tiểu vương quốc Ả Rập
- Kỳ
- các Tiểu Vương Quốc Ả Rập Thống Nhất
- us
- Người sử dụng
- Video
- Video
- Giọng nói
- VOICE
- tuần
- CHÚNG TÔI LÀ
- từ
- Công việc
- thế giới
- năm
- youtube