- Deteksi deepfake adalah tantangan beragam yang membutuhkan teknologi canggih dan penilaian manusia.
- Deepfake merupakan ancaman nyata yang berdampak pada individu, bisnis, dan seluruh masyarakat.
- Kita perlu memupuk keterampilan berpikir kritis dan mendorong penggunaan teknologi secara bertanggung jawab.
- Perusahaan harus memperjuangkan solusi deteksi deepfake yang kuat untuk melindungi diri mereka sendiri dan konsumen.
Dalam kehidupan kita yang semakin terdigitalisasi, di mana visual mempunyai kekuatan luar biasa, ancaman baru muncul dan kita memerlukan solusi cepat – deteksi deepfake.
Media sintetik yang dihasilkan oleh AI ini secara meyakinkan meniru orang sungguhan, sehingga lebih sulit untuk memisahkan fakta dari fiksi.
Louise Bruder, seorang super-recognizer dengan kemampuan luar biasa dalam mengingat wajah, bekerja untuk perusahaan ID digital Inggris yoti, di mana dia membantu memverifikasi keaslian dokumen identitas. Namun, keterampilannya yang tajam pun menghadapi tantangan baru saat Yoti secara aktif mengembangkan teknologi untuk melawan ancaman deepfake yang semakin meningkat.
Seberapa menipu deepfake?
Deepfakes mengandalkan canggih Mesin belajar algoritma. Algoritme ini dilatih pada kumpulan data besar berupa gambar atau video dari orang yang menjadi target. AI belajar mereproduksi tingkah laku, suara, dan kemiripan target dengan akurasi yang meresahkan. Hal ini memungkinkan pembuat konten untuk memanipulasi rekaman, memasukkan kata-kata ke dalam mulut orang, atau membuatnya muncul dalam situasi yang tidak pernah terjadi sebelumnya.
Konsekuensinya sangat luas. Deepfake dapat merusak reputasi, menyebarkan informasi yang salah, dan merusak kepercayaan terhadap institusi. Bayangkan kekacauan yang terjadi jika pernyataan palsu seorang pemimpin dunia yang menyatakan perang menjadi viral.
Perlombaan deteksi deepfake
Perjuangan melawan deepfake semakin meningkat. Para peneliti dan perusahaan teknologi sedang mengembangkan alat canggih untuk mengungkap penyamaran digital ini. Strategi utama meliputi:
- Perburuan yang tidak konsisten: Perangkat lunak pendeteksi deepfake menganalisis video bingkai demi bingkai, mencari anomali seperti pola kedipan yang tidak wajar, sinkronisasi bibir yang tidak cocok, atau gangguan pada fitur wajah.
- Analisis sidik jari digital: Gambar dan video membawa metadata tersembunyi, yang berfungsi sebagai jejak digital. Detektor deepfake dapat menganalisis data ini untuk mencari tanda-tanda manipulasi AI.
- Pelacakan sumber: Mengetahui asal file media dapat memberikan petunjuk berharga. Detektor sedang diintegrasikan ke dalam platform online untuk menandai media yang berpotensi dimanipulasi dan melacak sumbernya.
Sama seperti kemajuan teknik pendeteksian, demikian pula metode pembuat deepfake.
Ben Colman, kepala Pembela Realitas (sebuah perusahaan yang berspesialisasi dalam solusi deteksi deepfake), percaya bahwa bahkan super-recognizer yang berbakat seperti Louise pada akhirnya akan kesulitan membedakan yang asli dan yang palsu. Ini adalah permainan teknologi kucing dan tikus yang terus-menerus, sehingga memerlukan algoritma deteksi yang semakin canggih yang mampu menganalisis sinyal fisiologis halus.
Kisaran ancaman
Colman membedakan antara yang sangat canggih deepfakes berpotensi digunakan untuk kampanye disinformasi yang disponsori negara, dan “kepalsuan murahan”, di mana penjahat menggunakan perangkat lunak AI yang tersedia. Bahkan deepfake dengan kualitas lebih rendah pun berhasil menipu orang, terutama dengan gambar dan audio. Kloning suara semakin menjadi perhatian karena memungkinkan penjahat meniru suara seseorang untuk mendapatkan uang atau memanipulasi emosi.
Profesor Siwei Lyu, pakar deepfake dari University of Buffalo, mengembangkan algoritme pendeteksian yang mencari informasi halus. Dia memperingatkan bahwa konferensi video mungkin menjadi target serangan deepfake berikutnya, di mana penjahat dapat menyamar sebagai orang sungguhan dalam panggilan video langsung.
Dampak sosial Deepfakes
Potensi untuk deepfakes menyebabkan gangguan yang meluas sangatlah besar. Mulai dari gambar palsu ledakan hingga rekaman audio politisi yang melontarkan pernyataan yang menghasut, potensi terjadinya kekacauan sangatlah tinggi. Salah satu contohnya adalah deepfake yang menggambarkan mendiang komedian Islandia yang dicintai, menyebabkan kegemparan nasional dan memicu diskusi tentang regulasi AI.
Melawan AI dengan AI
Alat pendeteksi deepfake yang canggih sering kali memanfaatkan kekuatan AI itu sendiri:
- Penangkap Palsu Intel: Alat deteksi waktu nyata ini mencapai tingkat akurasi 96% yang mengesankan. Ini menganalisis pola aliran darah halus dalam video untuk membedakan wajah asli dan wajah palsu.
- Penjaga: Platform perlindungan berbasis AI terkemuka yang digunakan oleh pemerintah dan perusahaan untuk memerangi deepfake. Sentinel memungkinkan pengguna mengunggah media untuk analisis otomatis.
- Alat menjanjikan lainnya: Pengembang terus-menerus membuat dan menyempurnakan alat seperti Deepware AI (berfokus pada perkembangan tren online) dan Sensity AI (dilatih tentang kerangka pembuatan deepfake terbaru).
Batasan AI dan kebutuhan akan kearifan manusia
Meskipun alat pendeteksi yang didukung AI terus berkembang, para ahli memperingatkan agar tidak bergantung sepenuhnya pada teknologi. Christopher Doss dari Perusahaan Rand memperingatkan perlombaan senjata antara deteksi dan penghindaran, menyoroti perlunya pemikiran kritis dan keterampilan verifikasi sumber.
Meskipun perusahaan seperti Yoti memahami pentingnya menggabungkan kebijaksanaan manusia dengan pertahanan teknologi untuk menjaga kepercayaan di era pemalsuan informasi yang mendalam, kita perlu menerima bahwa ini adalah tujuan bersama dan bertindak bersama.
Kredit gambar unggulan: Freepik
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://dataconomy.com/2024/03/28/deepfake-detection-tools-and-techniques/
- :adalah
- :Di mana
- 1
- 2%
- a
- kemampuan
- Tentang Kami
- Setuju
- ketepatan
- Mencapai
- Bertindak
- aktif
- memajukan
- maju
- Teknologi Terkini
- terhadap
- usia
- AI
- Regulasi AI
- Bertenaga AI
- algoritma
- memungkinkan
- an
- analisis
- menganalisa
- analisis
- menganalisis
- dan
- muncul
- ADALAH
- senjata
- AS
- Serangan
- audio
- keaslian
- Otomatis
- tersedia
- BE
- menjadi
- makhluk
- percaya
- tercinta
- antara
- darah
- Kerbau
- bisnis
- by
- Panggilan
- Kampanye
- CAN
- mampu
- membawa
- KUCING
- Menyebabkan
- disebabkan
- hati-hati
- menantang
- juara
- Kekacauan
- Christopher
- kolaboratif
- memerangi
- menggabungkan
- Perusahaan
- lengkap
- Perhatian
- konferensi
- Konsekuensi
- konstan
- Konsumen
- terus
- terus menerus
- bisa
- membuat
- penciptaan
- pencipta
- Penjahat
- kritis
- Mengolah
- data
- kumpulan data
- meninggal
- deepfakes
- pertahanan
- menggambarkan
- dikerahkan
- Deteksi
- mengembangkan
- pengembang
- berkembang
- mengembangkan
- digital
- ID digital
- digital
- melihat
- diskusi
- disinformasi
- Gangguan
- membedakan
- do
- dokumen
- Efektif
- usaha
- muncul
- emosi
- menekankan
- memungkinkan
- perusahaan
- Seluruh
- meningkatkan
- yg naik perlahan-lahan
- terutama
- melarikan diri
- penghindaran
- Bahkan
- akhirnya
- berkembang
- ahli
- ahli
- ledakan
- menelanjangi
- ekstrak
- luar biasa
- Menghadapi
- wajah
- wajah
- fakta
- gadungan
- luas
- Fitur
- Fiksi
- pertarungan
- sidik jari
- Perusahaan
- aliran
- terfokus
- Tapak
- Untuk
- Membantu perkembangan
- kerangka
- dari
- permainan
- tujuan
- Pemerintah
- Pertumbuhan
- sulit
- memanfaatkan
- he
- kepala
- membantu
- dia
- Tersembunyi
- High
- menyoroti
- sangat
- memegang
- Namun
- HTTPS
- manusia
- bahasa Islandia
- ID
- identitas
- if
- gambar
- gambar
- membayangkan
- berdampak
- menirukan
- impresif
- in
- memasukkan
- makin
- luar biasa
- individu
- inflamasi
- contoh
- lembaga
- terpadu
- ke
- IT
- NYA
- jpg
- kunci
- Mengetahui
- Terbaru
- pemimpin
- terkemuka
- pengetahuan
- belajar
- memanfaatkan
- 'like'
- batas
- baris
- hidup
- hidup
- mesin
- Mesin belajar
- memelihara
- Membuat
- memanipulasi
- dimanipulasi
- manipulasi
- besar-besaran
- max-width
- Media
- Metadata
- metode
- mungkin
- Keterangan yg salah
- uang
- mouse
- multifaset
- harus
- Nasional
- membutuhkan
- Perlu
- tak pernah
- New
- berikutnya
- of
- sering
- on
- ONE
- yang
- secara online
- platform online
- or
- Asal
- kami
- pola
- Konsultan Ahli
- orang
- orang
- Platform
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- Politisi
- pose
- pose
- potensi
- berpotensi
- kekuasaan
- proliferasi
- menjanjikan
- melindungi
- perlindungan
- memberikan
- Puting
- Cepat
- Ras
- baris
- jarak
- Penilaian
- segera
- nyata
- real-time
- Kenyataan
- memperhalus
- Regulasi
- kepercayaan
- mengandalkan
- ingat
- peneliti
- tanggung jawab
- kuat
- Pencarian
- mencari
- terpisah
- porsi
- tajam
- dia
- sinyal
- penting
- Tanda
- situasi
- keterampilan
- So
- masyarakat
- Perangkat lunak
- larutan
- Solusi
- mutakhir
- sumber
- memicu
- mengkhususkan diri
- penyebaran
- Laporan
- Kegemparan
- strategi
- Perjuangan
- halus
- berhasil
- sintetis
- berbakat
- target
- tech
- perusahaan teknologi
- teknik
- teknologi
- Teknologi
- mengatakan
- bahwa
- Grafik
- Inggris
- Mereka
- diri
- Ini
- mereka
- Pikir
- ini
- ancaman
- ancaman
- untuk
- bersama
- terlalu
- alat
- alat
- jejak
- terlatih
- Tren
- Kepercayaan
- Uk
- Merusak
- memahami
- Serikat
- universitas
- mendesak
- menggunakan
- bekas
- Pengguna
- Berharga
- nilai
- Luas
- Verifikasi
- memeriksa
- Video
- konferensi video
- Video
- virus
- visual
- Suara
- perang
- Peringatkan
- we
- pergi
- adalah
- tersebar luas
- akan
- dengan
- kata
- bekerja
- dunia
- zephyrnet.dll