ทำลายของปลอม: การแข่งขันกำลังดำเนินไปเพื่อหยุดการฉ้อโกงการโคลนเสียง

หลอกลวง

เนื่องจากระบบโคลนเสียงที่ขับเคลื่อนด้วยเทอร์โบชาร์จเจอร์เป็นการหลอกลวง เราจึงปรึกษากับ Jake Moore จาก ESET เพื่อหารือเกี่ยวกับวิธีวางสายการโทรหลอกลวงแบบ 'hi-fi' และอนาคตของการตรวจจับ Deepfake จะเป็นอย่างไร

คาเมรอน แคมป์

23 2024 ม.ค.  •  , 4 นาที. อ่าน

คุณจะตกหลุมรับสายปลอมจาก CEO ของคุณที่ขอให้คุณโอนเงินหรือไม่ เพราะเหตุใด ในฐานะเพื่อนร่วมงานของเรา เจค มัวร์ค้นพบแล้ว, คุณอาจ. เนื่องจากคอมพิวเตอร์ที่มีรอบการประมวลผลสำรองได้รับข้อมูลการฝึกอบรมมากขึ้นเรื่อยๆ Deepfakes ก็ดีขึ้นเรื่อยๆ ป้อนคำพูดของ CEO ยาวๆ ให้พวกเขา จากนั้นพวกเขาก็เปลี่ยนคำผัน น้ำเสียง และรูปแบบคำพูดที่ละเอียดอ่อนอื่นๆ ซึ่งจะทำให้คำพูดเหล่านี้น่าเชื่อถือได้ในที่สุด

ตอนนี้ อย่างน้อยในสหรัฐอเมริกาก็มี แข่งขันเพื่อทำลายของปลอมและหวังว่าจะพบวิธีในการจัดหาระบบป้องกันเพื่อขัดขวางการโจมตีที่เกี่ยวข้อง ความท้าทายที่เกิดขึ้นโดยคณะกรรมาธิการการค้าของรัฐบาลกลาง (FTC) ทำให้คู่แข่งเจาะระบบเทคโนโลยีใดก็ตามที่พวกเขาสามารถหาได้ เพื่อป้องกันการปลอมแปลงเสียงและได้รับรางวัลมูลค่า 25,000 ดอลลาร์

การแข่งขันถูกนำมาใช้สำหรับทุกสิ่งตั้งแต่การออกแบบชุดอวกาศไปจนถึงยานพาหนะที่ขับเคลื่อนด้วยตนเองไปจนถึงเทคโนโลยีพลังงานแสงอาทิตย์ และตอนนี้มีเป้าหมายเพื่อเพิ่มความสนใจและผู้เข้าร่วมในเวทีการป้องกัน Deepfake โดยปรารถนาที่จะสร้างการแข่งขันเพื่อปกป้องผู้บริโภคจากอันตรายจากการโคลนเสียงที่เปิดใช้งาน AI เมื่อคุณสมัครผ่านพอร์ทัล ความคิดของคุณจะสามารถแข่งขันกับแนวทางอื่นๆ เพื่อนำทองคำกลับบ้านได้

ฉันยังสงสัยว่ามันสามารถหยุดคนอย่างเจคได้หรือไม่ ฉันก็เลยถามเขา

ถาม: ธุรกิจต่างๆ จะสามารถป้องกันตนเองจากภัยคุกคามนี้โดยใช้เทคโนโลยีปัจจุบันและแพร่หลายได้หรือไม่ (และหากเป็นเช่นนั้นจะเป็นเทคโนโลยีใด)

เจค: น่าเศร้า ฉันไม่คิดว่าคำตอบจะอยู่ที่เทคโนโลยีตอบโต้เพื่อต่อสู้กับปัญหาที่กำลังพัฒนานี้ เรายังคงอยู่ในช่วงเริ่มต้นของยุค AI ใหม่นี้อย่างมาก และธุรกิจจำนวนมากกำลังปูพื้นฐานเกี่ยวกับแนวคิดเรื่องความดี ความชั่ว และการใช้งานที่น่าเกลียดและความสามารถของพวกเขา เทคโนโลยีได้รับการพัฒนาอย่างต่อเนื่องเพื่อช่วยเหลือผู้ที่ต้องการความช่วยเหลือ แต่เช่นเดียวกับในช่วงทารกของเทคโนโลยีใหม่ ความเคลื่อนไหวที่รวดเร็วดังกล่าวไม่สามารถทันกับการเปลี่ยนแปลงของความต้องการที่ผิดกฎหมายในการใช้เพื่อหลอกลวงผู้คนและธุรกิจ

ถาม: คำถามเดียวกันสำหรับบุคคลทั่วไป เช่น การหลอกลวงผู้เกษียณอายุ การหลอกลวงเรื่องความรัก และอื่นๆ ที่คล้ายกัน

เจค: AI ช่วยให้นักต้มตุ๋นสามารถดำเนินการในขอบเขตที่ใหญ่กว่าเมื่อก่อนมาก ซึ่งหมายความว่าเกมตัวเลขก็ใหญ่ขึ้น เมื่อมีคนตกเป็นเป้าหมายมากขึ้น รางวัลที่ได้รับก็จะยิ่งใหญ่ขึ้นมาก และผู้ฉ้อโกงไม่ได้พยายามอะไรเป็นพิเศษเลย

อย่างไรก็ตาม บุคคลต่างๆ จำเป็นต้องมีความรอบรู้มากขึ้นเกี่ยวกับการหลอกลวงทั้งหมด ตั้งแต่การฉ้อโกงแบบคลาสสิกไปจนถึงเทรนด์ปัจจุบัน โดยเฉพาะอย่างยิ่งกับการกำเนิดของการโคลนเสียงและการเลียนแบบเชิงลึกที่มีความแม่นยำอย่างน่าทึ่ง ผู้คนจึงต้องหยุดคิดว่า การเห็น (และการได้ยิน) เป็นการเชื่อ. การตระหนักว่ากลโกงดังกล่าวเป็นไปได้จะช่วยสร้างความมั่นใจให้กับผู้ที่ตกเป็นเป้าหมายในการตั้งคำถามกับการสื่อสารดังกล่าวอย่างละเอียดถี่ถ้วนมากขึ้น และสอนให้พวกเขาไม่กลัวที่จะตั้งคำถามกับการกระทำของตน

มีคำแนะนำมากมายบนอินเทอร์เน็ตที่ให้คำแนะนำเกี่ยวกับการหลอกลวงดังกล่าว และผู้คนจำเป็นต้องรีเฟรชตัวเองด้วยข้อมูลล่าสุดอย่างต่อเนื่องเพื่อให้ได้รับความคุ้มครองและยังคงได้รับความคุ้มครอง

Q: ทีมต่อต้านการฉ้อโกงของสถาบันสามารถทำอะไรได้บ้างเพื่อโจมตีผู้ใช้/ลูกค้าแบบทื่อๆ และใครควรจ่ายเงินหากผู้คนถูกหลอกลวง

เจค: ตามค่าเริ่มต้นแล้ว ทีมต่อต้านการฉ้อโกงจะต้องเสนอการฝึกอบรมไม่ว่าจะมีค่าใช้จ่ายใดก็ตาม ซึ่งต้องจัดเป็นรายปีหรือเฉพาะกิจสำหรับสมาชิกทุกคนในองค์กร การโจมตีจำลองและการเล่นเกมสงครามยังช่วยขับเคลื่อนข้อความในรูปแบบที่น่าสนใจ และนำปัญหาร้ายแรงมาสู่ไดนามิกที่น่าสนใจยิ่งขึ้น ทำให้เกิดความล้มเหลวในสภาพแวดล้อมที่ปลอดภัย

เมื่อผู้คนได้สัมผัสกับแนวคิดของการโจมตีในยุคปัจจุบันและได้เห็นขนาดของเทคโนโลยีใหม่นี้โดยตรง พวกเขาจะมีแนวโน้มที่จะจดจำคำแนะนำในเวลาที่เกิดการโจมตีจริงมากขึ้น AI ยังคงน่าประทับใจมาก ดังนั้นการได้เห็นการทำงานของ Deepfakes ในสภาพแวดล้อมที่ปลอดภัยทำให้มีโอกาสที่จะแสดงผลลัพธ์ที่อาจเป็นอันตรายที่อาจเกิดขึ้นได้โดยไม่สร้างปัจจัยความกลัวมากเกินไป

ถาม: นี่เป็นเกมแมวจับหนูชัดๆ แล้วใครจะเป็นผู้ชนะ?

เจค: ตั้งแต่แรกเริ่ม มีการไล่ล่าระหว่าง "ตำรวจกับโจร" โดยที่โจรมักจะนำหน้าไปสองสามก้าว อย่างไรก็ตาม เมื่อเทคโนโลยีพัฒนาขึ้น เราต้องแน่ใจว่าเราจะไม่ถูกทิ้งไว้ข้างหลังและมอบข้อได้เปรียบที่ยิ่งใหญ่กว่าให้กับผู้หลอกลวง

จำเป็นอย่างยิ่งที่ผู้คนจะต้องมีเครื่องมือและความรู้ที่เหมาะสมเพื่อต่อสู้กับการโจมตีที่หลีกเลี่ยงไม่ได้เหล่านี้ได้ดีที่สุด เพื่อที่ผู้ฉ้อโกงจะไม่ชนะเสมอไป ด้วยการติดตามข้อมูลการโจมตีล่าสุดและการหลอกลวงที่พัฒนาอย่างต่อเนื่อง บุคคลและธุรกิจจึงมีโอกาสที่ดีที่สุดในการป้องกันการโจมตีทางเทคโนโลยีระลอกใหม่นี้

สิ่งหนึ่งที่แน่นอนคือ นี่ไม่ใช่ภัยคุกคามทางทฤษฎีอีกต่อไป คาดว่าปี 2024 และต่อจากนี้จะเป็นเวลาที่นักต้มตุ๋นค้นพบวิธีอัตโนมัติใหม่ๆ ในการโจมตีด้วยเสียงอย่างรวดเร็ว โดยเฉพาะอย่างยิ่งในการตอบสนองต่อเหตุการณ์หายนะที่เจ้าหน้าที่ที่เชื่อถือได้บางคน “ขอ” คุณทำอะไรบางอย่าง ทุกอย่างฟังดูน่าเชื่อ พร้อมด้วยบรรยากาศเร่งด่วน และด้วยสิ่งที่ดูเหมือนการตรวจสอบสิทธิ์แบบหลายปัจจัยด้วยการได้ยิน แต่คุณยังสามารถถูกหลอกลวงได้ แม้ว่าคุณจะ "ได้ยินเป็นการส่วนตัวจากเจ้าหน้าที่" ก็ตาม

ขอบคุณสำหรับเวลาของคุณเจค