อัยการสูงสุดสหรัฐฯ เรียกร้องให้มีกฎหมายระดับประเทศเพื่อต่อสู้กับ AI CSAM

อัยการสูงสุดสหรัฐฯ เรียกร้องให้มีกฎหมายระดับประเทศเพื่อต่อสู้กับ AI CSAM

Time Stamp: 5 กันยายน 2023 10:45 น.
โหนดต้นทาง: 2255284

สมาคมอัยการสูงสุดแห่งชาติ ซึ่งเป็นองค์กรที่ทุกรัฐและดินแดนของสหรัฐฯ ใช้เพื่อร่วมกันแก้ไขปัญหาทางกฎหมาย ได้เรียกร้องให้สภาคองเกรสผ่านกฎหมายห้ามการใช้ AI เพื่อสร้างภาพการล่วงละเมิดทางเพศเด็ก

ในจดหมาย [รูปแบบไฟล์ PDF] ถึงผู้นำวุฒิสภาและสภาผู้แทนราษฎรเมื่อวันอังคารที่ผ่านมา อัยการสูงสุดขอให้ฝ่ายนิติบัญญัติแต่งตั้งผู้เชี่ยวชาญเพื่อศึกษาว่าเทคโนโลยีแมชชีนเลิร์นนิงที่สร้างเนื้อหาสามารถนำไปใช้เพื่อแสวงหาประโยชน์จากเด็กได้อย่างไร โดยมีเป้าหมายในการจัดทำกฎหมาย กฎระเบียบใหม่ หรือกฎระเบียบเพื่อป้องกันสื่อการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI (CSAM)

ความก้าวหน้าในเทคโนโลยี generative AI ทำให้ง่ายต่อการสร้างภาพที่สมจริงซึ่งแสดงถึงคนจริงๆ ในสถานการณ์ที่ถูกสร้างขึ้นซึ่งมีการประนีประนอมหรือรบกวนอย่างมาก หรือคนปลอมในสถานการณ์สมมติ กลุ่มความปลอดภัยออนไลน์และหน่วยงานบังคับใช้กฎหมายได้ สังเกตเห็น การเพิ่มขึ้นของสิ่งที่เรียกว่า Deepfakes รูปภาพหรือวิดีโอซึ่งมีการแปะใบหน้าของบุคคลจริงบนร่างกายของผู้อื่นเพื่อสร้างเนื้อหาปลอม ภาพถ่ายเด็กที่ปลอมแปลงอย่างล้ำลึกสามารถใช้เพื่อปรับแต่ง CSAM ที่มีอยู่เพื่อขจัดเนื้อหาที่เลวร้ายออกไปได้มากขึ้น

เครื่องมือแปลงข้อความเป็นรูปภาพออนไลน์สามารถสร้าง CSAM ที่ดูสมจริงแต่ไม่ได้แสดงถึงเด็กจริงๆ ได้ แม้ว่าบริษัทที่ใช้บริการแปลงข้อความเป็นรูปภาพและซอฟต์แวร์จะมีนโยบายที่เข้มงวดและมักจะบล็อกภาพที่มีภาพเปลือย แต่บางครั้งผู้ใช้ก็สามารถหาวิธีเลี่ยงข้อจำกัดได้ โมเดลโอเพ่นซอร์สสามารถสร้าง CSAM ได้เช่นกัน และยากต่อการตรวจสอบเนื่องจากสามารถเรียกใช้ในพื้นที่ได้

การสร้างภาพลามกอนาจารที่แสดงภาพคนจริงๆ ถือเป็นสิ่งผิดกฎหมายในอย่างน้อยบางส่วนของสหรัฐอเมริกา เมื่อต้นปีที่ผ่านมา อัยการในลองไอส์แลนด์ รัฐนิวยอร์ก ได้ตั้งข้อหาชายคนหนึ่งฐานสร้างและแชร์ภาพ Deepfake ที่มีเนื้อหาทางเพศอย่างโจ่งแจ้ง โดยมีภาพ “ผู้หญิงที่ยังไม่บรรลุนิติภาวะมากกว่าหนึ่งสิบคน” โดยใช้ภาพที่เขาถ่ายจากโปรไฟล์โซเชียลมีเดีย เนื้อหาที่สร้างขึ้นโดยเครื่องจักรนี้ถูกแชร์บนไซต์ลามกพร้อมกับข้อมูลส่วนบุคคลของเหยื่อ และเรียกร้องให้เพื่อนนิสัยเสียมาคุกคามพวกเขา ชายวัย 22 ปีคนนั้นคือ ถูกพิพากษา ถึงโทษจำคุกหกเดือนและได้รับโทษคุมประพฤติสิบปีโดยมีเงื่อนไขสำคัญสำหรับผู้กระทำผิดทางเพศ

อย่างไรก็ตาม ไม่มีกฎหมายของรัฐบาลกลางที่ห้ามไม่ให้ทำ Deepfake NSFW โดยไม่ได้รับความยินยอม กฎหมายมีความคลุมเครือมากขึ้นเมื่อพูดถึง CSAM ที่สร้างโดย AI ปลอมโดยสมบูรณ์ ซึ่งเหยื่อไม่ใช่คนจริง

สมาคมอัยการสูงสุดแห่งชาติแย้งว่าเนื้อหาดังกล่าวไม่ได้ปราศจากเหยื่อ เนื่องจากเครื่องมือที่สามารถสร้างภาพดังกล่าวน่าจะได้รับการฝึกฝนเกี่ยวกับ CSAM จริง ซึ่งเป็นการสร้างอันตรายต่อเด็กจริงๆ การสร้าง AI เสมือนทั้งหมดให้มากขึ้นสามารถกระตุ้นให้เกิดการแสวงหาประโยชน์จากเด็กได้มากขึ้น และเผยแพร่เนื้อหาที่น่ารังเกียจและผิดกฎหมายทางออนไลน์มากขึ้น

ดังนั้น AG จึงต้องการกฎหมายหรือเครื่องมืออื่นๆ เพื่อต่อสู้กับสื่อลามกปลอม ไม่ว่าจะเป็นภาพคนจริงๆ ที่ถูกบิดเบือนในสถานการณ์ปลอมโดยไม่ได้รับอนุญาต หรือของปลอมโดยสิ้นเชิงที่อาจพัฒนามาจากเนื้อหาที่ผิดกฎหมายจริงๆ

“วันหนึ่งในอนาคตอันใกล้นี้ ผู้ลวนลามเด็กจะสามารถใช้ AI เพื่อสร้างวิดีโอปลอมของเด็กข้างถนนที่แสดงพฤติกรรมทางเพศที่พวกเขาเลือกได้” Dave Yost อัยการสูงสุดของรัฐโอไฮโอกล่าวในแถลงการณ์ “ภาพกราฟิกของการล่วงละเมิดทางเพศเด็กเป็นเพียงการกระตุ้นความปรารถนาอันชั่วร้ายเท่านั้น สังคมที่ล้มเหลวในการปกป้องลูกหลานของตนนั้นไม่มีอนาคตอย่างแท้จริง” เขากล่าว

จดหมายฉบับนี้เป็นหัวหอกของอัยการสูงสุดแห่งเซาท์แคโรไลนา อลัน วิลสัน ตาม ให้กับเอพี

“ประการแรก สภาคองเกรสควรจัดตั้งคณะกรรมการผู้เชี่ยวชาญเพื่อศึกษาวิธีการและวิธีการของ AI ที่สามารถใช้เพื่อแสวงหาผลประโยชน์จากเด็กโดยเฉพาะ และเพื่อเสนอวิธีแก้ปัญหาเพื่อยับยั้งและจัดการกับการแสวงหาผลประโยชน์ดังกล่าว” เอกสารระบุ

“ประการที่สอง หลังจากพิจารณาคำแนะนำของคณะกรรมการผู้เชี่ยวชาญแล้ว สภาคองเกรสควรดำเนินการเพื่อยับยั้งและจัดการกับการแสวงหาประโยชน์จากเด็ก เช่น โดยการขยายข้อจำกัดที่มีอยู่เกี่ยวกับ CSAM ให้ครอบคลุม CSAM ที่สร้างโดย AI อย่างชัดเจน สิ่งนี้จะช่วยให้อัยการมีเครื่องมือที่จำเป็นในการปกป้องลูกหลานของเรา”

การจัดการกับ CSAM ปลอมนั้นยุ่งยาก เทคนิคทั่วไปในการตรวจจับเนื้อหาที่ผิดกฎหมายอาศัยการแฮชรูปภาพที่รู้จักซึ่งกำลังเผยแพร่ทางออนไลน์ ดังนั้นจึงเป็นเรื่องยากที่จะระบุภาพใหม่ โดยเฉพาะอย่างยิ่งหากภาพเหล่านั้นได้รับการปรับแต่งโดยใช้ซอฟต์แวร์ อย่างไรก็ตามอัยการสูงสุดเชื่อว่าฝ่ายนิติบัญญัติต้องดำเนินการเพราะเทคโนโลยีจะมีการพัฒนาต่อไป

“เรามีส่วนร่วมในการแข่งกับเวลาเพื่อปกป้องลูกหลานในประเทศของเราจากอันตรายของ AI แท้จริงแล้วกำแพงเมืองที่เป็นสุภาษิตได้ถูกทำลายไปแล้ว ตอนนี้เป็นเวลาที่ต้องทำ” จดหมายสรุป ®

ประทับเวลา:

เพิ่มเติมจาก ลงทะเบียน