Microsoft เข้าซื้อกิจการ Two Hat แพลตฟอร์มควบคุมที่ขับเคลื่อนด้วย AI

Microsoft ประกาศในวันนี้ว่า ที่ได้มา หมวกสองใบ, AI-ขับเคลื่อนแพลตฟอร์มการตรวจสอบเนื้อหา สำหรับจำนวนที่ไม่เปิดเผย ตามรายงานของ CVP Dave McCarthy บริการผลิตภัณฑ์ Xbox การซื้อจะรวมเทคโนโลยี ความสามารถในการวิจัย ทีม และโครงสร้างพื้นฐานระบบคลาวด์ของทั้งสองบริษัทเพื่อให้บริการแก่ลูกค้าปัจจุบันและลูกค้าใหม่ของ Two Hat และ "ประสบการณ์ผลิตภัณฑ์และบริการที่หลากหลาย: ที่ Microsoft

“การทำงานร่วมกับทีมงานที่มีความหลากหลายและมีประสบการณ์ที่ Two Hat ในช่วงหลายปีที่ผ่านมา เห็นได้ชัดว่าเรามีความสอดคล้องอย่างเต็มที่กับค่านิยมหลักที่ได้รับแรงบันดาลใจจากวิสัยทัศน์ของผู้ก่อตั้ง Chris c เพื่อนำเสนอแนวทางแบบองค์รวมสำหรับชุมชนออนไลน์ที่ดีและเจริญรุ่งเรือง McCarthy กล่าวในโพสต์บล็อก “ในช่วงไม่กี่ปีที่ผ่านมา Microsoft และ Two Hat ได้ทำงานร่วมกันเพื่อนำเทคโนโลยีการกลั่นกรองเชิงรุกมาใช้กับประสบการณ์การเล่นเกมและไม่ใช่เกม เพื่อตรวจจับและลบเนื้อหาที่เป็นอันตรายก่อนที่จะถึงสมาชิกของชุมชนของเรา”

ปริมาณที่พอเหมาะ

จากการวิเคราะห์เพื่อบรรลุเป้าหมายของ ศูนย์ Pew Researchชาวอเมริกัน 4 ใน 10 คนเคยประสบกับการล่วงละเมิดทางออนไลน์บางรูปแบบเป็นการส่วนตัว นอกจากนี้ 37% ของอินเทอร์เน็ตในสหรัฐอเมริกา ผู้ใช้พูด พวกเขาตกเป็นเป้าหมายของการโจมตีที่รุนแรง - รวมถึงการล่วงละเมิดทางเพศและการสะกดรอยตาม - ตามรสนิยมทางเพศ ศาสนา เชื้อชาติ ชาติพันธุ์ อัตลักษณ์ทางเพศ หรือความพิการ โดยเฉพาะอย่างยิ่ง เด็ก ๆ ถูกล่วงละเมิดทางออนไลน์ด้วยหนึ่ง การสำรวจ พบการกลั่นแกล้งทางอินเทอร์เน็ตเพิ่มขึ้น 70% บนโซเชียลมีเดียและแพลตฟอร์มเกมในช่วงการระบาดใหญ่

Priebe ก่อตั้ง Two Hat ในปี 2012 เมื่อเขาลาออกจากตำแหน่งผู้เชี่ยวชาญด้านความปลอดภัยแอปอาวุโสที่ Disney Interactive ซึ่งเป็นแผนกพัฒนาเกมของ Disney อดีตหัวหน้านักพัฒนาทีมความปลอดภัยและความปลอดภัยของ Club Penguin Priebe ได้รับแรงผลักดันจากความปรารถนาที่จะจัดการกับปัญหาการกลั่นแกล้งทางอินเทอร์เน็ตและการล่วงละเมิดบนเว็บโซเชียล

วันนี้ Two Hat อ้างว่าแพลตฟอร์มการควบคุมเนื้อหา ซึ่งรวม AI ภาษาศาสตร์ และ "แนวทางปฏิบัติที่ดีที่สุดในการจัดการระดับแนวหน้าของอุตสาหกรรม" เข้าไว้ด้วยกัน — จัดประเภท กรอง และส่งต่อการโต้ตอบของมนุษย์มากกว่าล้านล้านรายการ รวมถึงข้อความ ชื่อผู้ใช้ รูปภาพ และวิดีโอต่อเดือน บริษัทยังทำงานร่วมกับหน่วยงานบังคับใช้กฎหมายของแคนาดาในการฝึกอบรม AI เพื่อตรวจหาเนื้อหาใหม่เกี่ยวกับการแสวงหาประโยชน์จากเด็ก เช่น เนื้อหาที่น่าจะเป็นภาพลามกอนาจาร

“ด้วยการเน้นที่การแสดงอันตรายทางออนไลน์รวมถึงการกลั่นแกล้งในโลกออนไลน์ การล่วงละเมิด คำพูดแสดงความเกลียดชัง ภัยคุกคามที่รุนแรง และการแสวงประโยชน์จากเด็ก เราช่วยให้ลูกค้าในเครือข่ายโซเชียลต่างๆ ทั่วโลกสามารถส่งเสริมประสบการณ์ผู้ใช้ที่ปลอดภัยและดีต่อสุขภาพสำหรับทุกเพศทุกวัย” Two Hat เขียน บนเว็บไซต์

พันธมิตรของไมโครซอฟท์

เมื่อหลายปีก่อน Two Hat ร่วมมือกับทีม Xbox ของ Microsoft เพื่อใช้เทคโนโลยีการควบคุมกับชุมชนใน Xbox, Minecraft และ MSN แพลตฟอร์มของ Two Hat ช่วยให้ผู้ใช้สามารถตัดสินใจได้ว่าเนื้อหาใดที่พวกเขารู้สึกสบายใจที่จะดู — และสิ่งที่พวกเขาไม่เห็น — ซึ่ง Priebe เชื่อว่าเป็นตัวสร้างความแตกต่างที่สำคัญเมื่อเปรียบเทียบกับโซลูชันการกลั่นกรองที่ขับเคลื่อนด้วย AI เช่น Perspective API ของ Sentropy และ Jigsaw Labs

“เราได้สร้างหนึ่งในโซลูชั่นการจัดการชุมชนที่ครอบคลุมและปรับเปลี่ยนได้มากที่สุด และพบวิธีที่น่าตื่นเต้นในการรวมเทคโนโลยีที่ดีที่สุดเข้ากับข้อมูลเชิงลึกที่ไม่เหมือนใคร” Priebe กล่าวใน กดปล่อย. “ด้วยเหตุนี้ เราจึงได้รับความไว้วางใจให้ช่วยเหลือการโต้ตอบออนไลน์สำหรับชุมชนที่ใหญ่ที่สุดในโลกหลายแห่ง”

เป็นที่น่าสังเกตว่าการกลั่นกรองแบบกึ่งอัตโนมัติยังคงเป็นความท้าทายที่ยังไม่ได้แก้ไข ปีที่แล้ว, นักวิจัย แสดงให้เห็นว่า Perceive ซึ่งเป็นเครื่องมือที่พัฒนาโดย Google และบริษัทในเครือ Jigsaw ซึ่งมักจะจัดประเภทความคิดเห็นออนไลน์ที่เขียนในภาษาแอฟริกันอเมริกันว่าเป็นพิษ การศึกษาแยกออกมาเปิดเผยว่าไวยากรณ์ที่ไม่ดีและการสะกดคำที่น่าอึดอัดใจ เช่น "Ihateyou love" แทนที่จะเป็น "I hate you" ทำให้เนื้อหาที่เป็นพิษยากขึ้นมากสำหรับ AI และเครื่องตรวจจับเครื่อง

จากหลักฐานการแข่งขันอย่าง Fake News Challenge และ Facebook's ความท้าทาย Memes ที่แสดงความเกลียดชังอัลกอริธึมแมชชีนเลิร์นนิงยังคงพยายามทำความเข้าใจคำในบริบทแบบองค์รวม เปิดเผยอย่างเปิดเผย Facebook ยอมรับว่าไม่สามารถฝึกแบบจำลองเพื่อค้นหาตัวอย่างใหม่ของหมวดหมู่เฉพาะของข้อมูลที่เป็นเท็จ: ข่าวที่ทำให้เข้าใจผิดเกี่ยวกับ COVID-19 และระบบการกลั่นกรองอัตโนมัติของ Instagram เคยปิดการใช้งานสมาชิก Black บ่อยกว่าผู้ใช้ผิวขาว 50%

แต่ McCarthy แสดงความมั่นใจในพลังของผลิตภัณฑ์ของ Two Hat ซึ่งรวมถึงระบบชื่อเสียงของผู้ใช้ รองรับ 20 ภาษา และสามารถระงับ แบน และปิดเสียงสมาชิกชุมชนที่อาจละเมิดได้โดยอัตโนมัติ

“เราเข้าใจดีถึงความท้าทายที่ซับซ้อนที่องค์กรต้องเผชิญในปัจจุบันเมื่อพยายามกลั่นกรองชุมชนออนไลน์อย่างมีประสิทธิภาพ ในโลกดิจิทัลที่เปลี่ยนแปลงตลอดเวลา มีความจำเป็นเร่งด่วนสำหรับโซลูชันการดูแลที่สามารถจัดการเนื้อหาออนไลน์ได้อย่างมีประสิทธิภาพและปรับขนาดได้” เขากล่าว “เราได้เห็นผลกระทบที่พวกเขามีใน Xbox และเรารู้สึกตื่นเต้นที่การเข้าซื้อกิจการครั้งนี้จะช่วยเร่งความเร็วของโซลูชันการควบคุมเนื้อหาจากบุคคลที่หนึ่งของเราทั่วทั้งเกม ภายในบริการผู้บริโภคของ Microsoft ที่หลากหลาย และเพื่อสร้างโอกาสที่มากขึ้นสำหรับเรา พันธมิตรบุคคลที่สามและลูกค้าปัจจุบันของทูแฮทใช้โซลูชั่นเหล่านี้”