Microsoft mua lại nền tảng kiểm duyệt được hỗ trợ bởi AI Two Hat

Microsoft hôm nay đã thông báo rằng nó mua lại Hai chiếc mũ, An AI-nền tảng kiểm duyệt nội dung được hỗ trợ, với số tiền không được tiết lộ. Theo CVP dịch vụ sản phẩm Xbox, Dave McCarthy, thương vụ mua bán này sẽ kết hợp công nghệ, khả năng nghiên cứu, nhóm và cơ sở hạ tầng đám mây của cả hai công ty để phục vụ khách hàng hiện tại và khách hàng mới của Two Hat cũng như “trải nghiệm nhiều sản phẩm và dịch vụ: tại Microsoft.

“Làm việc với đội ngũ đa dạng và giàu kinh nghiệm tại Two Hat trong nhiều năm, rõ ràng là chúng tôi hoàn toàn phù hợp với các giá trị cốt lõi được truyền cảm hứng từ tầm nhìn của người sáng lập, Chris c, nhằm mang lại cách tiếp cận toàn diện cho các cộng đồng trực tuyến tích cực và thịnh vượng, ”McCarthy nói trong một bài đăng trên blog. “Trong vài năm qua, Microsoft và Two Hat đã hợp tác để triển khai công nghệ kiểm duyệt chủ động vào trải nghiệm chơi game và không chơi game nhằm phát hiện và xóa nội dung có hại trước khi nội dung đó đến tay các thành viên trong cộng đồng của chúng tôi.”

Điều độ

Theo Trung tâm nghiên cứu Pew, 4 trong 10 người Mỹ đã từng trải qua một số hình thức quấy rối trực tuyến. Hơn nữa, 37% Internet ở Mỹ người dùng nói họ là mục tiêu của các cuộc tấn công nghiêm trọng — bao gồm quấy rối và rình rập tình dục — dựa trên khuynh hướng tình dục, tôn giáo, chủng tộc, sắc tộc, bản dạng giới hoặc tình trạng khuyết tật của họ. Đặc biệt, trẻ em là đối tượng của lạm dụng trực tuyến. Khảo sát nhận thấy tỷ lệ bắt nạt qua mạng trên mạng xã hội và nền tảng trò chơi tăng 70% trong thời kỳ đại dịch.

Priebe thành lập Two Hat vào năm 2012 khi ông rời vị trí chuyên gia bảo mật ứng dụng cấp cao tại Disney Interactive, bộ phận phát triển trò chơi của Disney. Từng là nhà phát triển chính trong nhóm an toàn và bảo mật của Club Penguin, Priebe được thúc đẩy bởi mong muốn giải quyết các vấn đề bắt nạt và quấy rối trên mạng trên mạng xã hội.

Ngày nay, Two Hat tuyên bố nền tảng kiểm duyệt nội dung của mình — kết hợp AI, ngôn ngữ học và “các phương pháp hay nhất về quản lý hàng đầu trong ngành” — phân loại, lọc và báo cáo hơn một nghìn tỷ tương tác giữa con người với nhau, bao gồm tin nhắn, tên người dùng, hình ảnh và video mỗi tháng. Công ty cũng hợp tác với cơ quan thực thi pháp luật Canada để đào tạo AI nhằm phát hiện các tài liệu mới có tính chất bóc lột trẻ em, chẳng hạn như nội dung có thể là nội dung khiêu dâm.

“Với sự nhấn mạnh vào việc giải quyết các tác hại trực tuyến bao gồm đe doạ trực tuyến, lạm dụng, lời nói căm thù, đe dọa bạo lực và bóc lột trẻ em, chúng tôi cho phép khách hàng trên nhiều mạng xã hội trên toàn cầu nâng cao trải nghiệm người dùng an toàn và lành mạnh cho mọi lứa tuổi,” Two Hat viết trên trang web của nó.

Quan hệ đối tác của Microsoft

Vài năm trước, Two Hat đã hợp tác với nhóm Xbox của Microsoft để áp dụng công nghệ kiểm duyệt của mình cho các cộng đồng trên Xbox, Minecraft và MSN. Nền tảng của Two Hat cho phép người dùng quyết định nội dung mà họ cảm thấy thoải mái khi xem — và những gì họ không thấy — mà Priebe tin là điểm khác biệt chính so với các giải pháp kiểm duyệt do AI cung cấp như API phối cảnh của Sentropy và Jigsaw Labs.

Priebe cho biết: “Chúng tôi đã tạo ra một trong những giải pháp quản lý cộng đồng toàn diện, đáp ứng và thích ứng nhất hiện có và tìm ra những cách thú vị để kết hợp công nghệ tốt nhất với những hiểu biết sâu sắc độc đáo”. nhấn phát hành. “Kết quả là, chúng tôi hiện được giao nhiệm vụ hỗ trợ tương tác trực tuyến cho nhiều cộng đồng lớn nhất thế giới.”

Cần lưu ý rằng kiểm duyệt bán tự động vẫn là một thách thức chưa được giải quyết. Năm ngoái, nhà nghiên cứu cho thấy Perceive, một công cụ được phát triển bởi Google và công ty con Jigsaw, thường phân loại các bình luận trực tuyến viết bằng tiếng địa phương của người Mỹ gốc Phi là độc hại. Một nghiên cứu riêng biệt tiết lộ rằng ngữ pháp xấu và chính tả khó hiểu - như “Tôi ghét bạn yêu” thay vì “Tôi ghét bạn” - khiến nội dung độc hại trở nên khó phát hiện hơn nhiều đối với AI và máy phát hiện.

Bằng chứng là các cuộc thi như Thử thách tin tức giả và Facebook Thử thách đáng nhớ Memes, các thuật toán học máy vẫn gặp khó khăn trong việc đạt được sự hiểu biết toàn diện về các từ trong ngữ cảnh. Tiết lộ rằng, Facebook thừa nhận rằng họ chưa thể đào tạo một mô hình để tìm ra các trường hợp mới của một loại thông tin sai lệch cụ thể: tin tức sai lệch về COVID-19. Và hệ thống kiểm duyệt tự động của Instagram từng vô hiệu hóa thành viên Da đen thường xuyên hơn 50% so với người dùng da trắng.

Nhưng McCarthy bày tỏ sự tin tưởng vào sức mạnh của sản phẩm Two Hat, bao gồm hệ thống danh tiếng người dùng, hỗ trợ 20 ngôn ngữ và có thể tự động đình chỉ, cấm và tắt tiếng các thành viên có khả năng lạm dụng trong cộng đồng.

“Chúng tôi hiểu những thách thức phức tạp mà các tổ chức phải đối mặt ngày nay khi cố gắng kiểm duyệt các cộng đồng trực tuyến một cách hiệu quả. Trong thế giới kỹ thuật số luôn thay đổi của chúng ta, nhu cầu cấp thiết về các giải pháp kiểm duyệt có thể quản lý nội dung trực tuyến một cách hiệu quả và có thể mở rộng,” ông nói. “Chúng tôi đã chứng kiến ​​tác động mà họ đã tạo ra với Xbox và chúng tôi rất vui mừng rằng việc mua lại này sẽ đẩy nhanh hơn nữa các giải pháp kiểm duyệt nội dung của bên thứ nhất trong trò chơi, trong một loạt các dịch vụ tiêu dùng của Microsoft và tạo cơ hội lớn hơn cho chúng tôi.” đối tác bên thứ ba và việc sử dụng các giải pháp này của khách hàng hiện tại của Two Hat.”