Microsoft mengakuisisi platform moderasi bertenaga AI Two Hat

Microsoft hari ini mengumumkan hal itu diperoleh Dua Topi, Sebuah AI-platform moderasi konten yang didukung, dengan jumlah yang tidak diungkapkan. Menurut CVP layanan produk Xbox Dave McCarthy, pembelian tersebut akan menggabungkan teknologi, kemampuan penelitian, tim, dan infrastruktur cloud dari kedua perusahaan untuk melayani pelanggan lama dan baru Two Hat serta “berbagai pengalaman produk dan layanan: di Microsoft.

“Bekerja dengan tim yang beragam dan berpengalaman di Two Hat selama bertahun-tahun, menjadi jelas bahwa kami sepenuhnya selaras dengan nilai-nilai inti yang terinspirasi oleh visi pendiri, Chris c, untuk memberikan pendekatan holistik untuk komunitas online yang positif dan berkembang. kata McCarthy dalam postingan blognya. “Selama beberapa tahun terakhir, Microsoft dan Two Hat telah bekerja sama untuk menerapkan teknologi moderasi proaktif ke dalam pengalaman bermain game dan non-game untuk mendeteksi dan menghapus konten berbahaya sebelum konten tersebut menjangkau anggota komunitas kami.”

Moderasi

Menurut Pew Research Center, 4 dari 10 orang Amerika pernah mengalami beberapa bentuk pelecehan online. Apalagi 37% internet berbasis di AS kata pengguna mereka telah menjadi sasaran serangan yang parah – termasuk pelecehan seksual dan penguntitan – berdasarkan orientasi seksual, agama, ras, etnis, identitas gender, atau disabilitas mereka. Anak-anak, khususnya, adalah sasaran pelecehan online, dan salah satunya adalah anak-anak menemukan peningkatan sebesar 70% dalam cyberbullying di media sosial dan platform game selama pandemi.

Priebe mendirikan Two Hat pada tahun 2012 ketika ia meninggalkan posisinya sebagai spesialis keamanan aplikasi senior di Disney Interactive, divisi pengembangan game Disney. Sebagai mantan pengembang utama di tim keselamatan dan keamanan Club Penguin, Priebe didorong oleh keinginan untuk mengatasi masalah cyberbullying dan pelecehan di web sosial.

Saat ini, Two Hat mengklaim platform moderasi kontennya — yang menggabungkan AI, linguistik, dan “praktik terbaik manajemen terdepan di industri” — mengklasifikasikan, memfilter, dan meningkatkan lebih dari satu triliun interaksi manusia termasuk pesan, nama pengguna, gambar, dan video dalam sebulan. Perusahaan ini juga bekerja sama dengan penegak hukum Kanada untuk melatih AI guna mendeteksi materi baru yang eksploitatif terhadap anak, seperti konten yang kemungkinan besar bersifat pornografi.

“Dengan penekanan pada pengungkapan bahaya online termasuk penindasan maya, pelecehan, ujaran kebencian, ancaman kekerasan, dan eksploitasi anak, kami memungkinkan klien di berbagai jejaring sosial di seluruh dunia untuk mendorong pengalaman pengguna yang aman dan sehat untuk segala usia,” tulis Two Hat. di situs webnya.

Kemitraan Microsoft

Beberapa tahun lalu, Two Hat bermitra dengan tim Microsoft Xbox untuk menerapkan teknologi moderasinya ke komunitas di Xbox, Minecraft, dan MSN. Platform Two Hat memungkinkan pengguna untuk memutuskan konten yang mereka sukai — dan apa yang tidak — yang menurut Priebe merupakan pembeda utama dibandingkan dengan solusi moderasi yang didukung AI seperti Perspective API dari Sentropy dan Jigsaw Labs.

“Kami menciptakan salah satu solusi pengelolaan komunitas paling adaptif, responsif, komprehensif yang ada dan menemukan cara menarik untuk menggabungkan teknologi terbaik dengan wawasan unik,” kata Priebe dalam sebuah pernyataan. tekan rilis. “Sebagai hasilnya, kami kini dipercaya untuk membantu interaksi online bagi banyak komunitas terbesar di dunia.”

Perlu dicatat bahwa moderasi semi-otomatis tetap menjadi tantangan yang belum terpecahkan. Tahun lalu, peneliti menunjukkan bahwa Perceive, alat yang dikembangkan oleh Google dan anak perusahaannya Jigsaw, sering mengklasifikasikan komentar online yang ditulis dalam bahasa Afrika-Amerika sebagai komentar beracun. Sebuah studi terpisah mengungkapkan bahwa tata bahasa yang buruk dan ejaan yang janggal – seperti “Ihateyou love”, bukannya “Aku benci kamu,” – membuat konten beracun jauh lebih sulit dikenali oleh AI dan detektor mesin.

Terbukti dengan kompetisi seperti Tantangan Berita Palsu dan Facebook Tantangan Memes Kebencian, algoritme pembelajaran mesin juga masih kesulitan untuk mendapatkan pemahaman holistik tentang kata-kata dalam konteks. Faktanya, Facebook mengakui bahwa mereka belum mampu melatih model untuk menemukan contoh baru dari kategori disinformasi tertentu: berita menyesatkan tentang COVID-19. Dan sistem moderasi otomatis Instagram pernah menonaktifkan anggota kulit hitam 50% lebih sering dibandingkan pengguna kulit putih.

Namun McCarthy menyatakan keyakinannya pada kekuatan produk Two Hat, yang mencakup sistem reputasi pengguna, mendukung 20 bahasa, dan dapat secara otomatis menangguhkan, melarang, dan membungkam anggota komunitas yang berpotensi melakukan pelecehan.

“Kami memahami tantangan kompleks yang dihadapi organisasi saat ini ketika berupaya memoderasi komunitas online secara efektif. Di dunia digital kita yang terus berubah, terdapat kebutuhan mendesak akan solusi moderasi yang dapat mengelola konten online dengan cara yang efektif dan terukur,” ujarnya. “Kami telah menyaksikan dampak yang mereka timbulkan di Xbox, dan kami sangat senang bahwa akuisisi ini akan semakin mempercepat solusi moderasi konten pihak pertama kami di seluruh game, dalam berbagai layanan konsumen Microsoft, dan untuk membangun peluang yang lebih besar bagi kami. mitra pihak ketiga dan klien Two Hat yang sudah ada dalam menggunakan solusi ini.”