Microsoft pridobi moderacijsko platformo Two Hat, ki jo poganja AI

Microsoft je danes objavil, da je pridobljenih Dva klobuka, AI-podprta platforma za moderiranje vsebine, za nerazkrit znesek. Po besedah ​​CVP produktnih storitev Xbox Davea McCarthyja bo nakup združil tehnologijo, raziskovalne zmogljivosti, ekipe in infrastrukturo v oblaku obeh podjetij, da bosta služila obstoječim in novim strankam Two Hat ter »izkušnje z več izdelki in storitvami: pri Microsoftu.

»S sodelovanjem z raznoliko in izkušeno ekipo pri Two Hat v preteklih letih je postalo jasno, da smo popolnoma usklajeni s temeljnimi vrednotami, ki jih je navdihnila vizija ustanovitelja Chrisa C, da zagotovimo celosten pristop za pozitivne in uspešne spletne skupnosti, «je dejal McCarthy v objavi na blogu. »V zadnjih nekaj letih sta Microsoft in Two Hat sodelovala pri implementaciji proaktivne moderacijske tehnologije v igralne in neigralne izkušnje, da bi odkrila in odstranila škodljivo vsebino, preden sploh doseže člane naših skupnosti.«

Predstavitev

Glede na Pew Research Center, so 4 od 10 Američanov osebno izkusili neko obliko spletnega nadlegovanja. Še več, 37 % interneta s sedežem v ZDA uporabniki pravijo bili so tarča hudih napadov – vključno s spolnim nadlegovanjem in zalezovanjem – na podlagi njihove spolne usmerjenosti, vere, rase, etnične pripadnosti, spolne identitete ali invalidnosti. Zlasti otroci so predmet spletnih zlorab, z enim Raziskava ugotovitev 70-odstotnega povečanja spletnega ustrahovanja na družbenih medijih in igralnih platformah med pandemijo.

Priebe je ustanovil Two Hat leta 2012, ko je zapustil položaj višjega strokovnjaka za varnost aplikacij pri Disney Interactive, Disneyjevem oddelku za razvoj iger. Priebeja, nekdanjega vodilnega razvijalca v ekipi za varnost in varnost pri Club Penguin, je gnala želja po reševanju vprašanj spletnega ustrahovanja in nadlegovanja na družbenem spletu.

Danes Two Hat trdi, da njegova platforma za moderiranje vsebin – ki združuje AI, jezikoslovje in »najboljše prakse upravljanja v panogi« – razvršča, filtrira in stopnjuje več kot bilijon človeških interakcij, vključno s sporočili, uporabniškimi imeni, slikami in videoposnetki na mesec. Podjetje sodeluje tudi s kanadskimi organi pregona pri usposabljanju umetne inteligence za odkrivanje novega gradiva za izkoriščanje otrok, kot je vsebina, ki je verjetno pornografska.

"S poudarkom na odkrivanju spletnih škod, vključno s spletnim ustrahovanjem, zlorabami, sovražnim govorom, nasilnimi grožnjami in izkoriščanjem otrok, strankam v različnih družbenih omrežjih po vsem svetu omogočamo varno in zdravo uporabniško izkušnjo za vse starosti," piše Two Hat. na svoji spletni strani.

Microsoftovo partnerstvo

Pred nekaj leti je Two Hat sodeloval z Microsoftovo ekipo za Xbox, da bi svojo tehnologijo moderiranja uporabil za skupnosti v Xbox, Minecraft in MSN. Platforma Two Hat uporabnikom omogoča, da se odločijo, katero vsebino jim je všeč – in kaj ne – kar je po Priebejevem mnenju ključna razlika v primerjavi z rešitvami za moderiranje, ki jih poganja AI, kot sta Sentropy in Perspective API Jigsaw Labs.

"Ustvarili smo eno najbolj prilagodljivih, odzivnih, celovitih rešitev za upravljanje skupnosti, ki so na voljo, in našli vznemirljive načine za združevanje najboljše tehnologije z edinstvenimi vpogledi," je dejal Priebe v sporočilo za javnost. "Zato nam je zdaj zaupana pomoč pri spletnih interakcijah za številne največje skupnosti na svetu."

Omeniti velja, da polavtomatsko zmerjanje ostaja nerešen izziv. Lansko leto, raziskovalci je pokazalo, da Perceive, orodje, ki sta ga razvila Google in njegova podružnica Jigsaw, spletne komentarje, napisane v afroameriškem jeziku, pogosto uvršča med strupene. Ločena študija je razkrila, da zaradi slabe slovnice in nerodnega črkovanja - kot je "I sovražiš," namesto "Sovražim te" - AI in detektorji strojev veliko težje opazijo strupeno vsebino.

Kot dokazujejo tekmovanja, kot sta Fake News Challenge in Facebook Izziv sovražnih memov, tudi algoritmi strojnega učenja še vedno težko pridobijo celostno razumevanje besed v kontekstu. Razkrito je, da je Facebook priznal, da mu ni uspelo usposobiti modela za iskanje novih primerov določene kategorije dezinformacij: zavajajoče novice o COVID-19. In Instagramov avtomatizirani sistem moderiranja je nekoč onemogočil temnopolte člane 50 % pogosteje kot bele uporabnike.

Toda McCarthy je izrazil zaupanje v moč izdelka Two Hat, ki vključuje sistem ugleda uporabnikov, podpira 20 jezikov in lahko samodejno prekine, prepove in utiša potencialno žaljive člane skupnosti.

»Razumemo zapletene izzive, s katerimi se danes srečujejo organizacije, ko si prizadevajo učinkovito moderirati spletne skupnosti. V našem nenehno spreminjajočem se digitalnem svetu obstaja nujna potreba po rešitvah za moderiranje, ki lahko upravljajo spletno vsebino na učinkovit in razširljiv način,« je dejal. »Priča smo bili vplivu, ki so ga imeli v Xboxu, in navdušeni smo, da bo ta prevzem še pospešil naše rešitve za moderiranje vsebine prve osebe v igranju iger, znotraj širokega nabora Microsoftovih potrošniških storitev, in ustvaril več priložnosti za naše uporaba teh rešitev s strani partnerjev tretjih oseb in obstoječih strank podjetja Two Hat.«