Microsoft ostaa tekoälyllä toimivan moderointialustan Two Hatin

Microsoft ilmoitti tänään, että se hankittu Kaksi hattua, AI-käyttöinen sisällönvalvontaalusta, julkistamattomalla hinnalla. Xbox-tuotepalveluiden CVP Dave McCarthyn mukaan osto yhdistää molempien yritysten teknologian, tutkimuskyvyt, tiimit ja pilviinfrastruktuurin palvellakseen Two Hatin nykyisiä ja uusia asiakkaita sekä "useita tuote- ja palvelukokemuksia: Microsoftilla.

"Työskennellessämme Two Hatin monipuolisen ja kokeneen tiimin kanssa vuosien varrella on käynyt selväksi, että olemme täysin linjassa perusarvojen kanssa, jotka ovat inspiroituneet perustajan Chris c:n visiosta tarjota kokonaisvaltainen lähestymistapa positiivisille ja menestyville verkkoyhteisöille, McCarthy sanoi blogikirjoituksessaan. "Viimeisten vuosien ajan Microsoft ja Two Hat ovat työskennelleet yhdessä toteuttaakseen ennakoivaa moderointiteknologiaa peli- ja ei-pelikokemuksiin havaitakseen ja poistaakseen haitallista sisältöä ennen kuin se pääsee yhteisöjemme jäseniin."

Esitys

Mukaan Pew Research Center4 10:stä amerikkalaisesta on henkilökohtaisesti kokenut jonkinlaista online-häirintää. Lisäksi 37% Yhdysvalloissa sijaitsevasta Internetistä käyttäjät sanovat he ovat joutuneet vakavien hyökkäysten kohteeksi – mukaan lukien seksuaalinen häirintä ja vainoaminen – heidän seksuaalisen suuntautumisensa, uskonnon, rodun, etnisen taustan, sukupuoli-identiteetin tai vamman perusteella. Erityisesti lapset joutuvat verkkoväkivallan kohteeksi, ja yksi tutkimus verkkokiusaamisen lisääntyminen sosiaalisessa mediassa ja pelialustoilla pandemian aikana 70 %.

Priebe perusti Two Hatin vuonna 2012, kun hän jätti tehtävänsä vanhempana sovellusten tietoturvaasiantuntijana Disney Interactivessa, Disneyn pelikehitysosastossa. Priebe, joka oli Club Penguinin turvallisuustiimin pääkehittäjä, joutui halusta puuttua verkkokiusaamiseen ja sosiaalisen verkon häirintään.

Nykyään Two Hat väittää, että sen sisällönvalvontaalusta – joka yhdistää tekoälyn, kielitieteen ja "alan johtavat johtamisen parhaat käytännöt" - luokittelee, suodattaa ja eskaloi yli biljoonaa ihmisten välistä vuorovaikutusta, mukaan lukien viestit, käyttäjätunnukset, kuvat ja videot kuukaudessa. Yritys työskentelee myös Kanadan lainvalvontaviranomaisten kanssa kouluttaakseen tekoälyä havaitsemaan uutta lasten hyväksikäyttöä, kuten todennäköisesti pornografista sisältöä.

"Parantamalla verkkohaittojen, kuten verkkokiusaamisen, hyväksikäytön, vihapuheen, väkivaltaisten uhkausten ja lasten hyväksikäytön, paljastamista, annamme asiakkaillemme mahdollisuuden edistää turvallisia ja terveellisiä käyttökokemuksia kaikenikäisille sosiaalisissa verkostoissa ympäri maailmaa", Two Hat kirjoittaa. verkkosivuillaan.

Microsoft-kumppanuus

Useita vuosia sitten Two Hat teki yhteistyötä Microsoftin Xbox-tiimin kanssa soveltaakseen moderointitekniikkaansa Xbox-, Minecraft- ja MSN-yhteisöissä. Two Hatin alustan avulla käyttäjät voivat päättää, minkä sisällön he haluavat nähdä – ja mitä he eivät –, mikä Priebe uskoo olevan keskeinen erottava tekijä verrattuna tekoälypohjaisiin moderointiratkaisuihin, kuten Sentropy ja Jigsaw Labsin Perspective API.

"Loimme yhden mukautuvimmista, reagoivimmista ja kattavimmista yhteisön hallintaratkaisuista ja löysimme jännittäviä tapoja yhdistää paras teknologia ainutlaatuisiin oivalluksiin", Priebe sanoi. lehdistötiedote. "Tämän seurauksena meidän tehtävämme on nyt auttaa monien maailman suurimpien yhteisöjen verkkovuorovaikutuksessa."

On syytä huomata, että puoliautomaattinen maltillisuus on edelleen ratkaisematon haaste. Viime vuonna, Tutkijat osoitti, että Googlen ja sen tytäryhtiön Jigsaw'n kehittämä työkalu Perceive luokitteli usein afrikkalaisamerikkalaisella kansankielellä kirjoitetut verkkokommentit myrkyllisiksi. Erillinen tutkimus paljasti, että huono kielioppi ja hankala kirjoitusasu - kuten "Ihaeyou love" - ​​"I hate you" sijaan - tekevät myrkyllisestä sisällöstä paljon vaikeampaa havaita tekoälyn ja koneilmaisimien.

Kuten Fake News Challenge ja Facebookin kaltaiset kilpailut osoittavat Vihamielinen meemien haaste, myös koneoppimisalgoritmeilla on edelleen vaikeuksia saada kokonaisvaltainen käsitys sanoista kontekstissa. Ilmeisesti Facebook myönsi, että se ei ole kyennyt kouluttamaan mallia löytämään uusia tapauksia tietyn kategorian disinformaatiosta: harhaanjohtavista uutisista COVID-19:stä. Ja Instagramin automaattinen valvontajärjestelmä poisti kerran käytöstä mustat jäsenet 50% useammin kuin valkoiset.

Mutta McCarthy ilmaisi luottamuksensa Two Hatin tuotteen voimaan, joka sisältää käyttäjän mainejärjestelmän, tukee 20 kieltä ja voi automaattisesti keskeyttää, kieltää ja mykistää mahdollisesti väärinkäyttävät yhteisön jäsenet.

"Ymmärrämme monimutkaiset haasteet, joita organisaatiot kohtaavat nykyään, kun ne pyrkivät hallitsemaan tehokkaasti verkkoyhteisöjä. Jatkuvasti muuttuvassa digitaalisessa maailmassamme tarvitaan kipeästi moderointiratkaisuja, joilla voidaan hallita verkkosisältöä tehokkaasti ja skaalautuvalla tavalla, hän sanoi. "Olemme nähneet niiden vaikutuksen Xboxissa, ja olemme innoissamme siitä, että tämä hankinta nopeuttaa entisestään ensimmäisen osapuolen sisällönvalvontaratkaisujamme kaikissa peleissä, laajassa valikoimassa Microsoftin kuluttajapalveluita ja lisää mahdollisuuksiamme kolmannen osapuolen kumppanit ja Two Hatin nykyiset asiakkaat käyttävät näitä ratkaisuja."