Microsoft acquisisce la piattaforma di moderazione basata sull'intelligenza artificiale Two Hat

Microsoft ha annunciato oggi che acquisito Due Cappello, una AI-piattaforma di moderazione dei contenuti, per un importo non divulgato. Secondo Dave McCarthy, CVP dei servizi di prodotto Xbox, l'acquisto unirà la tecnologia, le capacità di ricerca, i team e l'infrastruttura cloud di entrambe le società per servire i clienti esistenti e nuovi di Two Hat e “molteplici esperienze di prodotti e servizi: in Microsoft.

“Lavorando con il team diversificato ed esperto di Two Hat nel corso degli anni, è diventato chiaro che siamo pienamente allineati con i valori fondamentali ispirati dalla visione del fondatore, Chris C, di fornire un approccio olistico per comunità online positive e fiorenti, ” McCarthy ha detto in un post sul blog. "Negli ultimi anni, Microsoft e Two Hat hanno lavorato insieme per implementare la tecnologia di moderazione proattiva nelle esperienze di gioco e non di gioco per rilevare e rimuovere contenuti dannosi prima che raggiungano i membri delle nostre comunità."

Moderazione

Secondo il Pew Research Center, 4 americani su 10 hanno subito personalmente qualche forma di molestia online. Inoltre, il 37% di Internet ha sede negli Stati Uniti dicono gli utenti sono stati bersaglio di gravi attacchi – comprese molestie sessuali e stalking – basati sul loro orientamento sessuale, religione, razza, etnia, identità di genere o disabilità. I bambini, in particolare, sono oggetto di abusi online, con uno sondaggio riscontrando un aumento del 70% del cyberbullismo sui social media e sulle piattaforme di gioco durante la pandemia.

Priebe ha fondato Two Hat nel 2012 quando ha lasciato la sua posizione di specialista senior in sicurezza delle app presso Disney Interactive, la divisione di sviluppo giochi della Disney. Priebe, ex sviluppatore capo del team di sicurezza e protezione di Club Penguin, è stato spinto dal desiderio di affrontare i problemi del cyberbullismo e delle molestie sul social web.

Oggi, Two Hat rivendica la sua piattaforma di moderazione dei contenuti – che combina intelligenza artificiale, linguistica e “migliori pratiche di gestione leader del settore” – classifica, filtra e intensifica più di un trilione di interazioni umane inclusi messaggi, nomi utente, immagini e video al mese. L’azienda collabora anche con le forze dell’ordine canadesi per addestrare l’intelligenza artificiale a rilevare nuovo materiale di sfruttamento minorile, come contenuti che potrebbero essere pornografici.

"Con un'enfasi sull'emersione dei danni online, tra cui cyberbullismo, abusi, incitamento all'odio, minacce violente e sfruttamento minorile, consentiamo ai clienti di una varietà di social network in tutto il mondo di promuovere esperienze utente sicure e salutari per tutte le età", scrive Two Hat sul suo sito web.

Partnership Microsoft Microsoft

Diversi anni fa, Two Hat ha collaborato con il team Xbox di Microsoft per applicare la sua tecnologia di moderazione alle community di Xbox, Minecraft e MSN. La piattaforma di Two Hat consente agli utenti di decidere quali contenuti si sentono a loro agio nel vedere - e quali no - che Priebe ritiene sia un elemento chiave di differenziazione rispetto alle soluzioni di moderazione basate sull'intelligenza artificiale come Sentropy e Perspective API di Jigsaw Labs.

"Abbiamo creato una delle soluzioni di gestione della comunità più adattive, reattive e complete disponibili e abbiamo trovato modi entusiasmanti per combinare la migliore tecnologia con intuizioni uniche", ha affermato Priebe in un comunicato stampa. "Di conseguenza, ora ci viene affidato il compito di agevolare le interazioni online per molte delle comunità più grandi del mondo."

Vale la pena notare che la moderazione semiautomatica rimane una sfida irrisolta. L'anno scorso, ricercatori ha dimostrato che Perceive, uno strumento sviluppato da Google e dalla sua controllata Jigsaw, spesso classificava come tossici i commenti online scritti in vernacolo afroamericano. Uno studio separato ha rivelato che una cattiva grammatica e un’ortografia scomoda – come “Ti odio amore”, invece di “Ti odio” – rendono i contenuti tossici molto più difficili da individuare per l’intelligenza artificiale e i rilevatori di macchine.

Come evidenziato da concorsi come la Fake News Challenge e quella di Facebook Sfida dei memi odiosi, anche gli algoritmi di apprendimento automatico faticano ancora a ottenere una comprensione olistica delle parole nel contesto. Significativamente, Facebook ha ammesso di non essere stato in grado di addestrare un modello per trovare nuovi casi di una specifica categoria di disinformazione: notizie fuorvianti su COVID-19. E il sistema di moderazione automatizzato di Instagram una volta disabilitava i membri neri il 50% più spesso rispetto agli utenti bianchi.

Ma McCarthy ha espresso fiducia nella potenza del prodotto Two Hat, che include un sistema di reputazione degli utenti, supporta 20 lingue e può sospendere, bannare e silenziare automaticamente i membri potenzialmente offensivi delle comunità.

“Comprendiamo le complesse sfide che le organizzazioni devono affrontare oggi quando cercano di moderare in modo efficace le comunità online. Nel nostro mondo digitale in continua evoluzione, c’è un urgente bisogno di soluzioni di moderazione in grado di gestire i contenuti online in modo efficace e scalabile”, ha affermato. "Abbiamo assistito all'impatto che hanno avuto su Xbox e siamo entusiasti che questa acquisizione accelererà ulteriormente le nostre soluzioni di moderazione dei contenuti proprietari nei giochi, all'interno di un'ampia gamma di servizi consumer Microsoft, e creerà maggiori opportunità per i nostri clienti." partner di terze parti e l’utilizzo di queste soluzioni da parte dei clienti esistenti di Two Hat”.