Microsoft erwirbt die KI-gestützte Moderationsplattform Two Hat

Das gab Microsoft heute bekannt erworben Zwei Hut, ein AI-betriebene Content-Moderationsplattform für einen nicht genannten Betrag. Laut Dave McCarthy, CVP für Xbox-Produktservices, werden durch den Kauf die Technologie, Forschungskapazitäten, Teams und Cloud-Infrastruktur beider Unternehmen kombiniert, um die bestehenden und neuen Kunden von Two Hat sowie „mehrere Produkt- und Serviceerlebnisse: bei Microsoft“ zu bedienen.

„Durch die Zusammenarbeit mit dem vielfältigen und erfahrenen Team von Two Hat im Laufe der Jahre ist klar geworden, dass wir voll und ganz mit den Grundwerten übereinstimmen, die von der Vision des Gründers Chris C. inspiriert sind, einen ganzheitlichen Ansatz für positive und florierende Online-Communities zu liefern. “, sagte McCarthy in einem Blogbeitrag. „In den letzten Jahren haben Microsoft und Two Hat zusammengearbeitet, um proaktive Moderationstechnologie in Gaming- und Nicht-Gaming-Erlebnisse zu implementieren, um schädliche Inhalte zu erkennen und zu entfernen, bevor sie jemals Mitglieder unserer Communities erreichen.“

Mäßigung

Nach Angaben des Pew Research Center4 von 10 Amerikanern haben persönlich irgendeine Form von Online-Belästigung erlebt. Darüber hinaus sind 37 % des Internets in den USA ansässig Benutzer sagen Sie wurden aufgrund ihrer sexuellen Orientierung, Religion, Rasse, ethnischen Zugehörigkeit, Geschlechtsidentität oder Behinderung zum Ziel schwerer Angriffe – einschließlich sexueller Belästigung und Stalking. Vor allem Kinder sind Opfer von Online-Missbrauch Umfrage Wir stellen fest, dass Cybermobbing in sozialen Medien und auf Gaming-Plattformen während der Pandemie um 70 % zugenommen hat.

Priebe gründete Two Hat im Jahr 2012, als er seine Position als leitender App-Sicherheitsspezialist bei Disney Interactive, der Spieleentwicklungsabteilung von Disney, aufgab. Als ehemaliger leitender Entwickler im Sicherheitsteam von Club Penguin war Priebe von dem Wunsch getrieben, die Probleme von Cybermobbing und Belästigung im sozialen Web anzugehen.

Heute behauptet Two Hat, dass seine Content-Moderationsplattform – die KI, Linguistik und „branchenführende Best Practices für das Management“ kombiniert – mehr als eine Billion menschliche Interaktionen, einschließlich Nachrichten, Benutzernamen, Bilder und Videos, pro Monat klassifiziert, filtert und eskaliert. Das Unternehmen arbeitet auch mit kanadischen Strafverfolgungsbehörden zusammen, um KI darin zu schulen, neues Material zur Ausbeutung von Kindern zu erkennen, beispielsweise Inhalte, die möglicherweise pornographisch sind.

„Mit einem Schwerpunkt auf der Aufdeckung von Online-Schäden, einschließlich Cybermobbing, Missbrauch, Hassreden, Gewaltdrohungen und Ausbeutung von Kindern, ermöglichen wir Kunden in einer Vielzahl von sozialen Netzwerken auf der ganzen Welt, sichere und gesunde Benutzererlebnisse für alle Altersgruppen zu fördern“, schreibt Two Hat auf seiner Website.

Microsoft-Partnerschaft

Vor einigen Jahren ging Two Hat eine Partnerschaft mit dem Xbox-Team von Microsoft ein, um seine Moderationstechnologie auf Communities in Xbox, Minecraft und MSN anzuwenden. Mit der Plattform von Two Hat können Benutzer entscheiden, welche Inhalte sie gerne sehen – und welche nicht – was nach Ansicht von Priebe ein wesentlicher Unterschied zu KI-gestützten Moderationslösungen wie Sentropy und der Perspective API von Jigsaw Labs ist.

„Wir haben eine der anpassungsfähigsten, reaktionsschnellsten und umfassendsten verfügbaren Community-Management-Lösungen entwickelt und spannende Wege gefunden, die beste Technologie mit einzigartigen Erkenntnissen zu kombinieren“, sagte Priebe in einem Pressemitteilung. „Daher ist es uns nun anvertraut, die Online-Interaktionen für viele der größten Communities der Welt zu unterstützen.“

Es ist erwähnenswert, dass die halbautomatische Moderation eine ungelöste Herausforderung bleibt. Letztes Jahr, Forscher zeigte, dass Perceive, ein von Google und seiner Tochtergesellschaft Jigsaw entwickeltes Tool, Online-Kommentare in der afroamerikanischen Umgangssprache häufig als giftig einstufte. Eine separate Studie ergab, dass schlechte Grammatik und umständliche Rechtschreibung – wie „Ich hasse dich, liebe“ statt „Ich hasse dich“ – giftige Inhalte für KI und maschinelle Detektoren weitaus schwieriger zu erkennen machen.

Das beweisen Wettbewerbe wie die Fake News Challenge und Facebooks Hasserfüllte Memes-HerausforderungAuch maschinelle Lernalgorithmen haben immer noch Schwierigkeiten, ein ganzheitliches Verständnis von Wörtern im Kontext zu erlangen. Aufschlussreich ist, dass Facebook zugab, dass es nicht in der Lage war, ein Modell zu trainieren, um neue Fälle einer bestimmten Kategorie von Desinformation zu finden: irreführende Nachrichten über COVID-19. Und das automatisierte Moderationssystem von Instagram deaktivierte einst schwarze Mitglieder 50 % häufiger als weiße Nutzer.

Aber McCarthy zeigte sich zuversichtlich in die Leistungsfähigkeit des Produkts von Two Hat, das ein Benutzer-Reputationssystem umfasst, 20 Sprachen unterstützt und potenziell missbräuchliche Community-Mitglieder automatisch suspendieren, sperren und stumm schalten kann.

„Wir verstehen die komplexen Herausforderungen, denen sich Unternehmen heute gegenübersehen, wenn sie Online-Communities effektiv moderieren wollen. „In unserer sich ständig verändernden digitalen Welt besteht ein dringender Bedarf an Moderationslösungen, die Online-Inhalte effektiv und skalierbar verwalten können“, sagte er. „Wir haben die Auswirkungen, die sie innerhalb von Xbox hatten, miterlebt und freuen uns, dass diese Übernahme unsere First-Party-Content-Moderationslösungen im gesamten Gaming-Bereich innerhalb einer breiten Palette von Microsoft-Verbraucherdiensten weiter vorantreiben und größere Möglichkeiten für uns schaffen wird.“ Die Nutzung dieser Lösungen durch Drittpartner und bestehende Kunden von Two Hat.“