微软收购基于人工智能的审核平台 Two Hat

微软今天宣布， 后天 两顶帽子，一个 AI支持的内容审核平台，金额不详。 根据 Xbox 产品服务 CVP Dave McCarthy 的说法，此次收购将结合两家公司的技术、研究能力、团队和云基础设施，为 Two Hat 的现有和新客户提供服务，以及“微软的多种产品和服务体验”。

“多年来与 Two Hat 多元化且经验丰富的团队合作，很明显我们完全符合创始人 Chris c 的愿景所激发的核心价值观，为积极和繁荣的在线社区提供整体方法， ”麦卡锡在一篇博文中说。 “在过去的几年里，微软和 Two Hat 一直合作，将主动审核技术应用到游戏和非游戏体验中，以在有害内容到达我们社区成员之前检测并删除它们。”

介绍

据 皮尤研究中心, 每 4 个美国人中就有 10 个亲身经历过某种形式的在线骚扰。 此外，37% 的美国互联网 用户说 他们一直是基于性取向、宗教、种族、民族、性别认同或残疾的严重攻击的目标，包括性骚扰和跟踪。 儿童尤其是网络虐待的对象，其中一名儿童 发现在大流行期间社交媒体和游戏平台上的网络欺凌增加了 70%。

Priebe 于 2012 年离开迪士尼游戏开发部门 Disney Interactive 的高级应用程序安全专家职位后创立了 Two Hat。 作为 Club Penguin 安全团队的前首席开发人员，Priebe 的目标是解决社交网络上的网络欺凌和骚扰问题。

如今，Two Hat 声称其内容审核平台——结合了人工智能、语言学和“行业领先的管理最佳实践”——每月对超过一万亿的人类互动进行分类、过滤和升级，包括消息、用户名、图像和视频。 该公司还与加拿大执法部门合作，训练人工智能检测新的儿童剥削材料，例如可能是色情的内容。

“通过强调网络欺凌、虐待、仇恨言论、暴力威胁和儿童剥削等在线危害，我们使全球各种社交网络的客户能够为所有年龄段的人营造安全和健康的用户体验，”Two Hat 写道在其网站上。

微软合作伙伴

几年前，Two Hat 与 Microsoft 的 Xbox 团队合作，将其审核技术应用于 Xbox、Minecraft 和 MSN 中的社区。 Two Hat 的平台允许用户决定他们喜欢看什么以及不喜欢看什么内容，Priebe 认为这是与 Sentropy 和 Jigsaw Labs 的 Perspective API 等人工智能审核解决方案相比的关键区别。

“我们创建了一种可用的最具适应性、响应性最强、最全面的社区管理解决方案，并找到了将最好的技术与独特见解结合起来的令人兴奋的方法，”Priebe 在一份报告中说。 新闻稿. “因此，我们现在受托为世界上许多最大的社区提供在线互动帮助。”

值得注意的是，半自动调节仍然是一个尚未解决的挑战。 去年， 研究人员 显示由谷歌及其子公司 Jigsaw 开发的工具 Perceive 经常将用非裔美国人方言撰写的在线评论归类为有毒。 另一项研究表明，糟糕的语法和笨拙的拼写——比如“Ihatyou love”而不是“I hate you”——使得有毒内容更难被人工智能和机器检测器发现。

正如假新闻挑战赛和 Facebook 的比赛所证明的那样 讨厌的模因挑战，机器学习算法也仍然难以在上下文中获得对单词的整体理解。 很明显，Facebook 承认它无法训练模型来找到特定类别虚假信息的新实例：关于 COVID-19 的误导性新闻。 而 Instagram 的自动审核系统曾经让黑人会员停用的频率比白人用户高 50%。

但 McCarthy 表示对 Two Hat 产品的强大功能充满信心，该产品包括用户信誉系统，支持 20 种语言，并且可以自动暂停、禁止和静音社区中潜在的滥用行为的成员。

“我们了解组织在努力有效地管理在线社区时面临的复杂挑战。 在我们不断变化的数字世界中，迫切需要能够以有效和可扩展的方式管理在线内容的审核解决方案，”他说。 “我们目睹了他们在 Xbox 中产生的影响，我们很高兴此次收购将进一步加速我们在游戏、广泛的微软消费者服务中的第一方内容审核解决方案，并为我们创造更多机会第三方合作伙伴以及 Two Hat 现有客户对这些解决方案的使用。”