مايكروسوفت تستحوذ على منصة Two Hat التي تعمل بالذكاء الاصطناعي

أعلنت شركة مايكروسوفت اليوم عن ذلك المكتسبة اثنان قبعةو AIمنصة للإشراف على المحتوى مدعومة بمبلغ لم يكشف عنه. وفقًا لـ CVP Dave McCarthy لخدمات منتجات Xbox، ستجمع عملية الشراء بين التكنولوجيا والقدرات البحثية والفرق والبنية التحتية السحابية لكلا الشركتين لخدمة عملاء Two Hat الحاليين والجدد و"تجارب المنتجات والخدمات المتعددة: في Microsoft".

"من خلال العمل مع الفريق المتنوع وذوي الخبرة في Two Hat على مر السنين، أصبح من الواضح أننا نتوافق تمامًا مع القيم الأساسية المستوحاة من رؤية المؤسس، كريس سي، لتقديم نهج شامل للمجتمعات الإيجابية والمزدهرة عبر الإنترنت، "قال مكارثي في ​​​​منشور بالمدونة. "على مدى السنوات القليلة الماضية، عملت Microsoft وTwo Hat معًا لتطبيق تقنية الإشراف الاستباقي في تجارب الألعاب وغير الألعاب لاكتشاف المحتوى الضار وإزالته قبل أن يصل إلى أعضاء مجتمعاتنا."

الاعتدال

وفقًا  مركز بيو للأبحاث، 4 من كل 10 أمريكيين تعرضوا شخصيًا لشكل من أشكال التحرش عبر الإنترنت. علاوة على ذلك، 37% من الإنترنت في الولايات المتحدة يقول المستخدمون لقد كانوا هدفًا لهجمات خطيرة - بما في ذلك التحرش الجنسي والمطاردة - بناءً على ميولهم الجنسية أو دينهم أو عرقهم أو أصلهم العرقي أو هويتهم الجنسية أو إعاقتهم. الأطفال، على وجه الخصوص، هم عرضة للإساءة عبر الإنترنت، مع واحد مسح العثور على زيادة بنسبة 70٪ في التنمر عبر الإنترنت على وسائل التواصل الاجتماعي ومنصات الألعاب أثناء الوباء.

أسس بريبي شركة Two Hat في عام 2012 عندما ترك منصبه كأحد كبار المتخصصين في أمن التطبيقات في Disney Interactive، قسم تطوير الألعاب في Disney. كان بريبي، المطور الرئيسي السابق في فريق السلامة والأمن في Club Penguin، مدفوعًا بالرغبة في معالجة مشكلات التسلط عبر الإنترنت والتحرش على شبكة الإنترنت الاجتماعية.

واليوم، تدعي شركة Two Hat أن نظامها الأساسي للإشراف على المحتوى - الذي يجمع بين الذكاء الاصطناعي واللغويات و"أفضل ممارسات الإدارة الرائدة في الصناعة" - يقوم بتصنيف وتصفية وتصعيد أكثر من تريليون تفاعل بشري بما في ذلك الرسائل وأسماء المستخدمين والصور ومقاطع الفيديو شهريًا. تعمل الشركة أيضًا مع سلطات إنفاذ القانون الكندية لتدريب الذكاء الاصطناعي على اكتشاف المواد الاستغلالية الجديدة للأطفال، مثل المحتوى الذي من المحتمل أن يكون إباحيًا.

"مع التركيز على كشف الأضرار عبر الإنترنت بما في ذلك التسلط عبر الإنترنت، والإساءة، وخطاب الكراهية، والتهديدات العنيفة، واستغلال الأطفال، فإننا نمكن العملاء عبر مجموعة متنوعة من الشبكات الاجتماعية في جميع أنحاء العالم من تعزيز تجارب المستخدم الآمنة والصحية لجميع الأعمار،" يكتب تو هات على موقعها على الانترنت.

شراكة مايكروسوفت

منذ عدة سنوات، عقدت Two Hat شراكة مع فريق Xbox التابع لشركة Microsoft لتطبيق تقنية الإشراف الخاصة بها على المجتمعات في Xbox وMinecraft وMSN. تسمح منصة Two Hat للمستخدمين بتحديد المحتوى الذي يشعرون بالارتياح لرؤيته - وما لا يرونه - والذي يعتقد Priebe أنه عامل تمييز رئيسي مقارنة بحلول الإشراف المدعومة بالذكاء الاصطناعي مثل Sentropy وJigsaw Labs' Perspective API.

وقال بريبي في بيان: "لقد أنشأنا واحدًا من أكثر حلول إدارة المجتمع المتاحة تكيفًا واستجابة وشمولاً، ووجدنا طرقًا مثيرة للجمع بين أفضل التقنيات والرؤى الفريدة". خبر صحفى. "ونتيجة لذلك، أصبحنا الآن مكلفين بمساعدة التفاعلات عبر الإنترنت للعديد من أكبر المجتمعات في العالم."

تجدر الإشارة إلى أن الإشراف شبه الآلي لا يزال يمثل تحديًا لم يتم حله. العام الماضي، الباحثين أظهر أن أداة Perceive، التي طورتها شركة Google وشركة Jigsaw التابعة لها، غالبًا ما تصنف التعليقات عبر الإنترنت المكتوبة باللغة العامية الأمريكية الأفريقية على أنها سامة. وكشفت دراسة منفصلة أن القواعد النحوية السيئة والتهجئة غير الملائمة - مثل "Ihateyou love" بدلاً من "أنا أكرهك" - تجعل المحتوى السام أكثر صعوبة بكثير بالنسبة للذكاء الاصطناعي وأجهزة الكشف الآلية.

كما يتضح من المسابقات مثل Fake News Challenge وFacebook تحدي الميمات البغيضة، لا تزال خوارزميات التعلم الآلي أيضًا تكافح من أجل الحصول على فهم شامل للكلمات في السياق. ومن الواضح أن فيسبوك اعترفت بأنها لم تكن قادرة على تدريب نموذج للعثور على حالات جديدة لفئة معينة من المعلومات المضللة: الأخبار المضللة حول كوفيد-19. وقام نظام الإشراف الآلي في Instagram بتعطيل الأعضاء السود بنسبة 50% أكثر من المستخدمين البيض.

لكن مكارثي أعرب عن ثقته في قوة منتج Two Hat، الذي يتضمن نظامًا لسمعة المستخدم، ويدعم 20 لغة، ويمكنه تلقائيًا تعليق وحظر وكتم صوت أعضاء المجتمعات المحتملين المسيئين.

"نحن نتفهم التحديات المعقدة التي تواجهها المؤسسات اليوم عندما تسعى إلى إدارة المجتمعات عبر الإنترنت بشكل فعال. وفي عالمنا الرقمي المتغير باستمرار، هناك حاجة ملحة لحلول الإشراف التي يمكنها إدارة المحتوى عبر الإنترنت بطريقة فعالة وقابلة للتطوير. "لقد شهدنا التأثير الذي أحدثوه داخل Xbox، ويسعدنا أن هذا الاستحواذ سيزيد من تسريع حلولنا للإشراف على محتوى الطرف الأول عبر الألعاب، ضمن نطاق واسع من خدمات Microsoft للمستهلكين، ولبناء فرصة أكبر لعملائنا واستخدام شركاء الطرف الثالث وعملاء Two Hat الحاليين لهذه الحلول.