مایکروسافت پلتفرم تعدیل دو هت مجهز به هوش مصنوعی را خریداری کرد

مایکروسافت امروز اعلام کرد که آن را به دست آورد دو کلاه، AI-پلتفرم تعدیل محتوای قدرتمند، برای مبلغی نامشخص. به گفته دیو مک کارتی، مدیر بخش خدمات محصول ایکس‌باکس، این خرید فناوری، قابلیت‌های تحقیقاتی، تیم‌ها و زیرساخت‌های ابری هر دو شرکت را برای خدمت به مشتریان فعلی و جدید Two Hat و «تجربه‌های چند محصول و خدمات: در مایکروسافت» ترکیب می‌کند.

کار با تیم متنوع و با تجربه در Two Hat در طول سال‌ها، مشخص شده است که ما کاملاً با ارزش‌های اصلی الهام‌گرفته از چشم‌انداز بنیان‌گذار، کریس سی، همسو هستیم تا رویکردی جامع برای جوامع آنلاین مثبت و پررونق ارائه دهیم. مک کارتی در یک پست وبلاگ گفت. در چند سال گذشته، مایکروسافت و دو هت با هم همکاری کرده‌اند تا فناوری تعدیل پیشگیرانه را در تجربه‌های بازی و غیربازی پیاده‌سازی کنند تا محتوای مضر را قبل از رسیدن به اعضای جوامع ما شناسایی و حذف کنند.»

اعتدال

با توجه به مرکز تحقیقاتی پیو، از هر 4 آمریکایی 10 نفر شخصاً نوعی از آزار و اذیت آنلاین را تجربه کرده اند. علاوه بر این، 37 درصد از اینترنت مستقر در ایالات متحده کاربران می گویند آنها بر اساس گرایش جنسی، مذهب، نژاد، قومیت، هویت جنسیتی یا ناتوانی خود هدف حملات شدید - از جمله آزار و اذیت جنسی و تعقیب قرار گرفته اند. به ویژه کودکان مورد سوء استفاده آنلاین قرار می گیرند بررسی افزایش 70 درصدی آزار و اذیت سایبری در رسانه‌های اجتماعی و پلتفرم‌های بازی در طول همه‌گیری.

پریبه در سال 2012 شرکت Two Hat را تاسیس کرد، زمانی که او سمت خود را به عنوان یک متخصص ارشد امنیت اپلیکیشن در Disney Interactive، بخش توسعه بازی دیزنی ترک کرد. پریب که یک توسعه‌دهنده ارشد سابق در تیم ایمنی و امنیت باشگاه پنگوئن بود، تمایل داشت تا با مسائل آزار و اذیت سایبری در وب اجتماعی مقابله کند.

امروزه، Two Hat ادعا می‌کند که پلتفرم تعدیل محتوای خود - که ترکیبی از هوش مصنوعی، زبان‌شناسی و «بهترین شیوه‌های مدیریت صنعت» است - بیش از یک تریلیون تعامل انسانی از جمله پیام‌ها، نام‌های کاربری، تصاویر و ویدیوها را در ماه طبقه‌بندی، فیلتر و تشدید می‌کند. این شرکت همچنین با مجری قانون کانادا همکاری می کند تا هوش مصنوعی را برای شناسایی مطالب جدید استثمارگر کودکان، مانند محتوایی که احتمالاً مستهجن باشد، آموزش دهد.

دو هت می‌نویسد: «با تأکید بر رویارویی با آسیب‌های آنلاین از جمله مزاحمت سایبری، سوء استفاده، سخنان مشوق تنفر، تهدیدهای خشونت‌آمیز، و بهره‌کشی از کودکان، ما مشتریان را در انواع شبکه‌های اجتماعی در سراسر جهان قادر می‌سازیم تا تجربیات کاربری ایمن و سالم را برای همه سنین ایجاد کنند.» در وب سایت خود

مشارکت مایکروسافت

چندین سال پیش، Two Hat با تیم ایکس‌باکس مایکروسافت همکاری کرد تا فناوری تعدیل خود را در جوامع Xbox، Minecraft و MSN اعمال کند. پلتفرم Two Hat به کاربران این امکان را می‌دهد که تصمیم بگیرند محتوایی را که می‌بینند راحت هستند - و چه چیزی را ندارند - که پریب معتقد است در مقایسه با راه‌حل‌های تعدیل‌کننده مبتنی بر هوش مصنوعی مانند Sentropy و Jigsaw Labs's Perspective API یک تمایز کلیدی است.

پریب در یک مقاله گفت: "ما یکی از سازگارترین، پاسخگوترین و جامع ترین راه حل های مدیریت جامعه موجود را ایجاد کردیم و راه های هیجان انگیزی برای ترکیب بهترین فناوری با بینش های منحصر به فرد پیدا کردیم." اطلاعیه مطبوعاتی. "در نتیجه، اکنون به ما محول شده است که به تعاملات آنلاین برای بسیاری از بزرگترین جوامع جهان کمک کنیم."

شایان ذکر است که تعدیل نیمه خودکار همچنان یک چالش حل نشده باقی مانده است. سال گذشته، محققان نشان داد که Perceive، ابزاری که توسط گوگل و شرکت تابعه آن Jigsaw توسعه یافته است، اغلب نظرات آنلاین نوشته شده به زبان بومی آفریقایی آمریکایی را به عنوان سمی طبقه بندی می کند. یک مطالعه جداگانه نشان داد که گرامر بد و املای نامناسب - مانند "Ihateyou love" به جای "من از تو متنفرم" - تشخیص محتوای سمی را برای AI و آشکارسازهای ماشینی دشوارتر می کند.

همانطور که مسابقاتی مانند چالش اخبار جعلی و فیس بوک نشان می دهد چالش میم های نفرت انگیز، الگوریتم های یادگیری ماشین نیز هنوز برای به دست آوردن درک کل نگر از کلمات در زمینه تلاش می کنند. آشکارا، فیس‌بوک اعتراف کرد که نتوانسته مدلی را برای یافتن نمونه‌های جدیدی از یک دسته خاص از اطلاعات نادرست آموزش دهد: اخبار گمراه‌کننده درباره COVID-19. و سیستم تعدیل خودکار اینستاگرام زمانی اعضای سیاه پوست را 50 درصد بیشتر از کاربران سفیدپوست غیرفعال می کرد.

اما مک کارتی نسبت به قدرت محصول Two Hat ابراز اطمینان کرد که شامل یک سیستم شهرت کاربر است، از 20 زبان پشتیبانی می کند و می تواند به طور خودکار اعضای بالقوه سوء استفاده کننده جوامع را تعلیق، ممنوع و بی صدا کند.

ما متوجه چالش‌های پیچیده‌ای هستیم که امروزه سازمان‌ها هنگام تلاش برای تعدیل مؤثر جوامع آنلاین با آن مواجه هستند. در دنیای دیجیتالی همیشه در حال تغییر ما، نیاز فوری به راه‌حل‌های تعدیل وجود دارد که بتواند محتوای آنلاین را به روشی مؤثر و مقیاس‌پذیر مدیریت کند.» ما شاهد تاثیر آنها در Xbox بودیم و خوشحالیم که این خرید راه‌حل‌های تعدیل محتوای شخص اول ما را در سراسر بازی‌ها، در طیف گسترده‌ای از خدمات مصرف‌کننده مایکروسافت تسریع خواهد کرد و فرصت‌های بیشتری را برای ما ایجاد می‌کند. شرکای شخص ثالث و مشتریان فعلی Two Hat از این راه حل ها استفاده می کنند.