A Microsoft felvásárolja a mesterséges intelligencia által támogatott Two Hat moderációs platformot

A Microsoft ma bejelentette, hogy szerzett Két kalap, Egy AI- működtetett tartalommoderáló platform, nem közölt összegért. Dave McCarthy Xbox termékszolgáltatásokért felelős alelnöke szerint a vásárlás mindkét vállalat technológiáját, kutatási képességeit, csapatait és felhő-infrastruktúráját egyesíti a Two Hat meglévő és új ügyfeleinek kiszolgálása, valamint „több termék- és szolgáltatási tapasztalat: a Microsoftnál”.

„Az évek során a Two Hat sokszínű és tapasztalt csapatával együtt dolgozva világossá vált, hogy teljes mértékben igazodunk az alapító, Chris c jövőképéből ihletett alapvető értékekhez, hogy holisztikus megközelítést biztosítsunk a pozitív és virágzó online közösségek számára. ” – mondta McCarthy egy blogbejegyzésében. „Az elmúlt néhány évben a Microsoft és a Two Hat együtt dolgozott azon, hogy proaktív moderációs technológiát alkalmazzanak a játékok és a nem játékélmények terén is, hogy észleljék és eltávolítsák a káros tartalmakat, mielőtt azok eljutnának a közösségeink tagjaihoz.”

Előadás

Szerint Pew Research Center, 4 amerikaiból 10 személyesen tapasztalt online zaklatás valamilyen formáját. Ráadásul az USA-beli internet 37%-a mondják a felhasználók szexuális irányultságuk, vallásuk, faji hovatartozásuk, etnikai hovatartozásuk, nemi identitásuk vagy fogyatékosságuk miatt súlyos támadások célpontjai voltak – beleértve a szexuális zaklatást és üldözést is. Különösen a gyerekeket éri online bántalmazás, egy ilyennel felmérés 70%-kal nőtt az internetes zaklatás a közösségi médiában és a játékplatformokon a világjárvány idején.

Priebe 2012-ben alapította a Two Hat céget, amikor otthagyta a Disney Interactive, a Disney játékfejlesztő részlegénél betöltött vezető alkalmazásbiztonsági szakértői pozícióját. A Club Penguin biztonsági és biztonsági csapatának korábbi vezető fejlesztője, Priebe-t az a vágy hajtotta, hogy megküzdjön az internetes zaklatás és a közösségi weben történő zaklatás problémáival.

Ma a Two Hat azt állítja, hogy tartalommoderálási platformja – amely ötvözi a mesterséges intelligenciát, a nyelvészetet és az „iparvezető menedzsment legjobb gyakorlatait” – havonta több mint trillió emberi interakciót osztályoz, szűr és eszkalál, beleértve az üzeneteket, felhasználóneveket, képeket és videókat. A vállalat a kanadai bűnüldöző szervekkel is együttműködik a mesterséges intelligencia képzésében, hogy észleljék a gyermekeket kizsákmányoló új anyagokat, például a valószínűleg pornográf tartalmakat.

„A hangsúlyt az online ártalmak – köztük az internetes zaklatás, visszaélés, gyűlöletbeszéd, erőszakos fenyegetések és a gyermekek kizsákmányolása – feltárására helyezve lehetővé tesszük ügyfeleink számára a világ különböző közösségi oldalain, hogy biztonságos és egészséges felhasználói élményt nyújtsanak minden korosztály számára” – írja a Two Hat. honlapján.

Microsoft partnerség

Néhány évvel ezelőtt a Two Hat együttműködött a Microsoft Xbox csapatával, hogy moderációs technológiáját alkalmazza az Xbox, a Minecraft és az MSN közösségeiben. A Two Hat platformja lehetővé teszi a felhasználók számára, hogy eldöntsék, milyen tartalmat szeretnének látni – és mit nem –, ami Priebe szerint kulcsfontosságú különbséget jelent az AI-alapú moderációs megoldásokhoz, például a Sentropyhoz és a Jigsaw Labs Perspective API-jához képest.

„Az egyik legadaptívabb, legérzékenyebb, legátfogóbb közösségkezelési megoldást hoztuk létre, és izgalmas módokat találtunk arra, hogy a legjobb technológiát egyedi ismeretekkel kombináljuk” – mondta Priebe. sajtóközlemény. „Ennek eredményeként most azzal bíztak meg minket, hogy segítsük az online interakciókat a világ számos legnagyobb közössége számára.”

Érdemes megjegyezni, hogy a félautomata moderálás továbbra is megoldatlan kihívás. Tavaly, kutatók kimutatta, hogy a Google és leányvállalata Jigsaw által kifejlesztett Perceive eszköz gyakran mérgezőnek minősítette az afroamerikai nyelven írt online megjegyzéseket. Egy külön tanulmány kimutatta, hogy a rossz nyelvtan és a kínos helyesírás – például az „Ihateyou love” (az „utállak” helyett) – sokkal nehezebbé teszik a mérgező tartalmak észlelését az AI és a gépi detektorok számára.

Amint azt az olyan versenyek bizonyítják, mint a Fake News Challenge és a Facebook Gyűlölködő mémek kihívás, a gépi tanulási algoritmusok továbbra is küzdenek a szavak kontextusában való holisztikus megértésével. Nyilvánvaló, hogy a Facebook elismerte, hogy nem tudott modellt kiképezni a dezinformáció egy meghatározott kategóriájának új eseteinek feltárására: a COVID-19-ről szóló félrevezető hírekre. És az Instagram automatizált moderációs rendszere egyszer 50%-kal gyakrabban tiltotta le a fekete tagokat, mint a fehér felhasználókat.

McCarthy azonban bizalmát fejezte ki a Two Hat termékének erejében, amely magában foglalja a felhasználói hírnév-rendszert, 20 nyelvet támogat, és képes automatikusan felfüggeszteni, kitiltani és elnémítani a közösségek potenciálisan visszaélő tagjait.

„Megértjük azokat az összetett kihívásokat, amelyekkel manapság a szervezetek szembesülnek, amikor az online közösségek hatékony moderálására törekszenek. Folyamatosan változó digitális világunkban sürgősen szükség van olyan moderációs megoldásokra, amelyek hatékonyan és skálázhatóan tudják kezelni az online tartalmakat” – mondta. „Tanúi voltunk, milyen hatást gyakoroltak az Xboxon belül, és nagyon örülünk, hogy ez a felvásárlás tovább fogja gyorsítani a belső tartalommoderálási megoldásainkat a játékok terén, a Microsoft fogyasztói szolgáltatásainak széles körében, és nagyobb lehetőséget teremt harmadik fél partnerei és a Two Hat meglévő ügyfelei ezeket a megoldásokat használják.”