जॉन पी। डेसमंड, एआई ट्रेंड्स एडिटर द्वारा
सामग्री मॉडरेशन एक बड़ा व्यवसाय बन रहा है, 11.8 तक $ 2027 बिलियन की मात्रा तक पहुंचने की उम्मीद है, के अनुमानों के अनुसार पारदर्शिता बाजार अनुसंधान.
लघु वीडियो, मीम्स, जीआईएफ, लाइव ऑडियो और वीडियो सामग्री और समाचार के रूप में उपयोगकर्ता-जनित सामग्री में तेजी से वृद्धि से बाजार को बढ़ावा मिल रहा है। क्योंकि अपलोड की गई सामग्री का कुछ प्रतिशत नकली समाचार, या दुर्भावनापूर्ण या हिंसक सामग्री है, सोशल मीडिया साइटें अनुचित सामग्री को फ़िल्टर करने का प्रयास करने के लिए AI और मशीन लर्निंग को नियोजित करने वाले उपकरणों से लैस मध्यस्थों की सेनाओं को नियुक्त कर रही हैं।
हाल ही में एक खाते के अनुसार, फेसबुक ने एक्सेंचर को अपनी सामग्री को साफ करने में मदद करने के लिए सालाना $ 500 मिलियन के अनुबंध में नियुक्त किया है। न्यूयॉर्क टाइम्स, सोशल मीडिया दिग्गज में सामग्री मॉडरेशन के इतिहास में व्यापक शोध के आधार पर।
RSI टाइम्स ने बताया कि एक्सेंचर के सीईओ जूली स्वीट ने 2019 में अपनी नियुक्ति के बाद अनुबंध की समीक्षा करने का आदेश दिया, जो उस समय बढ़ते नैतिक और कानूनी जोखिमों के रूप में देखा गया था, जो बहुराष्ट्रीय पेशेवर सेवा कंपनी की प्रतिष्ठा को नुकसान पहुंचा सकता है।
स्वीट ने समीक्षा का आदेश तब दिया जब एक एक्सेंचर कार्यकर्ता कंटेंट मॉडरेटर की कामकाजी परिस्थितियों का विरोध करने के लिए एक क्लास एक्शन मुकदमे में शामिल हो गया, जो एक शिफ्ट में सैकड़ों फेसबुक पोस्ट की समीक्षा करते हैं और परिणामस्वरूप अवसाद, चिंता और व्यामोह का अनुभव करते हैं। समीक्षा के परिणामस्वरूप कोई परिवर्तन नहीं हुआ; टाइम्स की रिपोर्ट के अनुसार, एक्सेंचर 15,000 लोगों में से एक तिहाई से अधिक लोगों को नियुक्त करता है, जिन्हें फेसबुक ने अपने पोस्ट का निरीक्षण करने के लिए नियुक्त किया है।
फेसबुक के सीईओ मार्क जुकरबर्ग ने जहरीले पोस्ट को फ़िल्टर करने में मदद करने के लिए एआई को नियोजित करने की रणनीति बनाई है; अनुपयुक्त संदेशों को हटाने के लिए हजारों सामग्री मॉडरेटर को काम पर रखा जाता है जो एआई पकड़ में नहीं आता है।
कंटेंट मॉडरेशन का काम और इसके आसपास एक्सेंचर और फेसबुक का रिश्ता विवादास्पद हो गया है। "आप नहीं कर सकते थे फेसबुक जैसा कि हम आज बिना एक्सेंचर के जानते हैं, ”फॉक्सग्लोव के सह-संस्थापक कोरी क्राइडर ने कहा, एक कानूनी फर्म जो कंटेंट मॉडरेटर्स का प्रतिनिधित्व करती है। टाइम्स. "एक्सेंचर जैसे समर्थकों ने आंखों में पानी भरने की फीस के लिए, फेसबुक को अपने व्यवसाय की मुख्य मानवीय समस्या को हाथ की लंबाई में रखने दिया है।"
फेसबुक ने 10 से अपने पदों को फ़िल्टर करने के लिए कम से कम 2012 परामर्श और स्टाफिंग फर्मों और कई उप-ठेकेदारों को काम पर रखा है। टाइम्स की रिपोर्ट. वेतन दरें अलग-अलग होती हैं, यूएस मॉडरेटर्स एक्सेंचर के लिए $50 या उससे अधिक प्रति घंटे उत्पन्न करते हैं, जबकि कुछ अमेरिकी शहरों में मॉडरेटर्स को $18 प्रति घंटे का शुरुआती वेतन मिलता है, टाइम्स की सूचना दी.
एक अनुभवी सामग्री मॉडरेटर से अंतर्दृष्टि
एआई लगभग 90% अनुपयुक्त सामग्री को पकड़ लेता है। सामग्री मॉडरेशन सिस्टम का एक आपूर्तिकर्ता है Appen, ऑस्ट्रेलिया में स्थित है, जो मशीन लर्निंग और एआई सिस्टम पर अपने ग्राहकों के साथ काम करता है। हाल ही में ब्लॉग पोस्ट अपनी वेबसाइट पर, कई सामग्री मॉडरेशन परियोजनाओं की देखरेख करने वाले एक प्रोग्राम मैनेजर जस्टिन एडम ने कुछ अंतर्दृष्टि की पेशकश की।
पहला है नीतियों को अपडेट करना जैसा कि वास्तविक दुनिया का अनुभव बताता है। “हर सामग्री मॉडरेशन निर्णय को परिभाषित नीति का पालन करना चाहिए; हालांकि, यह भी आवश्यक है कि नीति किसी भी अंतराल, ग्रे क्षेत्रों, या किनारे के मामलों को बंद करने के लिए तेजी से विकसित होनी चाहिए, और विशेष रूप से संवेदनशील विषयों के लिए, "एडम ने कहा। उन्होंने नीतिगत कमियों की पहचान करने के लिए बाजारों के लिए विशिष्ट सामग्री प्रवृत्तियों की निगरानी की सिफारिश की।
दूसरा, मॉडरेटर के संभावित जनसांख्यिकीय पूर्वाग्रह से अवगत रहें। "सामग्री मॉडरेशन सबसे प्रभावी, विश्वसनीय और भरोसेमंद है जब मॉडरेटर्स का पूल बाजार की सामान्य आबादी को नियंत्रित करने का प्रतिनिधि होता है," उन्होंने कहा। उन्होंने उपयुक्त के रूप में मध्यस्थों के एक विविध समूह की सोर्सिंग की सिफारिश की।
तीसरा, सामग्री प्रबंधन रणनीति विकसित करें और इसका समर्थन करने के लिए विशेषज्ञ संसाधन रखें। "सामग्री मॉडरेशन निर्णय आज के राजनीतिक माहौल में जांच के लिए अतिसंवेदनशील हैं," एडम ने कहा। उनकी फर्म ग्राहकों को प्रशिक्षित नीति विषय वस्तु अनुभव की एक टीम को नियुक्त करने, गुणवत्ता नियंत्रण समीक्षा स्थापित करने, और दर्जी गुणवत्ता विश्लेषण और रिपोर्टिंग में मदद करने के लिए सेवाएं प्रदान करती है।
एआई के साथ स्वचालित सामग्री मॉडरेशन के लिए तकनीक
सामग्री मॉडरेशन का सबसे आम प्रकार एक स्वचालित दृष्टिकोण है जो एआई, प्राकृतिक भाषा प्रसंस्करण और कंप्यूटर दृष्टि को नियोजित करता है, a . के अनुसार ब्लॉग पोस्ट कंप्यूटर विज़न, मशीन लर्निंग, और छवियों और वीडियो के विश्लेषण में विशेषज्ञता रखने वाली न्यूयॉर्क शहर स्थित एआई कंपनी क्लारिफाई से।
AI मॉडल सामग्री की समीक्षा और फ़िल्टर करने के लिए बनाए गए हैं। "अनुचित सामग्री को ध्वजांकित किया जा सकता है और लगभग तुरंत पोस्ट होने से रोका जा सकता है," मानव मॉडरेटर के काम का समर्थन करने के लिए, कंपनी ने सुझाव दिया।
सामग्री मॉडरेशन के लिए तकनीकों में शामिल हैं छवि मॉडरेशन जो पाठ वर्गीकरण और कंप्यूटर दृष्टि-आधारित दृश्य खोज तकनीकों का उपयोग करता है। ऑब्जेक्ट कैरेक्टर रिकग्निशन एक इमेज के भीतर टेक्स्ट की पहचान कर सकता है और उसे मॉडरेट भी कर सकता है। फ़िल्टर सभी प्रकार के असंरचित डेटा के भीतर अपमानजनक या आपत्तिजनक शब्दों, वस्तुओं और शरीर के अंगों की तलाश कर रहे हैं। अनुपयुक्त के रूप में फ़्लैग की गई सामग्री को मैन्युअल मॉडरेशन के लिए भेजा जा सकता है।
एक और तकनीक, के लिए वीडियो मॉडरेशन, यह आवश्यक है कि वीडियो को फ्रेम दर फ्रेम देखा जाए और ऑडियो की भी स्क्रीनिंग की जाए। के लिये पाठ मॉडरेशन, प्राकृतिक भाषा प्रसंस्करण एल्गोरिदम का उपयोग पाठ के अर्थ को सारांशित करने या पाठ में भावनाओं की समझ हासिल करने के लिए किया जाता है। टेक्स्ट वर्गीकरण का उपयोग करके, टेक्स्ट या भावना का विश्लेषण करने में सहायता के लिए श्रेणियां असाइन की जा सकती हैं।
भाव विश्लेषण पाठ के स्वर की पहचान करता है और इसे क्रोध, बदमाशी या कटाक्ष के रूप में वर्गीकृत कर सकता है, उदाहरण के लिए, फिर इसे सकारात्मक, नकारात्मक या तटस्थ के रूप में लेबल करें। नामित इकाई पहचान तकनीक नाम, स्थान और कंपनियों को ढूंढती और निकालती है। कंपनियां इसका उपयोग अपने ब्रांड का उल्लेख करने की संख्या या किसी प्रतियोगी के ब्रांड, या किसी शहर या राज्य के लोगों की संख्या को ट्रैक करने के लिए करती हैं जो समीक्षा पोस्ट कर रहे हैं। अधिक उन्नत तकनीकें अंतर्निहित डेटाबेस पर भरोसा कर सकती हैं ताकि यह अनुमान लगाया जा सके कि पाठ उपयुक्त है, या नकली समाचार या घोटाला है।
इसमें कोई संदेह नहीं है कि एआई को ऑनलाइन सामग्री मॉडरेशन में सफल होने का मौका देने के लिए आवश्यक है। "वास्तविकता यह है कि मानव मध्यस्थों के लिए यूजीसी बहुत अधिक है, और कंपनियों को प्रभावी ढंग से उनका समर्थन करने की चुनौती का सामना करना पड़ रहा है," क्लेरिफाई पोस्ट में कहा गया है।
स्वचालित सामग्री प्रबंधन उपकरण की सीमाएं
स्वचालित सामग्री मॉडरेशन टूल की सीमाओं में सटीकता और विश्वसनीयता शामिल है, जब सामग्री चरमपंथी या अभद्र भाषा है, विभिन्न समूहों और क्षेत्रों से संबंधित भाषण में बारीक भिन्नता के कारण, हाल ही के एक खाते के अनुसार न्यू अमेरिका, वाशिंगटन, डीसी में स्थित एक शोध और नीति संस्थान। सामग्री की इन श्रेणियों के लिए व्यापक डेटासेट विकसित करना "चुनौतीपूर्ण" कहा जाता था और एक उपकरण विकसित करना जिसे विभिन्न समूहों और क्षेत्रों में मज़बूती से लागू किया जा सकता है, को "बेहद कठिन" बताया गया।
इसके अलावा, किस प्रकार के भाषण अनुचित श्रेणियों में आते हैं, इसकी परिभाषा स्पष्ट नहीं है।
इसके अलावा, "क्योंकि मानव भाषण वस्तुनिष्ठ नहीं है और सामग्री मॉडरेशन की प्रक्रिया स्वाभाविक रूप से व्यक्तिपरक है, ये उपकरण सीमित हैं कि वे मानव भाषण में मौजूद बारीकियों और प्रासंगिक विविधताओं को समझने में असमर्थ हैं," पोस्ट के अनुसार।
एक अन्य उदाहरण में, एक छवि पहचान उपकरण सामग्री के एक टुकड़े में नग्नता के उदाहरण की पहचान कर सकता है, जैसे स्तन। हालांकि, यह संभावना नहीं है कि टूल यह निर्धारित कर सके कि पोस्ट में पोर्नोग्राफ़ी या शायद स्तनपान दर्शाया गया है, जिसकी कई प्लेटफार्मों पर अनुमति है।
स्रोत लेख और जानकारी पढ़ें पारदर्शिता बाजार अनुसंधान, in न्यूयॉर्क टाइम्समें a ब्लॉग पोस्ट एपन की वेबसाइट पर, ए ब्लॉग पोस्ट Clarifai की वेबसाइट पर और से एक खाता न्यू अमेरिका.
- 000
- 2019
- एक्सेंचर
- लेखा
- कार्य
- AI
- एल्गोरिदम
- सब
- विश्लेषण
- गुस्सा
- प्रतिवर्ष
- चिंता
- चारों ओर
- लेख
- ऑडियो
- ऑस्ट्रेलिया
- स्वत:
- स्वचालित
- स्वचालन
- बिलियन
- परिवर्तन
- व्यापार
- मामलों
- कुश्ती
- मुख्य कार्यपालक अधिकारी
- चुनौती
- परिवर्तन
- चरित्र पहचान
- शहरों
- City
- सामूहिक कार्रवाई
- फौजदारी का मुकदमा
- वर्गीकरण
- ग्राहकों
- सह-संस्थापक
- सह-संस्थापक
- सामान्य
- कंपनियों
- कंपनी
- Computer Vision
- परामर्श
- सामग्री
- सामग्री प्रबंधन
- सामग्री मॉडरेशन
- अनुबंध
- तिथि
- डेटाबेस
- dc
- जनसांख्यिकीय
- अवसाद
- विकसित करना
- डीआईडी
- Edge
- प्रभावी
- भावनाओं
- सुसज्जित
- अनुमान
- अनुभव
- अर्क
- फेसबुक
- उल्लू बनाना
- फर्जी खबर
- फीस
- फ़िल्टर
- पाता
- फर्म
- प्रथम
- का पालन करें
- प्रपत्र
- सामान्य जानकारी
- चश्मा
- ग्रे
- समूह
- बढ़ रहा है
- भाषण नफरत
- इतिहास
- पकड़
- HTTPS
- सैकड़ों
- पहचान करना
- की छवि
- छवि मान्यता
- करें-
- अंतर्दृष्टि
- IT
- भाषा
- कानून
- मुक़दमा
- सीख रहा हूँ
- कानूनी
- सीमित
- यंत्र अधिगम
- प्रबंध
- निशान
- मार्क जकरबर्ग
- बाजार
- Markets
- मीडिया
- memes
- दस लाख
- निगरानी
- नामों
- प्राकृतिक भाषा
- प्राकृतिक भाषा संसाधन
- न्यूयॉर्क
- समाचार
- ऑफर
- ऑनलाइन
- वेतन
- स्टाफ़
- प्लेटफार्म
- नीतियाँ
- नीति
- पूल
- आबादी
- अश्लील साहित्य
- पोस्ट
- भविष्यवाणियों
- वर्तमान
- PRNewswire
- कार्यक्रम
- परियोजनाओं
- विरोध
- गुणवत्ता
- दरें
- असली दुनिया
- वास्तविकता
- रिपोर्ट
- अनुसंधान
- उपयुक्त संसाधन चुनें
- की समीक्षा
- समीक्षा
- ताना
- घोटाला
- Search
- भावुकता
- सेवाएँ
- पाली
- कम
- साइटें
- सोशल मीडिया
- सोशल मीडिया
- प्रायोजित
- राज्य
- राज्य
- स्ट्रेटेजी
- सफल
- समर्थन
- मीठा
- सिस्टम
- स्रोत
- विषय
- ट्रैक
- रुझान
- अपडेट
- us
- महत्वपूर्ण
- वीडियो
- वीडियो
- दृष्टि
- आयतन
- वाशिंगटन
- वेबसाइट
- वाइट पेपर
- कौन
- अंदर
- शब्द
- काम
- कार्य
- विश्व