'नैतिक एआई' वाली कंपनियों की मदद के लिए 5.5 मिलियन डॉलर के सहयोग से क्रेडो एआई लॉन्च किया गया

एआई की दुनिया में ऐसे कई लोग हैं जो इसके प्रभावों को लेकर चिंतित हैं। उन लोगों में से एक हैं नवरीना सिंह, क्वालकॉम के लिए एक पूर्व उत्पाद प्रबंधक, फिर माइक्रोसॉफ्ट, जिन्होंने माइक्रोसॉफ्ट में पहली बार देखा कि कैसे एक ट्विटर बॉट 2016 में "बातचीत समझ" में एक प्रयोग के रूप में विकसित हुआ, द वर्ज को उद्धृत करने के लिए था, "एक दिन से भी कम समय में नस्लवादी गधे बनना सिखाया".

Microsoft की दुर्घटना एआई के उदाहरणों की एक लंबी श्रृंखला में से एक है जो गलत हो गई है। 2019 में, स्वास्थ्य सेवा कंपनी ऑप्टम द्वारा बेचा गया एक एल्गोरिथ्म यह अनुमान लगाने के लिए कि कौन से रोगियों को अतिरिक्त चिकित्सा देखभाल से लाभ होगा, शोधकर्ताओं द्वारा पाया गया था गलत निर्णय लेना सबसे बीमार अश्वेत रोगियों की स्वास्थ्य संबंधी आवश्यकताएं। क्रेडिट-स्कोरिंग एआई सिस्टम को बार-बार पाया गया है sexist.

जबकि कई बड़ी कंपनियों ने अपने द्वारा एकत्र किए गए डेटा के विशाल ट्रोव से उत्पन्न होने वाली नैतिक समस्याओं से निपटने के लिए टीमों को इकट्ठा किया है, फिर अपने मशीन लर्निंग मॉडल को प्रशिक्षित करने के लिए उपयोग किया जाता है, इस मोर्चे पर प्रगति हुई है शायद ही चिकना हो. इस बीच, छोटी एआई-संचालित कंपनियां जो व्यक्तियों की टीमों का खर्च नहीं उठा सकती हैं, वे बड़े पैमाने पर इसे पंख लगा रही हैं।

सिंह की कंपनी दर्ज करें, क्रेडो एआई, एक सास संगठन जो आज डेसीबेल, विलेज ग्लोबल और एआई फंड से जुटाई गई 5.5 मिलियन डॉलर की फंडिंग को समाप्त कर रहा है।

कंपनी का वादा बहुत सीधा है क्योंकि वह इसे समझाती है, भले ही वह कॉम्प्लेक्स का प्रबंधन कर रही हो। सिंह और उनकी वर्तमान 15 कर्मचारियों की टीम ने एक जोखिम ढांचा विकसित किया है जो कंपनियों को अपने स्वयं के शासन में एक खिड़की देता है। यह इतना नहीं है कि स्टार्टअप की तकनीक क्रांतिकारी है (हमारी समझ है) बल्कि यह है कि क्रेडो एआई उन सभी प्रकार के डेटा को प्रबंधित करने के लिए उपकरणों के साथ एक नियंत्रण कक्ष देकर संगठनों के भीतर जवाबदेही की कमी को संबोधित करता है, जैसा कि साथ ही उन नियंत्रणों का सुझाव दें जिनका वे उपयोग नहीं कर रहे हैं, जैसे IEEE मानक वे अपने मशीन लर्निंग मॉडल के लिए मजबूत रेलिंग प्रदान करने के लिए एकीकृत कर सकते हैं।

"कई कंपनियों ने वास्तव में यह पता नहीं लगाया है कि एआई शासन में 'अच्छा' कैसा दिखता है, इस पर आम भाषा और संरेखण की कमी है, इसलिए संगठन वास्तव में उस मानकीकरण के लिए मदद की तलाश कर रहे हैं," वह कहती हैं।

क्रेडो एआई का सॉफ्टवेयर सभी पेशकशों के लिए एक आकार-फिट नहीं है, सिंह नोट करते हैं। विभिन्न संगठन अपने मॉडलों से अलग-अलग प्रभाव देखते हैं, और तथाकथित उद्योग कार्यक्षेत्रों के भीतर भी, अलग-अलग कंपनियों के अक्सर अलग-अलग उद्देश्य होते हैं। "विभिन्न क्षेत्रों में निष्पक्षता को परिभाषित नहीं किया गया है," सिंह कहते हैं, जो वित्तीय सेवाओं के लिए एक उदाहरण के रूप में इंगित करते हैं, जहां संघीय बैंकिंग एजेंसियों द्वारा निरंतर आधार पर बहुत कुछ फिर से परिभाषित किया जा रहा है। "धोखाधड़ी के लिए निष्पक्षता का क्या मतलब है? क्रेडिट हामीदारी के लिए निष्पक्षता क्या है?"

जवाब की प्रतीक्षा करने के बजाय, सिंह कहते हैं, क्रेडो एआई कंपनियों के साथ काम करता है ताकि उनके अपने मूल्यों पर संरेखित किया जा सके, फिर यह उन्हें तदनुसार प्रबंधन करने के लिए उपकरण प्रदान करता है, जिसमें वे चुनते समय अतिरिक्त मीट्रिक और विभिन्न हितधारकों को शामिल करते हैं। सिंह कहते हैं, "हम आपकी डेटा साइंस टीम को आपकी अनुपालन टीम के साथ सहयोग करने में सक्षम बनाना चाहते हैं, आपके कार्यकारी को आपके मशीन-कमाई करने वाले व्यक्ति के साथ सहयोग करने के लिए, आपके उत्पाद प्रबंधक को आपके जोखिम प्रबंधक के साथ सहयोग करने के लिए।"

क्रेडो एआई कंपनियों को उन आमने-सामने के क्षणों से बचने में मदद करना चाहता है - या इससे भी बदतर।

निश्चित रूप से, यह एक बड़ा बाजार अवसर है। इंटरनेशनल डेटा कॉरपोरेशन (IDC) द्वारा इस साल की शुरुआत में प्रकाशित आंकड़ों के अनुसार, सॉफ्टवेयर, हार्डवेयर और सेवाओं सहित AI बाजार के लिए दुनिया भर में राजस्व, 16.4 में साल दर साल 2021% बढ़कर 327.5 बिलियन डॉलर होने की उम्मीद थी। 2024 तक, आईडीसी ने कहा, बाजार के 500 अरब डॉलर के निशान को तोड़ने की उम्मीद है।

जैसा कि कंपनियां एआई पर अधिक खर्च करती हैं, उन्हें यह सुनिश्चित करने के लिए और अधिक सहायता की आवश्यकता होगी कि यह जिस तरह से वे उम्मीद कर रहे हैं और नुकसान नहीं पहुंचा रहे हैं। वास्तव में, अगर सिंह के पास अपना रास्ता है, तो क्रेडो एआई के साथ काम करना एक दिन एक तरह की मोहर के रूप में काम करेगा, जिसका उपयोग कंपनियां नैतिक एआई पर अपना ध्यान केंद्रित करने के लिए करती हैं।

सिंह कहते हैं, "अगर हम अपना काम सही तरीके से करते हैं, तो मैं चाहता हूं कि कोई भी व्यक्ति जो अच्छी एआई का निर्माण कर रहा है, वह क्रेडो एआई से जुड़ा हो। यह निश्चित रूप से हमारी आकांक्षा है।"

Source: https://techcrunch.com/2021/10/19/credo-ai-launches-out-of-stealth-with-5-5-million-to-help-companies-with-ethical-ai/