एआई निष्पक्षता पर अपनी कंपनी को शिक्षित करने के लिए 10 कदम

जैसे-जैसे कंपनियां कृत्रिम बुद्धिमत्ता को तेजी से लागू करती हैं, उन्हें विश्वास के बारे में चिंताओं को दूर करना चाहिए।

एआई निष्पक्षता सुनिश्चित करने के लिए कंपनियों को नियोजित करने के लिए 10 व्यावहारिक हस्तक्षेप यहां दिए गए हैं। उनमें एक बनाना शामिल है एआई निष्पक्षता चार्टर और प्रशिक्षण और परीक्षण को लागू करना।

डेटा-संचालित प्रौद्योगिकियां और कृत्रिम बुद्धिमत्ता (एआई) आज हमारी दुनिया को शक्ति प्रदान कर रही हैं - भविष्यवाणी करने से लेकर कि अगला COVID-19 संस्करण कहां उत्पन्न होगा, हमें सबसे कुशल मार्ग पर यात्रा करने में मदद करने के लिए। कई क्षेत्रों में, आम जनता को इस बात का बहुत अधिक भरोसा है कि इन अनुभवों को शक्ति प्रदान करने वाले एल्गोरिदम को उचित तरीके से विकसित किया जा रहा है।

हालांकि, इस भरोसे को आसानी से तोड़ा जा सकता है। उदाहरण के लिए, विचार करें भर्ती सॉफ्टवेयर कि, गैर-प्रतिनिधि प्रशिक्षण डेटा के कारण, "महिला" शब्द वाले अनुप्रयोगों को दंडित करता है, या एक क्रेडिट-स्कोरिंग प्रणाली जो क्रेडिट-योग्यता के वास्तविक-विश्व साक्ष्य को याद करती है और इस प्रकार कुछ समूहों को प्राप्त होता है कम क्रेडिट सीमा या ऋण से वंचित हैं।

वास्तविकता यह है कि एआई निष्पक्षता पर शिक्षा और प्रशिक्षण की तुलना में प्रौद्योगिकी तेजी से आगे बढ़ रही है। जो लोग इन डेटा-संचालित अनुभवों को प्रशिक्षित, विकसित, कार्यान्वित और विपणन करते हैं, वे अक्सर इससे अनजान होते हैं उनकी कड़ी मेहनत के दूसरे या तीसरे क्रम के निहितार्थ.

विश्व आर्थिक मंच के हिस्से के रूप में मानवता के लिए कृत्रिम बुद्धिमत्ता पर वैश्विक भविष्य परिषद Futureएआई चिकित्सकों, शोधकर्ताओं और कॉर्पोरेट सलाहकारों का एक समूह, हम एआई निष्पक्षता सुनिश्चित करने के लिए कंपनियों को नियोजित करने के लिए 10 व्यावहारिक हस्तक्षेप का प्रस्ताव करते हैं।

1. एआई शिक्षा के लिए जिम्मेदारी सौंपें

एक मुख्य एआई एथिक्स ऑफिसर (सीएआईओ) को असाइन करें, जो एक क्रॉस-फंक्शनल एथिक्स बोर्ड (डेटा साइंस, रेगुलेटरी, पब्लिक रिलेशन, कम्युनिकेशंस और एचआर के प्रतिनिधियों सहित) के साथ एआई शिक्षा गतिविधियों को डिजाइन और कार्यान्वित करने के लिए जिम्मेदार होना चाहिए। निष्पक्षता की चिंताओं के मामले में कर्मचारियों के साथ-साथ गैर-तकनीकी कर्मचारियों के प्रवक्ता तक पहुंचने के लिए सीएआईओ को "लोकपाल" भी होना चाहिए। आदर्श रूप से इस भूमिका को दृश्यता और कार्यान्वयन के लिए सीधे सीईओ को रिपोर्ट करना चाहिए।

2. अपने संगठन के लिए निष्पक्षता को परिभाषित करें

एआई फेयरनेस चार्टर टेम्प्लेट विकसित करें और फिर पूछें सभी विभाग जो इसे अपने संदर्भ में पूरा करने के लिए सक्रिय रूप से AI का उपयोग कर रहे हैं। यह व्यवसाय लाइन प्रबंधकों और उत्पाद और सेवा स्वामियों के लिए विशेष रूप से प्रासंगिक है।

3. आपूर्ति श्रृंखला के साथ एआई निष्पक्षता सुनिश्चित करें

उन आपूर्तिकर्ताओं की आवश्यकता है जिनका आप उपयोग कर रहे हैं जिन्होंने अपने खरीदे गए उत्पादों और सेवाओं में एआई बनाया है - उदाहरण के लिए एक भर्ती एजेंसी जो उम्मीदवार स्क्रीनिंग के लिए एआई का उपयोग कर सकती है - एआई निष्पक्षता चार्टर भी पूरा करने और एआई निष्पक्षता पर कंपनी की नीतियों का पालन करने के लिए। यह खरीद समारोह और आपूर्तिकर्ताओं के लिए विशेष रूप से प्रासंगिक है।

4. प्रशिक्षण के माध्यम से कर्मचारियों और हितधारकों को शिक्षित करें और "करकर सीखें" दृष्टिकोण

एआई निष्पक्षता सिद्धांतों पर सभी कर्मचारियों के लिए अनिवार्य प्रशिक्षण और प्रमाणन की आवश्यकता होती है - ठीक उसी तरह जैसे कर्मचारियों को व्यावसायिक आचरण संहिता के लिए साइन अप करने की आवश्यकता होती है। तकनीकी कर्मचारियों के लिए, निष्पक्षता सिद्धांतों का उल्लंघन न करने वाले मॉडल बनाने का प्रशिक्षण प्रदान करें। कंपनी के सामने आने वाले मुद्दों को सीधे संबोधित करने के लिए सभी प्रशिक्षणों को एआई फेयरनेस चार्टर्स से अंतर्दृष्टि का लाभ उठाना चाहिए। सुनिश्चित करें कि पाठ्यक्रम सामग्री की नियमित रूप से नैतिकता बोर्ड द्वारा समीक्षा की जाती है।

5. एक एचआर एआई निष्पक्षता लोगों की योजना बनाएं

एचआर एआई निष्पक्षता योजना में डेटा-संचालित प्रौद्योगिकियों और एआई पर काम करने वाली टीम की विविधता का आकलन करने के लिए एचआर द्वारा वार्षिक समीक्षा शामिल होनी चाहिए, और एक स्पष्ट समीक्षा और दक्षताओं और कौशल का उन्नयन जो वर्तमान में प्रमुख एआई-संबंधित उत्पाद विकास के लिए विज्ञापित हैं निष्पक्षता के बारे में जागरूकता सुनिश्चित करने के लिए भूमिकाएँ (जैसे उत्पाद स्वामी, डेटा वैज्ञानिक और डेटा इंजीनियर) नौकरी विवरण का हिस्सा हैं।

6. किसी भी तकनीक को लॉन्च करने से पहले AI निष्पक्षता का परीक्षण करें

किसी भी एआई एल्गोरिदम को लाइव होने की अनुमति देने से पहले विभागों और आपूर्तिकर्ताओं को निष्पक्षता परिणाम परीक्षण चलाने और आंतरिक रूप से प्रकाशित करने की आवश्यकता होती है। एक बार जब आप जान जाते हैं कि डेटा पूर्वाग्रह के कारण किन समूहों के साथ गलत व्यवहार किया जा सकता है, तो उस समूह के उपयोगकर्ताओं का अनुकरण करें और परिणामों की निगरानी करें। इसका उपयोग उत्पाद टीमों द्वारा अपने उत्पाद या सेवा के लाइव होने से पहले पुनरावृति और उसमें सुधार करने के लिए किया जा सकता है। ओपन सोर्स टूल्स, जैसे माइक्रोसॉफ्ट फेयरलर्न, निष्पक्षता परिणाम परीक्षण के लिए विश्लेषण प्रदान करने में मदद कर सकता है।

7. एआई निष्पक्षता के लिए अपने दृष्टिकोण का संचार करें

किसी भी नए या अद्यतन उत्पाद या सेवा के लिए निष्पक्षता परिणामों के परीक्षण के माध्यम से जाने के लिए ग्राहक- और सार्वजनिक-सामना करने वाले कर्मचारियों के साथ निष्पक्षता परिणाम सीखने के सत्र सेट करें। यह मार्केटिंग और बाहरी संचार के साथ-साथ ग्राहक सेवा टीमों के लिए विशेष रूप से प्रासंगिक है।

8. बोर्ड की बैठकों में एआई निष्पक्षता प्रक्रियाओं के लिए एक स्थायी वस्तु समर्पित करें

इस चर्चा में प्रगति और पालन पर रिपोर्टिंग, मुख्य एआई नैतिकता अधिकारी और नैतिकता बोर्ड से उठाए गए विषय, और उच्च-प्राथमिकता निष्पक्षता परिणाम परीक्षण के परिणाम शामिल होने चाहिए।

9. सुनिश्चित करें कि शिक्षा चिपक जाती है

वास्तविक व्यावसायिक मूल्य के संदर्भ में निष्पक्षता के प्रबंधन के प्रदर्शित प्रभाव के साथ-साथ एआई निष्पक्षता गतिविधियों की भागीदारी और पूर्णता को नियमित रूप से ट्रैक और रिपोर्ट करें। कर्मचारियों से संवाद करने के लिए विभाग और लाइन प्रबंधकों को ये अपडेट प्रदान करें ताकि यह सुनिश्चित किया जा सके कि एआई प्लेटफॉर्म और सॉफ्टवेयर को और अधिक निष्पक्ष बनाकर, संगठन अधिक प्रभावी और उत्पादक है।

10. दस्तावेज़ सब कुछ

एआई निष्पक्षता के लिए अपने दृष्टिकोण का दस्तावेजीकरण करें और इसे कर्मचारियों और आपूर्तिकर्ता प्रशिक्षणों और ग्राहकों और निवेशकों सहित हाई-प्रोफाइल कार्यक्रमों में संप्रेषित करें।

[यह कहानी मूल रूप से पर दिखाई दी appeared एआई निष्पक्षता पर अपनी कंपनी को शिक्षित करने के लिए 10 कदम | विश्व आर्थिक मंच (weforum.org). कॉपीराइट 2021।]

नादजिया युसिफ प्रबंध निदेशक और भागीदार हैं बोस्टन कंसल्टिंग ग्रुप और यूके, नीदरलैंड और बेल्जियम के लिए वित्तीय संस्थानों के अभ्यास का सह-नेतृत्व करता है।

मार्क माइनविच यूनेस्को, जोसेफ स्टीफन इंस्टीट्यूट के तत्वावधान में आर्टिफिशियल इंटेलिजेंस पर अंतर्राष्ट्रीय अनुसंधान केंद्र में आर्टिफिशियल इंटेलिजेंस पॉलिसी के अध्यक्ष हैं।