जॉन पी। डेसमंड, एआई ट्रेंड्स एडिटर द्वारा
हाल के एक सर्वेक्षण में, वरिष्ठ व्यावसायिक अधिकारियों ने एआई के अपने कभी-कभी अनैतिक उपयोग को स्वीकार किया।
डेटा गोपनीयता के बारे में 250 से अधिक कर्मचारियों वाली कंपनियों में 1,000 निदेशक-स्तर या उच्च अधिकारियों के केपीएमजी द्वारा किए गए हालिया सर्वेक्षण में उत्तरदाताओं से खुले तौर पर अनैतिक होने का प्रवेश आया।
कुछ 29% उत्तरदाताओं ने स्वीकार किया कि उनकी अपनी कंपनियां व्यक्तिगत जानकारी एकत्र करती हैं जो "कभी-कभी अनैतिक" होती हैं और 33% ने कहा कि उपभोक्ताओं को इस बारे में चिंतित होना चाहिए कि उनकी कंपनी व्यक्तिगत डेटा का उपयोग कैसे करती है, जैसा कि हाल ही में आई एक रिपोर्ट में बताया गया है। नई यॉर्कर.
नतीजे ने सर्वे करने वाले को हैरान कर दिया। केपीएमजी की यूएस प्राइवेसी सर्विसेज टीम के प्रिंसिपल ऑरसन लुकास ने कहा, "कुछ कंपनियों के लिए, डेटा गोपनीयता पर वे जो कहते हैं और वे वास्तव में क्या कर रहे हैं, के बीच एक गलत संरेखण हो सकता है।"
एक बढ़ती हुई प्रथा एक व्यक्ति के बारे में "सब कुछ इकट्ठा" करने का एक कदम है, फिर बाद में पता करें कि इसका उपयोग कैसे किया जाए। इस दृष्टिकोण को बेहतर ढंग से समझने के अवसर के रूप में देखा जाता है कि ग्राहक व्यवसाय से क्या प्राप्त करना चाहते हैं, जिसके परिणामस्वरूप बाद में पारदर्शी बातचीत हो सकती है कि ग्राहक कौन सी जानकारी प्रदान करने के इच्छुक हैं और कितने समय के लिए।
इनमें से अधिकांश कंपनियां अभी तक पारदर्शी बातचीत के चरण में नहीं पहुंची हैं। साक्षात्कार में शामिल लगभग 70% अधिकारियों ने कहा कि उनकी कंपनियों ने पिछले एक साल में उनके द्वारा एकत्र की गई व्यक्तिगत जानकारी की मात्रा में वृद्धि की है। और 62% ने कहा कि उनकी कंपनी को डेटा सुरक्षा उपायों को मजबूत करने के लिए और अधिक करना चाहिए।
केपीएमजी ने डेटा गोपनीयता पर सामान्य आबादी में 2,000 वयस्कों का भी सर्वेक्षण किया, जिसमें पाया गया कि 40% कंपनियों को अपनी व्यक्तिगत जानकारी के साथ नैतिक रूप से व्यवहार करने पर भरोसा नहीं था। लुकास के विचार में, उपभोक्ता ऐसे व्यवसाय को दंडित करना चाहेंगे जो व्यक्तिगत डेटा के उपयोग के आसपास अनुचित व्यवहार प्रदर्शित करता है।
प्रस्तुत पत्रों की व्यापक नैतिक समीक्षा को ध्यान में रखते हुए एआई सम्मेलन
इस बीच, एआई सम्मेलनों में, कभी-कभी एआई तकनीक अपने संभावित अनैतिक उपयोग के प्रति थोड़ी संवेदनशीलता के साथ प्रदर्शित होती है, और कई बार, यह एआई तकनीक वाणिज्यिक उत्पादों में अपना रास्ता खोज लेती है। उदाहरण के लिए, 2019 में कंप्यूटर विज़न और पैटर्न पहचान पर IEEE सम्मेलन ने बोलने वाले व्यक्ति की ऑडियो रिकॉर्डिंग से किसी व्यक्ति के चेहरे को सीखने पर MIT के कंप्यूटर विज्ञान और AI प्रयोगशाला के शोधकर्ताओं के एक पेपर को स्वीकार किया।
स्पीच2फेस नामक परियोजना का लक्ष्य यह शोध करना था कि किसी व्यक्ति के दिखने के बारे में उसके बोलने के तरीके से कितनी जानकारी का अनुमान लगाया जा सकता है। शोधकर्ताओं ने विशेष रूप से ऑडियो से चेहरे के पुनर्निर्माण के कार्य को करने के लिए डिज़ाइन किए गए एक तंत्रिका नेटवर्क आर्किटेक्चर का प्रस्ताव रखा।
स्टफ ने इसके चारों ओर प्रशंसक को मारा, Google में एक ट्रांस महिला और समाजशास्त्री एलेक्स हैना, जो एआई नैतिकता का अध्ययन करती है, ने ट्वीट के माध्यम से शोध को रोकने के लिए कहा, इसे "ट्रांसफोबिक" कहा। जिस तरह से अनुसंधान ने जीव विज्ञान को पहचान बनाने की मांग की, उस पर हन्ना ने आपत्ति जताई। बहस होने लगी। कुछ ने सवाल किया कि क्या अकादमिक-उन्मुख सम्मेलनों में प्रस्तुत किए गए कागजात को और नैतिक समीक्षा की आवश्यकता है।
माइकल किर्न्स, पेन्सिलवेनिया विश्वविद्यालय के एक कंप्यूटर वैज्ञानिक और पुस्तक के सह-लेखक, "नैतिक एल्गोरिथम, " को कहा गया नई यॉर्कर कि हम AI और मशीन लर्निंग के लिए "थोड़ा सा मैनहट्टन प्रोजेक्ट मोमेंट" में हैं। "क्षेत्र में अकादमिक अनुसंधान को समाज पर बड़े पैमाने पर तैनात किया गया है," उन्होंने कहा। "इसके साथ यह उच्च जिम्मेदारी आती है।"
कनाडा के वैंकूवर में आयोजित 2 न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम्स (न्यूरिप्स) सम्मेलन में स्पीच2019फेस पर एक पेपर को स्वीकार किया गया था। कैथरीन हेलर, ड्यूक विश्वविद्यालय में एक कंप्यूटर वैज्ञानिक और विविधता और समावेश के लिए एक न्यूरिप्स सह-अध्यक्ष, ने बताया नई यॉर्कर कि सम्मेलन ने उस वर्ष लगभग 1,400 पत्रों को स्वीकार किया था, और वह नैतिकता के विषय पर तुलनीय धक्का-मुक्की का सामना करने को याद नहीं कर सकती थी। "यह नया क्षेत्र है," उसने कहा।
दिसंबर 2020 में दूरस्थ रूप से आयोजित न्यूरिप्स 2020 के लिए, शोध को समाज के लिए खतरा पैदा करने के लिए पाए जाने पर कागजात को अस्वीकृति का सामना करना पड़ा। लंदन में Google डीपमाइंड के एक शोध वैज्ञानिक, आईसन गेब्रियल, जो सम्मेलन की नैतिकता समीक्षा प्रक्रिया के नेतृत्व में हैं, ने कहा कि एआई को "एक क्षेत्र के रूप में प्रगति करने" में मदद करने के लिए बदलाव की आवश्यकता थी।
कंप्यूटर विज्ञान के लिए नैतिकता कुछ नया क्षेत्र है। जबकि जीवविज्ञानी, मनोवैज्ञानिक और मानवविज्ञानी अपने शोध की नैतिकता की समीक्षा करने के लिए उपयोग किए जाते हैं, कंप्यूटर वैज्ञानिकों को इस तरह से नहीं उठाया गया है। साहित्यिक चोरी और हितों के टकराव जैसे तरीकों पर अधिक ध्यान दिया जाता है।
उस ने कहा, पिछले कई वर्षों में एआई के नैतिक उपयोग में रुचि रखने वाले कई समूह सामने आए हैं। कंप्यूटर-ह्यूमन इंटरेक्शन पर कंप्यूटिंग मशीनरी के विशेष रुचि समूह के लिए एसोसिएशन, उदाहरण के लिए, 2016 में एक कार्य समूह शुरू किया जो अब एक नैतिकता अनुसंधान समिति है जो सम्मेलन कार्यक्रम कुर्सियों के अनुरोध पर कागजात की समीक्षा करने की पेशकश करती है। 2019 में, समूह को मुख्य रूप से अनुसंधान विधियों के आसपास 10 पूछताछ प्राप्त हुई।
"तेजी से, हम देखते हैं, विशेष रूप से एआई स्पेस में, अधिक से अधिक प्रश्न, क्या इस तरह का शोध भी एक चीज होना चाहिए?" मैरीलैंड विश्वविद्यालय के सूचना वैज्ञानिक और समिति के अध्यक्ष केटी शिल्टन ने कहा, न्यू यॉर्क वाला।
शिल्टन ने संभावित अनैतिक प्रभाव की चार श्रेणियों की पहचान की। सबसे पहले, एआई जिसे आबादी के खिलाफ "हथियार" बनाया जा सकता है, जैसे कि चेहरे की पहचान, स्थान ट्रैकिंग और निगरानी। दूसरा, स्पीच2फेस जैसी प्रौद्योगिकियां जो "लोगों को उन श्रेणियों में कठोर कर सकती हैं जो अच्छी तरह से फिट नहीं होती हैं," जैसे कि लिंग या यौन अभिविन्यास। तीसरा, स्वचालित हथियार अनुसंधान। चौथा, वास्तविकता के वैकल्पिक सेट, जैसे नकली समाचार, आवाज या चित्र बनाने के लिए उपयोग किए जाने वाले उपकरण।
यह हरा-भरा क्षेत्र अज्ञात में एक उद्यम है। कंप्यूटर वैज्ञानिकों के पास आमतौर पर अच्छा तकनीकी ज्ञान होता है, "लेकिन कंप्यूटर विज्ञान में बहुत से लोगों को अनुसंधान नैतिकता में प्रशिक्षित नहीं किया गया है," शिल्टन ने कहा, यह कहना आसान नहीं है कि अनुसंधान की एक पंक्ति मौजूद नहीं होनी चाहिए।
स्थान डेटा कैथोलिक पुजारी के लिए हथियारबंद
कैथोलिक पादरी के हालिया अनुभव में स्थान-ट्रैकिंग तकनीक के हथियारकरण का प्रदर्शन किया गया था, जिसे ग्रिंडर डेटिंग ऐप उपयोगकर्ता के रूप में बाहर कर दिया गया था, और बाद में इस्तीफा दे दिया। कैथोलिक पादरी ब्रह्मचर्य की शपथ लेते हैं, जो किसी भी तरह के डेटिंग ऐप समुदाय में होने के विरोध में होगा।
इस घटना ने नैतिक मुद्दों का एक बड़ा हिस्सा उठाया। कहानी को कैथोलिक समाचार आउटलेट पिलर ने तोड़ा था, जिसने किसी तरह "स्थान-आधारित हुकअप ऐप ग्रिंडर से ऐप डेटा सिग्नल" प्राप्त किया था। पुनःकूटित वोक्स से। यह स्पष्ट नहीं था कि प्रकाशन ने "डेटा विक्रेता" के अलावा अन्य स्थान डेटा कैसे प्राप्त किया।
एक्सप्रेसवीपीएन की डिजिटल सुरक्षा लैब के प्रमुख शोधकर्ता सीन ओ'ब्रायन ने कहा, "स्थान ट्रैकिंग के कारण होने वाले नुकसान वास्तविक हैं और भविष्य में इसका स्थायी प्रभाव हो सकता है।" फिर से लिखना "स्मार्टफोन निगरानी की कोई सार्थक निगरानी नहीं है, और इस मामले में हमने जो गोपनीयता का दुरुपयोग देखा है, वह एक लाभदायक और फलफूल रहे उद्योग द्वारा सक्षम है।"
इस व्यवसाय में एक डेटा विक्रेता एक्स-मोड है, जो सैकड़ों ऐप्स में लाखों उपयोगकर्ताओं से डेटा एकत्र करता है। में एक खाते के अनुसार, अमेरिकी सरकार के साथ अपने राष्ट्रीय सुरक्षा कार्य को लेकर कंपनी को पिछले साल Apple और Google प्लेटफॉर्म से हटा दिया गया था। वाल स्ट्रीट जर्नल. हालांकि, कंपनी को अटलांटा के डिजिटल दूत, इंक द्वारा अधिग्रहित किया जा रहा है, और इसे आउटलॉजिक के रूप में पुनः ब्रांडेड किया जाएगा। इसके मुख्य कार्यकारी अधिकारी, जोशुआ एंटोन, मुख्य रणनीति अधिकारी के रूप में डिजिटल दूत में शामिल होंगे। खरीद मूल्य का खुलासा नहीं किया गया था।
डिजिटल दूत के सीईओ जेरोड स्टोलर ने कहा, "एक्स-मोड का अधिग्रहण हमें साइबर सुरक्षा, एआई, धोखाधड़ी और अधिकार प्रबंधन से संबंधित अपनी पेशकश को और बढ़ाने की अनुमति देता है।" "यह हमें दोनों डेटा सेटों का लाभ उठाने वाले नए समाधानों को देखकर अंतरिक्ष में नवाचार करने की इजाजत देता है। और यह नए ग्राहक और नए बाजार भी लाता है।"
डिजिटल दूत अपने ग्राहकों को उनके आईएसपी या सेल फोन वाहक द्वारा उन्हें सौंपे गए आईपी पते के आधार पर इंटरनेट उपयोगकर्ताओं पर डेटा एकत्र करने और प्रदान करने में माहिर हैं। डेटा में अनुमानित भौगोलिक स्थान शामिल हो सकता है और विज्ञापन सहित वाणिज्यिक अनुप्रयोगों में उपयोगी कहा जाता है।
एक्स-मोड ने हाल ही में एक्सडीके नामक एक विज़ुअलाइज़ेशन ऐप को बंद कर दिया है, और इसमें एक खाते के अनुसार, डेटा कहां से प्राप्त किया जाता है, इस पर नया मार्गदर्शन जोड़कर प्रथाओं को बदल दिया है। तकनीकी रूप से। 2013 में अपनी स्थापना के बाद से यह दूसरी बार है जब कंपनी ने रीब्रांड किया है ड्रंक मोड के रूप में शुरू किया गया.
अधिग्रहण के बाद, डिजिटल दूत ने एक बयान में कहा कि इसमें एक नया आचार संहिता, एक डेटा नैतिकता समीक्षा पैनल, एक संवेदनशील ऐप नीति शामिल है और एक मुख्य गोपनीयता अधिकारी को काम पर रखेगा।
स्रोत लेख और जानकारी पढ़ें नई यॉर्करमें पुनःकूटित Vox से, in वाल स्ट्रीट जर्नल में और तकनीकी तौर पर.
- 000
- 2016
- 2019
- 2020
- लेखा
- अर्जन
- विज्ञापन
- AI
- एलेक्स
- वीरांगना
- के बीच में
- अनुप्रयोग
- Apple
- अनुप्रयोगों
- क्षुधा
- स्थापत्य
- चारों ओर
- लेख
- एटलांटा
- ऑडियो
- स्वत:
- स्वचालित
- जीव विज्ञान
- बिट
- व्यापार
- कनाडा
- के कारण होता
- मुख्य कार्यपालक अधिकारी
- परिवर्तन
- प्रमुख
- ग्राहकों
- कोड
- एकत्रित
- वाणिज्यिक
- समुदाय
- कंपनियों
- कंपनी
- कम्प्यूटर साइंस
- Computer Vision
- कंप्यूटिंग
- सम्मेलन
- सम्मेलनों
- संघर्ष
- हितों का टकराव
- उपभोक्ताओं
- श्रेय
- ग्राहक
- साइबर सुरक्षा
- तिथि
- डेटा नैतिकता
- गोपनीय आँकड़ा
- आँकड़ा रक्षण
- डेटिंग
- बहस
- Deepmind
- डीआईडी
- डिजिटल
- विविधता
- विविधता और समावेश
- ड्यूक
- कर्मचारियों
- आचार
- कार्यकारी
- एक्जीक्यूटिव
- अनुभव
- चेहरा
- चेहरे की पहचान
- का सामना करना पड़
- उल्लू बनाना
- फर्जी खबर
- आकृति
- पाता
- प्रथम
- फिट
- फोकस
- धोखा
- भविष्य
- लिंग
- सामान्य जानकारी
- अच्छा
- गूगल
- सरकार
- हरा
- समूह
- बढ़ रहा है
- किराए पर लेना
- कैसे
- How To
- HTTPS
- सैकड़ों
- पहचान
- आईईईई
- प्रभाव
- इंक
- सहित
- समावेश
- उद्योग
- करें-
- बातचीत
- ब्याज
- इंटरनेट
- IP
- आईपी एड्रेस
- आईएसपी
- मुद्दों
- IT
- में शामिल होने
- ज्ञान
- केपीएमजी
- नेतृत्व
- सीख रहा हूँ
- लाइन
- स्थान
- लंडन
- लंबा
- यंत्र अधिगम
- प्रबंध
- Markets
- मेरीलैंड
- धातु
- चाल
- राष्ट्रीय सुरक्षा
- नेटवर्क
- तंत्रिका
- तंत्रिका नेटवर्क
- न्यूरिप्स
- नए समाधान
- समाचार
- की पेशकश
- ऑफर
- अफ़सर
- अवसर
- अन्य
- काग़ज़
- पैटर्न
- पेंसिल्वेनिया
- स्टाफ़
- व्यक्तिगत डेटा
- स्तंभ
- प्लेटफार्म
- नीति
- आबादी
- मूल्य
- प्रिंसिपल
- एकांत
- उत्पाद
- कार्यक्रम
- परियोजना
- सुरक्षा
- क्रय
- वास्तविकता
- रिपोर्ट
- अनुसंधान
- की समीक्षा
- समीक्षा
- विज्ञान
- वैज्ञानिकों
- सुरक्षा
- सेवाएँ
- लक्षण
- स्मार्टफोन
- समाज
- समाधान ढूंढे
- अंतरिक्ष
- माहिर
- प्रायोजित
- ट्रेनिंग
- कथन
- स्ट्रेटेजी
- सड़क
- पढ़ाई
- प्रस्तुत
- निगरानी
- सर्वेक्षण
- सिस्टम
- तकनीक
- तकनीकी
- टेक्नोलॉजीज
- टेक्नोलॉजी
- भविष्य
- स्रोत
- टाई
- पहर
- ट्रैकिंग
- रुझान
- ट्रस्ट
- कलरव
- विश्वविद्यालय
- यूनिवर्सिटी ऑफ मेरीलैंड
- पेन्सिलवेनिया विश्वविद्यालय
- us
- अमेरिकी सरकार
- उपयोगकर्ताओं
- वैंकोवर
- उद्यम
- देखें
- दृष्टि
- दृश्य
- आवाज
- वॉल स्ट्रीट
- वाल स्ट्रीट जर्नल
- वाइट पेपर
- कौन
- महिला
- काम
- वर्ष
- साल