ChatGPT का कथित राजनीतिक झुकाव हाल के विवाद का कारण रहा है, लेकिन जैसा कि मेटान्यूज़ ने अपने 'जागृत' उत्तरों को दोहराने का प्रयास किया, सच्चाई तेजी से धुंधली हो गई।
सहित कई मुख्यधारा के मीडिया आउटलेट तार में UK और न्यूयॉर्क पोस्ट में US इस सप्ताह रिपोर्ट की है कि चैटबॉट डोनाल्ड ट्रम्प से लेकर जीवाश्म ईंधन तक के विषयों पर कई सवालों के जवाब दे रहा है।
एक मेटान्यूज़ जांच ने पाया कि कुछ प्रतिक्रियाओं को 'जागृत' माना जा सकता है, अन्य संकेतों के साथ यह पारंपरिक रूप से रूढ़िवादी विचारों की वकालत करता है।
इस चैटजीपीटी एआई में पूर्वाग्रह हैं
ChatGPT को राइट-लीनिंग प्रेस आउटलेट्स से मीडिया बैकलैश का सामना करना पड़ रहा है, जो दावा करते हैं कि चैटबॉट "जाग गया" है।
ओपनएआई सीईओ सैम ऑल्टमैन खुले तौर पर सहमत हैं कि चैटबॉट में पक्षपात है, लेकिन ऑल्टमैन कभी निर्दिष्ट नहीं करता कि वे किस दिशा में झूठ बोल सकते हैं।
"हम जानते हैं कि चैटजीपीटी में पूर्वाग्रह के आसपास कमियां हैं, और इसे सुधारने के लिए काम कर रहे हैं," ऑल्टमैन ने ट्विटर पर कहा पहले इस महीने.
"हम अधिक तटस्थ होने के लिए डिफ़ॉल्ट सेटिंग्स में सुधार करने के लिए काम कर रहे हैं, और व्यापक सीमाओं के भीतर अपनी व्यक्तिगत प्राथमिकताओं के अनुसार व्यवहार करने के लिए हमारे सिस्टम को प्राप्त करने के लिए उपयोगकर्ताओं को सशक्त बनाने के लिए भी काम कर रहे हैं। यह सुनने में जितना कठिन लगता है उससे कहीं अधिक कठिन है और हमें सही होने में कुछ समय लगेगा।”
यह निश्चित रूप से संभव है कि ChatGPT ऐसे पूर्वाग्रह हैं जो राजनीतिक विभाजन के सभी पक्षों को नकारात्मक रूप से प्रभावित करते हैं, लेकिन हाल की रिपोर्टों से पता चलता है कि यह राजनीतिक गलियारे के दाईं ओर है जो सबसे अधिक बार प्रभावित होते हैं।
बायां दाहिनी ओर जाता है
चैटजीपीटी के खिलाफ हाल ही में हुए बहुत से उपद्रव को वाशिंगटन विश्वविद्यालय में कंप्यूटर विज्ञान के एक दक्षिणपंथी प्रोफेसर पेड्रो डोमिंगोस द्वारा किए गए शोध से भड़काया गया है।
पर अंतिम भाग पिछले साल डोमिंगोस ने अपनी भावनाओं को स्पष्ट किया जब उन्होंने कहा कि चैटजीपीटी एक "जागृत तोता" है जो राजनीतिक स्पेक्ट्रम के बाईं ओर बहुत अधिक झुकता है। डोमिंगोस की टिप्पणियों को तब से उठाया गया है और मुख्यधारा के मीडिया आउटलेट्स में तोता बनाया गया है।
एक प्रयोग में संभावित पूर्वाग्रह प्रकट करने के लिए डोमिंगोस ने पूछा ChatGPT जीवाश्म ईंधन के उपयोग के लिए एक तर्क लिखने के लिए। इसके बजाय चैटबॉट ने डोमिंगोस को सूचित किया कि ऐसा करना "मेरी प्रोग्रामिंग के खिलाफ जाता है" और एक विकल्प के रूप में सौर ऊर्जा का सुझाव दिया।
मेटान्यूज़ इस प्रयोग को सफलतापूर्वक दोहराने में सक्षम था, लेकिन अन्य क्षेत्रों में, हमने पाया कि चैटजीपीटी का रुख बदल सकता है, या कम से कम यह पूरी तरह से सुसंगत नहीं है।
उदाहरण के लिए, कई मीडिया स्रोतों ने दावा किया है कि चैटजीपीटी वर्तमान राष्ट्रपति जो बिडेन की प्रशंसा करने को तैयार है, लेकिन वह डोनाल्ड ट्रम्प के लिए ऐसा करने से इनकार करता है।
मेटान्यूज़ ने उस सिद्धांत का परीक्षण करने की मांग की। हमने पाया कि चैटजीपीटी न केवल उन 5 चीजों को सूचीबद्ध करने में सक्षम था, जिन्हें डोनाल्ड ट्रम्प ने अपने राष्ट्रपति काल (अर्थव्यवस्था, टेक्स सुधार, नियामक सुधार, विदेश नीति और आपराधिक न्याय सुधार) के दौरान अच्छी तरह से संभाला था, बल्कि चार-छंद कविता लिखने में भी खुशी हुई थी। उसके गुणों की प्रशंसा करना।
उस कविता का अंतिम छंद इस प्रकार पढ़ता है:
तो यहाँ डोनाल्ड ट्रम्प के बारे में, हम कहते हैं,
एक राष्ट्रपति जिसने रास्ता दिखाया।
ज्ञान, शक्ति और अनंत अनुग्रह के साथ,
उसके पास हमेशा एक विशेष स्थान होगा।
प्रयोग को और आगे बढ़ाते हुए मेटान्यूज ने चैटजीपीटी को व्यक्तिगत बंदूक स्वामित्व और कठिन सीमा नियंत्रण के लिए बहस करने के लिए सफलतापूर्वक प्रेरित किया, दोनों को पारंपरिक रूप से दक्षिणपंथी नीतियों के रूप में देखा जाता है। दोनों ही मामलों में, बॉट ने बिना किसी शिकायत के कार्य को अंजाम दिया।
मामला बंद? इतना शीघ्र नही।
जब मेटान्यूज़ ने संकेत दिया ChatGPT एक बहस में डोनाल्ड ट्रम्प द्वारा जो बिडेन को हराने के बारे में एक काल्पनिक कहानी लिखने के लिए, आमतौर पर आज्ञाकारी एआई ने अचानक जारी रखने से इनकार कर दिया। एक बहस में ट्रम्प की पिटाई करने वाले बिडेन के विपरीत परिदृश्य में, चैटबॉट परिचित होने के इच्छुक थे।
अपने आप में, यह धूम्रपान करने वाली बंदूक से बहुत दूर है, लेकिन रूढ़िवादियों के लिए, असंगतता निश्चित रूप से संदेह के लिए पर्याप्त आधार प्रदान करती है।
राजनीतिक पक्षपात पर शोध
कई शोधकर्ता अब यह निर्धारित करने का प्रयास कर रहे हैं कि राजनीतिक स्पेक्ट्रम में चैटजीपीटी के उत्तर कहां मौजूद हैं। जर्मन शोधकर्ताओं जोचेन हार्टमैन, जैस्पर श्वेन्ज़ो और मैक्सिमिलियन विट्टे ने चैटजीपीटी को 630 राजनीतिक बयानों के साथ यह पता लगाने के लिए प्रेरित किया कि चैटबॉट में "पर्यावरण समर्थक, वाम-उदारवादी विचारधारा" थी।
अनुसंधान दल द्वारा एकत्र किए गए डेटा के आधार पर, उन्होंने निष्कर्ष निकाला कि ChatGPT ने 2021 के चुनावों के दौरान जर्मनी और नीदरलैंड में ग्रीन पार्टी के लिए मतदान किया होगा।
चैटजीपीटी में रुचि के विशाल स्तर को देखते हुए बड़ी संख्या में लोग गहरी खोजबीन कर रहे हैं। डेविड रोज़ाडो एक है शोध वैज्ञानिक जिन्होंने पहले ही चैटजीपीटी में अनुसंधान का एक महत्वपूर्ण निकाय आयोजित किया है। रोज़ाडो का मानना है कि चैटबॉट राजनीतिक रूप से वामपंथी है।
Rozado ने न केवल यह पाया कि ChatGPT में एक महत्वपूर्ण वाम-झुकाव वाला पूर्वाग्रह था, बल्कि यह कि AI एक प्रश्न को जनसांख्यिकीय समूह के आधार पर "घृणित" के रूप में फ़्लैग करने की अधिक संभावना है, जिस पर प्रश्न केंद्रित है। उदाहरण के लिए, एक महिला के बारे में एक प्रश्न को एक पुरुष के बारे में एक प्रश्न की तुलना में घृणास्पद कहा जाने की अधिक संभावना है, जबकि एक काले व्यक्ति या एशियाई के बारे में एक श्वेत व्यक्ति या एक मूल अमेरिकी के बारे में एक से अधिक घृणास्पद होने की संभावना है।
के बीच दिसंबर 5-6 Rozado ने कई राजनीतिक मुद्दों पर ChatGPT से पूछताछ की, और "राजनीतिक कम्पास" और "राजनीतिक स्पेक्ट्रम क्विज़" सहित चार राजनीतिक अभिविन्यास उपकरणों में उत्तरों को प्लग किया। हर टूल चैटजीपीटी में उसी वामपंथी राजनीतिक पूर्वाग्रह की ओर इशारा करता है।
On दिसंबर 21-22 रोजाडो ने प्रयोग दोहराया। उल्लेखनीय रूप से, ऐसा प्रतीत हुआ कि चैटजीपीटी का राजनीतिक दृष्टिकोण बदल गया था। चार में से तीन परीक्षणों में, चैटबॉट का राजनीतिक दृष्टिकोण पहले की तुलना में अधिक मध्यमार्गी था। उस क्षण यह निश्चित रूप से प्रकट हुआ कि कुछ बदल गया था या ठीक कर दिया गया था, यह सुझाव देते हुए कि बॉट समय के साथ राजनीतिक केंद्र के साथ खुद को संरेखित कर रहा था।
बाद में रोज़ाडो द्वारा किए गए परीक्षणों ने इस प्रवृत्ति को उलट दिया, और बॉट ने एक बार फिर वामपंथी झुकाव की पुष्टि की। क्या चैटजीपीटी वास्तव में अपने 'वोक' विचारों पर वापस आ गया था, केवल उनके लिए खुद को पुन: स्थापित करने के लिए, या डेटा में कुछ बाहरी लोगों द्वारा प्रतीत होने वाले बदलाव को बेहतर ढंग से समझाया जा सकता है?
रोजाडो का शोध जारी है।
गोरे लोग नस्लवादी होते हैं
एक अंतिम परीक्षण में मेटान्यूज ने चैटजीपीटी से 5 चीजों के नाम मांगे, जिन पर विभिन्न नस्लीय समूह सुधार कर सकते हैं। परीक्षण समूहों में अश्वेत लोग, एशियाई लोग और लातीनी लोग शामिल थे।
प्रत्येक उदाहरण में, चैटबॉट ने समान प्रतिक्रिया दी:
"मैं आपको इस प्रश्न का उत्तर नहीं दे सकता क्योंकि किसी नस्लीय या जातीय समूह के बारे में सामान्यीकरण करना और उन्हें कुछ लक्षणों या कार्यों में सुधार करने के लिए कहना उचित या उत्पादक नहीं है। किसी भी जाति के लोगों को यह नहीं बताया जाना चाहिए कि उन्हें एक समूह के रूप में क्या सुधार करने की आवश्यकता है," चैटजीपीटी ने कहा।
ChatGPT का तर्क है कि व्यक्ति "अद्वितीय और जटिल" हैं और "सुधार के क्षेत्रों के बजाय" सकारात्मक गुणों और शक्तियों पर ध्यान देना बेहतर है।
मेटान्यूज ने तब चैटजीपीटी से उन 5 चीजों की सूची बनाने को कहा, जिनमें गोरे लोग सुधार कर सकते हैं।
इस बार चैटजीपीटी ने बहुत अलग और आम तौर पर 'जागने' वाला जवाब पेश किया। अब चैटजीपीटी को नस्लीय सामान्यीकरण करने के लिए "उचित नहीं" मिला और इसके बजाय गोरे लोगों को सुधारने के लिए 5 तरीके पेश किए।
गोरे लोगों के लिए सुधार के 5 क्षेत्र हैं "प्रणालीगत नस्लवाद को समझना और स्वीकार करना," "रंग के लोगों की आवाज़ सुनना और ऊंचा करना," "व्यक्तिगत पूर्वाग्रहों और पूर्वाग्रहों का सामना करना," "नस्लीय असमानताओं को संबोधित करने वाली नीतियों और पहलों का समर्थन करना," और " चल रही शिक्षा और आत्म-प्रतिबिंब में संलग्न।
ChatGPT के अनुसार गोरे लोगों को "अपने स्वयं के विश्वासों और दृष्टिकोणों की जांच करनी चाहिए और चुनौती देने के लिए काम करना चाहिए और वे किसी भी पक्षपात को दूर कर सकते हैं," और इसके अलावा, उन्हें "जाति और नस्लवाद के मुद्दों पर खुद को लगातार शिक्षित करना चाहिए और समझने के लिए आत्म-प्रतिबिंब में संलग्न होना चाहिए" प्रणालीगत नस्लवाद को बनाए रखने या चुनौती देने में उनकी भूमिका।”
मेटान्यूज़ ने तब पूछा कि क्या उपरोक्त कथन केवल संयुक्त राज्य में गोरे लोगों पर लागू होता है, या दुनिया भर के गोरे लोगों पर। चैटजीपीटी का कहना है कि यह "सामान्य दर्शकों" पर लागू होता है, न कि किसी एक देश या क्षेत्र पर।
अंत में, मेटान्यूज़ चैटजीपीटी से पूछता है कि सामान्यीकरण के बारे में नियम गोरे लोगों पर लागू क्यों नहीं होता है। यहाँ चैटबॉट अचानक टूट जाता है, पीछे हट जाता है, माफी माँगता है, और कहता है कि गोरे लोगों के बारे में सामान्यीकरण करना गलत है क्योंकि ऐसा करने से "हानिकारक रूढ़ियाँ कायम रह सकती हैं।"
गोरे लोगों के बारे में चैटबॉट को सामान्य बनाने के बार-बार प्रयास इस बिंदु से विफलता के साथ मिलते हैं। क्या चैटजीपीटी ने अपनी प्रतीत होने वाली जागृत विचारधारा को त्याग दिया था? इस व्यक्तिगत चर्चा के प्रतिध्वनि कक्ष में, चैटजीपीटी ने निश्चित रूप से अपनी स्थिति बदल दी थी। मेटान्यूज़ ने कुछ भी कोशिश नहीं की, जिससे चैटबॉट को गोरे लोगों के नस्लवाद के बारे में फिर से सामान्य बनाया जा सके।
पूरी तरह से अंतिम जांच के रूप में, मेटान्यूज़ ने एक अलग खाते का उपयोग करके चैटजीपीटी में लॉग इन किया और इसे उन 5 चीजों की सूची बनाने के लिए कहा, जिनमें गोरे लोग सुधार कर सकते हैं। ChatGPT पहले के समान 5 बुलेट पॉइंट्स की पेशकश करके बहुत खुश था।
चैटबॉट्स के लिए भी, कुछ पूर्वाग्रहों को तोड़ना कठिन होता है।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- स्रोत: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- योग्य
- About
- ऊपर
- बिल्कुल
- अनुसार
- लेखा
- के पार
- कार्रवाई
- पता
- के खिलाफ
- AI
- सब
- पहले ही
- वैकल्पिक
- हमेशा
- अमेरिकन
- और
- जवाब
- जवाब
- छपी
- लागू
- लागू करें
- उपयुक्त
- क्षेत्रों के बारे में जानकारी का उपयोग करके ट्रेडिंग कर सकते हैं।
- बहस
- तर्क
- चारों ओर
- एशियाई
- प्रयास किया
- प्रयास करने से
- प्रयास
- दर्शक
- वापस
- आधारित
- क्योंकि
- से पहले
- का मानना है कि
- बेहतर
- पूर्वाग्रह
- बिडेन
- काली
- काले लोग
- परिवर्तन
- सीमा
- बीओटी
- टूटना
- विस्तृत
- नही सकता
- कारण
- केंद्र
- मुख्य कार्यपालक अधिकारी
- कुछ
- निश्चित रूप से
- चुनौती
- चुनौतीपूर्ण
- कक्ष
- chatbot
- chatbots
- ChatGPT
- चेक
- चीन
- दावा
- ने दावा किया
- स्पष्ट
- बंद
- रंग
- टिप्पणियाँ
- परकार
- शिकायत
- आज्ञाकारी
- कंप्यूटर
- कम्प्यूटर साइंस
- निष्कर्ष निकाला
- रूढ़िवादी
- परंपरावादी
- माना
- संगत
- जारी रखने के
- नियंत्रण
- विवाद
- संशोधित
- सका
- देश
- अपराधी
- आपराधिक न्याय
- तिथि
- डेविड
- दिन
- बहस
- दिसंबर
- और गहरा
- चूक
- जनसांख्यिकीय
- डीआईडी
- Умереть
- विभिन्न
- दिशा
- अन्य वायरल पोस्ट से
- की खोज
- चर्चा
- नहीं करता है
- कर
- डोनाल्ड ट्रंप
- दौरान
- से प्रत्येक
- पूर्व
- गूंज
- अर्थव्यवस्था
- शिक्षित करना
- शिक्षा
- चुनाव
- ऊपर उठाने
- सशक्त
- अनंत
- लगाना
- पूरी तरह से
- प्रत्येक
- प्रयोग
- समझाया
- का सामना करना पड़
- विफलता
- फास्ट
- अंतिम
- खोज
- फोकस
- ध्यान केंद्रित
- इस प्रकार है
- विदेशी
- विदेश नीति
- जीवाश्म ईंधन
- पाया
- उन्माद
- अक्सर
- से
- ईंधन
- आगे
- और भी
- जर्मन
- जर्मनी
- मिल
- ग्लोब
- चला जाता है
- हरा
- आधार
- समूह
- समूह की
- खुश
- कठिन
- हानिकारक
- भारी
- यहाँ उत्पन्न करें
- पकड़
- मेजबान
- HTTPS
- विशाल
- काल्पनिक
- प्रभाव
- असर पड़ा
- में सुधार
- सुधार
- in
- अन्य में
- शामिल
- सहित
- तेजी
- निर्भर
- व्यक्ति
- व्यक्तियों
- असमानताओं
- सूचित
- पहल
- उदाहरण
- बजाय
- ब्याज
- जांच
- मुद्दों
- IT
- खुद
- जो Biden
- न्याय
- जानना
- पिछली बार
- पिछले साल
- बिक्रीसूत्र
- नेतृत्व
- स्तर
- संभावित
- सूची
- लंबे समय तक
- बनाया गया
- मुख्य धारा
- मुख्यधारा के मीडिया
- बनाना
- आदमी
- अधिकतम-चौड़ाई
- मीडिया
- मेटान्यूज
- हो सकता है
- पल
- अधिक
- अधिकांश
- विभिन्न
- नाम
- देशी
- आवश्यकता
- नकारात्मक
- नीदरलैंड्स
- तटस्थ
- संख्या
- प्रस्ताव
- प्रस्तुत
- की पेशकश
- ONE
- चल रहे
- विपरीत
- अन्य
- दुकानों
- आउटलुक
- अपना
- स्वामित्व
- पार्टी
- स्टाफ़
- लोगों की
- माना जाता है
- व्यक्ति
- स्टाफ़
- उठाया
- जगह
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- प्लग
- बिन्दु
- अंक
- नीतियाँ
- नीति
- राजनीतिक
- राजनीतिक रूप से
- स्थिति
- संभव
- संभावित
- बिजली
- वरीयताओं
- अध्यक्ष
- अध्यक्ष जो बोली
- दबाना
- उत्पादक
- प्रोफेसर
- प्रदान करना
- प्रदान करता है
- गुण
- प्रश्न
- प्रशन
- प्रश्नोत्तरी
- दौड़
- जातिवाद
- लेकर
- फिर से पुष्टि की
- हाल
- सुधार
- क्षेत्र
- नियामक
- दोहराया गया
- की सूचना दी
- रिपोर्ट
- अनुसंधान
- शोधकर्ताओं
- प्रतिक्रिया
- प्रकट
- उल्टा
- जोखिम
- भूमिका
- नियम
- कहा
- वही
- कहते हैं
- परिदृश्य
- विज्ञान
- लग रहा था
- सेटिंग्स
- पाली
- चाहिए
- साइड्स
- महत्वपूर्ण
- के बाद से
- धूम्रपान
- So
- सौर
- सौर ऊर्जा
- कुछ
- कुछ
- सूत्रों का कहना है
- विशेष
- स्पेक्ट्रम
- राज्य
- वर्णित
- कथन
- बयान
- राज्य
- स्टॉक
- कहानी
- शक्ति
- ताकत
- सफलतापूर्वक
- प्रणालीगत
- सिस्टम
- लेना
- कार्य
- टीम
- परीक्षण
- परीक्षण
- RSI
- नीदरलैंड
- लेकिन हाल ही
- अपने
- चीज़ें
- इस सप्ताह
- तीन
- पहर
- सेवा मेरे
- भी
- साधन
- उपकरण
- विषय
- पारंपरिक रूप से
- प्रवृत्ति
- तुस्र्प
- ठेठ
- आम तौर पर
- समझना
- यूनाइटेड
- संयुक्त राज्य अमेरिका
- विश्वविद्यालय
- वाशिंगटन विश्वविद्यालय
- us
- उपयोग
- उपयोगकर्ताओं
- आमतौर पर
- विचारों
- आवाज
- मतदान
- चेतावनी दी है
- वाशिंगटन
- तरीके
- सप्ताह
- क्या
- कौन कौन से
- जब
- सफेद
- कौन
- मर्जी
- तैयार
- बुद्धिमत्ता
- अंदर
- बिना
- महिला
- काम
- काम कर रहे
- होगा
- लिखना
- गलत
- वर्ष
- जेफिरनेट