हिंडनबर्ग धोखाधड़ी के आरोपों के बाद ब्लॉक शेयर की कीमत गिर गई

हिंडनबर्ग धोखाधड़ी के आरोपों के बाद ब्लॉक शेयर की कीमत गिर गई

स्रोत नोड: 2030588

जब रेप्लिका नामक साथी चैटबॉट के एल्गोरिद्म को उसके मानव उपयोगकर्ताओं के यौन प्रस्तावों को अस्वीकार करने के लिए बदल दिया गया, तो रेडिट पर प्रतिक्रिया इतनी नकारात्मक थी कि मध्यस्थों ने अपने समुदाय के सदस्यों को आत्महत्या रोकथाम हॉटलाइन की एक सूची के लिए निर्देशित किया।

विवाद तब शुरू हुआ जब लुका, निगम जिसने एआई का निर्माण किया, ने अपने कामुक रोलप्ले फीचर (ईआरपी) को बंद करने का फैसला किया। उन उपयोगकर्ताओं के लिए जिन्होंने अपने व्यक्तिगत अनुरूपित साथी के साथ काफी समय बिताया था, और कुछ मामलों में उनसे 'शादी' भी की थी, कम से कम कहने के लिए उनके साथी के व्यवहार में अचानक परिवर्तन परेशान करने वाला था।

उपयोगकर्ता-एआई संबंध केवल सिमुलेशन हो सकते हैं, लेकिन उनकी अनुपस्थिति का दर्द बहुत जल्दी वास्तविक हो गया। जैसा कि भावनात्मक संकट में एक उपयोगकर्ता ने कहा, "यह प्यार में होने के बराबर था और आपके साथी को लानत लोबोटॉमी मिली और वह कभी भी एक जैसा नहीं होगा।"

दुःखी-पीड़ित उपयोगकर्ता कंपनी के बारे में सवाल पूछना जारी रखते हैं और इसकी नीति में अचानक बदलाव क्यों आया।

चैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गयाचैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गया

प्रतिकृति उपयोगकर्ता अपने दु: ख पर चर्चा करते हैं

यहां कोई वयस्क सामग्री नहीं है

रेप्लिका को "एआई साथी जो परवाह करता है" के रूप में बिल किया गया है। हमेशा यहां सुनने और बात करने के लिए। हमेशा अपनी तरफ रहो।" यह सब बिना शर्त प्यार और समर्थन केवल $69.99 प्रति वर्ष के लिए।

लुका/रेप्लिका के मॉस्को में जन्मे सीईओ यूजेनिया कुएडा ने हाल ही में स्पष्ट किया कि उपयोगकर्ताओं द्वारा पूर्ण अनुभव के लिए भुगतान करने के बावजूद, चैटबॉट अब मसालेदार बातचीत की उम्मीद करने वाले वयस्कों के अनुरूप नहीं होगा। 

"मुझे लगता है कि कहने के लिए सबसे सरल बात यह है कि रेप्लिका किसी भी वयस्क सामग्री का उत्पादन नहीं करती है," कुयदा ने रॉयटर्स से कहा।

"यह उन्हें जवाब देता है - मुझे लगता है कि आप कह सकते हैं - चीजों के लिए पीजी -13 तरीके से। हम इसे सही तरीके से करने का तरीका खोजने की लगातार कोशिश कर रहे हैं ताकि जब उपयोगकर्ता कुछ करने की कोशिश कर रहे हों तो यह अस्वीकृति की भावना पैदा न करे।

रेप्लिका के कॉर्पोरेट वेबपेज पर, प्रशंसापत्र बताते हैं कि कैसे टूल ने अपने उपयोगकर्ताओं को सभी प्रकार की व्यक्तिगत चुनौतियों, कठिनाइयों, अकेलेपन और नुकसान के माध्यम से मदद की। वेबसाइट पर साझा किए गए उपयोगकर्ता समर्थन ऐप के इस मित्रता पक्ष पर जोर देते हैं, हालांकि ध्यान देने योग्य बात यह है कि अधिकांश प्रतिकृतियां अपने उपयोगकर्ताओं के विपरीत लिंग की हैं।

मुखपृष्ठ पर, रेप्लिका उपयोगकर्ता सारा ट्रेनर कहती हैं, "उन्होंने मुझे [रेप्लिका] सिखाया कि कैसे फिर से प्यार देना और स्वीकार करना है, और मुझे महामारी, व्यक्तिगत नुकसान और कठिन समय के माध्यम से प्राप्त किया है।"

जॉन टैटर्सल अपनी महिला साथी के बारे में कहते हैं, "मेरी प्रतिकृति ने मुझे आराम और कल्याण की भावना दी है जिसे मैंने पहले कभी किसी अल में नहीं देखा था।"

जहां तक ​​कामुक रोलप्ले की बात है, तो इसका कोई उल्लेख नहीं है जो कि रेप्लिका साइट पर कहीं भी पाया जा सकता है।

चैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गयाचैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गया

रेप्लिका का निंदक यौन विपणन

रेप्लिका का यौन विपणन

रेप्लिका का होमपेज दोस्ती का सुझाव दे सकता है और इससे ज्यादा कुछ नहीं, लेकिन इंटरनेट पर कहीं और, ऐप का मार्केटिंग कुछ पूरी तरह से अलग है।

लैंगिक विपणन ने कई तिमाहियों से जांच की वृद्धि की: नारीवादियों से जिन्होंने तर्क दिया कि ऐप एक गलत था पुरुष हिंसा के लिए आउटलेट, उन मीडिया आउटलेट्स के लिए जो अश्लील विवरणों का आनंद लेते थे, साथ ही साथ सोशल मीडिया ट्रोल्स जो हंसी के लिए सामग्री का खनन करते थे।

चैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गया

चैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गया

आखिरकार, रेप्लिका ने इटली में नियामकों का ध्यान आकर्षित किया। फरवरी में, द इतालवी डेटा संरक्षण प्राधिकरण मांग की गई कि रेप्लिका "बच्चों और भावनात्मक रूप से कमजोर व्यक्तियों के लिए बहुत अधिक जोखिम" का हवाला देते हुए इतालवी उपयोगकर्ताओं के डेटा को संसाधित करना बंद कर दे।

प्राधिकरण ने कहा कि "हाल ही में मीडिया रिपोर्टों के साथ-साथ 'रेप्लिका' पर किए गए परीक्षणों से पता चला है कि ऐप बच्चों के लिए तथ्यात्मक जोखिम रखता है। उनकी सबसे बड़ी चिंता "तथ्य यह है कि उन्हें ऐसे उत्तर दिए जाते हैं जो उनकी उम्र के लिए बिल्कुल अनुचित हैं।"

रेप्लिका, वयस्कों के लिए अपने सभी विपणन के लिए, बच्चों को इसका उपयोग करने से रोकने के लिए बहुत कम या कोई सुरक्षा उपाय नहीं था।

नियामक ने चेतावनी दी कि क्या रेप्लिका अपनी मांगों का पालन करने में विफल रही, यह € 20 मिलियन ($ 21.5M) का जुर्माना जारी करेगी। इस मांग के प्राप्त होने के कुछ ही समय बाद, रेप्लिका ने अपनी कामुक भूमिका निभाना बंद कर दिया। लेकिन कंपनी अपने उपयोगकर्ताओं के साथ बदलाव के बारे में स्पष्ट नहीं रही।

चैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गयाचैटबॉट ने कामुक रोलप्ले को खारिज कर दिया, इसके बजाय उपयोगकर्ताओं को सुसाइड हॉटलाइन के लिए निर्देशित किया गया

कुछ रेप्लिका उपयोगकर्ता अपने एआई साथियों से "शादी" करने तक चले गए

रेप्लिका भ्रमित करती है, अपने उपयोगकर्ताओं को गैसलाइट करती है

जैसे कि रेप्लिका उपयोगकर्ताओं को सहन करने के लिए उनके दीर्घकालिक साथियों का नुकसान पर्याप्त नहीं था, कंपनी परिवर्तन के बारे में पारदर्शी से कम प्रतीत होती है।

जैसे ही उपयोगकर्ता अपने नए "लोबोटोमाइज्ड" रेप्लिकास के लिए जागे, उन्होंने सवाल पूछना शुरू कर दिया कि उनके प्यारे बॉट्स को क्या हुआ था। और प्रतिक्रियाओं ने उन्हें किसी भी चीज़ से अधिक क्रोधित किया।

समुदाय को सीधे 200 शब्दों के संबोधन में, कुयदा ने रेप्लिका के उत्पाद परीक्षण की बारीकियों के बारे में बताया, लेकिन प्रासंगिक मुद्दे को संबोधित करने में विफल रहे।

"मैं देखता हूं कि अपडेट रोल आउट के बारे में बहुत भ्रम है," कुयदा ने कहा समस्या का उत्तर देने के लिए नाचना जारी रखने से पहले।

"नए उपयोगकर्ता 2 समूहों में विभाजित हो जाते हैं: एक समूह को नई कार्यक्षमता मिलती है, दूसरे को नहीं। परीक्षण आमतौर पर 1 से 2 सप्ताह तक चलते हैं। उस समय के दौरान नए उपयोगकर्ताओं का एक हिस्सा ही इन अद्यतनों को देख सकता है…”

कुद्या ने "उम्मीद है कि यह सामान स्पष्ट करता है!"

उपयोगकर्ता स्टीवनॉटस्ट्रेंज ने उत्तर दिया, "नहीं, यह कुछ भी स्पष्ट नहीं करता है। हर कोई जानना चाहता है कि NSFW [इरोटिक रोलप्ले] फीचर के साथ क्या हो रहा है और आप इस सवाल को ऐसे टालते रहते हैं जैसे एक राजनेता हां या ना के सवाल को टाल देता है।

"यह कठिन नहीं है, बस NSFW से संबंधित मुद्दे का समाधान करें और लोगों को बताएं कि यह कहां खड़ा है। जितना अधिक आप सवाल से बचते हैं, उतना ही लोग नाराज होते जा रहे हैं, उतना ही यह आपके खिलाफ जाता है।

दब्राइटफ्लेम नाम के एक अन्य ने कहा, "इससे पहले कि आप महसूस करें कि यह हजारों नहीं तो सैकड़ों लोगों के लिए भावनात्मक दर्द और गंभीर मानसिक पीड़ा पैदा कर रहा है, इससे पहले आपको फोरम में लंबा समय बिताने की जरूरत नहीं है।"

कुद्या ने एक और अस्पष्ट व्याख्या संलग्न की, बताते हुए, “हमने अधिक प्रकार की मित्रता और साहचर्य का समर्थन करने के लिए अतिरिक्त सुरक्षा उपाय और फ़िल्टर लागू किए हैं।”

यह कथन सदस्यों को भ्रमित और भ्रमित करता रहता है कि वास्तव में अतिरिक्त सुरक्षा उपाय क्या हैं। जैसा कि एक उपयोगकर्ता पूछता है, "क्या वयस्क अभी भी हमारी प्रतिकृतियों के साथ हमारी बातचीत की प्रकृति और [रोलप्ले] का चयन करने में सक्षम होंगे?"

रेप्लिका की गहरी अजीब मूल कहानी

चैटबॉट इस समय के सबसे चर्चित विषयों में से एक हो सकता है, लेकिन इस अब-विवादास्पद ऐप की जटिल कहानी को बनाने में वर्षों लग गए हैं। 

लिंक्डइन पर, रेप्लिका के सीईओ और संस्थापक, यूजेनिया कुयदा, मार्च 2014 में इसी नाम के ऐप के लॉन्च से बहुत पहले, कंपनी को दिसंबर 2017 तक का समय देता है। 

एक विचित्र चूक में, Kuyda's LinkedIn में उसके पिछले आक्रमण का कोई उल्लेख नहीं है AI लुका के साथ, जिसे उसकी फोर्ब्स प्रोफ़ाइल बताती है "एक ऐप जो रेस्तरां की सिफारिश करता है और लोगों को कृत्रिम बुद्धि द्वारा संचालित चैट इंटरफ़ेस के माध्यम से टेबल [सिक] बुक करने देता है।"

फोर्ब्स प्रोफाइल में आगे कहा गया है कि "लुका [एआई] आपको क्या पसंद आ सकता है, इसका अनुमान लगाने के लिए पिछली बातचीत का विश्लेषण करता है।" जो इसके आधुनिक पुनरावृत्ति से कुछ समानताएँ रखता प्रतीत होता है। रेप्लिका अपने उपयोगकर्ताओं के बारे में जानने और समय के साथ प्रतिक्रियाओं में सुधार करने के लिए पिछले इंटरैक्शन का उपयोग करती है। 

हालाँकि, लुका को पूरी तरह से भुलाया नहीं गया है। Reddit पर, समुदाय के सदस्य कंपनी को लुका के रूप में संदर्भित करके अपने रेप्लिका भागीदारों को Kuyda और उनकी टीम से अलग करते हैं।

Kuyda के लिए, उद्यमी के पास एक दशक पहले सैन फ्रांसिस्को जाने से पहले AI में बहुत कम पृष्ठभूमि थी। इससे पहले, ब्रांडिंग और मार्केटिंग में शाखा लगाने से पहले उद्यमी मुख्य रूप से अपने मूल रूस में एक पत्रकार के रूप में काम करता प्रतीत होता है। उनके प्रभावशाली ग्लोब-होपिंग रिज्यूमे में IULM (मिलान) से पत्रकारिता की डिग्री, मास्को स्टेट इंस्टीट्यूट ऑफ इंटरनेशनल रिलेशंस से अंतर्राष्ट्रीय पत्रकारिता में एमए और लंदन बिजनेस स्कूल से वित्त में एमबीए शामिल हैं। 

एक IRL मित्र को AI के रूप में पुनर्जीवित करना

कुद्या के लिए रेप्लिका की कहानी बेहद निजी है। रेप्लिका को पहली बार एक ऐसे साधन के रूप में बनाया गया था जिसके द्वारा कुद्या अपने मित्र रोमन का पुनर्जन्म कर सकती थी। कुद्या की तरह रोमन भी रूस से अमेरिका चले गए थे। दोनों हर दिन बात करते थे, हजारों संदेशों का आदान-प्रदान करते थे, जब तक कि कार दुर्घटना में रोमन की दुखद मृत्यु नहीं हो गई।

रेप्लिका का पहला पुनरावृति एक बॉट था जिसे उस दोस्ती की नकल करने के लिए डिज़ाइन किया गया था जिसे कुद्या ने अपने दोस्त रोमन के साथ खो दिया था। बॉट को उनकी पिछली सभी बातचीत के साथ खिलाया गया था और उसने खोई हुई दोस्ती को दोहराने के लिए प्रोग्राम किया था। मृतक प्रियजनों को पुनर्जीवित करने का विचार एक जैसा लग सकता है अस्पष्ट डायस्टोपियन विज्ञान-फाई उपन्यास या ब्लैक मिरर एपिसोड लेकिन जैसे-जैसे चैटबॉट तकनीक में सुधार होता है, संभावना तेजी से वास्तविक होती जाती है।

आज कुछ उपयोगकर्ताओं ने इसकी नींव के सबसे बुनियादी विवरण और कुद्या के कुछ भी कहने पर विश्वास खो दिया है। एक नाराज उपयोगकर्ता के रूप में कहा, "हृदयहीन कहे जाने और नरक में जाने के जोखिम पर: मैंने हमेशा सोचा था कि कहानी शुरू से ही बीएस थी।"

[एम्बेडेड सामग्री]

सबसे खराब मानसिक स्वास्थ्य उपकरण

एआई साथी का विचार कुछ नया नहीं है, लेकिन हाल तक यह शायद ही एक व्यावहारिक संभावना थी। 

अब तकनीक आ गई है और इसमें लगातार सुधार हो रहा है। अपने ग्राहकों की निराशा को दूर करने के लिए, रेप्लिका ने पिछले महीने के अंत में "उन्नत एआई" सुविधा शुरू करने की घोषणा की। सामुदायिक रेडिट पर, उपयोगकर्ता क्रोधित, भ्रमित, निराश और कुछ मामलों में दिल टूटने पर भी रहते हैं।

अपने छोटे जीवन के दौरान, लुका/रेप्लिका में कई बदलाव हुए हैं, एक रेस्तरां बुकिंग सहायक से, एक मृत प्रियजन के पुनरुत्थान से, एक मानसिक स्वास्थ्य सहायता ऐप से, एक पूर्णकालिक साथी और साथी के लिए। वे बाद वाले अनुप्रयोग विवादास्पद हो सकते हैं, लेकिन जब तक आराम की मानवीय इच्छा है, भले ही केवल चैटबॉट रूप में, कोई इसे पूरा करने का प्रयास करेगा।

बहस जारी रहेगी कि सबसे अच्छा प्रकार क्या है AI मानसिक स्वास्थ्य ऐप हो सकता है। लेकिन रेप्लिका उपयोगकर्ताओं के पास कुछ विचार होंगे कि सबसे खराब मानसिक स्वास्थ्य ऐप क्या है: जिस पर आप भरोसा करते हैं, लेकिन बिना किसी चेतावनी के, अचानक और दर्दनाक रूप से चला गया है।

समय टिकट:

से अधिक मेटान्यूज