आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) के शोधकर्ता एलिएजर युडकोव्स्की का कहना है कि एआई इनोवेशन परमाणु बम से कहीं ज्यादा खराब है और इससे धरती पर सभी की मौत हो सकती है। लेकिन यह पूरी तरह से सटीक नहीं हो सकता है, उनके कुछ साथियों के अनुसार, जो मानते हैं कि जोखिम अधिक हैं।
युडकोव्स्की ने एक के मद्देनजर बात की खुला पत्र हाल ही में Apple के सह-संस्थापक स्टीव वोज्नियाक, अरबपति एलोन मस्क, गैरी मार्कस और अन्य सहित कई दिग्गजों ने हस्ताक्षर किए, दुनिया में बड़ी भाषा एआई प्रशिक्षण पर छह महीने की मोहलत देने का आह्वान किया।
"यदि कोई वर्तमान परिस्थितियों में बहुत शक्तिशाली एआई बनाता है, तो मुझे उम्मीद है कि मानव प्रजाति के प्रत्येक सदस्य और पृथ्वी पर सभी जैविक जीवन जल्द ही मर जाएंगे," उन्होंने हाल के एक लेख में चेतावनी दी थी। प्रकाशित टाइम पत्रिका द्वारा।
यह भी पढ़ें: चैटजीपीटी पैराडाइज में परेशानी? एआई-रन स्टार्टअप वित्तीय लक्ष्यों को पूरा करने में विफल
एआई को बंद करना
युडकोव्स्की के विचार को लोकप्रिय बनाने के लिए जाने जाने वाले एक अमेरिकी कंप्यूटर वैज्ञानिक हैं दोस्ताना एआई, एक शब्द विशेष रूप से एआई को संदर्भित करता है जो "हानिकारक के बजाय अच्छे, लाभकारी परिणाम" उत्पन्न करता है। उन्होंने एजीआई पर शोध करने में 20 साल बिताए - मूल रूप से वह राज्य जहां एआई मनुष्यों की तरह तर्क कर सकता है - और इस क्षेत्र में अग्रणी माना जाता है।
अपने लेख में, युडकोव्स्की का तर्क है कि कृत्रिम बुद्धिमत्ता के जोखिमों को केवल नियमन के माध्यम से प्रबंधित नहीं किया जा सकता है। उनका मानना है कि एआई का विकास मानवता के अस्तित्व के लिए एक संभावित खतरा है और इस खतरे से निपटने का एकमात्र तरीका इसे पूरी तरह से बंद करना है।
"सभी बड़े जीपीयू क्लस्टर (बड़े कंप्यूटर फार्म जहां सबसे शक्तिशाली एआई को परिष्कृत किया जाता है) को बंद कर दें। सभी बड़े प्रशिक्षण रन बंद करें," उन्होंने सुझाव दिया।
मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट के सह-संस्थापक कहते हैं, "एआई सिस्टम को प्रशिक्षित करने में किसी को कितनी कंप्यूटिंग शक्ति का उपयोग करने की अनुमति है, इस पर एक सीमा निर्धारित करें ..." दुनिया में किसी भी सरकार या सेना को इन सटीक मानकों का पालन करने से छूट नहीं दी जानी चाहिए।
युडकोव्स्की द्वारा उठाए गए मुख्य मुद्दों में से एक वह है जिसे उन्होंने "संरेखण समस्या" के रूप में वर्णित किया है। अनिवार्य रूप से, समस्या यह सुनिश्चित करने में कठिनाई को संदर्भित करती है कि एआई सिस्टम के लक्ष्यों और उद्देश्यों को इसके मानव रचनाकारों के साथ संरेखित किया गया है।
आलोचकों का कहना है कि खतरा यह है कि एआई प्रणाली अपने लक्ष्यों और उद्देश्यों को विकसित कर सकती है जो इसके रचनाकारों के साथ संघर्ष करते हैं, जिससे विनाशकारी परिणाम सामने आते हैं। संरेखण समस्या को हल किए बिना एआई का विकास करना कमजोर नींव पर गगनचुंबी इमारत बनाने जैसा है, उन्होंने कहा।
परमाणु गर्म बहस
युडकोव्स्की उचित सुरक्षा उपायों के बिना सुपर स्मार्ट प्रौद्योगिकियों के तेजी से बढ़ते विकास के अनपेक्षित खतरों से डरते हैं। वह इन सुरक्षा चिंताओं को दूर करने के लिए समर्पित विशेष संगठनों और संस्थानों के निर्माण का प्रस्ताव करता है।
हालांकि, निर्णय सिद्धांतवादी'का तर्क नया नहीं है। कई विशेषज्ञ सालों से एआई के खतरों के बारे में आगाह करते रहे हैं। 2018 में, ए रिपोर्ट रैंड कॉर्पोरेशन द्वारा चेतावनी दी गई कि एआई के विकास से परमाणु युद्ध का खतरा बढ़ सकता है।
रिपोर्ट में कहा गया है कि एआई, मशीन लर्निंग और बिग-डेटा एनालिटिक्स का एकीकरण नाटकीय रूप से एक प्रतिद्वंद्वी के परमाणु-निवारक बलों का पता लगाने, ट्रैक करने, लक्षित करने और नष्ट करने की क्षमता में सुधार कर सकता है।
अन्य लोग भी बहस में पड़ गए हैं। पूर्व Google उत्पाद प्रमुख बिलावल सिद्धू के लिए, एआई बहस को या तो परमाणु की तरह माना जा सकता है या इसे खुला छोड़ दिया जा सकता है। उनका कहना है कि एक ओपन-सोर्स एआई अच्छे अभिनेताओं को बुरे लोगों को पुलिस करने की अनुमति देगा, जो तकनीक को होने वाले नुकसान को कम करता है।
एआई बहस के दो चरम हैं: इसे परमाणु की तरह मानना, या इसे खुला छोड़ देना।
कुछ लोगों का तर्क है कि ओपन-सोर्स एआई अच्छे अभिनेताओं को बुरे लोगों को पुलिस करने की अनुमति देता है, नुकसान को कम करता है।
आगे डर है कि विनियमन 1984 से भी बदतर एक केंद्रीकृत शक्ति का नेतृत्व करेगा:https://t.co/nvbzx490JE
– बिलावल सिद्धू (@bilawalsidhu) अप्रैल १, २०२४
में ट्वीट्स की श्रृंखला, सिद्धू ने एआई तकनीक की क्षमता की तुलना एक बेहतर परमाणु से की, डेटा को डिजिटलीकृत दुनिया में नया कच्चा तेल बताया।
"बिग डेटा युग ने खुले और बंद खजाने दोनों को बनाते हुए सब कुछ डिजिटाइज़ कर दिया। डेटा नया तेल है, और एआई के साथ, इस कच्चे संसाधन को निकालना पहले से कहीं ज्यादा आसान है," उन्होंने लिखा।
"अतीत के विपरीत जहां सरकार विशेष रूप से सत्ता का इस्तेमाल करती थी, यह प्रभाव भी व्यक्तियों द्वारा आयोजित किया जाता है। इस शक्ति का उपयोग बड़े तकनीकी दिग्गजों या राष्ट्र-राज्यों तक ही सीमित नहीं है। इसका इस्तेमाल कोई भी अच्छे या बुरे के लिए कर सकता है। लोग पहले ही जबरदस्त क्षमताएं दिखा चुके हैं।”
अधिक एआई क्षमताएं
अब, यहां तक कि जियोलोकेशन, जो पहले परिष्कृत सरकारी जासूसी एजेंसियों का संरक्षण था, व्यक्तियों द्वारा किया जा सकता है। सिद्धू ने एक एआई कलाकार का हवाला दिया, जिसने इंस्टाग्राम और सार्वजनिक रूप से उपलब्ध कैमरा फीड्स का उपयोग करके शीर्ष प्रभावितों को जिओलोकेट किया, जैसा कि एक उदाहरण है।
जिसे "जीवन विश्लेषण के पैटर्न" के रूप में जाना जाता है, उसे परंपरागत रूप से खुफिया समुदाय में स्थानांतरित कर दिया गया है, लेकिन यह व्यक्तियों द्वारा किया जा सकता है। जब जीपीटी-4, जीपीटी परिवार के नवीनतम संस्करण जैसे अधिक कुशल बड़े भाषा मॉडल को मिश्रण में जोड़ा जाता है, तो ऐसे व्यक्तियों की क्षमता भयानक हो जाती है, वे कहते हैं।
इस डरावनी संभावना के कारण सिद्धू कहते हैं कि इसमें कोई आश्चर्य की बात नहीं है OpenAI, जिस कंपनी ने GPT तकनीक बनाई है, वह मल्टी-मॉडेलिटी खोलने के बारे में चयनात्मक रही है। मीडिया और तंत्रिका लिंक आधारित "तर्क" क्षमता पर "पता लगाने और ट्रैकिंग एल्गोरिदम" के साथ संयुक्त GPT-4 वर्ग मॉडल सामाजिक फ़ीड को पार्स करने में, एक शक्तिशाली बड़े भाई का जन्म होता है।
उन्होंने छवि निर्माण जैसे मॉडल के प्रकार के अधिक विनियमन का आह्वान किया, इस बात पर जोर देते हुए कि जीपीटी-4 जैसे सामान्य-उद्देश्य वाले मॉडल की तुलना में इसका नकारात्मक पक्ष बहुत कम है।
शायद कुछ प्रकार के मॉडल दूसरों की तुलना में अधिक विनियमित होने चाहिए?
IMO, छवि निर्माण में GPT-4 जैसे सामान्य-उद्देश्य वाले मॉडल की तुलना में बहुत कम गिरावट है, खासकर जब वे मल्टीमॉडल हों।
GPT-4 की क्षमता वाले मॉडलों के साथ दुरुपयोग की संभावना बहुत अधिक है: pic.twitter.com/oyaiDaWDDW
– बिलावल सिद्धू (@bilawalsidhu) अप्रैल १, २०२४
"लेकिन यह बिल्कुल इंद्रधनुष और धूप भी नहीं है। वीएफएक्स और फोटोशॉप हमेशा से एक चीज रही है, लेकिन छवि मॉडल अथाह पैमाने पर गलत सूचना को सक्षम करते हैं, ”उन्होंने ट्वीट किया।
सिद्धू ने बताया कि कैसे उनके स्पष्ट रूप से लेबल किए गए "वीएफएक्स वीडियो" ने लाखों लोगों को बेवकूफ बनाया। उन्होंने कहा कि यह अकल्पनीय था कि इस तरह की तकनीक "बुरे अभिनेताओं" कहे जाने वाले लोगों के हाथों में क्या करेगी।
पिछले एक में साक्षात्कार न्यूजवीक के साथ, पूर्व अमेरिकी विदेश मंत्री हेनरी किसिंजर ने तर्क दिया कि एआई "परिणामी के रूप में" है लेकिन परमाणु हथियारों की तुलना में "कम अनुमानित" है। किसिंजर का मानना है कि एआई के जोखिमों को अंतरराष्ट्रीय सहयोग और विनियमन के माध्यम से प्रबंधित किया जा सकता है।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- स्रोत: https://metanews.com/chatgpt-yields-to-trickery-generates-software-activation-keys-for-windows/
- :है
- $यूपी
- 1
- 20 साल
- 2018
- 7
- a
- क्षमता
- About
- अनुसार
- सही
- सक्रियण
- अभिनेताओं
- जोड़ा
- को संबोधित
- एजेंसियों
- आंदोलन
- AI
- एआई प्रशिक्षण
- गठबंधन
- सब
- की अनुमति देता है
- अकेला
- पहले ही
- हमेशा
- अमेरिकन
- विश्लेषिकी
- और
- किसी
- Apple
- हैं
- बहस
- तर्क
- तर्क
- लेख
- कृत्रिम
- कृत्रिम बुद्धिमत्ता
- कलाकार
- AS
- At
- उपलब्ध
- बुरा
- आधारित
- मूल रूप से
- BE
- हो जाता है
- मानना
- का मानना है कि
- लाभदायक
- BEST
- बड़ा
- बड़ा डेटा
- बड़ी तकनीक
- लाखपति
- बम
- जन्म
- इमारत
- बनाता है
- by
- बुलाया
- बुला
- कैमरा
- कर सकते हैं
- नही सकता
- क्षमताओं
- मामला
- अधिकतम सीमा
- केंद्रीकृत
- कुछ
- ChatGPT
- आह्वान किया
- कक्षा
- स्पष्ट रूप से
- बंद
- सीएनबीसी
- सह-संस्थापक
- संयुक्त
- समुदाय
- कंपनी
- पूरी तरह से
- कंप्यूटर
- कंप्यूटिंग
- संगणन शक्ति
- चिंताओं
- स्थितियां
- संघर्ष
- माना
- सहयोग
- मूल
- निगम
- सका
- बनाया
- बनाना
- निर्माण
- रचनाकारों
- अपरिष्कृत
- कच्चा तेल
- खतरा
- खतरों
- तिथि
- सौदा
- मौत
- बहस
- समर्पित
- वर्णित
- को नष्ट
- विकसित करना
- विकासशील
- विकास
- कठिनाई
- डिजीटल
- विनाशकारी
- दुष्प्रचार
- नीचे
- नकारात्मक पक्ष यह है
- नाटकीय रूप से
- पृथ्वी
- आसान
- भी
- एलोन
- एलोन मस्क
- सक्षम
- सुनिश्चित
- पूरी तरह से
- युग
- विशेष रूप से
- अनिवार्य
- ईथर (ईटीएच)
- और भी
- कभी
- प्रत्येक
- हर कोई
- सब कुछ
- मांग
- ठीक ठीक
- अनन्य रूप से
- अस्तित्व
- उम्मीद
- विशेषज्ञों
- चरम सीमाओं
- विफल रहता है
- परिवार
- दूर
- फार्म
- भय
- खेत
- वित्तीय
- के लिए
- ताकतों
- पूर्व
- बुनियाद
- से
- गैरी
- सामान्य जानकारी
- सामान्य बुद्धि
- सामान्य उद्देश्य
- उत्पन्न करता है
- पीढ़ी
- लक्ष्यों
- अच्छा
- गूगल
- सरकार
- GPU
- अधिक से अधिक
- हाथ
- हानिकारक
- है
- धारित
- हेनरी
- उच्चतर
- गरम
- कैसे
- एचटीएमएल
- http
- HTTPS
- मानव
- मानवता
- मनुष्य
- i
- विचार
- की छवि
- छवि निर्माण
- में सुधार
- उन्नत
- in
- सहित
- बढ़ना
- व्यक्तियों
- प्रभाव
- प्रभावित
- नवोन्मेष
- इंस्टाग्राम
- संस्थान
- संस्थानों
- एकीकरण
- बुद्धि
- अंतरराष्ट्रीय स्तर पर
- मुद्दों
- IT
- आईटी इस
- Instagram पर
- जानने वाला
- भाषा
- बड़ा
- ताज़ा
- नेतृत्व
- प्रमुख
- सीख रहा हूँ
- छोड़ने
- जीवन
- पसंद
- सीमित
- LINK
- थोड़ा
- दिग्गज
- मशीन
- यंत्र अधिगम
- पत्रिका
- कामयाब
- बहुत
- मार्कस
- उपायों
- मीडिया
- मिलना
- सदस्य
- सैन्य
- लाखों
- कम से कम
- आदर्श
- मॉडल
- रोक
- अधिक
- अधिकांश
- कस्तूरी
- तंत्रिका
- नया
- नाभिकीय
- परमाणु हथियार
- उद्देश्य
- of
- तेल
- on
- खुला
- खुला स्रोत
- उद्घाटन
- संगठनों
- अन्य
- अपना
- स्वर्ग
- अतीत
- पीडीएफ
- स्टाफ़
- फोटोशॉप
- PHP
- अग्रणी
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- बिन्दु
- पुलिस
- बन गया है
- संभावित
- बिजली
- शक्तिशाली
- वर्तमान
- पिछला
- पहले से
- मुसीबत
- उत्पादन
- एस्ट्रो मॉल
- उचित
- का प्रस्ताव
- संभावना
- सार्वजनिक रूप से
- उठाया
- पंक्ति
- तेजी
- बल्कि
- RE
- पढ़ना
- कारण
- हाल
- हाल ही में
- संदर्भित करता है
- परिष्कृत
- विनियमित
- विनियमन
- रिपोर्ट
- अनुसंधान
- शोधकर्ता
- संसाधन
- जोखिम
- जोखिम
- s
- सुरक्षा
- कहा
- कहते हैं
- स्केल
- स्केलिंग
- वैज्ञानिक
- सचिव
- चयनात्मक
- कई
- कुछ ही समय
- चाहिए
- दिखाया
- शट डाउन
- पर हस्ताक्षर किए
- एक
- गगनचुंबी इमारत
- स्मार्ट
- सोशल मीडिया
- सॉफ्टवेयर
- सुलझाने
- कुछ
- परिष्कृत
- विशेषीकृत
- विशेष रूप से
- खर्च
- मानकों
- स्टार्टअप
- राज्य
- स्टीव
- स्टीव वॉज़निक
- ऐसा
- धूप
- सुपर
- प्रणाली
- लक्ष्य
- तकनीक
- तकनीक दिग्गज
- टेक्नोलॉजीज
- टेक्नोलॉजी
- कि
- RSI
- राज्य
- दुनिया
- इन
- बात
- धमकी
- यहाँ
- पहर
- टाइम पत्रिका
- सेवा मेरे
- ऊपर का
- ट्रैक
- ट्रैकिंग
- पारंपरिक रूप से
- प्रशिक्षण
- इलाज
- <strong>उद्देश्य</strong>
- tweets
- प्रकार
- हमें
- के अंतर्गत
- उपयोग
- संस्करण
- जागना
- युद्ध
- चेतावनी
- मार्ग..
- हथियार
- क्या
- कौन कौन से
- कौन
- फिराना
- जंगली
- खिड़कियां
- साथ में
- बिना
- विश्व
- होगा
- साल
- पैदावार
- जेफिरनेट