क्या आप AI की सुरक्षा के लिए AI पर भरोसा कर सकते हैं?

अब जब एआई आईटी आर्किटेक्चर की मुख्यधारा में जा रहा है, यह सुनिश्चित करने के लिए दौड़ जारी है कि उद्यम के नियंत्रण से परे डेटा के स्रोतों के संपर्क में आने पर यह सुरक्षित रहे। डेटा सेंटर से लेकर क्लाउड से लेकर किनारे तक, एआई को कई तरह की कमजोरियों और तेजी से जटिल खतरों से जूझना होगा, जिनमें से लगभग सभी एआई द्वारा ही संचालित होंगे।

इस बीच, दांव तेजी से ऊंचे होंगे, यह देखते हुए कि एआई हमारे स्वास्थ्य सेवा, परिवहन, वित्त और अन्य क्षेत्रों की रीढ़ प्रदान करने की संभावना है जो हमारे जीवन के आधुनिक तरीके का समर्थन करने के लिए महत्वपूर्ण हैं। इसलिए इससे पहले कि संगठन एआई को इन वितरित आर्किटेक्चर में बहुत गहराई से धकेलना शुरू करें, यह सुनिश्चित करने के लिए एक पल के लिए रुकने में मदद मिल सकती है कि इसे पर्याप्त रूप से संरक्षित किया जा सकता है।

विश्वास और पारदर्शिता

वेंचरबीट के साथ हाल ही में एक साक्षात्कार में, आईबीएम के मुख्य एआई अधिकारी सेठ डोब्रिन उस भवन का उल्लेख किया संपूर्ण AI डेटा श्रृंखला में विश्वास और पारदर्शिता महत्वपूर्ण है अगर उद्यम अपने निवेश से अधिकतम मूल्य प्राप्त करने की उम्मीद करता है। पारंपरिक आर्किटेक्चर के विपरीत, जो वायरस और मैलवेयर द्वारा समझौता किए जाने पर डेटा को केवल बंद या लूटा जा सकता है, एआई के लिए खतरा बहुत अधिक है क्योंकि इसे एंडपॉइंट से प्राप्त डेटा से खुद को फिर से प्रशिक्षित करना सिखाया जा सकता है।

डोब्रिन ने कहा, "समाप्ति बिंदु डेटा एकत्र करने वाला एक REST API है।" "हमें एआई को जहर से बचाने की जरूरत है। हमें यह सुनिश्चित करना होगा कि एआई एंडपॉइंट्स न केवल प्रदर्शन के लिए बल्कि पूर्वाग्रह के लिए सुरक्षित और निरंतर निगरानी रखें।

ऐसा करने के लिए, डोब्रिन ने कहा कि आईबीएम स्थापित करने पर काम कर रहा है प्रतिकूल मजबूती वाटसन जैसे प्लेटफॉर्म के सिस्टम स्तर पर। एआई मॉडल को लागू करने से जो अन्य एआई मॉडल से उनकी निर्णय लेने की प्रक्रियाओं की व्याख्या करने के लिए पूछताछ करते हैं, और फिर उन मॉडलों को सही करते हैं यदि वे मानदंडों से विचलित होते हैं, उद्यम आज की तेजी से गति वाली डिजिटल अर्थव्यवस्था की गति से सुरक्षा मुद्रा बनाए रखने में सक्षम होगा। लेकिन इसके लिए सामान्य डेटा प्रतीत होने वाले एआई की प्रतिक्रिया की निगरानी और प्रबंधन के लिए शिकार और नापाक कोड से दूर सोचने में बदलाव की आवश्यकता है।

पहले से ही, कई सरल तरीकों पर रिपोर्ट प्रसारित करना शुरू हो रहा है जिसमें एआई को मूर्ख बनाने के लिए हानिकारक तरीकों से अपने कोड को बदलने के लिए डेटा में हेरफेर किया जा रहा है। जिम डेम्पसे, यूसी बर्कले लॉ स्कूल के लेक्चरर और स्टैनफोर्ड साइबर पॉलिसी सेंटर के एक वरिष्ठ सलाहकार का कहना है कि ऑडियो बनाना संभव है जो एमएल एल्गोरिदम के लिए भाषण जैसा लगता है लेकिन मनुष्यों के लिए नहीं। इमेज रिकग्निशन सिस्टम और डीप न्यूरल नेटवर्क को गड़बड़ी के साथ भटकाया जा सकता है जो मानव आंखों के लिए अगोचर हैं, कभी-कभी केवल एक पिक्सेल को स्थानांतरित करके। इसके अलावा, इन हमलों को तब भी लॉन्च किया जा सकता है, जब अपराधी के पास खुद मॉडल या उसे प्रशिक्षित करने के लिए इस्तेमाल किए गए डेटा तक पहुंच न हो।

रोकें और प्रतिक्रिया दें

इसका मुकाबला करने के लिए, उद्यम को दो बातों पर ध्यान देना चाहिए। पहले कहते हैं डेल टेक्नोलॉजीज ग्लोबल सीटीओ जॉन रोइस, इसे हमलों को रोकने और प्रतिक्रिया देने के लिए अधिक संसाधनों को समर्पित करना चाहिए। अधिकांश संगठन एआई-संचालित घटना सूचना-प्रबंधन सेवाओं या एक प्रबंधित-सुरक्षा सेवा प्रदाता का उपयोग करके खतरों का पता लगाने में माहिर हैं, लेकिन गंभीर उल्लंघन का पर्याप्त शमन प्रदान करने के लिए रोकथाम और प्रतिक्रिया अभी भी बहुत धीमी है।

यह दूसरे परिवर्तन की ओर ले जाता है जिसे उद्यम को लागू करना चाहिए, कहते हैं रैपिड7 के सीईओ कोरी थॉमस: अधिक एआई के साथ रोकथाम और प्रतिक्रिया को सशक्त करें। अधिकांश संगठनों के लिए निगलने के लिए यह एक कठिन गोली है क्योंकि यह अनिवार्य रूप से डेटा वातावरण में बदलाव करने के लिए एआई लेवे देता है। लेकिन थॉमस का कहना है कि ऐसा करने के तरीके हैं जो एआई को सुरक्षा के उन पहलुओं पर कार्य करने की अनुमति देते हैं जो मानव ऑपरेटरों के लिए प्रमुख क्षमताओं को आरक्षित करते हुए संभालने में सबसे अधिक कुशल हैं।

अंत में, यह विश्वास करने के लिए नीचे आता है। एआई अभी कार्यालय में नया बच्चा है, इसलिए इसके पास तिजोरी की चाबी नहीं होनी चाहिए। लेकिन समय के साथ, जैसा कि यह प्रवेश स्तर की सेटिंग में अपनी योग्यता साबित करता है, इसे किसी अन्य कर्मचारी की तरह ही विश्वास अर्जित करना चाहिए। इसका मतलब यह है कि जब वह अच्छा प्रदर्शन करता है तो उसे पुरस्कृत करना, उसे असफल होने पर बेहतर करना सिखाना, और हमेशा यह सुनिश्चित करना कि उसके पास पर्याप्त संसाधन और उचित डेटा है यह सुनिश्चित करने के लिए कि वह सही काम करने और उसे करने का सही तरीका समझता है।

स्रोत: https://venturebeat.com/2022/02/04/can-you-trust-ai-to-protect-ai/