এআই সিস্টেমের ঝুঁকি কিভাবে মূল্যায়ন করতে হয় তা জানুন আমাজন ওয়েব সার্ভিসেস

কৃত্রিম বুদ্ধিমত্তা (AI) একটি দ্রুত বিকশিত ক্ষেত্র যা সমাজের অনেক দিককে উন্নত এবং রূপান্তর করার সম্ভাবনা রয়েছে। 2023 সালে, শক্তিশালী ফাউন্ডেশন মডেলের (FMs) বিকাশ এবং জেনারেটিভ AI ক্ষমতার অগ্রগতির ফলে AI প্রযুক্তি গ্রহণের গতি আরও ত্বরান্বিত হয়েছে।

অ্যামাজনে, আমরা একাধিক জেনারেটিভ এআই পরিষেবা চালু করেছি, যেমন আমাজন বেডরক এবং আমাজন কোড হুইস্পার, এবং এর মাধ্যমে উপলব্ধ অত্যন্ত সক্ষম জেনারেটিভ মডেলের একটি পরিসীমা তৈরি করেছে আমাজন সেজমেকার জাম্পস্টার্ট. উন্নত সৃজনশীলতা, ব্যক্তিগতকৃত এবং গতিশীল বিষয়বস্তু তৈরি এবং উদ্ভাবনী নকশা সহ জেনারেটিভ এআই-এর উদীয়মান ক্ষমতাগুলি আনলক করতে আমাদের গ্রাহকদের সহায়তা করার জন্য এই পরিষেবাগুলি ডিজাইন করা হয়েছে। এছাড়াও তারা এআই অনুশীলনকারীদেরকে বিশ্বকে বোঝাতে সক্ষম করতে পারে যা আগে কখনো হয়নি—ভাষা বাধা, জলবায়ু পরিবর্তন, বৈজ্ঞানিক আবিষ্কারকে ত্বরান্বিত করা এবং আরও অনেক কিছুর সমাধান করা।

জেনারেটিভ এআই-এর পূর্ণ সম্ভাবনা উপলব্ধি করার জন্য, যাইহোক, যেকোনো সম্ভাব্য ঝুঁকির উপর সতর্কতার সাথে প্রতিফলন করা গুরুত্বপূর্ণ। প্রথমত এবং সর্বাগ্রে, এটি দায়িত্বশীল এবং নিরাপদ উন্নয়ন এবং স্থাপনার প্রচার করে এবং সম্ভাব্য প্রভাব মোকাবেলায় সক্রিয় পদক্ষেপ গ্রহণে উৎসাহিত করে এআই সিস্টেমের স্টেকহোল্ডারদের উপকার করে। ফলস্বরূপ, ঝুঁকি মূল্যায়ন ও পরিচালনার জন্য প্রক্রিয়া স্থাপন করা এআই অনুশীলনকারীদের বিবেচনা করার জন্য একটি গুরুত্বপূর্ণ প্রক্রিয়া এবং এটি অনেক উদীয়মান এআই শিল্পের মানগুলির একটি মূল উপাদান হয়ে উঠেছে (উদাহরণস্বরূপ, আইএসও 42001, আইএসও 23894, এবং NIST RMF) এবং আইন (যেমন ইইউ এআই আইন).

এই পোস্টে, আমরা আলোচনা করব কিভাবে আপনার AI সিস্টেমের সম্ভাব্য ঝুঁকি মূল্যায়ন করা যায়।

ঝুঁকির বিভিন্ন স্তর কি কি?

যদিও একটি পৃথক মেশিন লার্নিং (এমএল) মডেল এবং বিচ্ছিন্নতার সাথে সম্পর্কিত ঝুঁকিগুলি দেখা শুরু করা সহজ হতে পারে, তবে একটি সম্পূর্ণ AI সিস্টেমের অংশ হিসাবে এই জাতীয় মডেলের নির্দিষ্ট প্রয়োগ এবং সংশ্লিষ্ট ব্যবহারের ক্ষেত্রে বিশদ বিবেচনা করা গুরুত্বপূর্ণ। . প্রকৃতপক্ষে, একটি সাধারণ AI সিস্টেম সম্ভবত একাধিক ভিন্ন এমএল মডেলের উপর ভিত্তি করে যা একসাথে কাজ করে এবং একটি সংস্থা একাধিক ভিন্ন AI সিস্টেম তৈরি করতে চাইছে। ফলস্বরূপ, প্রতিটি ব্যবহারের ক্ষেত্রে এবং বিভিন্ন স্তরে, যেমন মডেল ঝুঁকি, এআই সিস্টেম ঝুঁকি এবং এন্টারপ্রাইজ ঝুঁকির জন্য ঝুঁকিগুলি মূল্যায়ন করা যেতে পারে।

এন্টারপ্রাইজ ঝুঁকি আর্থিক, কর্মক্ষম এবং কৌশলগত ঝুঁকি সহ একটি সংস্থার সম্মুখীন হতে পারে এমন ঝুঁকির বিস্তৃত বর্ণালীকে অন্তর্ভুক্ত করে। এআই সিস্টেমের ঝুঁকি এআই সিস্টেমের বাস্তবায়ন এবং পরিচালনার সাথে সম্পর্কিত প্রভাবের উপর দৃষ্টি নিবদ্ধ করে, যেখানে এমএল মডেল ঝুঁকি বিশেষত এমএল মডেলের অন্তর্নিহিত দুর্বলতা এবং অনিশ্চয়তার সাথে সম্পর্কিত।

এই পোস্টে, আমরা প্রাথমিকভাবে AI সিস্টেমের ঝুঁকির উপর ফোকাস করি। যাইহোক, এটি লক্ষ্য করা গুরুত্বপূর্ণ যে একটি সংস্থার মধ্যে ঝুঁকি ব্যবস্থাপনার সমস্ত বিভিন্ন স্তর বিবেচনা করা উচিত এবং সারিবদ্ধ করা উচিত।

এআই সিস্টেম ঝুঁকি কিভাবে সংজ্ঞায়িত করা হয়?

একটি এআই সিস্টেমের প্রেক্ষাপটে ঝুঁকি ব্যবস্থাপনা অনিশ্চয়তা বা সম্ভাব্য নেতিবাচক প্রভাবের প্রভাব কমানোর একটি পথ হতে পারে, পাশাপাশি ইতিবাচক প্রভাবগুলি সর্বাধিক করার সুযোগ প্রদান করে। ঝুঁকি নিজেই একটি সম্ভাব্য ক্ষতি নয় কিন্তু উদ্দেশ্যের উপর অনিশ্চয়তার প্রভাব। অনুযায়ী NIST রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক (NIST RMF), ঝুঁকি অনুমান করা যেতে পারে একটি ইভেন্টের সম্ভাব্যতার একটি গুণগত পরিমাপ হিসাবে যা সংশ্লিষ্ট ইভেন্টের পরিণতির মাত্রার দ্বারা নির্ধারিত সময়ে ঘটতে পারে।

ঝুঁকির দুটি দিক রয়েছে: সহজাত ঝুঁকি এবং অবশিষ্ট ঝুঁকি। সহজাত ঝুঁকি প্রশমিত বা নিয়ন্ত্রণের অনুপস্থিতিতে এআই সিস্টেমের ঝুঁকির পরিমাণকে প্রতিনিধিত্ব করে। অবশিষ্ট ঝুঁকি প্রশমন কৌশলগুলিতে ফ্যাক্টরিংয়ের পরে অবশিষ্ট ঝুঁকিগুলিকে ক্যাপচার করে।

সর্বদা মনে রাখবেন যে ঝুঁকি মূল্যায়ন একটি মানব-কেন্দ্রিক কার্যকলাপ যার জন্য সংগঠন-ব্যাপী প্রচেষ্টা প্রয়োজন; এই প্রচেষ্টাগুলি সমস্ত প্রাসঙ্গিক স্টেকহোল্ডারদের মূল্যায়ন প্রক্রিয়ার (যেমন পণ্য, প্রকৌশল, বিজ্ঞান, বিক্রয় এবং সুরক্ষা দল) অন্তর্ভুক্ত করা নিশ্চিত করা থেকে শুরু করে সামাজিক দৃষ্টিভঙ্গি এবং নিয়মগুলি কীভাবে নির্দিষ্ট ইভেন্টের অনুভূত সম্ভাবনা এবং পরিণতিগুলিকে প্রভাবিত করে তা মূল্যায়ন করা।

কেন আপনার সংস্থার ঝুঁকি মূল্যায়ন সম্পর্কে যত্ন নেওয়া উচিত?

এআই সিস্টেমের জন্য ঝুঁকি ব্যবস্থাপনা কাঠামো স্থাপন করা এআই সিস্টেমের নিরাপদ এবং দায়িত্বশীল নকশা, উন্নয়ন এবং পরিচালনার প্রচার করে সমাজকে ব্যাপকভাবে উপকৃত করতে পারে। ঝুঁকি ব্যবস্থাপনা কাঠামো নিম্নলিখিত মাধ্যমে সংস্থাগুলিকে উপকৃত করতে পারে:

• উন্নত সিদ্ধান্ত গ্রহণ - এআই সিস্টেমগুলির সাথে সম্পর্কিত ঝুঁকিগুলি বোঝার মাধ্যমে, সংস্থাগুলি কীভাবে সেই ঝুঁকিগুলি হ্রাস করা যায় এবং এআই সিস্টেমগুলিকে নিরাপদ এবং দায়িত্বশীল পদ্ধতিতে ব্যবহার করা যায় সে সম্পর্কে আরও ভাল সিদ্ধান্ত নিতে পারে
• বর্ধিত সম্মতি পরিকল্পনা - একটি ঝুঁকি মূল্যায়ন কাঠামো সংস্থাগুলিকে প্রাসঙ্গিক আইন ও প্রবিধানে ঝুঁকি মূল্যায়নের প্রয়োজনীয়তার জন্য প্রস্তুত করতে সাহায্য করতে পারে
• বিশ্বাস স্থাপন - প্রদর্শন করে যে তারা AI সিস্টেমের ঝুঁকি কমানোর জন্য পদক্ষেপ নিচ্ছে, সংস্থাগুলি তাদের গ্রাহকদের এবং স্টেকহোল্ডারদের দেখাতে পারে যে তারা নিরাপদ এবং দায়িত্বশীল পদ্ধতিতে AI ব্যবহার করতে প্রতিশ্রুতিবদ্ধ

ঝুঁকি মূল্যায়ন কিভাবে?

প্রথম পদক্ষেপ হিসাবে, একটি সংস্থার AI ব্যবহারের ক্ষেত্রে বর্ণনা করা বিবেচনা করা উচিত যা মূল্যায়ন করা এবং সমস্ত প্রাসঙ্গিক স্টেকহোল্ডারদের চিহ্নিত করা প্রয়োজন। একটি ব্যবহারের ক্ষেত্রে একটি নির্দিষ্ট দৃশ্য বা পরিস্থিতি যা বর্ণনা করে যে কীভাবে ব্যবহারকারীরা একটি নির্দিষ্ট লক্ষ্য অর্জনের জন্য একটি এআই সিস্টেমের সাথে যোগাযোগ করে। একটি ব্যবহারের ক্ষেত্রে বিবরণ তৈরি করার সময়, ব্যবসায়িক সমস্যাটি সমাধান করা হয়েছে তা উল্লেখ করা, জড়িত স্টেকহোল্ডারদের তালিকা করা, ওয়ার্কফ্লোকে চিহ্নিত করা এবং সিস্টেমের মূল ইনপুট এবং আউটপুট সম্পর্কিত বিশদ প্রদান করা সহায়ক হতে পারে।

যখন স্টেকহোল্ডারদের কথা আসে, তখন কিছু উপেক্ষা করা সহজ। নিম্নলিখিত চিত্রটি AI স্টেকহোল্ডারদের ভূমিকা ম্যাপ করার জন্য একটি ভাল সূচনা পয়েন্ট।

AI সিস্টেমের ঝুঁকি মূল্যায়নের একটি গুরুত্বপূর্ণ পরবর্তী ধাপ হল ব্যবহারের ক্ষেত্রে সম্পর্কিত সম্ভাব্য ক্ষতিকারক ঘটনা চিহ্নিত করা। এই ঘটনাগুলি বিবেচনা করার ক্ষেত্রে, উদাহরণ স্বরূপ, ন্যায্যতা এবং দৃঢ়তার মতো দায়ী এআই-এর বিভিন্ন মাত্রার প্রতিফলন করা সহায়ক হতে পারে। বিভিন্ন স্টেকহোল্ডার বিভিন্ন মাত্রায় বিভিন্ন মাত্রায় প্রভাবিত হতে পারে। উদাহরণ স্বরূপ, একটি এন্ড-ব্যবহারকারীর জন্য একটি কম দৃঢ়তার ঝুঁকি একটি AI সিস্টেমের ছোটখাটো বাধা প্রদর্শনের ফলাফল হতে পারে, যেখানে একটি কম ন্যায্যতার ঝুঁকি একটি AI সিস্টেমের কারণে হতে পারে যা বিভিন্ন জনসংখ্যার গোষ্ঠীর জন্য নগণ্যভাবে ভিন্ন আউটপুট তৈরি করে।

একটি ইভেন্টের ঝুঁকি অনুমান করার জন্য, আপনি ঘটনার সম্ভাব্যতা এবং ফলাফলের মাত্রা পরিমাপ করতে একটি তীব্রতা স্কেলের সংমিশ্রণে একটি সম্ভাবনা স্কেল ব্যবহার করতে পারেন। এই স্কেলগুলি বিকাশ করার সময় একটি সহায়ক সূচনা বিন্দু হতে পারে NIST RMF, যা খুব কম থেকে খুব উচ্চ ঝুঁকি বা আধা-পরিমাণগত মূল্যায়ন নীতিগুলি, যেমন স্কেল (যেমন 1-10), বিন, বা অন্যথায় গুণগত অসংখ্যাসূচক বিভাগগুলি ব্যবহার করার পরামর্শ দেয়। প্রতিনিধি সংখ্যা। আপনি সমস্ত প্রাসঙ্গিক মাত্রার জন্য সম্ভাব্যতা এবং তীব্রতা স্কেল সংজ্ঞায়িত করার পরে, আপনি প্রতিটি প্রাসঙ্গিক মাত্রা বরাবর স্টেকহোল্ডারদের সামগ্রিক ঝুঁকি পরিমাপ করতে একটি ঝুঁকি ম্যাট্রিক্স স্কিম ব্যবহার করতে পারেন। নিম্নলিখিত চিত্র একটি উদাহরণ ঝুঁকি ম্যাট্রিক্স দেখায়.

এই ঝুঁকি ম্যাট্রিক্স ব্যবহার করে, আমরা কম তীব্রতা এবং খুব কম ঝুঁকির ঘটনা ঘটার বিরল সম্ভাবনা সহ একটি ঘটনা বিবেচনা করতে পারি। মনে রাখবেন যে প্রাথমিক মূল্যায়ন হবে অন্তর্নিহিত ঝুঁকির একটি অনুমান, এবং ঝুঁকি কমানোর কৌশলগুলি ঝুঁকির মাত্রা আরও কমাতে সাহায্য করতে পারে। তারপরে প্রতি ইভেন্টে অবশিষ্ট অবশিষ্ট ঝুঁকির জন্য একটি রেটিং তৈরি করতে প্রক্রিয়াটি পুনরাবৃত্তি করা যেতে পারে। যদি একই মাত্রায় একাধিক ইভেন্ট চিহ্নিত করা হয়, তাহলে চূড়ান্ত মূল্যায়নের সারাংশ তৈরি করতে সবার মধ্যে সর্বোচ্চ ঝুঁকির স্তর বেছে নেওয়া সহায়ক হতে পারে।

চূড়ান্ত মূল্যায়নের সারাংশ ব্যবহার করে, সংস্থাগুলিকে তাদের AI সিস্টেমের জন্য কোন ঝুঁকির মাত্রা গ্রহণযোগ্য তা সংজ্ঞায়িত করতে হবে এবং সেইসাথে প্রাসঙ্গিক প্রবিধান এবং নীতিগুলি বিবেচনা করতে হবে।

AWS প্রতিশ্রুতি

সঙ্গে ব্যস্ততার মাধ্যমে হোয়াইট হাউস এবং UN, অন্যদের মধ্যে, আমরা AI এর দায়িত্বশীল এবং নিরাপদ ব্যবহারকে এগিয়ে নিতে আমাদের জ্ঞান এবং দক্ষতা ভাগ করে নিতে প্রতিশ্রুতিবদ্ধ। এই লাইনগুলি বরাবর, অ্যামাজনের অ্যাডাম সেলিপস্কি সম্প্রতি এডব্লিউএস-এর প্রতিনিধিত্ব করেছেন এআই সেফটি সামিট কৃত্রিম বুদ্ধিমত্তার দায়িত্বশীল অগ্রগতিতে সহযোগিতা করার জন্য আমাদের উত্সর্গকে আরও প্রদর্শন করে উপস্থিত রাষ্ট্রপ্রধান এবং শিল্প নেতাদের সাথে।

উপসংহার

AI যতই অগ্রসর হচ্ছে, ততই ঝুঁকি মূল্যায়ন ক্রমশ গুরুত্বপূর্ণ হয়ে উঠছে এবং দায়িত্বশীলভাবে AI তৈরি ও স্থাপন করতে চাওয়া সংস্থাগুলির জন্য দরকারী। একটি ঝুঁকি মূল্যায়ন কাঠামো এবং ঝুঁকি প্রশমন পরিকল্পনা প্রতিষ্ঠা করে, সংস্থাগুলি সম্ভাব্য এআই-সম্পর্কিত ঘটনার ঝুঁকি কমাতে পারে এবং তাদের গ্রাহকদের সাথে আস্থা অর্জন করতে পারে, সেইসাথে উন্নত নির্ভরযোগ্যতা, বিভিন্ন জনসংখ্যার জন্য উন্নত ন্যায্যতা এবং আরও অনেক কিছুর মতো সুবিধা অর্জন করতে পারে।

এগিয়ে যান এবং আপনার প্রতিষ্ঠানে একটি ঝুঁকি মূল্যায়ন কাঠামো তৈরির যাত্রা শুরু করুন এবং মন্তব্যে আপনার চিন্তাভাবনা শেয়ার করুন।

এছাড়াও অ্যামাজন সায়েন্সে প্রকাশিত জেনারেটিভ এআই ঝুঁকির একটি ওভারভিউ দেখুন: জেনারেটিভ যুগে দায়ী এআই, এবং AWS পরিষেবাগুলির পরিসর অন্বেষণ করুন যা আপনার ঝুঁকি মূল্যায়ন এবং প্রশমন যাত্রায় আপনাকে সহায়তা করতে পারে: আমাজন সেজমেকার স্পষ্ট করুন, অ্যামাজন সেজমেকার মডেল মনিটর, AWS CloudTrail, পাশাপাশি মডেল গভর্নেন্স ফ্রেমওয়ার্ক.

---

লেখক সম্পর্কে

মিয়া সি. মায়ার AWS মেশিন লার্নিং ইউনিভার্সিটির একজন ফলিত বিজ্ঞানী এবং এমএল শিক্ষাবিদ; যেখানে তিনি মেশিন লার্নিং এবং এআই সিস্টেমের নিরাপত্তা, ব্যাখ্যাযোগ্যতা এবং ন্যায্যতা নিয়ে গবেষণা করেন এবং শেখান। তার কর্মজীবন জুড়ে, মিয়া বেশ কয়েকটি বিশ্ববিদ্যালয়ের আউটরিচ প্রোগ্রাম প্রতিষ্ঠা করেন, অতিথি লেকচারার এবং মূল বক্তা হিসাবে কাজ করেন এবং অসংখ্য বড় শিক্ষা সম্মেলনে উপস্থাপনা করেন। তিনি অভ্যন্তরীণ দল এবং AWS গ্রাহকদের তাদের দায়িত্বশীল AI যাত্রা শুরু করতে সহায়তা করেন।

ডেনিস ভি বাতালভ একজন 17-বছরের অ্যামাজন অভিজ্ঞ এবং মেশিন লার্নিংয়ে পিএইচডি করেছেন, ডেনিস বইয়ের ভিতরে অনুসন্ধান, অ্যামাজন মোবাইল অ্যাপস এবং কিন্ডল ডাইরেক্ট পাবলিশিংয়ের মতো উত্তেজনাপূর্ণ প্রকল্পগুলিতে কাজ করেছেন। 2013 সাল থেকে তিনি AWS গ্রাহকদেরকে সমাধান আর্কিটেক্ট হিসেবে AI/ML প্রযুক্তি গ্রহণ করতে সাহায্য করেছেন। বর্তমানে, ডেনিস বিশ্বব্যাপী AWS ML স্পেশালিস্ট সলিউশন আর্কিটেক্টদের কাজের জন্য দায়ী AI/ML-এর বিশ্বব্যাপী টেক লিডার। ডেনিস একজন ঘন ঘন পাবলিক স্পিকার, আপনি তাকে টুইটারে অনুসরণ করতে পারেন @dbatalov।

ডাঃ সারা লিউ AWS দায়িত্বশীল এআই দলের একজন সিনিয়র টেকনিক্যাল প্রোগ্রাম ম্যানেজার। তিনি AWS AI পরিষেবা জুড়ে দায়িত্বশীল AI বার বাড়াতে বিজ্ঞানীদের একটি দল, ডেটাসেট লিডস, ML ইঞ্জিনিয়ার, গবেষকদের পাশাপাশি অন্যান্য ক্রস-ফাংশনাল টিমের সাথে কাজ করেন। তার বর্তমান প্রকল্পগুলির মধ্যে রয়েছে AI পরিষেবা কার্ড তৈরি করা, দায়িত্বশীল AI-এর জন্য ঝুঁকি মূল্যায়ন করা, উচ্চ-মানের মূল্যায়ন ডেটাসেট তৈরি করা এবং মানসম্পন্ন প্রোগ্রামগুলি বাস্তবায়ন করা। এছাড়াও তিনি অভ্যন্তরীণ দল এবং গ্রাহকদের এআই শিল্পের ক্রমবর্ধমান মান পূরণে সহায়তা করেন।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://aws.amazon.com/blogs/machine-learning/learn-how-to-assess-risk-of-ai-systems/