AI এর সাথে খুব বেশি মিথস্ক্রিয়া অনিদ্রার কারণ: অধ্যয়ন

ফাইন্যান্সে AI-এর ব্যবহারে অগণিত অ্যাপ্লিকেশন রয়েছে, যা জালিয়াতি সনাক্তকরণ, রোবো-পরামর্শ, অ্যালগরিদমিক স্টক ট্রেডিং এবং ব্যক্তিগতকৃত চ্যাটবটের মতো অসংখ্য সুবিধা প্রদান করে। 

তবে, একটি সাম্প্রতিক অ্যাকাউন্টেন্সি এবং অডিটিং ফার্ম ডেলয়েটের কাগজ, অর্থায়নে AI ব্যবহার করার সাথে সম্পর্কিত সম্ভাব্য অনিচ্ছাকৃত ফলাফল এবং নৈতিক ত্রুটিগুলি হাইলাইট করে। যেহেতু AI সিস্টেমগুলি তাদের প্রশিক্ষিত ডেটার উপর ব্যাপকভাবে নির্ভর করে, অসম্পূর্ণ বা পক্ষপাতদুষ্ট ডেটাসেটগুলি তাদের বস্তুনিষ্ঠতাকে সীমিত করতে পারে এবং বৈষম্যমূলক অনুশীলনগুলিকে স্থায়ী করতে পারে।

ফিনান্সে AI এর অ্যাকিলিস হিল

Deloitte দ্বারা চিহ্নিত মূল সমস্যাগুলির মধ্যে একটি হল AI সিস্টেমে প্রদত্ত ইনপুট ডেটার পক্ষপাত। AI মডেলগুলি কেবলমাত্র তাদের খাওয়ানো ডেটার মতোই ভাল।

যদি ইনপুট ডেটা থাকে লিঙ্গ, জাতি, আদর্শ বা অন্যান্য কারণের সাথে সম্পর্কিত পক্ষপাত, বস্তুনিষ্ঠ সিদ্ধান্ত নেওয়ার AI এর ক্ষমতা আপস করা হয়। উপরন্তু, অসম্পূর্ণ বা অপ্রতিনিধিত্বহীন ডেটাসেট AI এর সঠিকভাবে ফলাফল বিশ্লেষণ এবং ভবিষ্যদ্বাণী করার ক্ষমতাকে বাধা দেয়, যা ন্যায্যতা এবং অন্তর্ভুক্তি সম্পর্কে উদ্বেগ বাড়ায়।

পক্ষপাতের আরেকটি উল্লেখযোগ্য উৎস উন্নয়ন প্রক্রিয়ার মধ্যেই নিহিত। যদি উন্নয়ন দলে বৈচিত্র্যের অভাব থাকে বা অবচেতন পক্ষপাতিত্ব বহন করে, তবে সেই পক্ষপাতগুলি অসাবধানতাবশত এআই মডেলের মধ্যে গেঁথে যেতে পারে।

তদুপরি, এআই মডেলগুলির অনির্দেশ্যতা একটি চ্যালেঞ্জ তৈরি করে, কারণ বিকশিত বাজারের অবস্থার প্রতি তাদের প্রতিক্রিয়া অনুমান করা কঠিন হতে পারে, যা সম্ভাব্যভাবে একটি পোর্টফোলিও এবং ম্যাক্রো স্তরে অনিচ্ছাকৃত ফলাফলের দিকে পরিচালিত করে।

ক্রমাগত শিক্ষা এবং অপ্রত্যাশিত আচরণ

Deloitte এর মতে কাগজ, AI সিস্টেম স্ব-উন্নতি করতে পারে এবং নতুন ডেটা থেকে শিখতে পারে। যদিও এই বৈশিষ্ট্যটি প্রতিশ্রুতিশীল, এটি সময়ের সাথে সাথে এআই-এর অনাকাঙ্ক্ষিত আচরণ অর্জনের ঝুঁকির পরিচয় দেয়, যা সম্ভাব্য বৈষম্যের দিকে পরিচালিত করে।

উদাহরণস্বরূপ, একটি অনলাইন ঋণ প্ল্যাটফর্ম অজ্ঞাতসারে জাতিগত সংখ্যালঘু বা মহিলাদের কাছ থেকে ঋণের আবেদনগুলিকে অন্যান্য গোষ্ঠীর তুলনায় ঘন ঘন প্রত্যাখ্যান করতে পারে। এই ধরনের ফলাফল আর্থিক প্রতিষ্ঠান, ব্যক্তি এবং মেশিনের মধ্যে আস্থা নষ্ট করে, সামাজিক সমস্যাগুলিকে বড় করে।

এর অস্বচ্ছতা এআই সমাধান জটিলতার আরেকটি স্তর যোগ করে। জটিল অ্যালগরিদমের উপর ভিত্তি করে সিদ্ধান্তে পৌঁছানোর AI এর ক্ষমতা সুরক্ষার ব্যবস্থা স্থাপন করা বা সেই সিদ্ধান্তগুলির পিছনে যুক্তি ব্যাখ্যা করা চ্যালেঞ্জিং করে তুলতে পারে। 

অ্যালগরিদমগুলি পুঙ্খানুপুঙ্খভাবে পরিদর্শন করার জন্য নিয়ন্ত্রকদের প্রায়শই আরও প্রযুক্তিগত দক্ষতা এবং সংস্থানগুলির প্রয়োজন হয়। যাইহোক, নিয়ন্ত্রকরা ক্রমবর্ধমানভাবে এআই ব্যবহারের ঝুঁকি এবং আর্থিক খাতে অনিচ্ছাকৃত পরিণতিগুলি মোকাবেলার গুরুত্ব স্বীকার করছেন।

একটি Deloitte পেপার অর্থের ক্ষেত্রে AI এর সম্ভাব্য নেতিবাচক পরিণতিগুলি অন্বেষণ করেছে৷

পক্ষপাত মোকাবেলা করা এবং সহযোগিতা প্রচার করা

যদিও AI গভীর সুবিধা প্রদান করে, পক্ষপাত দূর করা এবং স্টেকহোল্ডারদের সহযোগিতার প্রচার করা অত্যন্ত গুরুত্বপূর্ণ। আর্থিক প্রতিষ্ঠান, নিয়ন্ত্রক এবং উন্নয়ন দলগুলিকে অবশ্যই AI সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলিতে পক্ষপাতের উত্সগুলি সনাক্ত করতে এবং প্রশমিত করতে একসাথে কাজ করতে হবে। ন্যায্যতা, অন্তর্ভুক্তি এবং স্বচ্ছতা নিশ্চিত করার জন্য সক্রিয় পদক্ষেপের প্রয়োজন।

অনুসারে রুম্মান চৌধুরী, পূর্বে টুইটারের মেশিন লার্নিং নীতিশাস্ত্র, স্বচ্ছতা এবং জবাবদিহিতার প্রধান, ঋণ প্রদানের ক্ষেত্রটি উদাহরণ দেয় যে কীভাবে প্রান্তিক সম্প্রদায়ের বিরুদ্ধে পক্ষপাতিত্ব AI সিস্টেমে উত্থান হতে পারে।

আমস্টারডামের মানি 20/20-এর একটি প্যানেলে চৌধুরী বলেন, "ঋণ দেওয়ার ক্ষেত্রে অ্যালগরিদমিক বৈষম্য আসলে খুবই বাস্তব। 

"শিকাগোর আক্ষরিক অর্থে এই [ঋণ] প্রাথমিকভাবে কালো প্রতিবেশীদের অস্বীকার করার ইতিহাস ছিল।"

কালো প্রতিবেশীদের ঋণ অস্বীকার করার অনুশীলনকে 1930-এর শিকাগোর সাথে তুলনা করা হয়েছে, এবং তাদের জাতিগত গঠনের উপর ভিত্তি করে জেলাগুলিকে "রেডলাইন" করার ঐতিহাসিক প্রক্রিয়া।

ফিনান্সে এআই

আর্থিক পরিষেবাগুলিতে AI-এর ভূমিকা প্রসারিত হতে থাকায়, ডেটাতে পক্ষপাতের বিষয়টি আরও জটিল হয়ে ওঠে। নিয়ন্ত্রকদের ক্রমবর্ধমান চাহিদা স্বচ্ছতা এবং এআই অ্যালগরিদমের অন্তর্নিহিত প্রক্রিয়াগুলির একটি পুঙ্খানুপুঙ্খ বোঝাপড়া। 

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। মোটরগাড়ি / ইভি, কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• ব্লকঅফসেট। পরিবেশগত অফসেট মালিকানার আধুনিকীকরণ। এখানে প্রবেশ করুন.
• উত্স: https://metanews.com/too-much-interaction-with-ai-causes-insomnia-study/