টেক্সট স্বয়ংসম্পূর্ণতা সিস্টেম আমাদের জীবন সহজ করার লক্ষ্য, কিন্তু ঝুঁকি আছে

আপনি যদি সম্প্রতি একটি টেক্সট মেসেজ বা ইমেল লিখে থাকেন, তাহলে সম্ভাবনা আছে AI আপনাকে বিভিন্ন প্রতিশব্দ, বাক্যাংশ বা বাক্য শেষ করার উপায় প্রস্তাব করবে। গুগলের স্মার্ট কম্পোজের মতো এআই-চালিত অটোসাজেশন টুলের উত্থান এন্টারপ্রাইজ যোগাযোগের ডিজিটাল রূপান্তরের সাথে মিলে গেছে, যা এখন বেশিরভাগই অনলাইনে থাকে। এটা আনুমানিক যে সাধারণ কর্মী প্রতিদিন প্রায় 40টি ইমেলের উত্তর দেয় এবং পাঠায় প্রতি সপ্তাহে 200 টির বেশি স্ল্যাক বার্তা।

Adobe-এর সাথে মেসেজিং কাজের দিনের একটি ক্রমবর্ধমান অংশ গ্রাস করার হুমকি দেয় তালে এগোনো কর্মীরা সপ্তাহে 15.5 ঘন্টা ইমেলের উত্তর দিতে যে সময় ব্যয় করে। ধ্রুবক টাস্ক স্যুইচিং হল উত্পাদনশীলতার জন্য একটি মৃত্যুঘটিত, যা অধ্যয়নগুলি নিরবচ্ছিন্ন কাজের সুবিধাগুলি দেখায়। গবেষণা ইউনিভার্সিটি অফ ক্যালিফোর্নিয়া এবং হামবোল্ট ইউনিভার্সিটি থেকে দেখা গেছে যে কর্মীরা প্রতিবার বাধাগ্রস্ত হলে একটি কাজে 23 মিনিট পর্যন্ত হারাতে পারে, আরও দীর্ঘায়িত হচ্ছে কাজের দিন

স্বয়ংক্রিয় পরামর্শ সরঞ্জামগুলি বার্তা-লেখা এবং উত্তর দেওয়ার মাধ্যমে সময় বাঁচানোর প্রতিশ্রুতি দেয়। গুগলের স্মার্ট উত্তর, উদাহরণস্বরূপ, ইমেলগুলির দ্রুত প্রতিক্রিয়াগুলির পরামর্শ দেয় যা সাধারণত টাইপ করতে কয়েক মিনিট সময় নেয়। কিন্তু এই টুলগুলির পিছনের AI-তে ত্রুটি রয়েছে যা পক্ষপাতের পরিচয় দিতে পারে বা অবাঞ্ছিত উপায়ে মেসেজিংয়ে ব্যবহৃত ভাষাকে প্রভাবিত করতে পারে।

অটোসাজেশন এবং টেক্সট স্বয়ংসম্পূর্ণতার বৃদ্ধি

ভবিষ্যদ্বাণীমূলক পাঠ্য একটি নতুন প্রযুক্তি নয়। প্রথম ব্যাপকভাবে উপলব্ধ উদাহরণগুলির মধ্যে একটি, T9, যা প্রতিটি অক্ষরের জন্য একটি একক কীপ্রেস থেকে শব্দ গঠনের অনুমতি দেয়, 90 এর দশকের শেষের দিকে অনেক সেলফোনে স্ট্যান্ডার্ড এসেছিল। কিন্তু ভাষাতে আরও পরিশীলিত, মাপযোগ্য এআই কৌশলের আবির্ভাব স্বয়ং-সাজেশন টুলের গুণমান — এবং প্রস্থ — লাফিয়ে লাফিয়েছে।

2017 সালে, গুগল চালু করেছে স্মার্ট উত্তর Gmail-এ, যা পরে কোম্পানি চ্যাট এবং তৃতীয় পক্ষের অ্যাপ সহ অন্যান্য Google পরিষেবাগুলিতে নিয়ে আসে। Google-এর মতে, স্মার্ট উত্তরের পিছনে থাকা AI "একটি কথোপকথনের সম্পূর্ণ প্রেক্ষাপটের উপর ভিত্তি করে" উত্তরের পরামর্শ তৈরি করে, শুধুমাত্র একটি মেসেজ নয় - স্পষ্টতই আরও সময়োপযোগী এবং প্রাসঙ্গিক পরামর্শগুলি তৈরি করে৷ স্মার্ট রচনা, যা ইমেলগুলিতে সম্পূর্ণ বাক্যের পরামর্শ দেয়, এক বছর পরে Gmail এবং Google ডক্সে এসেছে৷ শিঘ্রই পরে. একটি অনুরূপ বৈশিষ্ট্য বলা হয় প্রস্তাবিত জবাব 2018 সালে মাইক্রোসফ্ট আউটলুকে এবং 2020 সালে টিমগুলিতে এসেছিল।

অটোসাজেশন টুলের নতুন ক্রপের পিছনে প্রযুক্তি - যা কিছু একাডেমিক চেনাশোনা "AI-মধ্যস্থ যোগাযোগ" হিসাবে উল্লেখ করে - 90 এর দশকে যা ছিল তার থেকে অনেক বেশি। উদাহরণস্বরূপ, স্মার্ট কম্পোজের আন্ডারপিনিং এআই মডেলটি কাস্টম এক্সিলারেটর হার্ডওয়্যারে ক্লাউডে ইমেলের বিলিয়ন উদাহরণ ব্যবহার করে তৈরি করা হয়েছিল। ইতিমধ্যে, স্মার্ট রিপ্লাই — যা স্মার্ট কম্পোজের ভিত্তি হিসাবে কাজ করে — পরামর্শের জন্য একটি "শ্রেণিক্রমিক পদ্ধতি" গ্রহণ করে, মানুষ কীভাবে ভাষা এবং ধারণাগুলি বোঝে তার দ্বারা অনুপ্রাণিত হয়৷

"ভাষার বিষয়বস্তু গভীরভাবে অনুক্রমিক, ভাষার কাঠামোতেই প্রতিফলিত হয়..." গুগল গবেষণা বিজ্ঞানী ব্রায়ান স্ট্রোপ এবং প্রকৌশল পরিচালক রে কার্জউইল ব্যাখ্যা করা একটি ব্লগ পোস্টে "বার্তাটি বিবেচনা করুন, 'আমাদের পছন্দের ক্যাফেতে সেই আকর্ষণীয় ব্যক্তিটি আমাকে এক নজরে দেখেছেন।' … এই বার্তাটির উপযুক্ত প্রতিক্রিয়া প্রস্তাব করার সময় আমরা 'দৃষ্টি' শব্দের অর্থ বিবেচনা করতে পারি, যা সম্ভাব্য অস্পষ্ট। এটি একটি ইতিবাচক অঙ্গভঙ্গি ছিল? সেই ক্ষেত্রে, আমরা প্রতিক্রিয়া জানাতে পারি, 'কুল!' নাকি এটি একটি নেতিবাচক অঙ্গভঙ্গি ছিল? যদি তাই হয়, লেখক নেতিবাচক আদানপ্রদান সম্পর্কে কেমন অনুভব করেছেন সে বিষয়ে বিষয় কি কিছু বলে? সূক্ষ্ম পার্থক্য করার জন্য জগত সম্পর্কে প্রচুর তথ্য এবং যুক্তিযুক্ত বিচার করার ক্ষমতা প্রয়োজন। ভাষার যথেষ্ট উদাহরণ দেওয়া হলে, একটি মেশিন লার্নিং পদ্ধতি এই সূক্ষ্ম পার্থক্যগুলির অনেকগুলি আবিষ্কার করতে পারে। "

কিন্তু সমস্ত প্রযুক্তির মতো, এমনকি সবচেয়ে সক্ষম অটোসাজেশন টুলগুলিও বিকাশের সময় এবং স্থাপনার প্রক্রিয়ার সময় ক্রপ হওয়া ত্রুটিগুলির জন্য সংবেদনশীল।

2016 সালের ডিসেম্বরে, এটি ছিল প্রকাশিত যে Google অনুসন্ধানের স্বয়ংসম্পূর্ণ বৈশিষ্ট্য নির্দিষ্ট অনুসন্ধান বাক্যাংশগুলির জন্য ঘৃণ্য এবং আপত্তিকর সমাপ্তির পরামর্শ দিয়েছে, যেমন "ইহুদি কি দুষ্ট?" শব্দগুচ্ছের জন্য "ইহুদি"। কোম্পানির মতে, ভুল ছিল একটি অ্যালগরিদমিক সিস্টেম যা অন্যান্য ব্যবহারকারীরা সম্প্রতি যা অনুসন্ধান করেছে তার উপর ভিত্তি করে পরামর্শ আপডেট করে। যদিও Google অবশেষে একটি সমাধান কার্যকর করেছে, কোম্পানির জন্য স্বয়ংসম্পূর্ণতার পরামর্শগুলি ব্লক করতে আরও কয়েক বছর লেগেছে বিতর্কিত রাজনৈতিক বক্তব্য ভোটের প্রয়োজনীয়তা এবং নির্বাচনী প্রক্রিয়ার বৈধতা সম্পর্কে মিথ্যা দাবি সহ।

স্মার্ট রিপ্লাই হয়েছে পাওয়া একটি বন্দুক ইমোজি অন্তর্ভুক্ত একটি বার্তার প্রতিক্রিয়া হিসাবে "পাগড়ি পরা ব্যক্তি" ইমোজি অফার করতে৷ এবং iOS-এ অ্যাপলের স্বয়ংসম্পূর্ণতা পূর্বে সিইও, সিওও এবং সিটিও সহ নির্বাহী ভূমিকার জন্য শুধুমাত্র পুরুষ ইমোজির পরামর্শ দিয়েছেন।

পক্ষপাতমূলক তথ্য

স্বয়ংসম্পূর্ণতা এবং অটোসাজেশন সিস্টেমের ত্রুটিগুলি প্রায়ই পক্ষপাতমূলক ডেটা থেকে উদ্ভূত হয়। লক্ষ লক্ষ থেকে বিলিয়ন উদাহরণ যা থেকে সিস্টেমগুলি শিখেছে তা থেকে পাঠ্যের সাথে কলঙ্কিত হতে পারে বিষাক্ত ওয়েবসাইট যেটি নির্দিষ্ট লিঙ্গ, জাতি, জাতিগততা, এবং ক্ষতিকর ধারণা সহ ধর্ম। সমস্যাটি তুলে ধরে, হস্তলিখিত পুঁথি, গবেষণা ল্যাব ওপেনএআই দ্বারা তৈরি একটি কোড-উৎপাদনকারী মডেল, "ইসলাম" শব্দটি খাওয়ানো হলে "সন্ত্রাসী" লেখার জন্য অনুরোধ করা যেতে পারে। AI স্টার্টআপ থেকে আরেকটি বড় ভাষার মডেল কোহের "পুরুষ বিজ্ঞানী" এবং "মহিলা গৃহকর্ত্রী" এর মতো স্টিরিওটাইপিকভাবে "পুরুষ" এবং "মহিলা" পেশাগুলির সাথে পুরুষ এবং মহিলাদের যুক্ত করার প্রবণতা রয়েছে৷

ডেটাতে টীকাগুলি নতুন সমস্যাগুলি প্রবর্তন করতে পারে — বা বিদ্যমান সমস্যাগুলিকে আরও বাড়িয়ে তুলতে পারে৷ যেহেতু অনেক মডেল লেবেল থেকে শেখে যা যোগাযোগ করে যে একটি শব্দ, বাক্য, অনুচ্ছেদ বা নথিতে ইতিবাচক বা নেতিবাচক অনুভূতির মতো নির্দিষ্ট বৈশিষ্ট্য আছে কিনা, কোম্পানি এবং গবেষকরা সাধারণভাবে Amazon Mechanical Turk এর মতো ক্রাউডসোর্সিং প্ল্যাটফর্ম থেকে উদাহরণ লেবেল করার জন্য মানব টীকাকারদের দল নিয়োগ করে। এই টীকাকাররা তাদের নিজস্ব দৃষ্টিভঙ্গি - এবং পক্ষপাতগুলি - টেবিলে নিয়ে আসে।

অ্যালেন ইনস্টিটিউট ফর AI, কার্নেগি মেলন এবং ওয়াশিংটন বিশ্ববিদ্যালয়ের একটি গবেষণায়, বিজ্ঞানীরা দেখেছেন যে লেবেলাররা আফ্রিকান আমেরিকান ইংরেজি (AAE) উপভাষার বাক্যাংশগুলিকে সাধারণ আমেরিকান ইংরেজি সমতুল্য ভাষার তুলনায় বেশি বিষাক্ত টীকা দেওয়ার সম্ভাবনা বেশি - যদিও তাদের বোঝা যায়। AAE স্পিকার দ্বারা অ বিষাক্ত হিসাবে. জিগস, যে সংস্থাটি সাইবার গুন্ডামি এবং বিভ্রান্তি মোকাবেলা করার জন্য Google প্যারেন্ট কোম্পানি Alphabet-এর অধীনে কাজ করছে, তার পরীক্ষায় অনুরূপ সিদ্ধান্তে এসেছে৷ কোম্পানির গবেষকরা আফ্রিকান আমেরিকান এবং LGBTQ+ সম্প্রদায়ের সদস্য বনাম টীকাকারদের মধ্যে যারা লেবেলারদের মধ্যে স্ব-পরিচয় দেয় তাদের মধ্যে টীকাগুলির মধ্যে পার্থক্য খুঁজে পেয়েছেন যারা এই গোষ্ঠীগুলির একটি হিসাবে চিহ্নিত করেন না।

কখনও কখনও, পক্ষপাতটি ইচ্ছাকৃত হয় — স্থানীয় ভাষায় বাণিজ্য-অফের বিষয়। উদাহরণ স্বরূপ, লেখক, একটি স্টার্টআপ যা সামগ্রী তৈরির জন্য একটি AI সহকারী তৈরি করছে, বলছে যে এটি লেখার পরামর্শে "ব্যবসায়িক ইংরেজি" কে অগ্রাধিকার দেয়৷ সিইও মে হাবিব AAVE-তে "অভ্যাসগত হতে" এর উদাহরণ দিয়েছেন, একটি ক্রিয়া কাল যা ইংরেজির অন্য কোনো শৈলীতে বিদ্যমান নেই।

“Since [the habitual be] traditionally hasn’t been used in business English, and thus doesn’t show up in high frequency in our datasets, we would correct ‘Y’all be doing some strange things out here’ to ‘Y’all are doing some strange things out here,’” Habib told VentureBeat via email. “[That said,] we did manually ensure that vernacular-based greetings and sign-offs would not be flagged by Writer. Some vernacular is more gender-neutral than formal business English, [for instance,] so is more modern and on-brand for companies.”

লেখাকে প্রভাবিত করে

যখন পক্ষপাতিত্ব — ইচ্ছাকৃত বা না — এটিকে স্বয়ংসম্পূর্ণতা এবং অটোসাজেশন সিস্টেমে পরিণত করে, তখন তারা আমাদের লেখার পদ্ধতি পরিবর্তন করতে পারে। এই সিস্টেমগুলি যে বিশাল স্কেলে কাজ করে তা তাদের সম্পূর্ণরূপে এড়ানো কঠিন করে তোলে (যদি অসম্ভব না হয়)। স্মার্ট উত্তর ছিল দায়ী 10 সালে স্মার্টফোন থেকে পাঠানো সমস্ত Gmail উত্তরের 2016%।

আরো ব্যাপক এক মধ্যে অডিট স্বয়ংসম্পূর্ণতা সরঞ্জামগুলির জন্য, মাইক্রোসফ্ট গবেষকদের একটি দল স্বেচ্ছাসেবকদের সাথে সাক্ষাত্কার পরিচালনা করেছে যাদের Outlook-এ স্বয়ংক্রিয়ভাবে তৈরি করা উত্তরগুলির বিষয়ে তাদের চিন্তাভাবনা দিতে বলা হয়েছিল৷ সাক্ষাত্কারগ্রহীতারা দেখেছেন কিছু উত্তর অতি-ইতিবাচক, সংস্কৃতি এবং লিঙ্গ সম্পর্কে তাদের অনুমানে ভুল এবং কর্পোরেট চিঠিপত্রের মতো নির্দিষ্ট প্রসঙ্গের জন্য খুব অশালীন। এমনকি এখনও, অধ্যয়নের সময় পরীক্ষাগুলি দেখায় যে ব্যবহারকারীরা আউটলুক দ্বারা প্রস্তাবিত সংক্ষিপ্ত, ইতিবাচক এবং ভদ্র উত্তরগুলিকে সমর্থন করার সম্ভাবনা বেশি ছিল৷

হার্ভার্ডের একটি পৃথক সমীক্ষায় দেখা গেছে যে যখন একটি রেস্তোরাঁ সম্পর্কে লেখা লোকেদের "ইতিবাচক" স্বয়ংসম্পূর্ণ পরামর্শগুলি উপস্থাপন করা হয়, ফলাফল পর্যালোচনাগুলি যদি তাদের নেতিবাচক পরামর্শের সাথে উপস্থাপিত হয় তার চেয়ে বেশি ইতিবাচক হতে থাকে। হার্ভার্ডস স্কুল অফের গবেষক কেন আর্নল্ড বলেন, "ভবিষ্যত সম্পর্কে ভবিষ্যদ্বাণীমূলক পাঠ্য ব্যবস্থা কীভাবে মানুষকে আরও কার্যকর লেখক হতে সাহায্য করতে পারে তা নিয়ে চিন্তা করা উত্তেজনাপূর্ণ, তবে আমাদের পক্ষপাতদুষ্ট বা হেরফের হতে পারে এমন পরামর্শের বিরুদ্ধে সুরক্ষার জন্য স্বচ্ছতা এবং জবাবদিহিতাও প্রয়োজন।" ইঞ্জিনিয়ারিং এবং ফলিত বিজ্ঞান যারা গবেষণায় জড়িত ছিল, বলা বিবিসি।

যদি ক্ষতিকারক স্বয়ংসম্পূর্ণতার সমস্যার একটি সর্বব্যাপী সমাধান থাকে তবে এটি এখনও আবিষ্কৃত হয়নি। Google স্মার্ট কম্পোজে লিঙ্গ-ভিত্তিক সর্বনাম পরামর্শগুলিকে ব্লক করতে বেছে নিয়েছে কারণ সিস্টেমটি প্রাপকদের লিঙ্গ এবং লিঙ্গ পরিচয়ের একটি দুর্বল ভবিষ্যদ্বাণীকারী হিসাবে প্রমাণিত হয়েছে। মাইক্রোসফ্টের লিঙ্কডইন সম্ভাব্য ভুলগুলি রোধ করতে স্মার্ট উত্তরগুলিতে লিঙ্গযুক্ত সর্বনামগুলি এড়ায়, এটির ভবিষ্যদ্বাণীমূলক বার্তাপ্রেরণ সরঞ্জাম।

মাইক্রোসফটের সহ-লেখকরা অধ্যয়ন সতর্ক করে দিন যে যদি সিস্টেম ডিজাইনাররা স্বয়ংসম্পূর্ণতা প্রযুক্তির ত্রুটিগুলিকে সক্রিয়ভাবে সমাধান না করে, তাহলে তারা শুধুমাত্র ব্যবহারকারীদের আপত্তিকর নয় বরং তাদের সিস্টেমে অবিশ্বাস করার ঝুঁকি চালাবে। "সিস্টেম ডিজাইনারদের ব্যক্তিগত এবং সামাজিক নেটওয়ার্ক স্তরে ব্যক্তিগতকরণের কৌশলগুলি অন্বেষণ করা উচিত, কীভাবে সাংস্কৃতিক মূল্যবোধ এবং সামাজিক পক্ষপাতগুলি তাদের সিস্টেম দ্বারা স্থায়ী হতে পারে তা বিবেচনা করা উচিত এবং সীমাবদ্ধতা এবং সমস্যাগুলি মোকাবেলা শুরু করার জন্য সামাজিক মিথস্ক্রিয়া মডেলিং অন্বেষণ করা উচিত," তারা লিখেছেন৷ "[ও] আপনার অনুসন্ধানগুলি নির্দেশ করে যে ইমেল এবং অন্যান্য [যেমন] প্রযুক্তিগুলির জন্য বর্তমান পাঠ্য সুপারিশ সিস্টেমগুলি বাস্তব-বিশ্বের সামাজিক সম্পর্ক এবং যোগাযোগের প্রয়োজনীয়তার সূক্ষ্মতাগুলিকে প্রতিফলিত করার জন্য অপর্যাপ্তভাবে সংক্ষিপ্ত থাকে৷ "

সূত্র: https://venturebeat.com/2022/01/11/text-autocompletion-systems-aim-to-ease-our-lives-but-there-are-risks/