একজন গণিতবিদ একটি বারে চলে যাচ্ছেন (বিভ্রান্তির)

বিভ্রান্তি, ভুল তথ্য, ইনফোটেইনমেন্ট, আলগোয়ার - যদি বিগত কয়েক দশক ধরে মিডিয়ার ভবিষ্যত নিয়ে বিতর্ক কিছু বোঝায় তবে তারা অন্তত ইংরেজি ভাষায় একটি তীব্র ছাপ ফেলেছে। আমাদের ব্যক্তিগত মনোবিজ্ঞান এবং নিউরোলজি থেকে শুরু করে গণতান্ত্রিক সমাজের শক্তি সম্পর্কে বিস্তৃত উদ্বেগ পর্যন্ত সোশ্যাল মিডিয়া আমাদের সাথে কী করছে তা নিয়ে অনেক উদ্বেগজনক এবং ভয় রয়েছে। জোসেফ বার্নস্টেইন সম্প্রতি এটি রেখেছেন, "জনতার জ্ঞান" থেকে "বিভ্রান্তি" তে স্থানান্তর সত্যিই একটি আকস্মিক ঘটনা।

বিভ্রান্তি কি? এটি কি বিদ্যমান, এবং যদি তাই হয়, এটি কোথায় এবং কিভাবে আমরা জানি যে আমরা এটি দেখছি? আমাদের প্রিয় প্ল্যাটফর্মের অ্যালগরিদমগুলি আমাদের কী দেখায় তা নিয়ে কি আমাদের যত্ন নেওয়া উচিত কারণ তারা আমাদের মনোযোগকে ছাঁটাই করার চেষ্টা করে? এটি শুধুমাত্র সেই ধরণের জটিল গাণিতিক এবং সামাজিক বিজ্ঞানের প্রশ্ন যা পেয়েছে নোয়া জিয়ানসিরাকুসা বিষয়ে আগ্রহী।

বোস্টনের বেন্টলে ইউনিভার্সিটির অধ্যাপক গিয়ানসিরাকুসা গণিতে প্রশিক্ষিত (বীজগণিত জ্যামিতির মতো ক্ষেত্রগুলিতে তার গবেষণাকে কেন্দ্রীভূত করে), তবে তিনি গাণিতিক লেন্সের মাধ্যমে সামাজিক বিষয়গুলি দেখার ঝোঁকও পেয়েছেন, যেমন সংযোগ কম্পিউটেশনাল জ্যামিতি সুপ্রিম কোর্টে. অতি সম্প্রতি, তিনি "" নামে একটি বই প্রকাশ করেছেনকীভাবে অ্যালগরিদম জাল খবর তৈরি করে এবং প্রতিরোধ করে"আজ মিডিয়ার আড়াআড়ি ঘিরে কিছু চ্যালেঞ্জিং প্রশ্ন এবং কীভাবে প্রযুক্তি সেই প্রবণতাগুলিকে আরও বাড়িয়ে তুলছে এবং উন্নত করছে তা অন্বেষণ করতে৷

আমি সম্প্রতি একটি টুইটার স্পেস-এ জিয়ানসিরাকুসা হোস্ট করেছি, এবং যেহেতু টুইটার এই আলোচনাগুলিকে পরবর্তীতে শোনার জন্য সহজ করেনি (ক্ষণস্থায়ীতা!), আমি ভেবেছিলাম যে আমি আপনার এবং উত্তরোত্তরদের জন্য আমাদের কথোপকথনের সবচেয়ে আকর্ষণীয় বিটগুলি বের করব৷

এই সাক্ষাত্কারটি স্বচ্ছতার জন্য সম্পাদিত এবং ঘনীভূত হয়েছে।

ড্যানি ক্রিকটন: আপনি কিভাবে জাল খবর গবেষণা এবং এই বই লেখার সিদ্ধান্ত নিয়েছে?

নোয়া জিয়ানসিরাকুসা: একটা জিনিস আমি লক্ষ্য করেছি যে, জাল খবর এবং এই ধরনের বিষয় নিয়ে সত্যিই অনেক আকর্ষণীয় সমাজতাত্ত্বিক, রাষ্ট্রবিজ্ঞানের আলোচনা রয়েছে। এবং তারপরে প্রযুক্তিগত দিক থেকে, আপনার কাছে মার্ক জুকারবার্গের মতো জিনিস থাকবে যে এআই এই সমস্ত সমস্যার সমাধান করতে চলেছে। শুধু মনে হচ্ছিল, সেই ব্যবধান পূরণ করা একটু কঠিন।

সবাই সম্ভবত বিডেনের এই সাম্প্রতিক উদ্ধৃতিটি শুনেছেন যে, "তারা মানুষ হত্যা করছে"সোশ্যাল মিডিয়াতে ভুল তথ্যের ব্যাপারে। সুতরাং আমাদের রাজনীতিবিদরা এই বিষয়গুলি সম্পর্কে কথা বলছেন যেখানে তাদের পক্ষে অ্যালগরিদমিক দিকটি সত্যিই উপলব্ধি করা কঠিন। তারপরে আমাদের কাছে কম্পিউটার বিজ্ঞানের লোক রয়েছে যারা বিশদটির মধ্যে সত্যিই গভীর। তাই আমি এর মাঝে বসে আছি, আমি সত্যিকারের হার্ডকোর কম্পিউটার বিজ্ঞানের ব্যক্তি নই। তাই আমি মনে করি আমার জন্য একটু পিছিয়ে যাওয়া এবং পাখির চোখের ভিউ পাওয়াটা একটু সহজ।

দিনের শেষে, আমি অনুভব করেছি যে আমি সমাজের সাথে আরও কিছু মিথস্ক্রিয়া অন্বেষণ করতে চাই যেখানে জিনিসগুলি অগোছালো হয়ে যায়, যেখানে গণিত এত পরিষ্কার নয়।

ক্রিকটন: একটি গাণিতিক পটভূমি থেকে আসা, আপনি এই বিতর্কিত এলাকায় প্রবেশ করছেন যেখানে অনেক লোক বিভিন্ন কোণ থেকে লিখেছেন। এই এলাকায় মানুষ ঠিক কি পাচ্ছেন এবং কি মানুষ সম্ভবত কিছু সূক্ষ্মতা মিস করেছে?

জিয়ানসিরাকুসা: অনেক অবিশ্বাস্য সাংবাদিকতা আছে; আমি বিস্মিত হয়েছিলাম যে কীভাবে অনেক সাংবাদিক সত্যিই সুন্দর প্রযুক্তিগত জিনিসগুলি মোকাবেলা করতে সক্ষম হয়েছিল। তবে আমি একটা কথা বলব যে হয়তো তারা ভুল করেনি, কিন্তু একধরনের আমাকে আঘাত করেছে, অনেক সময় আছে যখন কোনো একাডেমিক পেপার বের হয়, এমনকি গুগল বা ফেসবুক বা এই টেক কোম্পানিগুলোর কোনো একটি থেকে ঘোষণা আসে এবং তারা কিছু উল্লেখ করবে, এবং সাংবাদিক হয়ত একটি উদ্ধৃতি বের করবে, এবং এটি বর্ণনা করার চেষ্টা করবে, কিন্তু তারা সত্যিই এটি দেখার এবং বোঝার চেষ্টা করতে কিছুটা ভয় পাচ্ছে বলে মনে হচ্ছে। এবং আমি মনে করি না যে তারা সক্ষম ছিল না, এটি সত্যিই একটি ভয় এবং ভয়ের মতো মনে হয়।

গণিতের শিক্ষক হিসাবে আমি এক টন অভিজ্ঞতা অর্জন করেছি তা হল লোকেরা কিছু ভুল বলতে এবং ভুল করতে ভয় পায়। এবং এটি সাংবাদিকদের জন্য যায় যাদের প্রযুক্তিগত বিষয়ে লিখতে হয়, তারা কিছু ভুল বলতে চান না। তাই শুধু Facebook থেকে একটি প্রেস রিলিজ উদ্ধৃত করা বা একজন বিশেষজ্ঞের উদ্ধৃতি করা সহজ।

খাঁটি গণিত সম্পর্কে একটি জিনিস যা খুব মজাদার এবং সুন্দর, আপনি ভুল হওয়ার বিষয়ে সত্যিই চিন্তা করবেন না, আপনি কেবল ধারণাগুলি চেষ্টা করুন এবং দেখুন তারা কোথায় নিয়ে যায় এবং আপনি এই সমস্ত মিথস্ক্রিয়া দেখতে পান। আপনি যখন একটি কাগজ লিখতে বা একটি বক্তৃতা দিতে প্রস্তুত হন, আপনি বিশদটি পরীক্ষা করুন৷ কিন্তু বেশিরভাগ গণিত এই সৃজনশীল প্রক্রিয়া যেখানে আপনি অন্বেষণ করছেন, এবং আপনি শুধু দেখছেন কিভাবে ধারণাগুলি ইন্টারঅ্যাক্ট করে। একজন গণিতবিদ হিসাবে আমার প্রশিক্ষণ আপনি মনে করেন ভুল করা এবং খুব সুনির্দিষ্ট হওয়ার বিষয়ে আমাকে আতঙ্কিত করে তুলবে, কিন্তু এর বিপরীত প্রভাব ছিল।

দ্বিতীয়ত, এই অ্যালগরিদমিক জিনিসগুলির অনেকগুলি, তারা যতটা জটিল মনে হয় ততটা নয়। আমি সেখানে তাদের বাস্তবায়ন করতে বসে নেই, আমি নিশ্চিত যে তাদের প্রোগ্রাম করা কঠিন। কিন্তু শুধু বড় ছবি, এই সমস্ত অ্যালগরিদম আজকাল, এই জিনিসগুলির অনেক কিছু গভীর শিক্ষার উপর ভিত্তি করে। তাই আপনার কাছে কিছু নিউরাল নেট আছে, একজন বহিরাগত হিসাবে আমার কাছে সত্যিই কিছু যায় আসে না যে তারা কোন আর্কিটেকচার ব্যবহার করছে, যা সত্যিই গুরুত্বপূর্ণ তা হল, ভবিষ্যদ্বাণীকারীরা কী? মূলত, আপনি এই মেশিন লার্নিং অ্যালগরিদম ফিড যে ভেরিয়েবল কি? এবং এটা কি আউটপুট করার চেষ্টা করছে? এগুলি এমন জিনিস যা যে কেউ বুঝতে পারে।

ক্রিকটন: এই অ্যালগরিদমগুলি বিশ্লেষণ করার ক্ষেত্রে আমি যে বড় চ্যালেঞ্জ মনে করি তা হল স্বচ্ছতার অভাব৷ বিশুদ্ধ গণিত জগতের বিপরীতে, যা সমস্যা সমাধানের জন্য কাজ করে এমন পণ্ডিতদের একটি সম্প্রদায়, এই সংস্থাগুলির মধ্যে অনেকগুলিই বৃহত্তর সম্প্রদায়ের কাছে ডেটা এবং বিশ্লেষণ সরবরাহের ক্ষেত্রে যথেষ্ট প্রতিকূল হতে পারে।

জিয়ানসিরাকুসা: এটা মনে হয় যে বাইরে থেকে যে কেউ কি অনুমান করতে পারে তার একটা সীমা আছে।

তাই একটি ভাল উদাহরণ হল YouTube-এর সাথে শিক্ষাবিদদের দলগুলি অন্বেষণ করতে চেয়েছিল যে YouTube সুপারিশ অ্যালগরিদম মানুষকে এই ষড়যন্ত্র তত্ত্বের চরমপন্থার খরগোশের গর্তগুলিকে নীচে পাঠায় কিনা৷ চ্যালেঞ্জ হল কারণ এটি সুপারিশ অ্যালগরিদম, এটি গভীর শিক্ষা ব্যবহার করছে, এটি আপনার অনুসন্ধানের ইতিহাস, আপনার জনসংখ্যা, অন্যান্য ভিডিও আপনি কতক্ষণ দেখেছেন - এই সমস্ত জিনিসগুলির উপর ভিত্তি করে শত শত এবং শত শত ভবিষ্যদ্বাণীর উপর ভিত্তি করে। এটি আপনার এবং আপনার অভিজ্ঞতার জন্য এতটাই কাস্টমাইজ করা হয়েছে যে আমি যে সমস্ত অধ্যয়নগুলি খুঁজে পেয়েছি সেগুলি ছদ্মবেশী মোড ব্যবহার করে৷

সুতরাং তারা মূলত এমন একজন ব্যবহারকারী যার কোনো অনুসন্ধানের ইতিহাস নেই, কোনো তথ্য নেই এবং তারা একটি ভিডিওতে যাবেন এবং তারপর প্রথম প্রস্তাবিত ভিডিওতে ক্লিক করুন তারপর পরেরটিতে ক্লিক করুন৷ আর দেখা যাক অ্যালগরিদম মানুষকে কোথায় নিয়ে যায়। এটি একটি ইতিহাস সহ একজন প্রকৃত মানব ব্যবহারকারীর চেয়ে ভিন্ন অভিজ্ঞতা। এবং এই সত্যিই কঠিন হয়েছে. আমি মনে করি না যে কেউ বাইরে থেকে অ্যালগরিদমিকভাবে YouTube অ্যালগরিদম অন্বেষণ করার জন্য একটি ভাল উপায় বের করেছে৷

সত্যি কথা বলতে কি, আমি মনে করি যে আপনি এটি করতে পারেন তা হল একটি পুরানো স্কুলের অধ্যয়নের মতো যেখানে আপনি স্বেচ্ছাসেবকদের একটি সম্পূর্ণ দল নিয়োগ করেন এবং তাদের কম্পিউটারে একটি ট্র্যাকার রাখুন এবং বলুন, "আরে, আপনি যেভাবে জীবনযাপন করেন সাধারণত আপনার ইতিহাস এবং সবকিছুর সাথে করুন এবং আপনি যে ভিডিওগুলি দেখছেন তা আমাদের বলুন।" সুতরাং এই সত্যটি অতিক্রম করা কঠিন যে এই অ্যালগরিদমগুলির অনেকগুলি, প্রায় সবগুলিই, আমি বলব, আপনার ব্যক্তিগত ডেটার উপর ভিত্তি করে অনেক বেশি। আমরা জানি না কিভাবে সামগ্রিকভাবে অধ্যয়ন করতে হয়।

এবং এটা শুধু নয় যে আমি বা বাইরের অন্য কেউ যারা সমস্যায় পড়েছেন কারণ আমাদের কাছে ডেটা নেই। এমনকি এই কোম্পানীর মধ্যে যারা অ্যালগরিদম তৈরি করেছে এবং যারা জানে কিভাবে কাগজে অ্যালগরিদম কাজ করে, কিন্তু তারা জানে না যে এটি আসলে কীভাবে আচরণ করবে। এটি ফ্রাঙ্কেনস্টাইনের দৈত্যের মতো: তারা এই জিনিসটি তৈরি করেছে, কিন্তু তারা জানে না এটি কীভাবে কাজ করবে। তাই আমি মনে করি আপনি সত্যিই এটি অধ্যয়ন করতে পারেন একমাত্র উপায় যদি সেই ডেটা সহ ভিতরের লোকেরা তাদের পথের বাইরে চলে যায় এবং এটি অধ্যয়নের জন্য সময় এবং সংস্থান ব্যয় করে।

ক্রিকটন: ভুল তথ্যের মূল্যায়ন এবং একটি প্ল্যাটফর্মে ব্যস্ততা নির্ধারণের চারপাশে প্রচুর মেট্রিক ব্যবহার করা হয়। আপনার গাণিতিক পটভূমি থেকে আসছে, আপনি কি মনে করেন যে এই ব্যবস্থাগুলি শক্তিশালী?

জিয়ানসিরাকুসা: মানুষ ভুল তথ্য ডিবাক করার চেষ্টা করে। কিন্তু প্রক্রিয়ায়, তারা এটিতে মন্তব্য করতে পারে, তারা এটিকে পুনঃটুইট করতে পারে বা শেয়ার করতে পারে এবং এটি ব্যস্ততা হিসাবে গণনা করে। তাই বাগদানের এই পরিমাপ অনেক, তারা সত্যিই ইতিবাচক বা শুধু সব ব্যস্ততা দেখছেন? আপনি জানেন, এটা সব ধরনের একসঙ্গে lumped পায়.

এটি একাডেমিক গবেষণায়ও ঘটে। উদ্ধৃতিগুলি হল গবেষণা কতটা সফল তার সর্বজনীন মেট্রিক। ঠিক আছে, ওয়েকফিল্ডের আসল অটিজম এবং ভ্যাকসিনের কাগজের মতো সত্যই বোগাস জিনিসগুলি প্রচুর পরিমাণে উদ্ধৃতি পেয়েছে, তাদের মধ্যে অনেক লোক এটিকে উদ্ধৃত করেছিল কারণ তারা ভেবেছিল এটি সঠিক, কিন্তু এর বেশিরভাগই বিজ্ঞানী যারা এটিকে ডিবাঙ্ক করেছিলেন, তারা তাদের পেপারে এটি উদ্ধৃত করেছিলেন বলুন, আমরা প্রমাণ করি যে এই তত্ত্বটি ভুল। কিন্তু কোনোভাবে একটি উদ্ধৃতি একটি উদ্ধৃতি। সুতরাং এটি সমস্ত সাফল্যের মেট্রিকের দিকে গণনা করে।

তাই আমি মনে করি যে ব্যস্ততা সঙ্গে কি ঘটছে একটি বিট. যদি আমি আমার মন্তব্যে কিছু পোস্ট করি যে, "আরে, এটা পাগল," অ্যালগরিদম কীভাবে জানবে যে আমি এটিকে সমর্থন করছি কি না? তারা চেষ্টা করার জন্য কিছু AI ভাষা প্রক্রিয়াকরণ ব্যবহার করতে পারে তবে আমি নিশ্চিত নই যে তারা কিনা, এবং এটি করার জন্য অনেক প্রচেষ্টা।

ক্রিকটন: সবশেষে, আমি জিপিটি-৩ এবং সিনথেটিক মিডিয়া ও ফেক নিউজ নিয়ে উদ্বেগ নিয়ে একটু কথা বলতে চাই। অনেক ভয় আছে যে এআই বটগুলি মিডিয়াকে ভুল তথ্য দিয়ে আবিষ্ট করবে — আমাদের কতটা ভীত বা ভীত হওয়া উচিত নয়?

জিয়ানসিরাকুসা: কারণ আমার বইটি সত্যিই অভিজ্ঞতা থেকে একটি শ্রেণী থেকে বেড়েছে, আমি নিরপেক্ষ থাকার চেষ্টা করতে চেয়েছিলাম, এবং শুধুমাত্র এক ধরনের লোকেদের জানাতে এবং তাদের নিজস্ব সিদ্ধান্তে পৌঁছাতে চেয়েছিলাম। আমি সেই বিতর্কটি কাটার চেষ্টা করার সিদ্ধান্ত নিয়েছি এবং সত্যিই উভয় পক্ষকে কথা বলতে দেব। আমি মনে করি নিউজফিড অ্যালগরিদম এবং স্বীকৃতি অ্যালগরিদমগুলি অনেক ক্ষতিকারক জিনিসকে প্রশস্ত করে, এবং এটি সমাজের জন্য ধ্বংসাত্মক৷ কিন্তু ভুয়া খবর সীমিত করার জন্য ফলপ্রসূ এবং সফলভাবে অ্যালগরিদম ব্যবহার করার অনেক আশ্চর্যজনক অগ্রগতি রয়েছে।

এই টেকনো-ইউটোপিয়ানরা আছে, যারা বলে যে AI সবকিছু ঠিক করে দেবে, আমাদের কাছে সত্য-বলা, এবং ফ্যাক্ট-চেকিং এবং অ্যালগরিদম থাকবে যা ভুল তথ্য সনাক্ত করতে পারে এবং তা নামিয়ে দিতে পারে। কিছু অগ্রগতি আছে, কিন্তু সেই জিনিসটি ঘটতে যাচ্ছে না, এবং এটি কখনই পুরোপুরি সফল হবে না। এটা সবসময় মানুষের উপর নির্ভর করতে হবে. কিন্তু অন্য যে জিনিসটা আমাদের আছে তা হল অযৌক্তিক ভয়। এই ধরনের হাইপারবোলিক এআই ডাইস্টোপিয়া আছে যেখানে অ্যালগরিদমগুলি এত শক্তিশালী, এক ধরনের সিঙ্গুলারিটি টাইপের জিনিস যা তারা আমাদের ধ্বংস করতে চলেছে।

2018 সালে যখন গভীর নকল খবরগুলি প্রথম আঘাত করেছিল, এবং GPT-3 কয়েক বছর আগে প্রকাশিত হয়েছিল, তখন অনেক ভয় ছিল যে, "ওহ শিট, এটি ভুয়া খবর এবং এর মধ্যে কী সত্য তা বোঝার সাথে আমাদের সমস্ত সমস্যা তৈরি করবে৷ পৃথিবী অনেক, অনেক কঠিন।" এবং আমি এখন মনে করি যে আমাদের কাছে কয়েক বছরের দূরত্ব রয়েছে, আমরা দেখতে পাচ্ছি যে তারা এটিকে কিছুটা কঠিন করে তুলেছে, তবে আমরা প্রত্যাশার মতো উল্লেখযোগ্যভাবে নয়। এবং মূল সমস্যাটি যে কোনও কিছুর চেয়ে বেশি মনস্তাত্ত্বিক এবং অর্থনৈতিক।

তাই GPT-3-এর মূল লেখকদের কাছে একটি গবেষণাপত্র রয়েছে যা অ্যালগরিদম প্রবর্তন করে, এবং তারা যে কাজগুলি করেছিল তার মধ্যে একটি ছিল একটি পরীক্ষা যেখানে তারা কিছু পাঠ্য পেস্ট করেছিল এবং এটি একটি নিবন্ধে প্রসারিত করেছিল এবং তারপরে তাদের কিছু স্বেচ্ছাসেবক মূল্যায়ন করেছিল এবং অনুমান করেছিল যা অ্যালগরিদমিকভাবে উত্পন্ন একটি এবং কোন নিবন্ধটি মানব-উত্পাদিত৷ তারা রিপোর্ট করেছে যে তারা 50% নির্ভুলতার খুব কাছাকাছি, যার মানে সবেমাত্র এলোমেলো অনুমানের উপরে। তাই যে শব্দ, আপনি জানেন, আশ্চর্যজনক এবং ভীতিকর উভয়.

কিন্তু আপনি যদি বিশদটি দেখেন তবে তারা পাঠ্যের একটি অনুচ্ছেদে এক লাইনের শিরোনামের মতো প্রসারিত হয়েছিল। আপনি যদি একটি সম্পূর্ণ, আটলান্টিক-দৈর্ঘ্য বা নিউ ইয়র্কার-দৈর্ঘ্য নিবন্ধ করার চেষ্টা করেন, তাহলে আপনি অসঙ্গতিগুলি দেখতে শুরু করবেন, চিন্তাভাবনাটি বিভ্রান্ত হবে। এই কাগজের লেখকরা এটি উল্লেখ করেননি, তারা কেবল তাদের পরীক্ষা করেছিলেন এবং বলেছিলেন, "আরে, দেখুন এটি কতটা সফল।"

তাই এটা বিশ্বাসযোগ্য দেখায়, তারা এই চিত্তাকর্ষক নিবন্ধ করতে পারেন. কিন্তু এখানে মূল কারণ হল, দিনের শেষে, কেন জিপিটি-৩ এতটা রূপান্তরিত হয়নি যতটা জাল খবর এবং ভুল তথ্য এবং এই সমস্ত বিষয়গুলি উদ্বিগ্ন। কারণ ভুয়া খবর বেশিরভাগই আবর্জনা। এটি খারাপভাবে লেখা, এটি নিম্ন মানের, এটি ক্র্যাঙ্ক করা এত সস্তা এবং দ্রুত, আপনি আপনার 3 বছর বয়সী ভাতিজাকে কয়েক মিনিটের মধ্যে জাল সংবাদ নিবন্ধের একটি গুচ্ছ বের করার জন্য অর্থ প্রদান করতে পারেন।

এটি এত বেশি নয় যে গণিত আমাকে এটি দেখতে সাহায্য করেছে। এটা ঠিক যে একরকম, আমরা গণিতে যা করার চেষ্টা করছি তা হল সংশয়বাদী হওয়া। তাই আপনাকে এই বিষয়গুলো নিয়ে প্রশ্ন করতে হবে এবং একটু সন্দেহপ্রবণ হতে হবে।

সূত্র: https://techcrunch.com/2021/08/20/a-mathematician-walks-into-a-bar-of-disinformation/