عالم رياضيات يدخل إلى حانة (من المعلومات المضللة)

المعلومات المضللة، والمعلومات الخاطئة، والمعلومات والترفيه، والحرب - إذا كانت المناقشات حول مستقبل وسائل الإعلام في العقود القليلة الماضية تعني أي شيء، فقد تركت على الأقل بصمة لاذعة على اللغة الإنجليزية. كان هناك الكثير من القدح والخوف بشأن ما تفعله وسائل التواصل الاجتماعي بنا، بدءًا من سيكولوجيتنا الفردية وأعصابنا وحتى المخاوف الأوسع بشأن قوة المجتمعات الديمقراطية. كما قال جوزيف بيرنشتاين مؤخراًومع ذلك، فإن التحول من "حكمة الجماهير" إلى "التضليل" كان مفاجئًا بالفعل.

ما هي المعلومات المضللة؟ هل هو موجود، وإذا كان الأمر كذلك، فأين هو وكيف نعرف أننا ننظر إليه؟ هل ينبغي لنا أن نهتم بما تظهره لنا خوارزميات منصاتنا المفضلة وهي تسعى جاهدة لجذب انتباهنا؟ إنها فقط تلك الأنواع من الأسئلة المعقدة المتعلقة بالرياضيات والعلوم الاجتماعية نوح جيانسيراكوزا مهتم بالموضوع.

جيانسيراكوزا، وهو أستاذ في جامعة بنتلي في بوسطن، تدرب في الرياضيات (مع تركيز أبحاثه في مجالات مثل الهندسة الجبرية)، ولكن كان لديه أيضًا ميل للنظر إلى المواضيع الاجتماعية من خلال عدسة رياضية، مثل التواصل الهندسة الحسابية إلى المحكمة العليا. وقد أصدر مؤخرًا كتابًا بعنوان "كيف تقوم الخوارزميات بإنشاء الأخبار المزيفة ومنعها" لاستكشاف بعض الأسئلة الصعبة حول المشهد الإعلامي اليوم وكيف تعمل التكنولوجيا على تفاقم هذه الاتجاهات وتحسينها.

لقد استضفت Giansiracusa على مساحة Twitter مؤخرًا، وبما أن Twitter لم يجعل من السهل الاستماع إلى هذه المحادثات بعد ذلك (عابرة!)، فقد تصورت أنني سأستخرج الأجزاء الأكثر إثارة للاهتمام من محادثتنا لك وللأجيال القادمة.

هذه المقابلة تم تحريرها وتكثيفها من أجل الوضوح.

داني كريشتون: كيف قررت البحث عن الأخبار الكاذبة وتأليف هذا الكتاب؟

نوح جيانسيراكوزا: شيء واحد لاحظته هو أن هناك الكثير من المناقشات الاجتماعية والسياسية المثيرة للاهتمام حول الأخبار المزيفة وهذه الأنواع من الأشياء. ومن ثم على الجانب الفني، سيكون لديك أشياء مثل قول مارك زوكربيرج إن الذكاء الاصطناعي سيصلح كل هذه المشكلات. يبدو الأمر كما لو أنه من الصعب بعض الشيء سد هذه الفجوة.

ربما سمع الجميع هذا الاقتباس الأخير لبايدن قائلاً: “إنهم يقتلون الناس"، فيما يتعلق بالمعلومات الخاطئة على وسائل التواصل الاجتماعي. لذلك لدينا سياسيون يتحدثون عن هذه الأمور حيث يصعب عليهم فهم الجانب الخوارزمي حقًا. ثم لدينا أشخاص متخصصون في علوم الكمبيوتر ومتعمقون جدًا في التفاصيل. لذا فأنا جالس نوعًا ما، ولست شخصًا متشددًا في علوم الكمبيوتر. لذلك أعتقد أنه من الأسهل بالنسبة لي أن أتراجع وأحصل على رؤية شاملة.

في نهاية اليوم، شعرت أنني أرغب في استكشاف المزيد من التفاعلات مع المجتمع حيث تصبح الأمور فوضوية، وحيث الرياضيات ليست نظيفة جدًا.

كرايتون: انطلاقًا من خلفية رياضية، فأنت تدخل هذه المنطقة المثيرة للجدل حيث كتب الكثير من الأشخاص من زوايا مختلفة. ما الذي يفعله الناس بشكل صحيح في هذا المجال وما الذي ربما فاتته بعض الفروق الدقيقة؟

جيانسيراكوزا: هناك الكثير من الصحافة الرائعة؛ لقد أذهلتني قدرة الكثير من الصحفيين على التعامل مع الأمور التقنية الجميلة. لكن أود أن أقول شيئًا واحدًا ربما لم يخطئوا فيه، ولكن ما أذهلني هو أنه في كثير من الأحيان يتم نشر بحث أكاديمي، أو حتى إعلان من Google أو Facebook أو إحدى شركات التكنولوجيا هذه، و سيذكرون شيئًا ما، وربما يستخرج الصحفي اقتباسًا ويحاول وصفه، لكن يبدو أنهم خائفون بعض الشيء من محاولة النظر إليه وفهمه. ولا أعتقد أنهم لم يتمكنوا من ذلك، بل يبدو الأمر وكأنه نوع من الترهيب والخوف.

أحد الأشياء التي مررت بها كثيرًا كمدرس للرياضيات هو أن الناس يخافون جدًا من قول شيء خاطئ وارتكاب خطأ. وهذا ينطبق على الصحفيين الذين يتعين عليهم الكتابة عن أمور تقنية، فهم لا يريدون أن يقولوا شيئًا خاطئًا. لذلك من الأسهل اقتباس بيان صحفي من Facebook أو اقتباس أحد الخبراء.

الشيء الوحيد الممتع والجميل في الرياضيات البحتة، هو أنك لا تقلق حقًا بشأن كونك مخطئًا، كل ما عليك فعله هو تجربة الأفكار ومعرفة إلى أين تقودك وترى كل هذه التفاعلات. عندما تكون مستعدًا لكتابة ورقة بحثية أو إلقاء محاضرة، عليك التحقق من التفاصيل. لكن معظم الرياضيات هي عبارة عن عملية إبداعية تستكشف فيها، وترى فقط كيف تتفاعل الأفكار. تعتقد أن تدريبي كعالم رياضيات سيجعلني متخوفًا من ارتكاب الأخطاء، ولكي أكون دقيقًا جدًا، لكن كان له تأثير معاكس نوعًا ما.

ثانيًا، الكثير من هذه الأشياء الخوارزمية، ليست معقدة كما تبدو. أنا لا أجلس هناك لتنفيذها، أنا متأكد من أن برمجتها صعبة. لكن الصورة الكبيرة فقط، كل هذه الخوارزميات في الوقت الحاضر، الكثير من هذه الأشياء تعتمد على التعلم العميق. إذًا لديك بعض الشبكات العصبية، لا يهمني حقًا كغريب ما هي البنية التي يستخدمونها، كل ما يهم حقًا هو، ما هي المتنبئات؟ في الأساس، ما هي المتغيرات التي تغذيها خوارزمية التعلم الآلي هذه؟ وما الذي تحاول إخراجه؟ تلك هي الأشياء التي يمكن لأي شخص أن يفهمها.

كرايتون: أحد التحديات الكبيرة التي أعتقد أنها تواجه تحليل هذه الخوارزميات هو الافتقار إلى الشفافية. على عكس عالم الرياضيات البحتة، على سبيل المثال، وهو مجتمع من العلماء الذين يعملون على حل المشكلات، يمكن أن تكون العديد من هذه الشركات في الواقع عدائية تمامًا بشأن توفير البيانات والتحليلات للمجتمع الأوسع.

جيانسيراكوزا: يبدو أن هناك حدًا لما يمكن لأي شخص استنتاجه بمجرد كونه من الخارج.

ومن الأمثلة الجيدة على ذلك موقع YouTube - حيث أرادت فرق من الأكاديميين استكشاف ما إذا كانت خوارزمية توصية YouTube ترسل الأشخاص إلى ثقوب التطرف في نظرية المؤامرة. يكمن التحدي في أنه نظرًا لأن هذه هي خوارزمية التوصية، فإنها تستخدم التعلم العميق، وتعتمد على مئات ومئات من التنبؤات بناءً على سجل البحث الخاص بك، والمعلومات السكانية الخاصة بك، ومقاطع الفيديو الأخرى التي شاهدتها والمدة التي شاهدتها - كل هذه الأشياء. إنه مخصص جدًا لك ولخبرتك، لدرجة أن جميع الدراسات التي تمكنت من العثور عليها تستخدم وضع التصفح المتخفي.

لذا فهم في الأساس مستخدمون ليس لديهم سجل بحث ولا معلومات وسينتقلون إلى مقطع فيديو ثم ينقرون على أول مقطع فيديو موصى به ثم الفيديو التالي. ودعونا نرى أين تأخذ الخوارزمية الناس. هذه تجربة مختلفة تمامًا عن تجربة مستخدم بشري حقيقي له تاريخ. وكان هذا صعبًا حقًا. لا أعتقد أن أي شخص قد اكتشف طريقة جيدة لاستكشاف خوارزمية YouTube من الخارج خوارزميًا.

بصراحة، أعتقد أن الطريقة الوحيدة التي يمكنك من خلالها القيام بذلك هي تمامًا مثل دراسة المدرسة القديمة حيث تقوم بتجنيد مجموعة كاملة من المتطوعين ووضع جهاز تعقب على أجهزة الكمبيوتر الخاصة بهم وتقول: "مرحبًا، فقط عش الحياة بالطريقة التي تريدها". عادةً ما تتعامل مع تاريخك وكل شيء وتخبرنا بمقاطع الفيديو التي تشاهدها. لذلك كان من الصعب تجاوز هذه الحقيقة المتمثلة في أن الكثير من هذه الخوارزميات، كلها تقريبًا، أود أن أقول، تعتمد بشكل كبير على بياناتك الفردية. ولا نعرف كيف ندرس ذلك بشكل إجمالي.

ولا يقتصر الأمر على أنا أو أي شخص آخر من الخارج الذي يواجه مشكلة لأننا لا نملك البيانات. حتى الأشخاص داخل هذه الشركات هم من قاموا ببناء الخوارزمية والذين يعرفون كيف تعمل الخوارزمية على الورق، لكنهم لا يعرفون كيف ستتصرف فعليًا. إنه مثل وحش فرانكنشتاين: لقد بنوا هذا الشيء، لكنهم لا يعرفون كيف سيعمل. لذا فإن الطريقة الوحيدة التي أعتقد أنه يمكنك من خلالها دراستها حقًا هي أن يبذل الأشخاص الموجودون في الداخل والذين لديهم تلك البيانات قصارى جهدهم ويقضون الوقت والموارد لدراستها.

كرايتون: هناك الكثير من المقاييس المستخدمة لتقييم المعلومات الخاطئة وتحديد التفاعل على المنصة. بناءً على خلفيتك الرياضية، هل تعتقد أن هذه التدابير قوية؟

جيانسيراكوزا: يحاول الناس فضح المعلومات الخاطئة. ولكن في هذه العملية، قد يعلقون عليها، وقد يعيدون تغريدها أو مشاركتها، وهذا يعتبر مشاركة. إذن، الكثير من قياسات المشاركة هذه، هل تنظر حقًا إلى المشاركة الإيجابية أم مجرد المشاركة الكاملة؟ كما تعلمون، يتم تجميع كل شيء معًا.

ويحدث هذا في البحث الأكاديمي أيضًا. الاستشهادات هي المقياس العالمي لمدى نجاح البحث. حسنًا، لقد حصلت أشياء زائفة حقًا مثل بحث ويكفيلد الأصلي عن التوحد واللقاحات على الكثير من الاستشهادات، الكثير منهم كانوا أشخاصًا استشهدوا بها لأنهم اعتقدوا أنها صحيحة، ولكن الكثير منها كان من العلماء الذين كانوا يفضحون ذلك، واستشهدوا به في ورقتهم البحثية لنفترض أننا نثبت أن هذه النظرية خاطئة. ولكن بطريقة ما الاقتباس هو الاقتباس. لذلك كل ذلك مهم نحو مقياس النجاح.

لذلك أعتقد أن هذا جزء مما يحدث مع المشاركة. إذا قمت بنشر شيء ما على تعليقاتي قائلاً: "مرحبًا، هذا جنون"، فكيف تعرف الخوارزمية ما إذا كنت أدعمه أم لا؟ يمكنهم استخدام بعض معالجة لغة الذكاء الاصطناعي للمحاولة، لكنني لست متأكدًا مما إذا كانوا يفعلون ذلك، ويتطلب الأمر الكثير من الجهد للقيام بذلك.

كرايتون: أخيرًا، أريد أن أتحدث قليلاً عن GPT-3 والقلق بشأن الوسائط الاصطناعية والأخبار المزيفة. هناك الكثير من الخوف من أن تطغى روبوتات الذكاء الاصطناعي على وسائل الإعلام بالمعلومات المضللة - ما مدى خوفنا أو عدم خوفنا؟

جيانسيراكوزا: نظرًا لأن كتابي نشأ بالفعل من فصل دراسي من الخبرة، فقد أردت أن أحاول أن أبقى محايدًا، وأن أقوم بإبلاغ الناس نوعًا ما والسماح لهم بالتوصل إلى قراراتهم الخاصة. قررت أن أحاول اجتياز هذا النقاش والسماح لكلا الجانبين بالتحدث. أعتقد أن خوارزميات الأخبار وخوارزميات التعرف تضخم الكثير من الأشياء الضارة، وهذا مدمر للمجتمع. ولكن هناك أيضًا الكثير من التقدم المذهل في استخدام الخوارزميات بشكل منتج وناجح للحد من الأخبار المزيفة.

هناك هؤلاء الطوباويون التكنولوجيون، الذين يقولون إن الذكاء الاصطناعي سيصلح كل شيء، وسيكون لدينا قول الحقيقة، وتدقيق الحقائق والخوارزميات التي يمكنها اكتشاف المعلومات الخاطئة وإزالتها. لقد تم إحراز بعض التقدم، لكن هذه الأشياء لن تحدث، ولن تحقق نجاحًا كاملاً أبدًا. ستحتاج دائمًا إلى الاعتماد على البشر. لكن الشيء الآخر الذي لدينا هو نوع من الخوف غير العقلاني. هناك هذا النوع من الواقع المرير للذكاء الاصطناعي الزائدي حيث تكون الخوارزميات قوية جدًا، نوعًا ما مثل نوع التفرد الذي ستدمرنا.

عندما ظهرت الأخبار المزيفة لأول مرة في عام 2018، وتم إصدار GPT-3 منذ عامين، كان هناك الكثير من الخوف من أن "يا إلهي، هذا سيجعل كل مشاكلنا مع الأخبار المزيفة وفهم ما هو حقيقي في الأخبار الكاذبة". العالم أصعب بكثير." وأعتقد الآن أنه أمامنا بضع سنوات، يمكننا أن نرى أنهم جعلوا الأمر أصعب قليلاً، ولكن ليس بنفس القدر الذي توقعناه. والقضية الرئيسية هي قضية نفسية واقتصادية أكثر من أي شيء آخر.

لذا فإن المؤلفين الأصليين لـ GPT-3 لديهم ورقة بحثية تقدم الخوارزمية، وكان أحد الأشياء التي قاموا بها هو الاختبار حيث قاموا بلصق بعض النص وتوسيعه إلى مقال، ثم طلبوا من بعض المتطوعين تقييم وتخمين أي منها هي المقالة التي تم إنشاؤها خوارزميًا وأي مقالة هي المقالة التي أنشأها الإنسان. وأفادوا أنهم حصلوا على دقة قريبة جدًا جدًا من 50٪، وهو ما يعني بالكاد أعلى من التخمينات العشوائية. يبدو هذا، كما تعلمون، مذهلًا ومخيفًا.

لكن إذا نظرت إلى التفاصيل، فستجد أنها تمتد مثل عنوان من سطر واحد إلى فقرة من النص. إذا حاولت كتابة مقالة كاملة، سواء أكانت في مجلة The Atlantic أو في مجلة New Yorker، فسوف تبدأ في رؤية التناقضات، وسوف تتعثر الفكرة. لم يذكر مؤلفو هذه الورقة هذا الأمر، لقد قاموا فقط بتجربتهم وقالوا: "انظروا إلى أي مدى نجحت هذه التجربة".

لذلك يبدو الأمر مقنعًا، حيث يمكنهم كتابة هذه المقالات المثيرة للإعجاب. ولكن هذا هو السبب الرئيسي، في نهاية المطاف، وراء عدم تحول GPT-3 فيما يتعلق بالأخبار المزيفة والمعلومات المضللة وكل هذه الأشياء. ذلك لأن الأخبار المزيفة هي في الغالب قمامة. إنها مكتوبة بشكل سيء، وذات جودة منخفضة، ورخيصة جدًا وسريعة النشر، يمكنك فقط أن تدفع لابن أخيك البالغ من العمر 16 عامًا مقابل نشر مجموعة من المقالات الإخبارية المزيفة في دقائق.

ليس الأمر أن الرياضيات ساعدتني في رؤية ذلك. الأمر هو أن الشيء الرئيسي الذي نحاول القيام به بطريقة أو بأخرى في الرياضيات هو أن نكون متشككين. لذلك عليك أن تشكك في هذه الأشياء وأن تكون متشككًا بعض الشيء.

المصدر: https://techcrunch.com/2021/08/20/a-mathematician-walks-into-a-bar-of-disinformation/