تهدف أنظمة الإكمال التلقائي للنص إلى تسهيل حياتنا، ولكن هناك مخاطر

إذا كنت قد كتبت رسالة نصية أو بريدًا إلكترونيًا مؤخرًا ، فمن المحتمل أن يقترح عليك الذكاء الاصطناعي مرادفات أو عبارات أو طرقًا مختلفة لإنهاء جملة. تزامن ظهور أدوات الاقتراح التلقائي التي تعمل بالذكاء الاصطناعي مثل الكتابة الذكية من Google مع التحول الرقمي لاتصالات المؤسسة ، والتي تعيش الآن في الغالب عبر الإنترنت. إنه مقدر أن العامل النموذجي يرد على حوالي 40 بريدًا إلكترونيًا كل يوم و يرسل أكثر من 200 رسالة سلاك في الأسبوع.

تهدد المراسلة باستهلاك جزء متزايد من يوم العمل باستخدام Adobe ربط مقدار الوقت الذي يقضيه العمال في الرد على رسائل البريد الإلكتروني بمعدل 15.5 ساعة في الأسبوع. يعد تبديل المهام المستمر بمثابة ناقوس موت للإنتاجية ، حيث تُظهر الدراسات فوائد العمل المتواصل. أبحاث وجد من جامعة كاليفورنيا وجامعة هومبولت أن العمال يمكن أن يفقدوا ما يصل إلى 23 دقيقة في مهمة ما في كل مرة تتم مقاطعتهم ، مزيد من الإطالة يوم العمل.

تعد أدوات الإيحاء التلقائي بتوفير الوقت من خلال تبسيط كتابة الرسائل والرد عليها. على سبيل المثال ، يقترح الرد الذكي من Google ردودًا سريعة على رسائل البريد الإلكتروني التي تستغرق عادةً دقائق لكتابتها. لكن الذكاء الاصطناعي وراء هذه الأدوات به عيوب قد تؤدي إلى تحيزات أو تؤثر على اللغة المستخدمة في المراسلة بطرق غير مرغوب فيها.

النمو في الإيحاء التلقائي والإكمال التلقائي للنص

النص التنبئي ليس تقنية جديدة. أحد الأمثلة الأولى المتاحة على نطاق واسع ، T9، الذي يسمح بتكوين الكلمات من ضغطة مفتاح واحدة لكل حرف ، أصبح قياسيًا في العديد من الهواتف المحمولة في أواخر التسعينيات. لكن ظهور تقنيات ذكاء اصطناعي أكثر تعقيدًا وقابلية للتطوير في اللغة أدى إلى قفزات في جودة - واتساع - أدوات الإيحاء الذاتي.

في عام 2017 ، أطلقت Google الرد الذكي في Gmail ، التي جلبتها الشركة لاحقًا إلى خدمات Google الأخرى بما في ذلك تطبيقات الدردشة وتطبيقات الجهات الخارجية. وفقًا لـ Google ، فإن الذكاء الاصطناعي وراء الرد الذكي يولد اقتراحات للرد "بناءً على السياق الكامل للمحادثة" ، وليس مجرد رسالة واحدة - مما يؤدي ظاهريًا إلى اقتراحات تكون في الوقت المناسب وذات صلة. الذكية يؤلف، التي تشير إلى جمل كاملة في رسائل البريد الإلكتروني ، وصلت إلى Gmail بعد عام ومُحرر مستندات Google بعد ذلك بقليل. ميزة مماثلة تسمى الردود المقترحة جاء إلى Microsoft Outlook في 2018 و Teams في 2020.

التكنولوجيا التي تقف وراء المحصول الجديد من أدوات الإيحاء الذاتي - والتي تشير إليها بعض الدوائر الأكاديمية باسم "الاتصال بوساطة الذكاء الاصطناعي" - هي قفزات كبيرة إلى ما هو موجود في التسعينيات. على سبيل المثال ، تم إنشاء نموذج AI الذي يقوم عليه Smart Compose باستخدام مليارات الأمثلة من رسائل البريد الإلكتروني ويتم تشغيله في السحابة على أجهزة تسريع مخصصة. وفي الوقت نفسه ، يتخذ الرد الذكي - الذي كان بمثابة الأساس للكتابة الذكية - "نهجًا هرميًا" للاقتراحات ، مستوحى من كيفية فهم البشر للغات والمفاهيم.

"محتوى اللغة هرمي بعمق ، وينعكس في بنية اللغة نفسها ..." عالم الأبحاث في Google براين ستروب ومدير الهندسة راي كورزويل شرح في منشور مدونة. "ضع في اعتبارك الرسالة ،" هذا الشخص المثير للاهتمام في المقهى الذي نحبه أعطاني لمحة. " ... عند اقتراح الرد المناسب على هذه الرسالة ، قد نفكر في معنى كلمة "لمحة" ، والتي من المحتمل أن تكون غامضة. هل كانت لفتة إيجابية؟ في هذه الحالة ، قد نرد ، "رائع!" أم أنها لفتة سلبية؟ إذا كان الأمر كذلك ، فهل يقول الموضوع شيئًا عن شعور الكاتب تجاه التبادل السلبي؟ هناك حاجة إلى الكثير من المعلومات حول العالم ، والقدرة على إصدار أحكام منطقية ، للتمييز الدقيق. بإعطاء أمثلة كافية للغة ، يمكن لنهج التعلم الآلي اكتشاف العديد من هذه الفروق الدقيقة. "

ولكن كما هو الحال مع جميع التقنيات ، حتى أدوات الاقتراح التلقائي الأكثر قدرة تكون عرضة للعيوب التي تظهر أثناء عملية التطوير والنشر.

في ديسمبر 2016 ، كان كشف أن ميزة الإكمال التلقائي لبحث Google اقترحت نهايات بغيضة ومسيئة لعبارات بحث معينة ، مثل "هل اليهود أشرار؟" عن عبارة "يهود". وفقًا للشركة ، كان المخطئ هو نظام خوارزمي يقوم بتحديث الاقتراحات بناءً على ما بحث عنه المستخدمون الآخرون مؤخرًا. بينما نفذت Google في النهاية إصلاحًا ، استغرق الأمر عدة سنوات أخرى حتى تمنع الشركة اقتراحات الإكمال التلقائي لـ تصريحات سياسية مثيرة للجدل بما في ذلك الادعاءات الكاذبة حول متطلبات التصويت وشرعية العمليات الانتخابية.

كان الرد السريع وجدت لتقديم رمز تعبيري "لشخص يرتدي عمامة" ردًا على رسالة تتضمن رمزًا تعبيريًا عن البندقية. والإكمال التلقائي من Apple على iOS سابقا اقترح فقط رموزًا تعبيرية للذكور للوظائف التنفيذية بما في ذلك الرئيس التنفيذي ومدير العمليات ومدير التكنولوجيا.

البيانات المتحيزة

غالبًا ما تنشأ عيوب في أنظمة الإكمال التلقائي والاقتراح التلقائي من البيانات المتحيزة. الملايين إلى المليارات من الأمثلة التي تتعلم منها الأنظمة يمكن أن تكون ملوثة بالنصوص المواقع السامة التي تربط بين الجنسين ، والأعراق ، الأعراق، والأديان ذات المفاهيم المؤذية. توضيح المشكلة ، مجموعة مخطوطات، وهو نموذج لتوليد الشفرات طوره مختبر الأبحاث OpenAI ، يمكن حثه على كتابة كلمة "إرهابي" عند تغذيته بكلمة "إسلام". نموذج لغة كبير آخر من بدء تشغيل AI التحم يميل إلى ربط الرجال والنساء بمهن "ذكورية" و "أنثوية" نمطية ، مثل "عالم ذكر" و "مدبرة منزل".

يمكن للتعليقات التوضيحية في البيانات إدخال مشاكل جديدة - أو تفاقم المشاكل الموجودة. نظرًا لأن العديد من النماذج تتعلم من الملصقات التي تنقل ما إذا كانت الكلمة أو الجملة أو الفقرة أو المستند لها خصائص معينة ، مثل المشاعر الإيجابية أو السلبية ، فإن الشركات والباحثين يجندون فرقًا من المعلقين البشريين لتسمية الأمثلة ، عادةً من منصات التعهيد الجماعي مثل Amazon Mechanical Turk. يجلب هؤلاء المعلقون مجموعاتهم الخاصة من وجهات النظر - والتحيزات - إلى الطاولة.

في دراسة أجراها معهد ألين للذكاء الاصطناعي ، وكارنيجي ميلون ، وجامعة واشنطن ، وجد العلماء أنه من المرجح أن يقوم المصممون بتعليق عبارات في لهجة الإنجليزية الأمريكية الأفريقية (AAE) أكثر سمية من نظيراتها في اللغة الإنجليزية الأمريكية العامة - على الرغم من فهمها. غير سامة من قبل مكبرات الصوت AAE. بانوراما، وهي المنظمة التي تعمل تحت إشراف شركة Alphabet من Google لمعالجة التسلط عبر الإنترنت والمعلومات المضللة ، قد توصلت إلى استنتاجات مماثلة في تجاربها. اكتشف الباحثون في الشركة اختلافات في التعليقات التوضيحية بين المصنفين الذين يعرّفون أنفسهم على أنهم أمريكيون من أصل أفريقي وأعضاء في مجتمع LGBTQ + مقابل المعلقين الذين لا يعرفون أيًا من هذه المجموعات.

في بعض الأحيان ، يكون التحيز متعمدًا - مسألة مقايضات عامة. فمثلا، كاتب، وهي شركة ناشئة تعمل على تطوير مساعد الذكاء الاصطناعي لتوليد المحتوى ، وتقول إنها تعطي الأولوية "للغة الإنجليزية للأعمال" في اقتراحاتها الكتابية. أعطت السيدة مي حبيب ، المديرة التنفيذية ، مثال "العادة" في AAVE ، وهو فعل لا يوجد في أي أسلوب آخر للغة الإنجليزية.

"نظرًا لأن [المعتاد] لم يتم استخدامه تقليديًا في اللغة الإنجليزية للأعمال ، وبالتالي لا يظهر بشكل متكرر في مجموعات البيانات الخاصة بنا ، فإننا نصحح عبارة" تقومون ببعض الأشياء الغريبة هنا "إلى" Y " كلهم يفعلون أشياء غريبة هنا ، "قال حبيب لـ VentureBeat عبر البريد الإلكتروني. "[ومع ذلك] تأكدنا يدويًا من أن التحيات والتوقيعات التي تعتمد على اللغة العامية لن يتم وضع علامة عليها بواسطة Writer. بعض اللغات العامية أكثر حيادية من حيث النوع الاجتماعي من اللغة الإنجليزية للأعمال الرسمية ، [على سبيل المثال ،] لذا فهي أكثر حداثة ومتصلة بالعلامة التجارية للشركات ".

التأثير على الكتابة

عندما تتحول التحيزات - عن قصد أو بغير قصد - إلى أنظمة الإكمال التلقائي والاقتراح الذاتي ، فيمكنها تغيير الطريقة التي نكتب بها. النطاق الهائل الذي تعمل به هذه الأنظمة يجعل من الصعب (إن لم يكن من المستحيل) تجنبها تمامًا. الرد الذكي كان مسؤول بنسبة 10٪ من جميع ردود Gmail المرسلة من الهواتف الذكية في عام 2016.

في واحدة من أكثر شمولا التدقيق من أدوات الإكمال التلقائي ، أجرى فريق من باحثي Microsoft مقابلات مع متطوعين طُلب منهم تقديم أفكارهم حول الردود التي يتم إنشاؤها تلقائيًا في Outlook. وجد الأشخاص الذين تمت مقابلتهم أن بعض الردود كانت إيجابية للغاية ، وخاطئة في افتراضاتهم حول الثقافة والجنس ، وغير مهذبة للغاية في سياقات معينة ، مثل مراسلات الشركات. ومع ذلك ، أظهرت التجارب خلال الدراسة أن المستخدمين كانوا أكثر ميلًا إلى تفضيل الردود القصيرة والإيجابية والمهذبة التي اقترحها Outlook.

وجدت دراسة منفصلة لجامعة هارفارد أنه عندما تم تقديم اقتراحات الإكمال التلقائي "الإيجابية" للأشخاص الذين يكتبون عن مطعم ما ، فإن المراجعات الناتجة تميل إلى أن تكون أكثر إيجابية مما لو تم تقديمها مع اقتراحات سلبية. "من المثير التفكير في الكيفية التي يمكن أن تساعد بها أنظمة النص التنبؤية في المستقبل الناس على أن يصبحوا كتابًا أكثر فاعلية ، ولكننا نحتاج أيضًا إلى الشفافية والمساءلة للحماية من الاقتراحات التي قد تكون متحيزة أو يتم التلاعب بها ،" كين أرنولد ، باحث في كلية هارفارد العلوم الهندسية والتطبيقية التي شاركت في الدراسة ، قال بي بي سي.

إذا كان هناك حل شامل لمشكلة الإكمال التلقائي الضار ، فلم يتم اكتشافه بعد. اختارت Google ببساطة حظر اقتراحات الضمير القائمة على الجنس في الكتابة الذكية لأن النظام أثبت أنه مؤشر ضعيف لجنس المستلمين وهوياتهم الجنسية. تتجنب LinkedIn من Microsoft أيضًا الضمائر الجنسانية في الردود الذكية ، أداة المراسلة التنبؤية ، لمنع الأخطاء المحتملة.

المؤلفون المشاركون في Microsoft دراسة حذر من أنه إذا لم يعالج مصممو النظام بشكل استباقي أوجه القصور في تقنيات الإكمال التلقائي ، فسوف يخاطرون ليس فقط بإهانة المستخدمين بل يتسببون في عدم ثقتهم في الأنظمة. كتبوا: "يجب على مصممي النظام استكشاف استراتيجيات التخصيص على مستوى الفرد والشبكة الاجتماعية ، والنظر في كيفية استمرار القيم الثقافية والتحيزات المجتمعية من خلال أنظمتهم ، واستكشاف نماذج التفاعل الاجتماعي من أجل البدء في معالجة القيود والقضايا". تشير نتائجك إلى أن أنظمة التوصيات النصية الحالية للبريد الإلكتروني والتقنيات الأخرى [المشابهة] لا تزال غير دقيقة بما يكفي لتعكس التفاصيل الدقيقة للعلاقات الاجتماعية واحتياجات التواصل في العالم الحقيقي. "

المصدر: https://venturebeat.com/2022/01/11/text-autocompletion-systems-aim-to-ease-our-lives-but-there-are-risks/