هدف سیستم های تکمیل خودکار متن آسان کردن زندگی ما است، اما خطراتی وجود دارد

اگر اخیراً یک پیام متنی یا ایمیل نوشته‌اید، احتمالاً هوش مصنوعی مترادف‌ها، عبارات یا روش‌های مختلفی برای تکمیل یک جمله به شما پیشنهاد می‌دهد. ظهور ابزارهای پیشنهاد خودکار مبتنی بر هوش مصنوعی مانند Smart Compose گوگل با دگرگونی دیجیتالی ارتباطات سازمانی که اکنون عمدتاً به صورت آنلاین زندگی می کنند، همزمان شده است. این است برآورد که کارگر معمولی هر روز به حدود 40 ایمیل پاسخ می دهد و می فرستد بیش از 200 پیام Slack در هفته.

با Adobe، پیام‌رسانی بخش فزاینده‌ای از روز کاری را مصرف می‌کند میخ مدت زمانی که کارگران 15.5 ساعت در هفته برای پاسخ دادن به ایمیل ها صرف می کنند. جابجایی مداوم کار، ناقوس مرگ برای بهره وری است، که مطالعات نشان می دهد مزایای کار بی وقفه. پژوهش از دانشگاه کالیفرنیا و دانشگاه هومبولت دریافتند که کارگران می توانند هر بار که کارشان قطع شود تا 23 دقیقه از دست بدهند. طولانی شدن بیشتر روز کاری

ابزارهای پیشنهاد خودکار وعده صرفه جویی در زمان را با ساده کردن نوشتن پیام و پاسخ می دهند. برای مثال، پاسخ هوشمند گوگل، پاسخ‌های سریع به ایمیل‌هایی را پیشنهاد می‌کند که معمولا چند دقیقه طول می‌کشد تا تایپ شوند. اما هوش مصنوعی پشت این ابزارها دارای کاستی هایی است که می تواند سوگیری ایجاد کند یا زبان مورد استفاده در پیام رسانی را به روش های نامطلوب تحت تأثیر قرار دهد.

رشد در پیشنهاد خودکار و تکمیل خودکار متن

متن پیشگو فناوری جدیدی نیست. یکی از اولین نمونه های در دسترس، T9که اجازه می دهد کلمات را از یک فشار کلید برای هر حرف تشکیل دهند، در اواخر دهه 90 در بسیاری از تلفن های همراه استاندارد شد. اما ظهور تکنیک‌های پیشرفته‌تر و مقیاس‌پذیر هوش مصنوعی در زبان منجر به جهش در کیفیت - و وسعت - ابزارهای پیشنهاد خودکار شد.

در سال 2017، گوگل راه اندازی شد پاسخ هوشمندانه در Gmail، که شرکت بعداً آن را به سایر سرویس‌های Google از جمله چت و برنامه‌های شخص ثالث ارائه کرد. به گفته گوگل، هوش مصنوعی پشت Smart Reply، پیشنهادات پاسخ را «بر اساس زمینه کامل یک مکالمه» تولید می‌کند، نه فقط یک پیام - که ظاهراً منجر به پیشنهادهایی می‌شود که به موقع و مرتبط‌تر هستند. Smart Composeکه جملات کاملی را در ایمیل‌ها پیشنهاد می‌کند، یک سال بعد به Gmail و Google Docs رسید به زودی پس از آن. یک ویژگی مشابه به نام پاسخهای پیشنهادی در سال 2018 به Microsoft Outlook و در سال 2020 به Teams آمد.

فناوری پشت محصول جدید ابزارهای پیشنهاد خودکار - که برخی از محافل دانشگاهی از آن به عنوان "ارتباطات مبتنی بر هوش مصنوعی" یاد می کنند - جهشی فراتر از آنچه در دهه 90 وجود داشت، است. به عنوان مثال، مدل هوش مصنوعی زیربنای Smart Compose با استفاده از میلیاردها نمونه ایمیل ایجاد شد و در فضای ابری روی سخت‌افزار شتاب‌دهنده سفارشی اجرا می‌شود. در همین حال، Smart Reply - که به عنوان پایه و اساس Smart Compose عمل کرد - یک "رویکرد سلسله مراتبی" به پیشنهادات دارد که از نحوه درک انسان از زبان ها و مفاهیم الهام گرفته شده است.

برایان استروپ، دانشمند تحقیقاتی گوگل و ری کورزویل، مدیر مهندسی، «محتوای زبان عمیقاً سلسله مراتبی است و در ساختار خود زبان منعکس شده است». توضیح دادن در یک پست وبلاگ "این پیام را در نظر بگیرید، "آن شخص جالب در کافه ای که ما دوست داریم به من نگاهی انداخت." ... در پیشنهاد پاسخ مناسب به این پیام، ممکن است معنای کلمه "نگاه" را در نظر بگیریم که بالقوه مبهم است. آیا ژست مثبتی بود؟ در آن صورت، ممکن است پاسخ دهیم، "باحال!" یا ژست منفی بود؟ اگر چنین است، آیا موضوع در مورد احساس نویسنده در مورد مبادله منفی چیزی می گوید؟ اطلاعات زیادی در مورد جهان و توانایی قضاوت مستدل برای ایجاد تمایزات ظریف مورد نیاز است. با توجه به مثال‌های کافی از زبان، رویکرد یادگیری ماشینی می‌تواند بسیاری از این تمایزات ظریف را کشف کند. ”

اما مانند همه فن‌آوری‌ها، حتی تواناترین ابزارهای پیشنهاد خودکار نیز مستعد نقص‌هایی هستند که در طول فرآیند توسعه - و استقرار - ظاهر می‌شوند.

در دسامبر 2016 بود نشان داد که ویژگی تکمیل خودکار جستجوی Google پایان‌های نفرت‌انگیز و توهین‌آمیز را برای عبارات جستجوی خاص پیشنهاد می‌کند، مانند «آیا یهودیان شرور هستند؟» برای عبارت «یهودی هستند». به گفته این شرکت، خطا یک سیستم الگوریتمی بود که پیشنهادات را بر اساس آنچه دیگر کاربران اخیراً جستجو کرده اند به روز می کند. در حالی که گوگل در نهایت یک اصلاح را اجرا کرد، چندین سال طول کشید تا این شرکت پیشنهادات تکمیل خودکار را مسدود کند اظهارات سیاسی جنجالی از جمله ادعاهای نادرست در مورد الزامات رای دادن و مشروعیت فرآیندهای انتخاباتی.

Smart Reply بوده است یافت در پاسخ به پیامی که شامل یک شکلک تفنگ بود، شکلک «فردی که عمامه به سر دارد» ارائه کند. و تکمیل خودکار اپل در iOS قبلا فقط ایموجی های مردانه را برای نقش های اجرایی از جمله مدیر عامل، مدیر ارشد اجرایی و مدیر ارشد فناوری پیشنهاد می کند.

داده های جانبدارانه

نقص در سیستم های تکمیل خودکار و پیشنهادات خودکار اغلب از داده های جانبدارانه ناشی می شود. میلیون‌ها تا میلیاردها مثالی که سیستم‌ها از آن‌ها یاد می‌گیرند، می‌توانند با متنی آلوده شوند وب سایت های سمی که جنسیت ها، نژادهای خاصی را مرتبط می کند، قومیت هاو ادیان با مفاهیم آسیب زا. نشان دادن مشکل، نسخه قدیمی، یک مدل تولید کننده کد که توسط آزمایشگاه تحقیقاتی OpenAI توسعه یافته است، می توان با استفاده از کلمه "اسلام" از آن خواست که "تروریست" بنویسد. یک مدل زبان بزرگ دیگر از راه اندازی هوش مصنوعی منسجم تمایل دارد مردان و زنان را با مشاغل کلیشه‌ای «مردانه» و «زنانه»، مانند «دانشمند مرد» و «خانه‌دار زن» مرتبط کند.

حاشیه نویسی در داده ها می تواند مشکلات جدیدی را ایجاد کند - یا مشکلات موجود را تشدید کند. از آنجایی که بسیاری از مدل‌ها از برچسب‌هایی یاد می‌گیرند که مشخص می‌کنند کلمه، جمله، پاراگراف یا سند دارای ویژگی‌های خاصی است، مانند احساسات مثبت یا منفی، شرکت‌ها و محققان تیم‌هایی از حاشیه‌نویس‌های انسانی را برای برچسب‌گذاری نمونه‌ها، معمولاً از پلتفرم‌های جمع‌سپاری مانند Amazon Mechanical Turk، استخدام می‌کنند. این حاشیه نویسان مجموعه ای از دیدگاه ها و سوگیری های خود را به میز می آورند.

در مطالعه‌ای از مؤسسه آلن برای هوش مصنوعی، کارنگی ملون و دانشگاه واشنگتن، دانشمندان دریافتند که برچسب‌ها به احتمال زیاد عباراتی را در گویش انگلیسی آفریقایی آمریکایی (AAE) سمی‌تر از معادل‌های عمومی انگلیسی آمریکایی - علیرغم درک آن‌ها، حاشیه‌نویسی می‌کنند. به عنوان غیر سمی توسط بلندگوهای AAE. اره منبت کاری ارهسازمانی که زیر نظر شرکت مادر گوگل آلفابت برای مقابله با آزار و اذیت سایبری و اطلاعات نادرست کار می کند، در آزمایشات خود به نتایج مشابهی رسیده است. محققان این شرکت تفاوت هایی را در حاشیه نویسی بین برچسب زنی هایی که خود را آمریکایی های آفریقایی تبار معرفی می کنند و اعضای جامعه LGBTQ+ در مقابل حاشیه نویسانی که به عنوان هیچ یک از این گروه ها شناسایی نمی شوند، کشف کرده اند.

گاهی اوقات، تعصب عمدی است - موضوعی مبادله‌های عامیانه. مثلا، نویسندهاستارت‌آپی که دستیار هوش مصنوعی برای تولید محتوا توسعه می‌دهد، می‌گوید که «انگلیسی تجاری» را در پیشنهادات نوشتاری خود در اولویت قرار می‌دهد. مدیر عامل شرکت می حبیب مثالی از "beabitual be" در AAVE زد، زمان فعل که در هیچ سبک دیگری از زبان انگلیسی وجود ندارد.

“Since [the habitual be] traditionally hasn’t been used in business English, and thus doesn’t show up in high frequency in our datasets, we would correct ‘Y’all be doing some strange things out here’ to ‘Y’all are doing some strange things out here,’” Habib told VentureBeat via email. “[That said,] we did manually ensure that vernacular-based greetings and sign-offs would not be flagged by Writer. Some vernacular is more gender-neutral than formal business English, [for instance,] so is more modern and on-brand for companies.”

تاثیرگذاری در نوشتن

وقتی سوگیری‌ها - عمدی یا غیر عمدی - به سیستم‌های تکمیل خودکار و پیشنهاد خودکار تبدیل می‌شوند، می‌توانند نحوه نوشتن ما را تغییر دهند. مقیاس عظیمی که این سیستم ها در آن کار می کنند اجتناب کامل از آنها را دشوار (اگر نه غیرممکن) می کند. پاسخ هوشمند بود مسئوليت برای 10٪ از تمام پاسخ های جیمیل ارسال شده از تلفن های هوشمند در سال 2016.

در یکی از جامع تر ممیزی از ابزارهای تکمیل خودکار، تیمی از محققان مایکروسافت با داوطلبانی مصاحبه کردند که به آنها گفته شد نظرات خود را در مورد پاسخ های تولید شده خودکار در Outlook بیان کنند. مصاحبه شوندگان برخی از پاسخ ها را بیش از حد مثبت، در مفروضات خود در مورد فرهنگ و جنسیت اشتباه، و برای زمینه های خاص، مانند مکاتبات شرکتی، بیش از حد غیر مودبانه دریافتند. حتی با این حال، آزمایش‌ها در طول مطالعه نشان داد که کاربران به احتمال زیاد از پاسخ‌های کوتاه، مثبت و مودبانه پیشنهاد شده توسط Outlook استقبال می‌کنند.

یک مطالعه جداگانه در هاروارد نشان داد که وقتی به افرادی که در مورد یک رستوران می‌نویسند، پیشنهادهای تکمیل خودکار «مثبت» ارائه می‌شود، بررسی‌های حاصل از آن‌ها مثبت‌تر از پیشنهادات منفی هستند. کن آرنولد، محققی در دانشکده هاروارد، گفت: «فکر کردن در مورد اینکه چگونه سیستم‌های متن پیش‌بینی‌کننده آینده ممکن است به مردم کمک کند تا نویسنده‌های بسیار مؤثرتری شوند، هیجان‌انگیز است، اما ما همچنین به شفافیت و مسئولیت‌پذیری برای محافظت در برابر پیشنهاداتی که ممکن است مغرضانه یا دستکاری شوند، نیاز داریم. مهندسی و علوم کاربردی که در این مطالعه شرکت داشتند، گفته شده بی بی سی.

اگر راه حل جامعی برای مشکل تکمیل خودکار مضر وجود داشته باشد، هنوز کشف نشده است. Google تصمیم گرفت به سادگی پیشنهادات ضمایر مبتنی بر جنسیت را در Smart Compose مسدود کند، زیرا ثابت شد که سیستم پیش‌بینی‌کننده ضعیفی از جنسیت و هویت جنسیتی گیرندگان است. لینکدین مایکروسافت همچنین از ضمایر جنسیتی در Smart Replies، ابزار پیام‌رسانی پیش‌بینی‌کننده‌اش، اجتناب می‌کند تا از اشتباهات احتمالی جلوگیری کند.

نویسندگان همکار مایکروسافت مطالعه هشدار می دهد که اگر طراحان سیستم به طور پیشگیرانه کاستی های موجود در فناوری های تکمیل خودکار را برطرف نکنند، نه تنها در معرض خطر توهین کاربران، بلکه باعث بی اعتمادی آنها به سیستم ها می شوند. آنها نوشتند: «طراحان سیستم باید استراتژی‌های شخصی‌سازی را در سطح فردی و شبکه‌های اجتماعی بررسی کنند، در نظر بگیرند که چگونه ارزش‌های فرهنگی و سوگیری‌های اجتماعی ممکن است توسط سیستم‌هایشان تداوم یابد، و مدل‌سازی تعامل اجتماعی را برای شروع رسیدگی به محدودیت‌ها و مسائل بررسی کنند.» یافته‌های ما نشان می‌دهد که سیستم‌های توصیه متنی فعلی برای ایمیل و سایر فن‌آوری‌های [مانند] به اندازه کافی برای انعکاس ظرافت‌های روابط اجتماعی و نیازهای ارتباطی در دنیای واقعی ناسازگار هستند. "

منبع: https://venturebeat.com/2022/01/11/text-autocompletion-systems-aim-to-ease-our-lives-but-there-are-risks/