10 مرحله برای آموزش شرکت خود در مورد انصاف AI

از آنجایی که شرکت ها به طور فزاینده ای از هوش مصنوعی استفاده می کنند، باید نگرانی های مربوط به اعتماد را برطرف کنند.

در اینجا 10 مداخله عملی برای شرکت ها برای اطمینان از عدالت هوش مصنوعی آورده شده است. آنها شامل ایجاد یک انصاف هوش مصنوعی منشور و اجرای آموزش و تست.

فن‌آوری‌های مبتنی بر داده و هوش مصنوعی (AI) دنیای امروز ما را تقویت می‌کنند - از پیش‌بینی مکان بعدی کووید-19 تا کمک به ما برای سفر در کارآمدترین مسیر. در بسیاری از حوزه‌ها، عموم مردم اعتماد زیادی دارند که الگوریتم‌هایی که این تجربیات را تقویت می‌کنند به شیوه‌ای منصفانه توسعه می‌یابند.

با این حال، این اعتماد را می توان به راحتی شکست. برای مثال در نظر بگیرید نرم افزار استخدام که به دلیل داده‌های آموزشی غیرنماینده، برنامه‌هایی را که حاوی کلمه «زنان» هستند، یا یک سیستم امتیازدهی اعتباری که شواهد واقعی اعتبار را از دست می‌دهد جریمه می‌کند و در نتیجه گروه‌های خاصی دریافت می‌کنند. محدودیت های اعتباری کمتر یا از وام محروم می شوند.

واقعیت این است که این فناوری سریعتر از آموزش و آموزش در مورد عدالت هوش مصنوعی در حال حرکت است. افرادی که این تجربیات مبتنی بر داده‌ها را آموزش می‌دهند، توسعه می‌دهند، اجرا می‌کنند و به بازار عرضه می‌کنند، اغلب از آن بی‌اطلاع هستند پیامدهای مرتبه دوم یا سوم کار سخت آنها.

به عنوان بخشی از مجمع جهانی اقتصاد شورای جهانی آینده در زمینه هوش مصنوعی برای بشریتما، مجموعه‌ای از متخصصان، محققان و مشاوران شرکت‌های هوش مصنوعی، 10 مداخله عملی را برای شرکت‌ها پیشنهاد می‌کنیم تا از عدالت هوش مصنوعی اطمینان حاصل کنند.

1. مسئولیت آموزش هوش مصنوعی را تعیین کنید

یک افسر ارشد اخلاق هوش مصنوعی (CAIO) را تعیین کنید که به همراه یک هیئت اخلاقی متقابل (شامل نمایندگانی از علوم داده، مقررات، روابط عمومی، ارتباطات و منابع انسانی) باید مسئول طراحی و اجرای فعالیت‌های آموزشی هوش مصنوعی باشند. CAIO همچنین باید «بازرس» برای کارکنان باشد که در صورت نگرانی‌های انصافی، و همچنین سخنگویی برای کارکنان غیر فنی باشد. در حالت ایده آل، این نقش باید مستقیماً به مدیر عامل برای مشاهده و اجرا گزارش شود.

2. عدالت را برای سازمان خود تعریف کنید

یک الگوی منشور عدالت هوش مصنوعی ایجاد کنید و سپس بپرسید همه بخش ها که فعالانه از هوش مصنوعی برای تکمیل آن در زمینه خود استفاده می کنند. این امر به ویژه برای مدیران خطوط تجاری و صاحبان محصولات و خدمات مرتبط است.

3. از عدالت هوش مصنوعی در طول زنجیره تامین اطمینان حاصل کنید

از تامین کنندگانی که استفاده می کنید و دارای هوش مصنوعی در محصولات و خدمات خریداری شده خود هستند - به عنوان مثال یک آژانس استخدام که ممکن است از هوش مصنوعی برای غربالگری نامزدها استفاده کند - بخواهید که منشور عدالت هوش مصنوعی را تکمیل کنند و به سیاست های شرکت در مورد عدالت هوش مصنوعی پایبند باشند. این امر به ویژه برای عملکرد تدارکات و تامین کنندگان مرتبط است.

4. آموزش کارکنان و ذینفعان از طریق آموزش و رویکرد "یادگیری از طریق انجام".

نیاز به آموزش و گواهینامه اجباری برای همه کارمندان در مورد اصول عادلانه هوش مصنوعی - مشابه نحوه ثبت نام کارکنان در کدهای رفتار تجاری. برای کارکنان فنی، آموزش نحوه ساخت مدل هایی که اصول انصاف را نقض نمی کنند ارائه دهید. همه آموزش‌ها باید از بینش منشورهای عدالت هوش مصنوعی برای رسیدگی مستقیم به مسائلی که شرکت با آن مواجه است، استفاده کند. اطمینان حاصل کنید که محتوای دوره به طور منظم توسط هیئت اخلاق بررسی می شود.

5. یک برنامه مردمی عادلانه هوش مصنوعی HR ایجاد کنید

یک طرح عادلانه هوش مصنوعی منابع انسانی باید شامل بررسی سالانه توسط منابع انسانی برای ارزیابی تنوع تیمی که بر روی فناوری‌های مبتنی بر داده و هوش مصنوعی کار می‌کنند، و یک بررسی صریح و ارتقاء شایستگی‌ها و مهارت‌هایی باشد که در حال حاضر برای توسعه محصول کلیدی مرتبط با هوش مصنوعی تبلیغ می‌شوند. نقش هایی (مانند مالک محصول، دانشمند داده و مهندس داده) برای اطمینان از آگاهی از عدالت بخشی از شرح شغل است.

6. انصاف هوش مصنوعی را قبل از راه اندازی هر فناوری آزمایش کنید

از دپارتمان‌ها و تامین‌کنندگان بخواهید تا قبل از اینکه هر الگوریتم هوش مصنوعی مجاز به اجرا شود، آزمایش‌های نتایج عادلانه را اجرا و به صورت داخلی منتشر کنند. هنگامی که می دانید با چه گروه هایی ممکن است به دلیل سوگیری داده ها به طور ناعادلانه رفتار شود، کاربران آن گروه را شبیه سازی کنید و نتایج را زیر نظر بگیرید. این می تواند توسط تیم های محصول برای تکرار و بهبود محصول یا خدمات خود قبل از انتشار استفاده شود. ابزارهای متن باز، مانند مایکروسافت Fairlearn، می تواند به ارائه تجزیه و تحلیل برای یک آزمون نتیجه عادلانه کمک کند.

7. رویکرد خود را در مورد عدالت هوش مصنوعی به اشتراک بگذارید

جلسات یادگیری نتایج انصاف را با کارکنانی که با مشتری و مردم مواجه هستند ترتیب دهید تا از طریق آزمایشات نتایج عادلانه برای هر محصول یا خدمات جدید یا به روز شده بگذرید. این امر به ویژه برای بازاریابی و ارتباطات خارجی و همچنین تیم های خدمات مشتری مرتبط است.

8. یک مورد ثابت در جلسات هیئت مدیره را به فرآیندهای عدالت هوش مصنوعی اختصاص دهید

این بحث باید شامل گزارش پیشرفت و پایبندی، موضوعات مطرح شده از مدیر ارشد اخلاق هوش مصنوعی و هیئت اخلاق، و نتایج آزمون‌های نتایج عادلانه با اولویت بالا باشد.

9. اطمینان حاصل کنید که آموزش می چسبد

به طور منظم مشارکت و تکمیل فعالیت‌های عادلانه هوش مصنوعی را همراه با تأثیر ثابت شده مدیریت انصاف از نظر ارزش واقعی کسب‌وکار پیگیری و گزارش دهید. این به‌روزرسانی‌ها را به مدیران بخش و خط ارائه کنید تا با کارکنان ارتباط برقرار کنند تا با منصفانه‌تر کردن پلت‌فرم‌ها و نرم‌افزارهای هوش مصنوعی، سازمان مؤثرتر و سازنده‌تر باشد.

10. همه چیز را مستند کنید

رویکرد خود را در مورد عدالت هوش مصنوعی مستند کنید و آن را در آموزش های کارکنان و تامین کنندگان و رویدادهای برجسته، از جمله برای مشتریان و سرمایه گذاران، به اشتراک بگذارید.

[این داستان در ابتدا ظاهر شد 10 مرحله برای آموزش شرکت خود در مورد عدالت هوش مصنوعی | مجمع جهانی اقتصاد (weforum.org). حق چاپ 2021.]

ناجیا یوسف مدیر عامل و شریک در گروه مشاوره بوستون و رهبری عمل موسسات مالی برای انگلستان، هلند و بلژیک را بر عهده دارد.

مارک مینویچ کرسی سیاست هوش مصنوعی در مرکز تحقیقات بین المللی هوش مصنوعی تحت نظارت یونسکو، موسسه جوزف استفان است.