10 צעדים לחינוך החברה שלך בנושא הוגנות של AI

ככל שחברות מיישמות יותר ויותר בינה מלאכותית, עליהן להתמודד עם חששות לגבי אמון.

להלן 10 התערבויות מעשיות לחברות להעסקה בכדי להבטיח הוגנות של AI. הם כוללים יצירת הוגנות AI אמנת ויישום הכשרה ובדיקה.

טכנולוגיות מונעות נתונים ובינה מלאכותית (AI) מניעות את עולמנו כיום - החל מנבוא היכן תופיע הגרסה הבאה של COVID-19 ועד לסייע לנו לנסוע בדרך היעילה ביותר. בתחומים רבים, לקהל הרחב יש אמון רב בכך שהאלגוריתמים שמניעים חוויות אלה מפותחים בצורה הוגנת.

עם זאת, ניתן לשבור אמון זה בקלות. לדוגמא, שקול תוכנת גיוס שבגלל נתוני הכשרה לא מייצגים, מקניש יישומים שמכילים את המילה "נשים", או מערכת ניקוד אשראי שמתגעגעת לראיות בעולם האמיתי לכדאי אשראי וכך כתוצאה מקבוצות מסוימות מגבלות אשראי נמוכות יותר או נשללים הלוואות.

המציאות היא שהטכנולוגיה עוברת מהר יותר מאשר ההשכלה וההכשרה בנושא הוגנות AI. האנשים שמאמנים, מפתחים, מיישמים ומשווקים חוויות מבוססות נתונים אלה לרוב אינם מודעים לכך השלכות מסדר שני או שלישי של עבודתם הקשה.

במסגרת הפורום הכלכלי העולמי מועצה עתידית עולמית בנושא בינה מלאכותית לאנושות, קולקטיב של מתרגלי AI, חוקרים ויועצים ארגוניים, אנו מציעים 10 התערבויות מעשיות לחברות להעסקה כדי להבטיח הוגנות של AI.

1. הקצה אחריות על חינוך AI

הקצאת קצין אתיקה ראשי למדעי המחשב (CAIO) אשר יחד עם מועצת אתיקה חוצה פונקציות (כולל נציגי מדעי נתונים, רגולציה, יחסי ציבור, תקשורת ואנשי אנוש) צריכים להיות אחראים על תכנון ויישום פעילויות חינוך AI. ה- CAIO צריך להיות גם ה"יועמ"ש "של הצוות לפנות אליו במקרה של חששות להוגנות, כמו גם דובר צוות לא טכני. באופן אידיאלי תפקיד זה אמור לדווח ישירות למנכ"ל לצורך חשיפה ויישום.

2. הגדירו הוגנות לארגונכם

פתח תבנית אמנת הוגנות של AI ואז שאל כל המחלקות המשתמשים באופן פעיל ב- AI כדי להשלים אותו בהקשר שלהם. זה רלוונטי במיוחד עבור מנהלי קו עסקים ובעלי מוצרים ושירותים.

3. הקפידו על הוגנות AI לאורך שרשרת האספקה

דרוש מהספקים שאתה משתמש בהם שהבינה AI במוצרים והשירותים שנרכשו - למשל סוכנות גיוס שעשויה להשתמש ב- AI לצורך סינון מועמדים - כדי להשלים גם אמנת הוגנות של AI ולציית למדיניות החברה בנושא הוגנות AI. זה רלוונטי במיוחד לפונקציית הרכש ולספקים.

4. לחנך את הצוות ואת בעלי העניין באמצעות הכשרה וגישה של "ללמוד על ידי עשייה"

דרוש הכשרה והסמכה חובה לכל העובדים על עקרונות הוגנות של AI - בדומה לאופן שבו הצוות נדרש להירשם לקודי התנהגות עסקית. עבור צוותים טכניים, יש לספק הדרכות כיצד לבנות מודלים שאינם מפרים את עקרונות ההגינות. כל ההדרכות צריכות למנף את התובנות מאמנויות ההגינות של AI בכדי לטפל ישירות בבעיות העומדות בפני החברה. ודא שתכני הקורס נבדקים באופן קבוע על ידי מועצת האתיקה.

5. צור הוגנות של HR AI שמתכננים אנשים

תוכנית הוגנות של HR AI צריכה לכלול סקירה שנתית על ידי HR כדי להעריך את מגוון הצוות העובד על טכנולוגיות מבוססות נתונים ו- AI, וכן סקירה מפורשת ושדרוג של היכולות והמיומנויות המפורסמים כיום לפיתוח מוצרים מפתח רלוונטי ל- AI. תפקידים (כגון בעל מוצר, מדען נתונים ומהנדס נתונים) כדי להבטיח מודעות להוגנות הם חלק מתיאור התפקיד.

6. בדקו את ההגינות של AI לפני השקת טכנולוגיה כלשהי

דרוש מהמחלקות והספקים להריץ ולפרסם באופן פנימי מבחני תוצאות הוגנות לפני שמותר לאלגוריתם AI להיכנס לאוויר. ברגע שאתה יודע אילו קבוצות עשויות להיות מטופלות בצורה לא הוגנת עקב הטיה בנתונים, הדמה משתמשים מאותה קבוצה ופקח על התוצאות. זה יכול לשמש את צוותי המוצר כדי לחזור ולשפר את המוצר או השירות שלהם לפני שהוא עולה לאוויר. כלי קוד פתוח, כגון מיקרוסופט פיירלין, יכול לסייע במתן הניתוח לבדיקת תוצאה של הגינות.

7. תקשר את הגישה שלך להגינות AI

קבע מפגשי למידה של תוצאות הוגנות עם צוות הפונה ללקוח וציבור כדי לעבור את מבחני תוצאות ההוגנות עבור כל מוצר או שירות חדש או מעודכן. זה רלוונטי במיוחד עבור שיווק ותקשורת חיצונית, כמו גם עבור צוותי שירות לקוחות.

8. הקדישו פריט עומד בישיבות הדירקטוריון לתהליכי הוגנות של AI

דיון זה צריך לכלול דיווח על התקדמות ודבקות, נושאים שהועלו ממנהל האתיקה הראשי ומועצת האתיקה ותוצאות בדיקות תוצאות הוגנות בעדיפות גבוהה.

9. וודאו שהחינוך נדבק

עקוב אחר דיווח והשתתפות של פעילויות הגינות AI באופן קבוע ודיווח עליהם, לצד ההשפעה המופגנת של ניהול הוגנות מבחינת ערך עסקי אמיתי. ספק עדכונים אלה למנהלי מחלקות וקווים כדי לתקשר עם הצוות בכדי להעצים כי על ידי הפיכת פלטפורמות AI ותוכנות ליותר הוגנות, הארגון יעיל ויצרני יותר.

10. תעד הכל

תעד את הגישה שלך להגינות AI ותקשר אותה בהדרכות צוות וספקים ובאירועים בולטים, כולל עבור לקוחות ומשקיעים.

[סיפור זה הופיע במקור ב 10 צעדים לחינוך החברה שלך בנושא הוגנות של AI | הפורום הכלכלי העולמי (weforum.org). זכויות יוצרים 2021.]

נדג'יה יוסיף הוא מנכ"ל ושותף ב- בוסטון קבוצת ייעוץ ומוביל יחד את הנוהג של מוסדות פיננסיים בבריטניה, הולנד ובלגיה.

מארק מינביץ ' משמש כיו"ר למדיניות בינה מלאכותית במרכז המחקר הבינלאומי בנושא בינה מלאכותית בחסות אונסק"ו, מכון יוזף סטפן.