כדי להבטיח הכללה, על ממשל ביידן להכפיל יוזמות פיתוח AI

הוועדה לביטחון לאומי לבינה מלאכותית (NSCAI) הוציאה א לדווח בחודש שעבר המסר הודעה ציבורית לא נוחה: אמריקה אינה מוכנה להגן או להתחרות בעידן הבינה המלאכותית. זה מוביל לשתי שאלות מרכזיות הדורשות את תגובתנו המיידית: האם ארה"ב תמשיך להיות מעצמת-על עולמית אם תיפגר מאחור בפיתוח ופריסת AI? ומה אנחנו יכולים לעשות כדי לשנות מסלול זה?

כלי אינטליגנציה מלאכותית (AI) שנותרו ללא פיקוח, נראים ניטרליים יכולים להנציח אי-שוויון ולמעשה להפוך את האפליה אוטומטית. נזקים התומכים בטכנולוגיה כבר צצו בהחלטות אשראי, שירותי בריאות, ו פרסום.

כדי למנוע הישנות וצמיחה בקנה מידה זה, על ממשל ביידן להבהיר את החוקים הנוכחיים הנוגעים למודלים של AI ולימוד מכונה - הן מבחינת האופן בו אנו נעריך את השימוש על ידי גורמים פרטיים והן את האופן שבו ננהל את השימוש ב- AI במערכות הממשל שלנו.

הממשל שם רגל חזקה קדימה, החל ממינויים מרכזיים בתחום הטכנולוגי וכלה בהנפקה להזמין הנהלה ביום הראשון בתפקיד שהקים קבוצת עבודה של Equitable Data. זה ניחם את הספקנים המודאגים הן מהמחויבות האמריקאית לפיתוח AI והן להבטחת הון עצמי במרחב הדיגיטלי.

אך זה יהיה חולף אלא אם כן הממשל יגלה נחישות חזקה בהפיכת מימון ה- AI למציאות ובביסוס מנהיגים ומבנים הדרושים לשמירה על פיתוחו ושימושו.

צורך בבירור בסדרי העדיפויות

There has been a seismic shift at the federal level in AI policy and in stated commitments to equality in tech. A number of high profile appointments by the Biden administration — from Dr. Alondra Nelson as Deputy of OSTP, to Tim Wu at the NEC, to (our former senior advisor) Kurt Campbell at the NSC — signal that significant attention will be paid to inclusive AI development by experts on the inside.

השמיים דוח סופי של NSCAI כולל המלצות שיכולות להיות קריטיות לאפשר יסודות טובים יותר לפיתוח AI כולל, כגון יצירת צינורות כישרון חדשים דרך האקדמיה לשירות דיגיטלי בארה"ב להכשיר עובדים בהווה ובעתיד.

הדו"ח ממליץ גם להקים חדש המועצה לתחרותיות טכנולוגית led by the Vice President. This could prove essential in ensuring that the nation’s commitment to AI leadership remains a priority at the highest levels. It makes good sense to have the administration’s leadership on AI spearheaded by VP Harris in light of her strategic partnership with the President, her מדיניות טכנולוגית מתמצא והתמקדותה בזכויות האזרח.

ארה"ב צריכה להוביל לדוגמא

אנו יודעים שבינה מלאכותית עוצמה ביכולתה ליצור התייעלות, כמו לחרוש אלפי קורות חיים כדי לזהות מועמדים פוטנציאליים מתאימים. אבל זה יכול גם להפלות בקנה מידה, כמו כלי שכירת אמזון שהעדיף מועמדים גברים או "קו דיגיטלי מחדש"אשראי על בסיס גזע.

The Biden administration should issue an Executive Order (EO) to agencies inviting ideation on ways AI can improve government operations. The EO should also mandate checks on AI used by the USG to ensure it’s not spreading discriminatory outcomes unintentionally.

למשל, צריך להיות לוח זמנים שגרתי בו מעריכות מערכות AI נבדקות בכדי להבטיח שהטיות מוטבעות ומזיקות אינן מביאות להמלצות המפלות או שאינן עולות בקנה אחד עם הערכים הדמוקרטיים והכלוליים שלנו - ומוערכות מחדש באופן שגרתי בהתחשב בכך שבינה מלאכותית חוזרת כל העת ולומדת. דפוסים חדשים.

הצבת מערכת ממשל אחראית אחראית היא קריטית במיוחד בממשלת ארה"ב הנדרשת להציע ראוי תהליך הגנה כאשר שוללים הטבות מסוימות. למשל, כאשר משתמשים ב- AI לקביעת הקצאה של יתרונות Medicaid, והטבות כאלה משתנות או נדחות על בסיס אלגוריתם, על הממשלה להיות מסוגלת להסביר את התוצאה, נקרא כראוי הליך נאות טכנולוגי.

אם ההחלטות מואצלות למערכות אוטומטיות ללא הסבר, הנחיות ופיקוח אנושי, אנו מוצאים את עצמנו במצב הבלתי נסבל בו נשללת זכות חוקתית בסיסית זו.

כמו כן, לממשל יש כוח עצום להבטיח כי אמצעי הגנה על AI על ידי שחקנים מרכזיים קיימים באמצעות כוח הרכש שלו. ההוצאות החוזיות הפדרליות היו צפויות עולה על 600 מיליארד דולר בשנת הכספים 2020, עוד לפני הכללת קרנות גירוי כלכליות פנדמיות. ה- USG יכול להשפיע רבות על ידי הוצאת רשימת ביקורת לרכישת פדרליות של מערכות AI - הדבר יבטיח שתהליך הממשלה יהיה קפדני ויישם באופן כללי, כולל שיקולים רלוונטיים לזכויות האזרח.

הגנה מפני אפליה הנובעת ממערכות AI

The government holds another powerful lever to protect us from AI harms: its investigative and prosecutorial authority. An Executive Order instructing agencies to clarify applicability of current laws and regulations (e.g., ADA, Fair Housing, Fair Lending, Civil Rights Act, etc.) when determinations are reliant on AI-powered systems could result in a global reckoning. Companies operating in the U.S. would have unquestionable motivation to check their AI systems for harms against protected classes.

אנשים בעלי הכנסה נמוכה פגיעים באופן לא פרופורציונלי לרבים מההשפעות השליליות של AI. זה בולט במיוחד ביחס ל אשראי ויצירת הלוואות, מכיוון שיש פחות סיכוי שיש להם גישה למוצרים פיננסיים מסורתיים או יכולת להשיג ציונים גבוהים על בסיס מסגרות מסורתיות. זה הופך לנתונים המשמשים ליצירת מערכות AI שמייעלות החלטות כאלה.

הלשכה להגנת המימון הצרכני (CFPB) יכולה למלא תפקיד מרכזי באחריות המוסדות הפיננסיים על תהליכי הלוואות מפלים הנובעים מהסתמכות על מערכות AI מפלה. המנדט של ה- EO יהיה פונקציה מכריחה להצהרות על אופן הערכת מערכות המותאמות ל- AI, להעיר חברות על כך ולהגן טוב יותר על הציבור עם ציפיות ברורות לשימוש ב- AI.

יש דרך ברורה לאחריות כאשר אדם פועל בצורה מפלה ו הליך נאות הפרה כאשר תועלת ציבורית נדחית באופן שרירותי, ללא הסבר. תיאורטית, התחייבויות וזכויות אלה יועברו בקלות כאשר מדובר במערכת AI, אך סקירה של פעולות סוכנות ותקדים משפטי (או ליתר דיוק, היעדרן) מעיד אחרת.

הממשל מתחיל בצורה טובה, כמו למשל אחורה כלל HUD המוצע זה היה הופך אתגרים משפטיים נגד AI מפלה לבלתי ניתנים להשגה. בשלב הבא, סוכנויות פדרליות בעלות סמכות חקירה או תובענה צריכות להבהיר אילו נוהגים בתחום הבינה המלאכותית ייפלו בביקורתן והחוקים הנוכחיים יחולו - למשל, HUD בגין אפליה בלתי חוקית של דיור; CFPB על AI המשמש בהלוואות אשראי; ומשרד העבודה בנושא AI המשמש בקביעות שקיבלו עובדים, הערכות וסיום.

פעולה כזו תביא לתועלת נוספת בהקמת א תקדים שימושי בגין פעולות התובע בתלונות.

The Biden administration has taken encouraging first steps signaling its intent to ensure inclusive, less discriminatory AI. However, it must put its own house in order by directing that federal agencies require the development, acquisition and use of AI — internally and by those it does business with — is done in a manner that protects privacy, civil rights, civil liberties, and American values.

מקור: https://techcrunch.com/2021/04/22/to-ensure-inclusivity-the-biden-administration-must-double-down-on-ai-development-initiatives/