אירופה מתווה תוכנית לכללי AI מבוססי סיכון כדי להגביר את האמון והקליטה

מחוקקי האיחוד האירופי הציגו את הצעה מבוססת סיכונים לוויסות יישומי סיכון גבוה של בינה מלאכותית בשוק היחיד של הגוש.

התוכנית כוללת איסורים על מספר קטן של מקרי שימוש שנחשבים מסוכנים מדי לבטיחות האנשים או לזכויות היסוד של אזרחי האיחוד האירופי, כגון מערכת ניקוד אשראי חברתית בסגנון סין או סוגים מסוימים של מעקב המוני המאפשר AI.

רוב השימושים בבינה מלאכותית לא יעמדו בפני שום רגולציה (שלא לדבר על איסור) במסגרת ההצעה, אך תת-קבוצה של שימושים המכונים "סיכון גבוה" יהיו כפופים לדרישות רגולטוריות ספציפיות, הן מראש (לפני) והן לאחר מכן (לאחר מכן). ) השקה לשוק.

ישנן גם דרישות שקיפות למקרי שימוש מסוימים של AI - כמו צ'אט-בוטים וזיופים עמוקים - כאשר המחוקקים באיחוד האירופי מאמינים כי ניתן להקל על הסיכון הפוטנציאלי על ידי ידיעה למשתמשים שהם מתקשרים עם משהו מלאכותי.

החוק המתוכנן נועד לחול על כל חברה שמוכרת מוצר או שירות AI לאיחוד האירופי, לא רק על חברות ואנשים פרטיים שמבוססים על האיחוד האירופי - כך שכמו עם משטר ההגנה על נתונים של האיחוד האירופי, הוא יהיה מחוץ לכדור הארץ.

מטרת העל של מחוקקי האיחוד האירופי היא לטפח את אמון הציבור באיך מיושם AI כדי לסייע בהגברת צריכת הטכנולוגיה. בכירי הנציבות מדברים על רצונם לפתח "מערכת אקולוגית מצוינת" המתאימה לערכים אירופיים.

"היום, אנו שואפים להפוך את אירופה לרמה עולמית בפיתוח של בינה מלאכותית מאובטחת, אמינה ובמרכזה אנושי, והשימוש בה", אמרה סמנכ"לית הנציבות, מרגרת' וסטגר, שהודיעה על אימוץ ההצעה במסיבת עיתונאים.

"מצד אחד, הרגולציה שלנו מתייחסת לסיכונים האנושיים והחברתיים הקשורים לשימושים ספציפיים ב- AI. זה כדי ליצור אמון. מצד שני, התוכנית המתואמת שלנו מתארת ​​את הצעדים הדרושים שעליהם המדינות החברות לנקוט כדי להגביר את ההשקעות והחדשנות. כדי להבטיח מצוינות. כל זאת, כדי להבטיח שנחזק את צריכת ה- AI ברחבי אירופה. "

על פי ההצעה, דרישות חובה מצורפות לקטגוריית "יישומי AI בסיכון גבוה" - כלומר אלה ש מהווים סיכון בטיחותי ברור או מאיים לפגוע בו זכויות היסוד של האיחוד האירופי (כגון הזכות לאפליה).

דוגמאות למקרי שימוש בבינה מלאכותית בסיכון גבוה שיהיו כפופים לרמה הגבוהה ביותר של רגולציה על שימוש מפורטות בנספח 3 לתקנה - שהנציבות אמרה שתהיה לה הסמכות להרחיב באמצעות פעולות האצלה, כמקרי שימוש של בינה מלאכותית ממשיכה להתפתח והסיכונים מתפתחים.

לעת עתה דוגמאות בסיכון גבוה מצוטטות בקטגוריות הבאות: זיהוי וסיווג ביומטרי של אנשים טבעיים; ניהול ותפעול תשתיות קריטיות; חינוך והכשרה מקצועית; תעסוקה, ניהול עובדים וגישה לעבודה עצמית; גישה והנאה משירותים פרטיים חיוניים ושירותים ציבוריים והטבות; אכיפת חוק; ניהול הגירה, מקלט ובקרת גבולות; ניהול צדק ותהליכים דמוקרטיים.

השימושים הצבאיים ב- AI אינם נכללים במיוחד מההיקף, מכיוון שהרגולציה מתמקדת בשוק הפנימי של הגוש.

ליצרניות של יישומי סיכון גבוה יהיו קבוצות של חובות לפני שהם צריכים לעמוד לפני שהן מביאות את המוצר לשוק, כולל סביב איכות מערכי הנתונים המשמשים להכשרת ה- AI שלהם ורמת פיקוח אנושי על לא רק עיצוב אלא שימוש. של המערכת - כמו גם דרישות מתמשכות, שלאחר מכן, בצורה של מעקב אחרי השוק.

דרישות אחרות כוללות צורך ליצור רשומות של מערכת ה- AI כדי לאפשר בדיקות תאימות וכן לספק מידע רלוונטי למשתמשים. החוסן, הדיוק והאבטחה של מערכת ה- AI יהיו כפופים גם לרגולציה.

פקידי הנציבות הציעו כי הרוב המכריע של היישומים של AI ייפול מחוץ לקטגוריה זו המפוקחת ביותר. יצרני מערכות ה- AI "בסיכון נמוך" רק יעודדו לאמץ קודי התנהגות (לא מחייבים משפטית) בשימוש.

העונשים בגין הפרת הכללים לגבי איסורים ספציפיים למקרי AI בשימוש נקבעו על עד 6% מהמחזור השנתי העולמי או 30 מיליון אירו (הגדול מביניהם). אמנם הפרות של הכללים הקשורים ליישומים בסיכון גבוה עשויות להגיע ל -4% (או 20 מיליון אירו).

האכיפה תכלול מספר סוכנויות בכל מדינה באיחוד האירופי - כאשר ההצעה מתכוונת לפיקוח על ידי סוכנויות קיימות (רלוונטיות), כגון גופי בטיחות מוצרים וסוכנויות הגנת נתונים.

זה מעלה שאלות מיידיות לגבי משאבים נאותים של גופים לאומיים, לאור העבודה הנוספת והמורכבות הטכנית שיתמודדו איתם בשיטור כללי ה-AI; וגם כיצד יימנעו צווארי בקבוק של אכיפה במדינות חברות מסוימות. (יש לציין, תקנת הגנת המידע הכללית של האיחוד האירופי מפוקחת גם ברמת המדינות החברות וסבלה מהיעדר אכיפה נמרצת אחידה.)

כמו כן, יוקם מאגר מידע ברחבי האיחוד האירופי ליצירת רישום של מערכות בסיכון גבוה המיושמות בגוש (אשר ינוהל על ידי הנציבות).

גוף חדש, המכונה מועצת הבינה המלאכותית האירופית (EAIB), יוקם גם כדי לתמוך ביישום עקבי של הרגולציה - במראה למועצה האירופית להגנת נתונים המציעה הנחיות ליישום ה- GDPR.

במקביל לכללים לגבי שימושים מסוימים בבינה מלאכותית, התוכנית כוללת אמצעים לתיאום תמיכת מדינות החברות באיחוד האירופי לפיתוח בינה מלאכותית - כגון על ידי הקמת ארגזי חול רגולטוריים כדי לסייע לחברות סטארט-אפ וחברות קטנות ובינוניות לפתח ולבדוק חידושים מונעי בינה מלאכותית - ובאמצעות הסיכוי של מימון ממוקד של האיחוד האירופי לתמיכה במפתחי בינה מלאכותית.

הממונה על השוק הפנימי תיירי ברטון אמר שההשקעה היא חלק מכריע בתוכנית.

"במסגרת תוכנית אירופה הדיגיטלית והאופק אירופה אנחנו הולכים לפנות מיליארד אירו בשנה. ובנוסף לכך אנחנו רוצים לייצר השקעות פרטיות והשקעה קולקטיבית בכל האיחוד האירופי של 20 מיליארד יורו לשנה בעשור הקרוב - 'העשור הדיגיטלי' כפי שכינינו אותו", אמר. "אנחנו גם רוצים לקבל 140 מיליארד יורו שיממנו השקעות דיגיטליות במסגרת האיחוד האירופי של הדור הבא [קרן ההחלמה של COVID-19] - ויכנסו ל-AI באופן חלקי."

העיצוב של כללי ה- AI היה בראש סדר העדיפויות של נשיאת האיחוד האירופי אורסולה פון דר ליין שנכנסה לתפקידה בסוף 2019. נכתב ספר לבן. אשתקד, בעקבות א 2018 AI לאסטרטגיה של האיחוד האירופי - ואסטגר אמר כי ההצעה של היום היא שיאה של שלוש שנות עבודה.

ברטון הוסיף כי מתן הנחיות לעסקים ליישם בינה מלאכותית יעניק להם וודאות משפטית ולאירופה יתרון. "אמון... אנו חושבים שהוא חשוב ביותר כדי לאפשר את הפיתוח שאנו רוצים של בינה מלאכותית", אמר. [יישומי בינה מלאכותית] צריכות להיות אמינות, בטוחות, לא מפלות - זה חיוני לחלוטין - אבל כמובן שאנחנו צריכים גם להיות מסוגלים להבין איך בדיוק יישומים אלה יעבדו."

"מה שאנחנו צריכים זה לקבל הדרכה. במיוחד בטכנולוגיה חדשה ... אנחנו, נהיה, היבשת הראשונה בה אנו נותנים הנחיות - נגיד 'היי, זה ירוק, זה ירוק כהה, זה אולי קצת כתום וזה אסור'. . אז עכשיו אם אתם רוצים להשתמש ביישומי בינה מלאכותית, צאו לאירופה! תדע מה לעשות, תדע איך לעשות את זה, יהיו לך שותפים שמבינים די טוב ואגב, תבוא גם ליבשת שבה תהיה לך כמות הנתונים התעשייתית הגדולה ביותר שנוצרה על פני כדור הארץ לעשר השנים הבאות.

"אז בוא הנה - מכיוון שבינה מלאכותית קשורה לנתונים - אנו נותנים לך את ההנחיות. יהיו לנו גם הכלים לעשות את זה ואת התשתית. "

גרסה להצעה של היום דלף בשבוע שעבר - מוביל ל קורא על ידי חברי הפרלמנט האירופי להגביר את התוכנית, כמו על ידי איסור מעקב ביומטרי מרחוק במקומות ציבוריים.

במקרה שההצעה הסופית אכן מתייחסת למעקב ביומטרי מרחוק כאל יישום בסיכון גבוה במיוחד של AI - וקיים איסור בעיקר על שימוש בטכנולוגיה בציבור על ידי רשויות החוק.

עם זאת השימוש אינו מוגבל לחלוטין, עם מספר יוצאים מן הכלל בהם רשויות אכיפת החוק עדיין יוכלו לעשות בו שימוש, בכפוף לבסיס משפטי תקף ופיקוח מתאים.

הגנות שהותקפו כחלשות מדי

התגובות להצעת הנציבות כללו ביקורת על פטורים רחבים מדי לאכיפת חוק וכן חשש שצעדים להתמודדות עם הסיכון של אפליה של מערכות בינה מלאכותית אינם מגיעים רחוק מספיק.

ארגונים לא ממשלתיים פליליים, משפטים הוגנים, אמרו כי יש צורך בשיפורים קיצוניים אם על התקנה להכיל אמצעי הגנה משמעותיים ביחס לצדק הפלילי. מגיב בהצהרה, גריף פריס, קצין משפטי ומדיניות בעמותה אמר: "הצעות האיחוד האירופי זקוקות לשינויים קיצוניים בכדי למנוע את החיווט הקשה של אפליה בתוצאות המשפט הפלילי, להגן על חזקת החפות ולהבטיח אחריות משמעותית עבור AI בתחום המשפט הפלילי. 

"בחקיקה אין כל אמצעי הגנה מפני אפליה, בעוד שהפטור הרחב ל"שמירה על ביטחון הציבור" מערער לחלוטין את מעט האמצעים שיש ביחס לצדק פלילי. המסגרת חייבת לכלול אמצעי הגנה וקפדניים למניעת אפליה והגנה על הזכות למשפט הוגן. זה צריך לכלול הגבלת השימוש במערכות שמנסות לפרופיל אנשים ולחזות את הסיכון לפלילים. " 

איגוד החירויות האזרחיות לאירופה (חירויות) גם פגע בפרצות שלפי ה-NGO אמרו שיאפשר למדינות החברות באיחוד לעקוף איסורים על שימושים בעייתיים בבינה מלאכותית.

"יש יותר מדי שימושים בעייתיים בטכנולוגיה המותרים, כמו שימוש באלגוריתמים לחיזוי פשע או מחשבים להעריך את המצב הרגשי של אנשים בבקרת הגבולות, שניהם מהווים סיכונים חמורים לזכויות אדם ומהווים איום לערכי האיחוד האירופי, "הזהירה אורסוליה רייך, קצינה בתחום הסנגוריה, בהצהרה. "אנו חוששים גם שהמשטרה תוכל להשתמש בטכנולוגיית זיהוי פנים בדרכים המסכנות את זכויותינו וחירויותינו הבסיסיות."

פטריק ברייר, חבר הפרלמנט הגרמני של הפיראטים, הזהיר גם הוא כי ההצעה אינה עומדת ברף הנטען של כבוד ל"ערכים אירופיים". חבר הפרלמנט היה אחד מ-40 שחתמו על מכתב לנציבות שבוע שעבר אזהרה כי גרסה שהודלפה של ההצעה לא הרחיקה די בהגנה על זכויות היסוד.

"עלינו לנצל את ההזדמנות לתת לאיחוד האירופי להביא לבינה מלאכותית בהתאם לדרישות האתיות והערכים הדמוקרטיים. למרבה הצער, הצעת הנציבות אינה מצליחה להגן עלינו מפני הסכנות לצדק מגדרי ויחס שווה לכל הקבוצות, כגון באמצעות מערכות זיהוי פנים או סוגים אחרים של מעקב המוני ", אמר ברייר בהצהרה שהגיבה להצעה הפורמלית היום.

"טכנולוגיות מעקב ביומטריות ומעקב, פרופיל וחיזוי התנהגותי במרחבים הציבוריים שלנו מערערות את החופש שלנו ומאיימות על החברות הפתוחות שלנו. הצעת הנציבות האירופית תביא שימוש בסיכון גבוה בזיהוי פנים אוטומטי במרחבים הציבוריים לכלל האיחוד האירופי, בניגוד לרצון של רוב בני עמנו. הדרישות הפרוצדוראליות המוצעות הן מסך עשן בלבד. איננו יכולים לאפשר אפליה של קבוצות מסוימות של אנשים והפללה כוזבת של אינספור אנשים על ידי טכנולוגיות אלה. "

גם קבוצת הגג לזכויות צרכן, BEUC, הייתה ביקורתית במהירות - תקפה את הצעת הנציבות כחלשה בהגנה על הצרכן מכיוון שהיא מתמקדת בוויסות "מגוון מצומצם מאוד של שימושים ובעיות בינה מלאכותית".

"הנציבות האירופית הייתה צריכה לשים יותר דגש על עזרה לצרכנים לסמוך על AI בחיי היומיום שלהם", אמרה מוניק גוינס, מנכ"לית Beuc, בהצהרה: "אנשים צריכים להיות מסוגלים לסמוך על כל מוצר או שירות המופעלים על ידי בינה מלאכותית, בין אם זה 'סיכון גבוה', 'סיכון בינוני' או 'סיכון נמוך'. על האיחוד האירופי לעשות יותר על מנת להבטיח לצרכנים זכויות אכיפה, כמו גם גישה לתיקונים ולסעדים במקרה שמשהו ישתבש. "

קבוצת תעשיית הטכנולוגיה דוט אירופה (לשעבר Edima) - שחבריה כוללים Airbnb, אפל, פייסבוק, גוגל, מיקרוסופט וענקיות פלטפורמה אחרות - בירכה על פרסום ההצעה, אך טרם הציעה הערות מפורטות בזמן כתיבת שורות אלה, ואמרה שהיא מגובשת עמדתה.

קבוצות לובי טכנולוגיות אחרות לא חיכו לצאת למתקפה עם הסיכוי של סרטון עורף לעטוף בינה מלאכותית - בטענה שהרגולציה "תכסה את הברכיים של תעשיית הבינה המלאכותית המתהווה של האיחוד האירופי לפני שהיא תוכל ללמוד ללכת" כמדיניות טכנולוגיה אחת מוושינגטון ובבריסל. thinktank (המרכז לחדשנות נתונים) אמר את זה.

התאחדות הסחר CCIA גם הזהירה במהירות מפני "קלטת ספר מיותרת למפתחים ולמשתמשים" והוסיפה כי תקנה לבד לא יהפוך את האיחוד האירופי למוביל בתחום AI.

ההצעה של היום יוצאת לדרך עם דיון רב בתהליך החקיקה המשותפת של האיחוד האירופי, כאשר הפרלמנט האירופי והמדינות החברות באמצעות מועצת האיחוד האירופי יצטרכו לומר את דעתן על הטיוטה - כלומר הרבה יכול להשתנות לפני שמוסדות האיחוד האירופי יגיעו להסכמה בנושא הצורה הסופית של תקנה למדעי המחשב האיחוד האירופי.

הנציבים סירבו לתת מועד לזמן שבו ניתן יהיה לאמץ חקיקה היום, ואמרו רק שהם מקווים כי מוסדות האיחוד האחרים יתקיימו באופן מיידי וכי התהליך יכול להיעשות בהקדם. עם זאת, יכולות לחלוף מספר שנים עד לאישור התקנה ותיכנס לתוקף.

דוח זה עודכן בתגובות להצעת הנציבות

מקור: https://techcrunch.com/2021/04/21/europe-lays-out-plan-for-risk-based-ai-rules-to-boost-trust-and-uptake/