בקיצור רשתות עצביות יכולות לנחש נכון את הגזע של אדם רק על ידי התבוננות בצילומי הרנטגן הגופניים שלו ולחוקרים אין מושג איך זה יכול לדעת.
ישנן תכונות ביולוגיות שיכולות לתת רמזים למוצאו האתני, כמו צבע העיניים או העור. אבל מתחת לכל זה, קשה לבני אדם לדעת. זה לא המקרה עבור אלגוריתמי AI, על פי מחקר שעדיין לא עבר ביקורת עמיתים.
צוות חוקרים אימן חמישה דגמים שונים על צילומי רנטגן של חלקים שונים בגוף, כולל חזה וידיים, ולאחר מכן סימן כל תמונה בהתאם לגזע המטופל. לאחר מכן נבדקו מערכות למידת המכונה עד כמה הן יכולות לחזות את הגזע של מישהו רק בהתחשב בסריקות הרפואיות שלו.
הם היו מדויקים באופן מפתיע. הביצועים הגרועים ביותר הצליחו לחזות את התשובה הנכונה ב-80% מהזמן, והטובים ביותר הצליחו לעשות זאת ב-99%, לפי העיתון.
"אנחנו מוכיחים שמערכות בינה מלאכותית רפואיות יכולות ללמוד בקלות לזהות זהות גזעית בתמונות רפואיות, ושהיכולת הזו קשה מאוד לבודד או למתן", הצוות מזהיר [PDF].
"אנו ממליצים בחום לכל המפתחים, הרגולטורים והמשתמשים המעורבים בניתוח תמונה רפואית לשקול את השימוש במודלים של למידה עמוקה בזהירות רבה. במסגרת נתוני הדמיה של רנטגן ו-CT, ניתן ללמוד בקלות את הזהות הגזעית של המטופל מנתוני התמונה בלבד, מכללה להגדרות חדשות, ועשויה לספק מנגנון ישיר להנציח או אפילו להחמיר את הפערים הגזעיים הקיימים בפרקטיקה הרפואית הנוכחית. ”
אסר על כלי עירום בינה מלאכותית, אומר חבר הפרלמנט הבריטי
מריה מילר, חברת פרלמנט מטעם בסינגסטוק מטעם המפלגה השמרנית, סבורה שיש לאסור אלגוריתמים של למידת מכונה שמייצרים תמונות עירום מזויפות.
מה שנקרא "זיופים עמוקים" הללו טופלו באמצעות תוכנת AI במשך שנים. כמה כלים באינטרנט המאפשרים לסוטים להאכיל את האלגוריתמים בתמונה של מישהו ולקבל בתמורה תמונת עירום שלו. הפנים נשמרות זהות, אבל הגוף מאופר.
מילר ידוע כקולני לגבי פורנו נקמה. היא מאמינה שגם אם התמונות שנוצרו על ידי מחשב מזויפות, הנזק שנגרם לקורבנות הוא אמיתי.
"כרגע, יצירה, צילום או הפצה ללא הסכמה של תמונות מיניות אינטימיות באינטרנט או באמצעות טכנולוגיה דיגיטלית נופלת בעיקר מחוץ לחוק", היא אמר לי ה-Beeb.
"זו צריכה להיות עבירה מינית להפיץ תמונות מיניות באינטרנט ללא הסכמה, המשקפת את חומרת ההשפעה על חייהם של אנשים". מילר רוצה להעלות את הנושא בדיון פרלמנטרי, ולהציג חקיקה חדשה לאסור על תוכנות יצירת זיוף עמוק בחוק הבטיחות המקוון הקרוב של בריטניה.
חוקרי AI בפייסבוק רוצים לחטט בצ'אטים המוצפנים הסודיים שלך מבלי לפענח אותם
פייסבוק העסיקה צוות של מהנדסי בינה מלאכותית כדי למצוא דרכים לנתח הודעות מוצפנות מבלי לפענח אותן קודם.
הצפנה הומומורפית יכולה לעזור לרשתות החברתיות לרחרח בצ'אטים של WhatsApp כדי לאסוף נתונים שניתן להשתמש בהם כדי למקד טוב יותר למשתמשים עם פרסומות, פי ל-The Information [מחומה בתשלום].
פייסבוק יכולה, בתיאוריה, להבין אילו מוצרים ושירותים אנשים מעוניינים להשתמש בטכניקות הצפנה הומומורפית. פרסומות של מוצרים אלה עלולות להופיע בכל פעם שהם נכנסו לחשבונות המדיה החברתית שלהם.
נראה כי המאמץ מובל על ידי קריסטין לאוטנר, מומחית להצפנה שעזבה לאחרונה את מיקרוסופט לאחר שני עשורים כדי להצטרף לפייסבוק כראש קבוצת המחקר שלה בינה מלאכותית בחוף המערבי. דובר פייסבוק, לעומת זאת, אמר לפרסום כי הפרויקט "מוקדם מדי עבורנו לשקול הצפנה הומומורפית עבור WhatsApp בשלב זה". ®
מקור: https://go.theregister.com/feed/www.theregister.com/2021/08/08/in_brief_ai/
