By جون بي ديزموند ، اتجاهات الذكاء الاصطناعى محرر
يواصل الأخلاقيون تحركاتهم في Google برحيل سامي بنجيو، وهو عالم كمبيوتر كندي معروف ب التأسيس المشترك Google Brain ، الذي كان يقود مجموعة كبيرة من الباحثين العاملين في التعلم الآلي.
تم الإعلان عن المغادرة الوشيكة في 6 أبريل في حساب من بلومبرغ. يأتي ذلك بعد رحيل العديد من الزملاء الذين تساءلوا عن كيفية مراجعة الأوراق وممارسات التنوع في Google. بيرنيو سيكون اليوم الأخير 28 أبريل ؛ انضم إلى Google في عام 2007.
وسبق الاستقالة استقالات تيمنيت غيبرو (انظر اتجاهات الذكاء الاصطناعى 10 كانون الأول (ديسمبر) 2020) ومارجريت ميتشل (ذكرت في 19 فبراير) ، وكلاهما أبلغ بنجيو.
في وقت لاحق من شهر فبراير ، أعادت Google تنظيم وحدة البحث ووضعت أعضاء مجموعة منظمة العفو الدولية الأخلاقية المتبقين تحت قيادة الدكتورة ماريان كرواك ، وهي خطوة قللت من مسؤوليات بنجيو.
قام بنجيو بتأليف حوالي 250 ورقة علمية حول الشبكات العصبية والتعلم الآلي والتعلم العميق والإحصاءات ورؤية الكمبيوتر ومعالجة اللغة الطبيعية ، وفقًا لـ DBLP، موقع ببليوغرافيا علوم الكمبيوتر.
"بينما أتطلع إلى التحدي التالي ، ليس هناك شك في أن مغادرة هذا الفريق الرائع أمر صعب حقًا ،" بنجيو كتب في البريد الإلكتروني يعلن فيه استقالته ، وفقًا لبلومبرج. ولم يشر إلى ميتشل جبرو, أو الخلافات التي أدت إلى رحيلهم. رفضت جوجل التعليق لبلومبرج.
تحية لسامي بنجيو
"استقالة سامي بنجيو خسارة كبيرة لشركة Google ،" تويتد المهدي المحمدي ، عالم في Google Brain قال إن Bengio ساعد في بناء "واحدة من أكثر مجموعات البحث الأساسية في الصناعة منذ Bell Labs ، وأيضًا واحدة من أكثر المجموعات ربحية."
"لقد تعلمت الكثير معكم جميعًا ، من حيث أبحاث التعلم الآلي بالطبع ، ولكن أيضًا حول مدى صعوبة تنظيم فريق كبير من الباحثين لتعزيز البحث والاستكشاف والدقة والتنوع على المدى الطويل, والشمول " بنجيو ورد في بريده الإلكتروني.
من تقرير في رويترز, قال Andrew Ng ، أحد أعضاء Brain الأوائل الذي يدير الآن شركة Landing AI الناشئة للبرمجيات ، إن Bengio "كان له دور فعال في المضي قدمًا في تكنولوجيا الذكاء الاصطناعي وأخلاقياته". عضو مؤسس آخر ، جيف دين ، يشرف الآن على آلاف الباحثين في Google.
وصفت سارة هوكر ، باحثة Google Brain في تغريدة ، رحيل بنجيو بأنه "خسارة كبيرة لشركة Google".
في فبراير ، تركت جوجل عالمة الموظفين مارجريت ميتشل بعد أن زعمت أنها نقلت ملفات إلكترونية خارج الشركة. جاء رحيل جيبرو بعد خلاف حول ورقة قدمتها إلى مؤتمر حول المخاوف الأخلاقية حول نماذج اللغة الكبيرة. وقالت ميتشل إنها حاولت "إثارة مخاوف بشأن عدم المساواة بين الجنسين والعرق ، والتحدث عن مشكلة إقالة جوجل للدكتور جيبرو" ، حسبما أفادت رويترز. قالت جبرو إن الشركة أرادت قمع انتقادها لمنتجاتها. قالت جوجل إنها قبلت عرضها بالاستقالة.
دافع بنجيو عن الزوجين ، اللذين شاركا في قيادة فريق من حوالي عشرة أشخاص يبحثون في القضايا الأخلاقية المتعلقة ببرمجيات الذكاء الاصطناعي. في ديسمبر / كانون الأول ، كتب بنجيو على فيسبوك أنه فوجئ بإبعاد جيبرو ، الذي كان يديره ، من الشركة دون استشارته ، حسبما ذكرت رويترز.
قال نيكولاس لو رو ، الباحث في جوجل برين ، لرويترز إن بنجيو كرس نفسه لجعل منظمة البحث أكثر شمولية و "خلق مساحة يشعر فيها الجميع بالترحيب".
انضمت ميتشل إلى Google في تشرين الثاني (نوفمبر) 2016 بعد أن أمضت مهمتها في مختبر أبحاث Microsoft Corp. حيث عملت في مشروع Seeing AI التابع للشركة ، وهي تقنية لمساعدة المستخدمين المكفوفين على "تصور" العالم من حولهم والتي روج لها بشدة الرئيس التنفيذي ساتيا ناديلا . في Google ، أسست فريق Ethical AI في عام 2017 وعملت في مشاريع تشمل طريقة لشرح ما تفعله نماذج التعلم الآلي والقيود المفروضة عليها ، وكيفية جعل مجموعات بيانات التعلم الآلي أكثر شفافية وشفافية ، وفقًا لحساب في المنشق الأعمال.
شركات التكنولوجيا الكبرى تؤطر محادثة حول الذكاء الاصطناعي الأخلاقي
يعد انهيار العلاقات العامة لشركة Google حول الذكاء الاصطناعي الأخلاقي بمثابة تذكير بمدى وصول حفنة من الشركات العملاقة-التكنولوجيا الكبرى-قادرون على توجيه المحادثة حول الذكاء الاصطناعي الأخلاقي ، اقترح حسابًا حديثًا في نبذة عن الشركة. يتم تأطير المناقشة على أنها مخاطر عالية ، حيث يدعم الذكاء الاصطناعي العديد من الأنظمة الآلية المهمة اليوم ، بدءًا من تسجيل الائتمان والحكم الجنائي إلى الوصول إلى الرعاية الصحية وما إذا كان الشخص سيحصل على مقابلة عمل.
تظهر الأضرار التي يمكن أن تسببها النماذج عند نشرها في العالم الحقيقي في أنظمة التوظيف التمييزية ، ومنصات التنميط العرقي التي تستهدف مجموعات الأقليات العرقية ، ولوحات المعلومات الشرطية التنبؤية التي قد تكون عنصرية. Sتم رفع دعاوى قضائية من قبل رجال سود قالوا إنهم اعتُقلوا خطأً بعد أن أخطأوا في التعرف عليهم من خلال تقنية التعرف على الوجه التي تستخدمها سلطات إنفاذ القانون.
حفنة من الشركات العملاقة تحديد الأفكار التي تحصل على الدعم المالي ، وتحديد من سيكون في الغرفة لإنشاء التكنولوجيا وانتقادها.
تُظهر تجارب Gebru و Mitchell في Google أنه ليس من الواضح ما إذا كان باحثو أخلاقيات الذكاء الاصطناعي الداخلي لديهم نفوذ كبير فيما يطوره أصحاب العمل. يقترح بعض المراقبين أن استثمارات Big Tech في أخلاقيات الذكاء الاصطناعي هي تحركات علاقات عامة. صرحت صفية نوبل ، الأستاذة بجامعة كاليفورنيا في لوس أنجلوس والشريك المؤسس و المدير المشارك من مركز الاستفسار النقدي عبر الإنترنت. "يتعلق الأمر بشكل عام بصناعة تقوم على الاستخراج والاستغلال وتفعل كل ما في وسعها للتشويش على ذلك."
كما تثار تساؤلات حول تنوع "مقرري" أخلاقيات الذكاء الاصطناعي. تحليل جديد لأهم 30 منظمة تعمل على الذكاء الاصطناعي المسؤول-بما في ذلك Stanford HAI و AI Now و Data & Society and Partnership on AI - أظهر أن من بين 94 شخصًا يقودون المؤسسات ، هناك ثلاثة من السود و 24 من النساء. تم إجراء التحليل بواسطة Women in AI Ethics ، برئاسة Mia Shah-Dand ، مديرة مجموعة مجتمع Google السابقة.
يقترح البعض أن التنوع المحدود يؤدي إلى انفصال بين البحث والمجتمعات المتأثرة بالذكاء الاصطناعي. يركز باحثو أخلاقيات الذكاء الاصطناعي على الطرق التقنية لإخراج التحيز من الخوارزميات وتحقيق المفاهيم الرياضية للعدالة. صرحت إميلي بندر ، أستاذة اللسانيات في جامعة واشنطن ومؤلفة مشاركة مع جيبرو في كتابه "حول مخاطر الببغاوات العشوائية": "لقد أصبح مجالًا لمشكلة علوم الكمبيوتر بدلاً من أن يكون شيئًا متصلًا ومتجذرًا في العالم" ، الورقة التي أدت إلى مشاكل في Google.
الدكتورة ماريان كرواك هي مديرة الأخلاق الجديدة في أبحاث Google
تحدثت ماريان كروك عن نفسها ، أوضحت كيف تخطط للتعامل مع مسؤولياتها الجديدة ، في مقابلة مع زميل في العمل نُشرت مؤخرًا في ال جوجل مدونة.
الدكتور كرواك مهندس عمل لسنوات عديدة في مختبرات AT&T قبل الانتقال إلى Google منذ حوالي سبع سنوات. تم تسجيلها كمطور لخدمة Voice over IP وحصلت على أكثر من 200 براءة اختراع. في Google ، ركزت على توسيع الخدمة في الأسواق الناشئة. في أحد الأمثلة ، قادت نشر Wi-Fi عبر نظام السكك الحديدية في الهند ، والتعامل مع الطقس القاسي والكثافة السكانية العالية.
صرح كرواك: "هذا المجال ، مجال الذكاء الاصطناعي والأخلاقيات المسؤولة ، هو مجال جديد". لقد طورت معظم المؤسسات مبادئ فقط ، وهي مبادئ مجردة عالية المستوى للغاية ، في السنوات الخمس الماضية. هناك الكثير من الخلاف ، والكثير من الصراع فيما يتعلق بمحاولة توحيد التعاريف المعيارية لهذه المبادئ. أي تعريف للعدالة أو السلامة سنستخدمه؟ هناك الكثير من الصراع في الوقت الحالي داخل هذا المجال ، ويمكن أن يكون مستقطبًا في بعض الأحيان. وما أود فعله هو جعل الناس يتحدثون بطريقة أكثر دبلوماسية ، ربما ، أكثر مما نجريه الآن ، حتى نتمكن حقًا من تطوير هذا المجال ".
اقرأ المقالات والمعلومات المصدر تبدأ من بلومبرغ, in رويترز، في المنشق الأعمال، في ال نبذة عن الشركة وعلى ال جوجل مدونة.
- الوصول
- حسابي
- AI
- خوارزميات
- تحليل
- أعلن
- ابريل
- المنطقة
- حول
- القى القبض
- مقالات
- AT & T
- السيارات
- الآلي
- جرس
- اسود
- بلومبرغ
- نساعدك في بناء
- الكندية
- سبب
- تحدى
- رئيس
- الرئيس التنفيذي
- شريك مؤسس
- المجتمعات
- مجتمع
- الشركات
- حول الشركة
- علوم الكمبيوتر
- رؤية الكمبيوتر
- مؤتمر
- صراع
- استمر
- تواصل
- محادثة
- شركة
- ائتمان
- مجرم
- البيانات
- يوم
- تعامل
- التعلم العميق
- المطور
- فعل
- خلافات ومنازعات
- تنوع
- دزينة
- في وقت مبكر
- البريد الإلكتروني
- أرباب العمل
- مهندس
- الهندسة
- أخلاق
- تنفيذي
- توسع
- خبرة
- استكشاف
- استخلاص
- فيسبوك
- التعرف على الوجه
- تقنية التعرف على الوجه
- مالي
- تركز
- إلى الأمام
- الجنس
- شراء مراجعات جوجل
- تجمع
- رئيس
- الرعاية الصحية
- مرتفع
- تأجير
- كيفية
- كيفية
- HTTPS
- ضخم
- وشيك الحدوث
- بما فيه
- إدراجه
- الهند
- العالمية
- المؤسسات
- Internet
- المقابلة الشخصية
- الاستثمارات
- IP
- مسائل
- IT
- وظيفة
- مختبرات
- لغة
- كبير
- القانون
- تطبيق القانون
- الدعاوى القضائية
- قيادة
- القيادة
- قيادة
- تعلم
- تعلم
- ليد
- محدود
- علم اللغة
- طويل
- آلة التعلم
- القيام ب
- الأسواق
- الانهيار
- الأعضاء
- رجالي
- مایکروسافت
- أقلية
- خطوة
- التحركات
- اللغة الطبيعية
- معالجة اللغات الطبيعية
- الشبكات
- عصبي
- الشبكات العصبية
- عرض
- امين شرطة منزل فؤاد
- ورق
- الشراكة
- محاكاة الصوم
- مجتمع
- منصات التداول
- سكان
- pr
- المنتجات
- تنفيذ المشاريع
- مشروع ناجح
- تعزيز
- سباق
- التنميط العنصري
- رفع
- تقرير
- بحث
- استقالة
- رويترز
- المخاطرة
- السلامة
- ساتيا Nadella
- علوم
- So
- جاليات
- تطبيقات الكمبيوتر
- الفضاء
- المدعومة
- ستانفورد
- بدء التشغيل
- إحصائيات
- المقدمة
- الدعم
- نظام
- أنظمة
- التكنولوجيا
- تقني
- تكنولوجيا
- المصدر
- تيشرت
- سقسقة
- في جامعة كاليفورنيا
- جامعة
- جامعة واشنطن
- المستخدمين
- رؤيتنا
- صوت
- واشنطن
- الموقع الإلكتروني
- منهجنا
- من الذى
- واي فاي
- في غضون
- نسائي
- للعمل
- العالم
- سنوات