Şirketinizi AI adaleti konusunda eğitmek için 10 adım

Şirketler yapay zekayı giderek daha fazla uyguladıkça, güven konusundaki endişeleri ele almaları gerekiyor.

İşte şirketlerin AI adaletini sağlamak için kullanmaları için 10 pratik müdahale. oluşturmayı içerirler. AI adaleti tüzük ve eğitim ve test uygulamak.

Veriye dayalı teknolojiler ve yapay zeka (AI), bir sonraki COVID-19 varyantının nerede ortaya çıkacağını tahmin etmekten en verimli rotada seyahat etmemize yardımcı olmaya kadar bugün dünyamıza güç veriyor. Pek çok alanda, genel halk, bu deneyimlere güç veren algoritmaların adil bir şekilde geliştirildiğine dair yüksek bir güvene sahiptir.

Ancak bu güven kolayca kırılabilir. Örneğin, düşünün işe alım yazılımı temsili olmayan eğitim verileri nedeniyle, “kadınlar” kelimesini içeren uygulamaları veya gerçek dünyadaki kredi değerliliği kanıtlarını kaçıran bir kredi puanlama sistemini cezalandırır ve bunun sonucunda belirli gruplar alt kredi limitleri veya kredi reddedilir.

Gerçek şu ki, teknoloji AI adaleti konusundaki eğitim ve öğretimden daha hızlı hareket ediyor. Bu veriye dayalı deneyimleri eğiten, geliştiren, uygulayan ve pazarlayan kişiler genellikle sıkı çalışmalarının ikinci veya üçüncü dereceden etkileri.

Dünya Ekonomik Forumu'nun bir parçası olarak İnsanlık için Yapay Zeka Küresel Gelecek KonseyiAI uygulayıcıları, araştırmacıları ve kurumsal danışmanlardan oluşan bir topluluk olarak, AI adaletini sağlamak için şirketlerin istihdam etmesi için 10 pratik müdahale öneriyoruz.

1. AI eğitimi için sorumluluk atayın

Görevler arası bir etik kurulla (veri bilimi, düzenleyici, halkla ilişkiler, iletişim ve İK temsilcileri dahil) AI eğitim faaliyetlerinin tasarlanması ve uygulanmasından sorumlu olacak bir AI etik sorumlusu (CAIO) atayın. CAIO, aynı zamanda, adaletle ilgili endişelerde personelin ulaşabileceği “ombudsman” ve teknik olmayan personelin sözcüsü olmalıdır. İdeal olarak bu rol, görünürlük ve uygulama için doğrudan CEO'ya rapor vermelidir.

2. Kuruluşunuz için adaleti tanımlayın

Bir AI adalet tüzüğü şablonu geliştirin ve ardından sorun Bütün bölümler AI'yı kendi bağlamlarında tamamlamak için aktif olarak kullananlar. Bu, özellikle iş kolu yöneticileri ve ürün ve hizmet sahipleri için geçerlidir.

3. Tedarik zinciri boyunca AI adaletini sağlayın

Kullanmakta olduğunuz, tedarik ettikleri ürün ve hizmetlerde yerleşik yapay zekaya sahip tedarikçilerin (örneğin, aday taraması için yapay zeka kullanabilecek bir işe alım ajansı) aynı zamanda bir yapay zeka adalet sözleşmesi doldurmalarını ve yapay zeka adaletine ilişkin şirket politikalarına bağlı kalmalarını isteyin. Bu, özellikle tedarik işlevi ve tedarikçiler için geçerlidir.

4. Eğitim ve “yaparak öğrenme” yaklaşımıyla personeli ve paydaşları eğitin

Tüm çalışanlar için AI adalet ilkeleri konusunda zorunlu eğitim ve sertifika talep edin - personelin iş ahlakı kurallarına kaydolması gerektiği gibi. Teknik personel için, adalet ilkelerini ihlal etmeyen modellerin nasıl oluşturulacağı konusunda eğitim sağlayın. Tüm eğitimler, şirketin karşılaştığı sorunları doğrudan ele almak için AI adalet sözleşmelerinden elde edilen bilgilerden yararlanmalıdır. Kurs içeriğinin etik kurul tarafından düzenli olarak gözden geçirilmesini sağlayın.

5. Bir İK AI adaleti planı oluşturun

Bir İK AI adalet planı, veriye dayalı teknolojiler ve AI üzerinde çalışan ekibin çeşitliliğini değerlendirmek için İK tarafından yıllık bir incelemeyi ve AI ile ilgili önemli ürün geliştirme için şu anda reklamı yapılan yetkinliklerin ve becerilerin açık bir incelemesini ve yükseltilmesini içermelidir. adalet bilincini sağlamak için roller (ürün sahibi, veri bilimcisi ve veri mühendisi gibi) iş tanımının bir parçasıdır.

6. Herhangi bir teknoloji lansmanından önce AI adaletini test edin

Herhangi bir AI algoritmasının yayınlanmasına izin verilmeden önce departmanların ve tedarikçilerin adalet sonuç testleri yürütmesini ve dahili olarak yayınlamasını zorunlu kılın. Veri yanlılığı nedeniyle hangi gruplara adaletsiz davranılabileceğini öğrendikten sonra, o gruptaki kullanıcıları simüle edin ve sonuçları izleyin. Bu, ürün ekipleri tarafından ürün veya hizmetlerini yayınlanmadan önce yinelemek ve iyileştirmek için kullanılabilir. gibi açık kaynak araçları Microsoft Fairlearn, bir adalet sonuç testi için analiz sağlamaya yardımcı olabilir.

7. AI adaletine yaklaşımınızı iletin

Herhangi bir yeni veya güncellenmiş ürün veya hizmet için adillik sonuçları testlerinden geçmek için müşteriye ve halka açık personel ile adalet sonuçları öğrenme oturumları ayarlayın. Bu, özellikle pazarlama ve dış iletişim ile müşteri hizmetleri ekipleri için geçerlidir.

8. Yönetim kurulu toplantılarında daimi bir öğeyi AI adalet süreçlerine ayırın

Bu tartışma, ilerleme ve bağlılık hakkındaki raporları, AI etik sorumlusu ve etik kurulundan gündeme getirilen temaları ve yüksek öncelikli adalet sonuç testlerinin sonuçlarını içermelidir.

9. Eğitimin yapıştığından emin olun

Gerçek iş değeri açısından adaleti yönetmenin kanıtlanmış etkisi ile birlikte, AI adalet faaliyetlerinin katılımını ve tamamlanmasını düzenli olarak izleyin ve raporlayın. AI platformlarını ve yazılımlarını daha adil hale getirerek organizasyonun daha etkili ve üretken olduğunu güçlendirmek için personelle iletişim kurmaları için bu güncellemeleri departman ve bölüm yöneticilerine sağlayın.

10. Her şeyi belgeleyin

AI adaletine yaklaşımınızı belgeleyin ve bunu personel ve tedarikçi eğitimlerinde ve müşteriler ve yatırımcılar da dahil olmak üzere yüksek profilli etkinliklerde iletin.

[Bu hikaye ilk olarak Şirketinizi AI adaleti konusunda eğitmek için 10 adım | Dünya Ekonomik Forumu (weforum.org). Telif hakkı 2021.]

Nadjia Yusuf şirketinde Genel Müdür ve Ortak Boston Danışmanlık Grubu ve Birleşik Krallık, Hollanda ve Belçika için Finansal Kurumlar uygulamasını birlikte yönetmektedir.

Mark Minevich UNESCO, Jozef Stefan Enstitüsü himayesindeki Uluslararası Yapay Zeka Araştırma Merkezi'nde Yapay Zeka Politikası Başkanıdır.