10 lépés, hogy oktassa vállalatát a mesterséges intelligencia méltányosságára

Ahogy a vállalatok egyre gyakrabban alkalmazzák a mesterséges intelligenciát, kezelniük kell a bizalommal kapcsolatos aggályaikat.

Íme 10 gyakorlati beavatkozás, amelyet a vállalatok alkalmazhatnak a mesterséges intelligencia igazságosságának biztosítása érdekében. Ezek közé tartozik egy AI tisztesség charter, valamint képzés és tesztelés végrehajtása.

Az adatvezérelt technológiák és a mesterséges intelligencia (AI) mozgatja mai világunkat – a COVID-19 következő változatának megjóslásától kezdve a leghatékonyabb útvonalon való utazás elősegítéséig. Sok területen a nagyközönség nagy mértékben bízik abban, hogy az ezeket a tapasztalatokat biztosító algoritmusokat korrekt módon fejlesztik.

Ez a bizalom azonban könnyen megtörhető. Például fontolja meg toborzó szoftver amely a nem reprezentatív képzési adatok miatt bünteti azokat a jelentkezéseket, amelyek a „női” szót tartalmazzák, vagy olyan kreditpontozási rendszert, amelyből hiányzik a hitelképesség valós bizonyítéka, és így bizonyos csoportok alacsonyabb hitelkeretek vagy megtagadják a hitelt.

A valóság az, hogy a technológia gyorsabban fejlődik, mint a mesterséges intelligencia igazságosságának oktatása és képzése. Azok az emberek, akik képzik, fejlesztik, megvalósítják és forgalmazzák ezeket az adatvezérelt tapasztalatokat, gyakran nincsenek tisztában kemény munkájuk másod- vagy harmadrendű következményei.

A Világgazdasági Fórum részeként Az emberiség mesterséges intelligenciájának globális jövőjeA mesterséges intelligencia gyakorlóiból, kutatóiból és vállalati tanácsadóiból álló kollektíva 10 gyakorlati beavatkozást javasol a vállalatoknak az AI méltányosságának biztosítása érdekében.

1. Rendeljen felelősséget a mesterséges intelligencia oktatásáért

Jelöljön ki egy vezető mesterséges intelligencia etikai tisztet (CAIO), aki a többfunkciós etikai testülettel együtt (beleértve az adattudomány, a szabályozás, a PR, a kommunikáció és a HR képviselőit) felelős az AI oktatási tevékenységek tervezéséért és végrehajtásáért. A CAIO-nak egyben az „ombudsmannak” is kell lennie a személyzet számára, akihez méltányossági aggályok esetén fordulhat, valamint a nem műszaki személyzet szóvivőjeként. Ideális esetben ennek a szerepnek közvetlenül a vezérigazgatónak kell beszámolnia a láthatóság és a végrehajtás érdekében.

2. Határozza meg a méltányosságot szervezete számára

Készítsen egy MI méltányossági charta sablont, majd kérdezze meg minden osztály amelyek aktívan használják a mesterséges intelligenciát, hogy saját környezetükben kiegészítsék azt. Ez különösen fontos az üzletági vezetők, valamint a termék- és szolgáltatástulajdonosok számára.

3. Biztosítsa a mesterséges intelligencia igazságosságát az ellátási lánc mentén

Követelje meg az Ön által használt beszállítóktól, akiknek mesterséges intelligenciát építenek be a beszerzett termékeikbe és szolgáltatásaikba – például egy munkaerő-közvetítő ügynökségtől, amely esetleg mesterséges intelligenciát használ a jelöltek átvizsgálására –, hogy töltsenek ki egy MI méltányossági chartát, és tartsák be a MI méltányosságára vonatkozó vállalati irányelveket. Ez különösen fontos a beszerzési funkció és a szállítók számára.

4. A személyzet és az érdekelt felek oktatása képzéssel és a „csinálva tanulni” megközelítéssel

Kötelező képzést és tanúsítványt kell megkövetelni minden alkalmazotttól a mesterséges intelligencia méltányossági elveivel kapcsolatban – hasonlóan ahhoz, ahogyan a személyzetnek kötelessége aláírni az üzleti magatartási kódexeket. A műszaki személyzet számára biztosítson képzést arról, hogyan készítsenek olyan modelleket, amelyek nem sértik a méltányosság elveit. Minden képzésnek ki kell használnia a mesterséges intelligencia méltányossági chartáiból származó betekintést, hogy közvetlenül foglalkozzon a vállalat előtt álló problémákkal. Gondoskodjon arról, hogy a kurzus tartalmát az etikai bizottság rendszeresen felülvizsgálja.

5. Hozzon létre egy HR AI méltányossági tervet

A HR AI méltányossági tervének tartalmaznia kell a HR által végzett éves felülvizsgálatot, hogy felmérje az adatvezérelt technológiákkal és mesterséges intelligenciával foglalkozó csapat sokszínűségét, valamint a jelenleg meghirdetett kompetenciák és készségek explicit felülvizsgálatát és fejlesztését a kulcsfontosságú mesterséges intelligenciával kapcsolatos termékfejlesztéshez. A munkaköri leírás részét képezi a méltányosság tudatosításának biztosítására szolgáló szerepek (például terméktulajdonos, adattudós és adatmérnök).

6. Tesztelje a mesterséges intelligencia tisztességességét, mielőtt bármilyen technológia elindulna

Követelje meg a részlegeket és a beszállítókat, hogy futtassanak és belsőleg tegyenek közzé méltányossági eredményteszteket, mielőtt bármely AI-algoritmus életbe léphet. Ha tudja, hogy mely csoportokkal lehet méltánytalanul bánni az adatok torzítása miatt, szimulálja az adott csoporthoz tartozó felhasználókat, és figyelje az eredményeket. Ezt a termékcsapatok felhasználhatják termékük vagy szolgáltatásuk megismétlésére és fejlesztésére, mielőtt az életbe lépne. Nyílt forráskódú eszközök, mint pl Microsoft Fairlearn, segíthet a méltányossági eredményteszt elemzésében.

7. Kommunikálja a mesterséges intelligencia igazságosságának megközelítését

Hozzon létre méltányossági eredmények tanulási üléseit az ügyfelekkel és a nyilvánosság előtt álló személyzettel, hogy átmenjenek a méltányossági eredmények tesztjein bármely új vagy frissített termék vagy szolgáltatás esetében. Ez különösen fontos a marketing és a külső kommunikáció, valamint az ügyfélszolgálati csapatok számára.

8. A testületi üléseken szenteljen állandó napirendi pontot a mesterséges intelligencia méltányossági folyamatainak

Ennek a megbeszélésnek tartalmaznia kell a haladásról és a betartásról szóló jelentést, a mesterséges intelligencia etikai igazgatója és az etikai testület által felvetett témákat, valamint a kiemelt fontosságú méltányossági eredménytesztek eredményeit.

9. Győződjön meg arról, hogy az oktatás ragad

Rendszeresen kövesse nyomon és jelentse a mesterséges intelligencia méltányossági tevékenységeinek részvételét és befejezését, valamint a méltányosság kezelésének bizonyított hatását a valós üzleti érték tekintetében. Adja meg ezeket a frissítéseket a részlegek és a közvetlen vezetők számára, hogy kommunikálhassanak a személyzettel, és megerősítsék, hogy az AI platformok és szoftverek igazságosabbá tételével a szervezet hatékonyabb és produktívabb.

10. Dokumentálj mindent

Dokumentálja a mesterséges intelligencia méltányosságával kapcsolatos megközelítését, és kommunikálja azt személyzeti és beszállítói képzéseken, valamint nagy horderejű rendezvényeken, beleértve az ügyfelek és a befektetők számára is.

[Ez a történet eredetileg a 10 lépés, hogy oktassa vállalatát a mesterséges intelligencia igazságosságáról | Világgazdasági Fórum (weforum.org). Copyright 2021.]

Nadjia Yousif ügyvezető igazgatója és partnere Boston Consulting Group és társvezetőként vezeti a pénzügyi intézmények gyakorlatát az Egyesült Királyságban, Hollandiában és Belgiumban.

Mark Minevich az UNESCO égisze alatt működő Nemzetközi Mesterséges Intelligencia Kutatóközpont, a Jozef Stefan Intézet mesterséges intelligencia politikáért felelős elnöke.