Tio steg för att utbilda ditt företag om AI-rättvisa

Eftersom företag i allt högre grad tillämpar artificiell intelligens måste de ta itu med oro över förtroende.

Här är 10 praktiska åtgärder för företag att anställa för att säkerställa AI-rättvisa. De inkluderar att skapa en AI-rättvisa stadga och genomföra utbildning och testning.

Datadriven teknik och artificiell intelligens (AI) driver vår värld idag - från att förutsäga var nästa COVID-19-variant kommer att hjälpa oss att resa på den mest effektiva vägen. På många domäner har allmänheten ett stort förtroende för att algoritmerna som driver dessa upplevelser utvecklas på ett rättvist sätt.

Detta förtroende kan dock lätt brytas. Tänk till exempel rekryteringsprogramvara att på grund av unrepresentativa utbildningsdata bestraffar applikationer som innehåller ordet ”kvinnor”, ​​eller ett kreditpoängsystem som saknar bevis på verklig kreditvärdighet och därmed vissa grupper får lägre kreditgränser eller nekas lån.

Verkligheten är att tekniken går snabbare än utbildning och utbildning om AI-rättvisa. De som tränar, utvecklar, implementerar och marknadsför dessa datadrivna upplevelser är ofta omedvetna om andra eller tredje ordningens konsekvenser av deras hårda arbete.

Som en del av World Economic Forums Global Future Council on Artificiell intelligens för mänskligheten, ett kollektiv av AI-utövare, forskare och företagsrådgivare, föreslår vi tio praktiska åtgärder för företag att anställa för att säkerställa AI-rättvisa.

1. Tilldela ansvar för AI-utbildning

Tilldela en AI-chef (CAIO) som tillsammans med en tvärfunktionell etikråd (inklusive representanter från datavetenskap, regler, PR, kommunikation och HR) ska ansvara för utformningen och genomförandet av AI-utbildningsaktiviteter. CAIO bör också vara ”ombudsmannen” för personalen att nå ut till i händelse av oro för rättvisa, liksom en talesman för icke-teknisk personal. Helst bör denna roll rapportera direkt till VD för synlighet och implementering.

2. Definiera rättvisa för din organisation

Utveckla en AI-rättighetschartermall och fråga sedan alla avdelningar som aktivt använder AI för att slutföra det i sitt sammanhang. Detta är särskilt relevant för affärschefer och produkt- och tjänsteägare.

3. Säkerställa AI-rättvisa längs försörjningskedjan

Kräva att leverantörer du använder som har AI inbyggt i sina upphandlade produkter och tjänster - till exempel en rekryteringsbyrå som kan använda AI för kandidatscreening - för att också slutföra en AI-rättvisa stadga och följa företagets policy om AI-rättvisa. Detta är särskilt relevant för upphandlingsfunktionen och för leverantörer.

4. Utbilda personal och intressenter genom utbildning och en "lär genom att göra" -strategi

Kräva obligatorisk utbildning och certifiering för alla anställda om AI-rättvisa principer - liknar hur personalen måste registrera sig för uppförandekoder. För teknisk personal, ge utbildning om hur man bygger modeller som inte bryter mot principerna för rättvisa. Alla utbildningar bör utnyttja insikterna från AI-rättvisa stadgar för att direkt ta itu med frågor som företaget står inför. Se till att kursinnehållet regelbundet granskas av etiknämnden.

5. Skapa en HR AI rättvisa människor planerar

En HR AI-rättvisa plan bör innehålla en årlig granskning av HR för att bedöma mångfalden i teamet som arbetar med datadriven teknik och AI, och en uttrycklig granskning och uppgradering av de kompetenser och färdigheter som för närvarande annonseras för viktig AI-relevant produktutveckling roller (som produktägare, datavetare och dataingenjör) för att säkerställa medvetenhet om rättvisa är en del av arbetsbeskrivningen.

6. Testa AI-rättvisa innan tekniska lanseringar

Kräva avdelningar och leverantörer att köra och internt publicera test för rättvisa resultat innan någon AI-algoritm får gå live. När du väl vet vilka grupper som kan behandlas orättvist på grund av dataförskjutning, simulera användare från den gruppen och övervaka resultaten. Detta kan användas av produktteam för att itera och förbättra sin produkt eller tjänst innan den sätts i drift. Open source-verktyg, till exempel Microsoft Fairlearn, kan hjälpa till att tillhandahålla analysen för ett rättvist resultatstest.

7. Kommunicera din inställning till AI-rättvisa

Skapa inlärningssessioner för rättvisa resultat med kund- och allmänhetens personal för att gå igenom test för rättvisa resultat för alla nya eller uppdaterade produkter eller tjänster. Detta är särskilt relevant för marknadsföring och extern kommunikation, liksom för kundtjänstteam.

8. Ägna en stående punkt vid styrelsemöten till AI-rättvisa processer

Denna diskussion bör inkludera rapportering om framsteg och följsamhet, teman som tas upp från AI-chefen och etikstyrelsen och resultaten av högprioriterade test för rättvisa resultat

9. Se till att utbildningen håller fast

Spåra och rapportera regelbundet deltagande och slutförande av AI-rättvisa aktiviteter, tillsammans med den påvisade effekten av att hantera rättvisa när det gäller verkligt affärsvärde. Ge dessa uppdateringar till avdelnings- och linjechefer för att kommunicera till personalen för att förstärka att organisationen är mer effektiv och produktiv genom att göra AI-plattformar och programvara mer rättvisa.

10. Dokumentera allt

Dokumentera din inställning till AI-rättvisa och kommunicera den i personal- och leverantörsutbildningar och högprofilerade evenemang, inklusive för kunder och investerare.

[Den här historien dök ursprungligen upp på 10 steg för att utbilda ditt företag om AI-rättvisa | Världsekonomiskt forum (weforum.org). Upphovsrätt 2021.]

Nadjia Yousif är verkställande direktör och partner på Boston Consulting Group och leder samtidigt finansinstitutens praxis för Storbritannien, Nederländerna och Belgien.

Mark Minevich är ordförande för artificiell intelligenspolicy vid International Research Center on Artificial Intelligence i regi av UNESCO, Jozef Stefan Institute.