10 trinn for å utdanne selskapet ditt om AI-rettferdighet

Ettersom selskaper i økende grad bruker kunstig intelligens, må de ta opp bekymringer om tillit.

Her er 10 praktiske tiltak for bedrifter å ansette for å sikre AI-rettferdighet. De inkluderer å lage en AI rettferdighet charter og implementering av opplæring og testing.

Datadrevet teknologi og kunstig intelligens (AI) driver vår verden i dag - fra å forutsi hvor neste COVID-19-variant vil oppstå, til å hjelpe oss å reise på den mest effektive ruten. På mange domener har allmennheten stor tillit til at algoritmene som driver disse opplevelsene blir utviklet på en rettferdig måte.

Imidlertid kan denne tilliten lett brytes. Tenk for eksempel rekrutteringsprogramvare som, på grunn av ikke-representativt opplæringsdata, straffer applikasjoner som inneholder ordet "kvinner", eller et kredittpoengsystem som savner bevis fra virkeligheten om kredittverdighet og dermed som resultat at visse grupper får lavere kredittgrenser eller blir nektet lån.

Virkeligheten er at teknologien beveger seg raskere enn utdannelse og opplæring om AI-rettferdighet. Menneskene som trener, utvikler, implementerer og markedsfører disse datadrevne opplevelsene er ofte uvitende om andre eller tredje ordens implikasjoner av hardt arbeid.

Som en del av World Economic Forum Global Future Council on Artificial Intelligence for Humanity, et kollektiv av AI-utøvere, forskere og bedriftsrådgivere, foreslår vi 10 praktiske tiltak for bedrifter å ansette for å sikre AI-rettferdighet.

1. Tilordne ansvar for AI-utdanning

Tilordne en sjef for AI-etikk (CAIO) som sammen med et tverrfunksjonelt etisk styre (inkludert representanter fra datavitenskap, regulering, PR, kommunikasjon og HR) skal være ansvarlig for utformingen og implementeringen av AI-utdanningsaktiviteter. CAIO bør også være "ombudsmannen" for personalet å strekke seg mot i tilfelle bekymringsproblemer, samt en talsperson for ikke-teknisk personale. Ideelt sett bør denne rollen rapportere direkte til konsernsjefen for synlighet og implementering.

2. Definer rettferdighet for organisasjonen din

Utvikle en AI-rettighetsmal og spør deretter alle avdelinger som aktivt bruker AI for å fullføre den i sin sammenheng. Dette er spesielt relevant for forretningsførere og produkt- og tjenesteeiere.

3. Sikre AI-rettferdighet langs forsyningskjeden

Krev leverandører du bruker som har AI innebygd i sine anskaffede produkter og tjenester - for eksempel et rekrutteringsbyrå som kan bruke AI for kandidatscreening - for å også fullføre et AI-rettferdighetscharter og for å overholde selskapets policy om AI-rettferdighet. Dette er spesielt relevant for anskaffelsesfunksjonen og for leverandører.

4. Utdanne ansatte og interessenter gjennom opplæring og en ”lær ved å gjøre” -tilnærming

Krever obligatorisk opplæring og sertifisering for alle ansatte om AI-rettferdighetsprinsipper - på samme måte som personalet er pålagt å registrere seg for forretningsskikk. For teknisk personale, gi opplæring i hvordan du bygger modeller som ikke bryter med prinsippene om rettferdighet. All opplæring bør utnytte innsikten fra AI-rettferdighetscharterene for å direkte løse problemer som selskapet står overfor. Sørg for at kursinnholdet regelmessig blir vurdert av etikknemnda.

5. Lag en HR AI rettferdighet folk planlegger

En HR AI-rettighetsplan bør omfatte en årlig gjennomgang av HR for å vurdere mangfoldet i teamet som arbeider med datadrevet teknologi og AI, og en eksplisitt gjennomgang og oppgradering av kompetansen og ferdighetene som for øyeblikket annonseres for nøkkel AI-relevant produktutvikling. roller (som produkteier, datavitenskapsmann og dataingeniør) for å sikre bevissthet om rettferdighet er en del av stillingsbeskrivelsen.

6. Test AI-rettferdighet før noen teknologilanseringer

Krev avdelinger og leverandører å kjøre og internt publisere rettferdighetstester før noen AI-algoritme får lov til å gå live. Når du vet hvilke grupper som kan bli urettferdig behandlet på grunn av dataforskjell, kan du simulere brukere fra den gruppen og overvåke resultatene. Dette kan brukes av produktteamene til å iterere og forbedre produktene eller tjenestene deres før det blir satt i drift. Open source-verktøy, for eksempel Microsoft Fairlearn, kan bidra til å gi analysen for en rettferdighetsutfallstest.

7. Kommuniser din tilnærming til AI-rettferdighet

Sett opp læringsøktene for rettferdighetsresultater med kunde- og publikumsansatte ansatte for å gå gjennom testene for rettferdighetsresultater for ethvert nytt eller oppdatert produkt eller tjeneste. Dette er spesielt relevant for markedsføring og ekstern kommunikasjon, samt kundeserviceteam.

8. Vie et stående punkt på styremøter til AI-rettferdighetsprosesser

Denne diskusjonen bør omfatte rapportering om fremgang og overholdelse, temaer reist fra sjef for AI-etikk og etikknemnd, og resultatene av høyprioriterte rettferdighetstester

9. Sørg for at utdannelsen holder seg

Spor og rapporter regelmessig deltakelse og gjennomføring av AI-rettferdighetsaktivitetene, sammen med den demonstrerte effekten av å håndtere rettferdighet når det gjelder reell forretningsverdi. Gi disse oppdateringene til avdelings- og linjeledere for å kommunisere til personalet for å forsterke at organisasjonen er mer effektiv og produktiv ved å gjøre AI-plattformer og programvare mer rettferdig.

10. Dokumenter alt

Dokumenter din tilnærming til AI-rettferdighet og kommuniser den i personal- og leverandøropplæring og høyprofilerte arrangementer, inkludert for kunder og investorer.

[Denne historien dukket opprinnelig opp på 10 trinn for å utdanne ditt selskap om AI-rettferdighet | Verdens økonomiske forum (weforum.org). Opphavsrett 2021.]

Nadjia Yousif er administrerende direktør og partner i Boston Consulting Group og leder samtidig finansinstitusjonens praksis for Storbritannia Nederland og Belgia.

Mark Minevich er leder for kunstig intelligenspolitikk ved International Research Center on Artificial Intelligence i regi av UNESCO, Jozef Stefan Institute.