10 trin til at uddanne din virksomhed om AI-retfærdighed

Efterhånden som virksomheder i stigende grad anvender kunstig intelligens, skal de adressere bekymringer om tillid.

Her er 10 praktiske indgreb, som virksomheder kan anvende for at sikre AI-retfærdighed. De omfatter oprettelse af en AI retfærdighed chartre og implementere træning og test.

Datadrevne teknologier og kunstig intelligens (AI) driver vores verden i dag - fra at forudsige, hvor den næste COVID-19-variant vil opstå, til at hjælpe os med at rejse på den mest effektive rute. På mange domæner har den brede offentlighed en høj grad af tillid til, at de algoritmer, der driver disse oplevelser, udvikles på en rimelig måde.

Denne tillid kan dog let brydes. Overvej f.eks rekrutteringssoftware der på grund af ikke-repræsentative træningsdata straffer ansøgninger, der indeholder ordet "kvinder", eller et kreditscoringssystem, der savner beviser fra den virkelige verden for kreditværdighed, og som følge heraf får visse grupper lavere kreditgrænser eller får afslag på lån.

Virkeligheden er, at teknologien bevæger sig hurtigere end uddannelse og træning om AI-retfærdighed. De mennesker, der træner, udvikler, implementerer og markedsfører disse datadrevne oplevelser, er ofte uvidende om anden eller tredje ordens implikationer af deres hårde arbejde.

Som en del af World Economic Forums Global Future Council on Artificial Intelligence for Humanity, et kollektiv af AI-udøvere, forskere og virksomhedsrådgivere, foreslår vi 10 praktiske tiltag, som virksomheder kan anvende for at sikre AI-retfærdighed.

1. Tildel ansvar for AI-uddannelse

Tildel en chief AI ethics officer (CAIO), som sammen med et tværfunktionelt etisk udvalg (inklusive repræsentanter fra datavidenskab, lovgivning, public relations, kommunikation og HR) skal være ansvarlig for at designe og implementere AI-uddannelsesaktiviteter. CAIO bør også være den "ombudsmand", som personalet kan kontakte i tilfælde af retfærdighedsbekymringer, såvel som en talsmand for ikke-teknisk personale. Ideelt set bør denne rolle rapportere direkte til den administrerende direktør for synlighed og implementering.

2. Definer retfærdighed for din organisation

Udvikl en AI fairness charter-skabelon og spørg derefter alle afdelinger der aktivt bruger AI til at fuldføre det i deres kontekst. Dette er især relevant for linjeledere og produkt- og serviceejere.

3. Sikre AI-retfærdighed langs forsyningskæden

Kræv, at leverandører, du bruger, som har AI indbygget i deres indkøbte produkter og tjenester – for eksempel et rekrutteringsbureau, der måske bruger AI til kandidatscreening – også skal udfylde et AI-retfærdighedscharter og overholde virksomhedens politikker om AI-retfærdighed. Dette er særligt relevant for indkøbsfunktionen og for leverandører.

4. Uddan personale og interessenter gennem uddannelse og en "learn by doing"-tilgang

Kræv obligatorisk træning og certificering for alle medarbejdere i AI-retfærdighedsprincipper – svarende til hvordan personalet skal tilmelde sig forretningsadfærdskodekser. Til teknisk personale skal du sørge for træning i, hvordan man bygger modeller, der ikke overtræder retfærdighedsprincipperne. Alle træninger bør udnytte indsigten fra AI fairness charterne til direkte at løse problemer, som virksomheden står over for. Sørg for, at kursusindholdet regelmæssigt gennemgås af det etiske råd.

5. Opret en HR AI fairness people plan

En HR AI retfærdighedsplan bør omfatte en årlig gennemgang af HR for at vurdere mangfoldigheden af ​​teamet, der arbejder med datadrevne teknologier og AI, og en eksplicit gennemgang og opgradering af de kompetencer og færdigheder, der i øjeblikket annonceres for nøgle AI-relevant produktudvikling roller (såsom produktejer, dataforsker og dataingeniør) for at sikre, at bevidsthed om retfærdighed er en del af jobbeskrivelsen.

6. Test AI-retfærdighed før nogen tech-lanceringer

Kræv, at afdelinger og leverandører kører og internt offentliggør tests for retfærdighedsresultater, før en AI-algoritme får lov til at gå live. Når du ved, hvilke grupper der kan blive uretfærdigt behandlet på grund af databias, skal du simulere brugere fra den gruppe og overvåge resultaterne. Dette kan bruges af produktteams til at gentage og forbedre deres produkt eller service, før det går live. Open source værktøjer, som f.eks Microsoft Fairlearn, kan hjælpe med at give analysen til en retfærdighedsresultattest.

7. Kommuniker din tilgang til AI-retfærdighed

Opret læringssessioner for retfærdighedsresultater med kunde- og offentligt vendt personale for at gennemgå retfærdighedsresultattestene for ethvert nyt eller opdateret produkt eller service. Dette er især relevant for marketing og ekstern kommunikation samt kundeserviceteams.

8. Dediker et stående punkt på bestyrelsesmøder til AI-retfærdighedsprocesser

Denne diskussion bør omfatte rapportering om fremskridt og overholdelse, temaer rejst fra den etiske chef for AI og etisk bestyrelse og resultaterne af højprioriterede retfærdighedsresultater.

9. Sørg for at uddannelsen holder

Spor og rapporter regelmæssigt deltagelse og afslutning af AI-retfærdighedsaktiviteterne sammen med den påviste effekt af at administrere retfærdighed i form af reel forretningsværdi. Giv disse opdateringer til afdelings- og linjeledere for at kommunikere til personalet for at styrke, at organisationen er mere effektiv og produktiv ved at gøre AI-platforme og software mere retfærdige.

10. Dokumenter alt

Dokumenter din tilgang til AI-retfærdighed og kommuniker den i personale- og leverandøruddannelser og højprofilerede begivenheder, herunder for kunder og investorer.

[Denne historie dukkede oprindeligt op på 10 trin til at uddanne din virksomhed om AI-retfærdighed | World Economic Forum (weforum.org). Copyright 2021.]

Nadjia Yousif er administrerende direktør og partner hos Boston Consulting Group og er medansvarlig for Finansielle Institutioners praksis for Storbritannien, Holland og Belgien.

Mark Minevich er formand for kunstig intelligenspolitik ved International Research Center on Artificial Intelligence i UNESCO-regi, Jozef Stefan Institute.