10 stappen om uw bedrijf te informeren over AI-rechtvaardigheid fair

Naarmate bedrijven kunstmatige intelligentie steeds vaker toepassen, moeten ze zorgen over vertrouwen wegnemen.

Hier zijn 10 praktische interventies die bedrijven kunnen gebruiken om de eerlijkheid van AI te waarborgen. Ze omvatten het maken van een AI eerlijkheid charter en het implementeren van training en testen.

Gegevensgestuurde technologieën en kunstmatige intelligentie (AI) zijn de drijvende kracht achter onze wereld van vandaag - van het voorspellen waar de volgende COVID-19-variant zal ontstaan, tot ons helpen om op de meest efficiënte route te reizen. In veel domeinen heeft het grote publiek er veel vertrouwen in dat de algoritmen die deze ervaringen mogelijk maken op een eerlijke manier worden ontwikkeld.

Dit vertrouwen kan echter gemakkelijk worden geschonden. Denk bijvoorbeeld aan: wervingssoftware dat, als gevolg van niet-representatieve trainingsgegevens, aanvragen bestraft die het woord "vrouwen" bevatten, of een systeem voor het scoren van credits dat echt bewijs van kredietwaardigheid mist en als gevolg daarvan bepaalde groepen krijgen lagere kredietlimieten of leningen worden geweigerd.

De realiteit is dat de technologie sneller gaat dan de opleiding en training over AI-rechtvaardigheid. De mensen die deze datagestuurde ervaringen trainen, ontwikkelen, implementeren en op de markt brengen, zijn zich vaak niet bewust van de tweede of derde orde implicaties van hun harde werk.

Als onderdeel van het World Economic Forum's Global Future Council over kunstmatige intelligentie voor de mensheid, een collectief van AI-beoefenaars, onderzoekers en bedrijfsadviseurs, stellen we 10 praktische interventies voor die bedrijven kunnen gebruiken om AI-rechtvaardigheid te waarborgen.

1. Wijs de verantwoordelijkheid toe voor AI-onderwijs

Wijs een Chief AI Ethics Officer (CAIO) aan die samen met een functieoverschrijdende ethische raad (inclusief vertegenwoordigers van datawetenschap, regelgeving, public relations, communicatie en HR) verantwoordelijk moet zijn voor het ontwerpen en implementeren van AI-educatieve activiteiten. De CAIO moet ook de "ombudsman" zijn voor het personeel om contact op te nemen in geval van twijfels over de billijkheid, evenals een woordvoerder van niet-technisch personeel. Idealiter rapporteert deze rol rechtstreeks aan de CEO voor zichtbaarheid en implementatie.

2. Definieer eerlijkheid voor uw organisatie

Ontwikkel een AI-billijkheidshandvestsjabloon en vraag het dan alle afdelingen die actief AI gebruiken om het in hun context te voltooien. Dit is met name relevant voor business line managers en product- en service-eigenaren.

3. Zorg voor eerlijkheid van AI in de hele toeleveringsketen

Eis van leveranciers die u gebruikt en die AI hebben ingebouwd in hun ingekochte producten en diensten – bijvoorbeeld een wervingsbureau dat AI kan gebruiken voor het screenen van kandidaten – om ook een AI-billijkheidshandvest in te vullen en zich te houden aan het bedrijfsbeleid inzake AI-rechtvaardigheid. Dit is met name relevant voor de inkoopfunctie en voor leveranciers.

4. Leid personeel en belanghebbenden op door middel van training en een "leren door te doen"-benadering

Vereisen verplichte training en certificering voor alle medewerkers over AI-billijkheidsprincipes - vergelijkbaar met hoe medewerkers zich moeten aanmelden voor zakelijke gedragscodes. Voor technisch personeel, geef training over het bouwen van modellen die niet in strijd zijn met de beginselen van eerlijkheid. Alle trainingen moeten gebruikmaken van de inzichten uit de AI-fairness-handvesten om problemen waarmee het bedrijf wordt geconfronteerd direct aan te pakken. Zorg ervoor dat de inhoud van de cursus regelmatig wordt beoordeeld door de ethische commissie.

5. Maak een HR AI fairness people plan

Een eerlijkheidsplan voor HR AI moet een jaarlijkse beoordeling door HR omvatten om de diversiteit van het team dat werkt aan datagestuurde technologieën en AI te beoordelen, en een expliciete beoordeling en upgrade van de competenties en vaardigheden die momenteel worden geadverteerd voor belangrijke AI-relevante productontwikkeling rollen (zoals product owner, data scientist en data engineer) om te zorgen voor bewustwording van eerlijkheid is onderdeel van de functieomschrijving.

6. Test de eerlijkheid van AI voordat technologie wordt gelanceerd

Vraag afdelingen en leveranciers om tests voor eerlijkheidsuitkomsten uit te voeren en intern te publiceren voordat een AI-algoritme live mag gaan. Zodra u weet welke groepen mogelijk oneerlijk worden behandeld vanwege gegevensbias, simuleert u gebruikers uit die groep en controleert u de resultaten. Dit kan door productteams worden gebruikt om hun product of dienst te herhalen en te verbeteren voordat deze live gaat. Open source-tools, zoals: Microsoft Fairlearn, kan helpen bij het leveren van de analyse voor een eerlijkheidsuitkomsttest.

7. Communiceer uw benadering van AI-rechtvaardigheid

Organiseer leersessies over eerlijkheidsuitkomsten met personeel dat contact heeft met klanten en het publiek om de eerlijkheidsresultatentests voor elk nieuw of bijgewerkt product of dienst te doorlopen. Dit is met name relevant voor marketing en externe communicatie, evenals voor klantenserviceteams.

8. Wijs een vast item in bestuursvergaderingen aan AI-rechtvaardigheidsprocessen

Deze discussie moet de rapportage over voortgang en naleving omvatten, thema's die naar voren zijn gebracht door de Chief AI Ethics Officer en de Ethische Raad, en de resultaten van hoge prioriteitstests voor eerlijkheidsuitkomsten

9. Zorg ervoor dat het onderwijs blijft hangen

Volg en rapporteer regelmatig deelname en voltooiing van de AI-fairness-activiteiten, samen met de aangetoonde impact van het managen van fairness in termen van echte bedrijfswaarde. Geef deze updates aan afdelings- en lijnmanagers om met het personeel te communiceren om te versterken dat door AI-platforms en software eerlijker te maken, de organisatie effectiever en productiever is.

10. Documenteer alles

Documenteer uw benadering van AI-rechtvaardigheid en communiceer deze in trainingen voor personeel en leveranciers en spraakmakende evenementen, ook voor klanten en investeerders.

[Dit verhaal verscheen oorspronkelijk op 10 stappen om uw bedrijf te informeren over AI-rechtvaardigheid | Wereld Economisch Forum (weforum.org). Auteursrecht 2021.]

Nadjia Yousif is algemeen directeur en partner bij Partner Boston Consulting Group en geeft mede leiding aan de praktijk Financiële Instellingen voor het VK, Nederland en België.

Mark Minevitsj is leerstoel voor Artificial Intelligence Policy bij het International Research Centre on Artificial Intelligence onder auspiciën van UNESCO, Jozef Stefan Institute.