10 étapes pour éduquer votre entreprise sur l'équité de l'IA

Alors que les entreprises appliquent de plus en plus l'intelligence artificielle, elles doivent répondre aux préoccupations concernant la confiance.

Voici 10 interventions pratiques que les entreprises peuvent utiliser pour assurer l'équité de l'IA. Ils comprennent la création d'un Équité de l'IA charte et la mise en œuvre de la formation et des tests.

Les technologies basées sur les données et l'intelligence artificielle (IA) alimentent notre monde aujourd'hui - de la prédiction de l'endroit où la prochaine variante COVID-19 surviendra, à nous aider à voyager sur l'itinéraire le plus efficace. Dans de nombreux domaines, le grand public a une grande confiance dans le fait que les algorithmes qui alimentent ces expériences sont développés de manière équitable.

Cependant, cette confiance peut être facilement brisée. Par exemple, considérez logiciel de recrutement qui, en raison de données de formation non représentatives, pénalise les candidatures contenant le mot « femmes », ou un système de notation de crédit qui manque des preuves réelles de solvabilité et, par conséquent, certains groupes obtiennent limites de crédit inférieures ou se voient refuser des prêts.

La réalité est que la technologie évolue plus rapidement que l'éducation et la formation sur l'équité de l'IA. Les personnes qui forment, développent, mettent en œuvre et commercialisent ces expériences basées sur les données ignorent souvent les implications de deuxième ou troisième ordre de leur travail acharné.

Dans le cadre du Forum économique mondial Conseil mondial du futur sur l'intelligence artificielle pour l'humanité, un collectif de praticiens de l'IA, de chercheurs et de conseillers d'entreprise, nous proposons 10 interventions pratiques que les entreprises peuvent utiliser pour assurer l'équité de l'IA.

1. Attribuer la responsabilité de l'éducation à l'IA

Désignez un responsable de l'éthique de l'IA (CAIO) qui, avec un comité d'éthique interfonctionnel (comprenant des représentants de la science des données, de la réglementation, des relations publiques, des communications et des RH), devrait être responsable de la conception et de la mise en œuvre des activités de formation à l'IA. Le CAIO devrait également être l'« ombudsman » auquel le personnel peut s'adresser en cas de problèmes d'équité, ainsi qu'un porte-parole pour le personnel non technique. Idéalement, ce rôle devrait rapporter directement au PDG pour la visibilité et la mise en œuvre.

2. Définir l'équité pour votre organisation

Développez un modèle de charte d'équité de l'IA, puis demandez tous les départements qui utilisent activement l'IA pour le compléter dans leur contexte. Ceci est particulièrement pertinent pour les responsables de ligne d'activité et les propriétaires de produits et de services.

3. Garantir l'équité de l'IA tout au long de la chaîne d'approvisionnement

Exigez des fournisseurs que vous utilisez qui ont intégré l'IA dans leurs produits et services achetés - par exemple une agence de recrutement qui pourrait utiliser l'IA pour la sélection des candidats - qu'ils remplissent également une charte d'équité de l'IA et qu'ils adhèrent aux politiques de l'entreprise sur l'équité de l'IA. Ceci est particulièrement pertinent pour la fonction achats et pour les fournisseurs.

4. Éduquer le personnel et les parties prenantes par le biais de formations et d'une approche « apprendre par la pratique »

Exiger une formation et une certification obligatoires pour tous les employés sur les principes d'équité de l'IA, de la même manière que le personnel est tenu de s'inscrire à des codes de conduite professionnelle. Pour le personnel technique, offrez une formation sur la façon de créer des modèles qui ne violent pas les principes d'équité. Toutes les formations doivent tirer parti des enseignements des chartes d'équité de l'IA pour traiter directement les problèmes auxquels l'entreprise est confrontée. S'assurer que le contenu du cours est régulièrement revu par le comité d'éthique.

5. Créez un plan de ressources humaines équitable pour l'IA RH

Un plan d'équité RH AI devrait inclure un examen annuel par les RH pour évaluer la diversité de l'équipe travaillant sur les technologies basées sur les données et l'IA, ainsi qu'un examen et une mise à niveau explicites des compétences et aptitudes actuellement annoncées pour le développement de produits clés liés à l'IA. rôles (tels que Product Owner, Data Scientist et Data Engineer) pour garantir que la sensibilisation à l'équité fait partie de la description de poste.

6. Testez l'équité de l'IA avant le lancement de toute technologie

Exiger que les départements et les fournisseurs exécutent et publient en interne des tests de résultats d'équité avant qu'un algorithme d'IA ne soit autorisé à être mis en ligne. Une fois que vous savez quels groupes peuvent être traités injustement en raison d'un biais de données, simulez les utilisateurs de ce groupe et surveillez les résultats. Cela peut être utilisé par les équipes produit pour itérer et améliorer leur produit ou service avant sa mise en ligne. Des outils open source, tels que Microsoft Fairlearning, peut aider à fournir l'analyse pour un test de résultat d'équité.

7. Communiquez votre approche de l'équité de l'IA

Organisez des sessions d'apprentissage sur les résultats en matière d'équité avec le personnel en contact avec les clients et le public pour passer les tests de résultats en matière d'équité pour tout produit ou service nouveau ou mis à jour. Ceci est particulièrement pertinent pour le marketing et les communications externes, ainsi que pour les équipes de service client.

8. Consacrer un point permanent aux réunions du conseil d'administration aux processus d'équité de l'IA

Cette discussion devrait inclure les rapports sur les progrès et l'adhésion, les thèmes soulevés par le responsable de l'éthique de l'IA et le comité d'éthique, et les résultats des tests d'équité hautement prioritaires.

9. Assurez-vous que l'éducation colle

Suivez et signalez régulièrement la participation et l'achèvement des activités d'équité de l'IA, ainsi que l'impact démontré de la gestion de l'équité en termes de valeur commerciale réelle. Fournissez ces mises à jour aux responsables de service et hiérarchiques pour qu'ils communiquent avec le personnel afin de renforcer le fait qu'en rendant les plates-formes et les logiciels d'IA plus équitables, l'organisation est plus efficace et productive.

10. Tout documenter

Documentez votre approche de l'équité de l'IA et communiquez-la lors des formations du personnel et des fournisseurs et des événements de grande envergure, y compris pour les clients et les investisseurs.

[Cette histoire est apparue à l'origine sur 10 étapes pour éduquer votre entreprise sur l'équité de l'IA | Forum économique mondial (weforum.org). Droit d'auteur 2021.]

Nadja Yousif est directeur général et associé chez Boston Consulting Group et codirige la pratique Institutions financières pour le Royaume-Uni, les Pays-Bas et la Belgique.

Marc Minévitch est titulaire de la Chaire de politique en matière d'intelligence artificielle au Centre international de recherche sur l'intelligence artificielle sous les auspices de l'UNESCO, Institut Jozef Stefan.