10 passaggi per educare la tua azienda all'equità dell'IA

Poiché le aziende applicano sempre più l'intelligenza artificiale, devono affrontare le preoccupazioni sulla fiducia.

Ecco 10 interventi pratici che le aziende devono adottare per garantire l'equità dell'IA. Includono la creazione di un Equità AI charter e l'attuazione di formazione e test.

Le tecnologie basate sui dati e l'intelligenza artificiale (AI) stanno alimentando il nostro mondo oggi, dalla previsione di dove sorgerà la prossima variante del COVID-19, all'aiutarci a viaggiare sulla rotta più efficiente. In molti ambiti, il pubblico in generale ha un'elevata fiducia nel fatto che gli algoritmi che alimentano queste esperienze vengano sviluppati in modo equo.

Tuttavia, questa fiducia può essere facilmente infranta. Ad esempio, considera software di reclutamento che, a causa di dati di formazione non rappresentativi, penalizza le applicazioni che contengono la parola "donne" o un sistema di punteggio del credito che non fornisce prove reali di merito creditizio e quindi di conseguenza alcuni gruppi ottengono limiti di credito inferiori o vengono negati prestiti.

La realtà è che la tecnologia si sta muovendo più velocemente dell'istruzione e della formazione sull'equità dell'IA. Le persone che addestrano, sviluppano, implementano e commercializzano queste esperienze basate sui dati spesso non ne sono consapevoli le implicazioni di secondo o terzo ordine del loro duro lavoro.

Nell'ambito del World Economic Forum's Consiglio del futuro globale sull'intelligenza artificiale per l'umanità, un collettivo di professionisti dell'IA, ricercatori e consulenti aziendali, proponiamo 10 interventi pratici che le aziende devono impiegare per garantire l'equità dell'IA.

1. Assegnare la responsabilità per l'educazione all'intelligenza artificiale

Assegnare un responsabile dell'etica dell'IA (CAIO) che, insieme a un comitato etico interfunzionale (compresi rappresentanti di data science, regolamentazione, pubbliche relazioni, comunicazioni e risorse umane) dovrebbe essere responsabile della progettazione e dell'attuazione delle attività di formazione sull'IA. Il CAIO dovrebbe anche essere il "difensore civico" per il personale a cui rivolgersi in caso di problemi di equità, nonché un portavoce per il personale non tecnico. Idealmente questo ruolo dovrebbe riferire direttamente al CEO per visibilità e implementazione.

2. Definisci l'equità per la tua organizzazione

Sviluppa un modello di carta di equità AI e poi chiedi tutti i reparti che utilizzano attivamente l'intelligenza artificiale per completarlo nel loro contesto. Ciò è particolarmente rilevante per i responsabili delle linee di business e i proprietari di prodotti e servizi.

3. Garantire l'equità dell'IA lungo la catena di approvvigionamento

Richiedi ai fornitori che stai utilizzando che hanno l'intelligenza artificiale integrata nei loro prodotti e servizi acquistati, ad esempio un'agenzia di reclutamento che potrebbe utilizzare l'intelligenza artificiale per lo screening dei candidati, di completare anche una carta di equità dell'intelligenza artificiale e di aderire alle politiche aziendali sull'equità dell'intelligenza artificiale. Ciò è particolarmente rilevante per la funzione acquisti e per i fornitori.

4. Educare il personale e le parti interessate attraverso la formazione e un approccio "impara facendo"

Richiedere una formazione e una certificazione obbligatorie per tutti i dipendenti sui principi di equità dell'IA, in modo simile a come il personale è tenuto a sottoscrivere codici di condotta aziendale. Per il personale tecnico, fornire formazione su come costruire modelli che non violino i principi di equità. Tutti i corsi di formazione dovrebbero sfruttare le intuizioni delle carte di equità dell'IA per affrontare direttamente i problemi che l'azienda deve affrontare. Garantire che il contenuto del corso sia regolarmente rivisto dal comitato etico.

5. Creare un piano di persone per l'equità delle risorse umane AI

Un piano di equità dell'IA delle risorse umane dovrebbe includere una revisione annuale da parte delle risorse umane per valutare la diversità del team che lavora su tecnologie basate sui dati e IA, e una revisione e un aggiornamento espliciti delle competenze e delle abilità che sono attualmente pubblicizzate per lo sviluppo di prodotti chiave rilevanti per l'IA ruoli (come proprietario del prodotto, scienziato dei dati e ingegnere dei dati) per garantire che la consapevolezza dell'equità faccia parte della descrizione del lavoro.

6. Testa l'equità dell'IA prima del lancio di qualsiasi tecnologia

Richiedere ai reparti e ai fornitori di eseguire e pubblicare internamente i test sui risultati di equità prima che qualsiasi algoritmo di intelligenza artificiale possa essere attivato. Una volta che sai quali gruppi potrebbero essere trattati ingiustamente a causa della distorsione dei dati, simula gli utenti di quel gruppo e monitora i risultati. Questo può essere utilizzato dai team di prodotto per iterare e migliorare il loro prodotto o servizio prima che venga pubblicato. Strumenti open source, come Microsoft Fairlearning, può aiutare a fornire l'analisi per un test di risultato di equità.

7. Comunica il tuo approccio all'equità dell'IA

Organizza sessioni di apprendimento sui risultati di equità con il personale rivolto al cliente e al pubblico per superare i test sui risultati di equità per qualsiasi prodotto o servizio nuovo o aggiornato. Ciò è particolarmente rilevante per il marketing e le comunicazioni esterne, nonché per i team del servizio clienti.

8. Dedicare un elemento permanente nelle riunioni del consiglio ai processi di equità dell'IA

Questa discussione dovrebbe includere la relazione sui progressi e l'aderenza, i temi sollevati dal responsabile etico capo dell'IA e dal comitato etico e i risultati dei test sugli esiti di equità ad alta priorità

9. Assicurati che l'istruzione si attacchi

Tracciare e segnalare regolarmente la partecipazione e il completamento delle attività di equità dell'IA, insieme all'impatto dimostrato della gestione dell'equità in termini di valore aziendale reale. Fornisci questi aggiornamenti ai responsabili di reparto e di linea per comunicare al personale per rafforzare che, rendendo le piattaforme e il software AI più equi, l'organizzazione è più efficace e produttiva.

10. Documenta tutto

Documenta il tuo approccio all'equità dell'AI e comunicalo nei corsi di formazione del personale e dei fornitori e negli eventi di alto profilo, anche per clienti e investitori.

[Questa storia è apparsa originariamente su 10 passaggi per educare la tua azienda all'equità dell'IA | Forum economico mondiale (weforum.org). Diritto d'autore 2021.]

Nadia Yousif è Amministratore Delegato e Partner presso Boston Consulting Group e co-conduce la pratica delle istituzioni finanziarie per il Regno Unito, i Paesi Bassi e il Belgio.

Marco Minevich è Chair for Artificial Intelligence Policy presso il Centro Internazionale di Ricerca sull'Intelligenza Artificiale sotto gli auspici dell'UNESCO, Jozef Stefan Institute.