10 pași pentru a vă educa compania cu privire la corectitudinea AI

Pe măsură ce companiile aplică din ce în ce mai mult inteligența artificială, ele trebuie să abordeze preocupările legate de încredere.

Iată 10 intervenții practice pe care companiile le pot folosi pentru a asigura corectitudinea AI. Acestea includ crearea unui Corectitudinea AI charter și implementarea instruirii și testării.

Tehnologiile bazate pe date și inteligența artificială (AI) alimentează lumea noastră de astăzi – de la prezicerea unde va apărea următoarea variantă COVID-19, până la a ne ajuta să călătorim pe cea mai eficientă rută. În multe domenii, publicul larg are o mare încredere că algoritmii care alimentează aceste experiențe sunt dezvoltați într-un mod corect.

Cu toate acestea, această încredere poate fi ușor ruptă. De exemplu, luați în considerare software de recrutare care, din cauza datelor de formare nereprezentative, penalizează aplicațiile care conțin cuvântul „femei” sau un sistem de notare a creditelor care ratează dovezile din lumea reală a bonității și, prin urmare, anumite grupuri obțin limite de credit mai mici sau li se refuză împrumuturi.

Realitatea este că tehnologia se mișcă mai repede decât educația și formarea privind corectitudinea AI. Oamenii care formează, dezvoltă, implementează și comercializează aceste experiențe bazate pe date nu sunt adesea conștienți implicaţiile de ordinul doi sau trei ale muncii lor grele.

Ca parte a Forumului Economic Mondial Consiliul Global Viitorului pentru Inteligența Artificială pentru Umanitate, un colectiv de practicieni AI, cercetători și consilieri corporativi, propunem 10 intervenții practice pe care să le angajeze companiile pentru a asigura corectitudinea AI.

1. Atribuiți responsabilitatea pentru educația IA

Desemnați un ofițer șef de etică AI (CAIO) care, împreună cu un consiliu de etică interfuncțional (inclusiv reprezentanți din știința datelor, reglementare, relații publice, comunicații și resurse umane) ar trebui să fie responsabil pentru proiectarea și implementarea activităților de educație AI. CAIO ar trebui să fie, de asemenea, „ombudsmanul” personalului la care să se adreseze în caz de probleme legate de echitate, precum și un purtător de cuvânt al personalului netehnic. În mod ideal, acest rol ar trebui să raporteze direct CEO-ului pentru vizibilitate și implementare.

2. Definiți corectitudinea pentru organizația dvs

Elaborați un șablon de carte de corectitudine AI și apoi întrebați toate departamentele care folosesc activ AI pentru a o completa în contextul lor. Acest lucru este relevant în special pentru managerii liniilor de afaceri și proprietarii de produse și servicii.

3. Asigurați corectitudinea AI de-a lungul lanțului de aprovizionare

Solicitați furnizorilor pe care îi utilizați și care au IA integrată în produsele și serviciile achiziționate – de exemplu, o agenție de recrutare care ar putea folosi AI pentru selectarea candidaților – să finalizeze, de asemenea, o carte de corectitudine AI și să adere la politicile companiei privind corectitudinea AI. Acest lucru este relevant în special pentru funcția de achiziții și pentru furnizori.

4. Educați personalul și părțile interesate prin instruire și o abordare „învățare prin practică”.

Solicitați instruire și certificare obligatorii pentru toți angajații cu privire la principiile corectitudinii AI – similar cu modul în care personalul trebuie să se înscrie la codurile de conduită în afaceri. Pentru personalul tehnic, oferiți instruire despre cum să construiți modele care nu încalcă principiile echității. Toate cursurile ar trebui să utilizeze informațiile din chartele de corectitudine AI pentru a aborda în mod direct problemele cu care se confruntă compania. Asigurați-vă că conținutul cursului este revizuit în mod regulat de către consiliul de etică.

5. Creați un plan de oameni de corectitudine HR AI

Un plan de corectitudine HR AI ar trebui să includă o revizuire anuală de către HR pentru a evalua diversitatea echipei care lucrează pe tehnologii bazate pe date și AI, precum și o revizuire explicită și o actualizare a competențelor și abilităților care sunt promovate în prezent pentru dezvoltarea de produse cheie relevante pentru IA. roluri (cum ar fi proprietarul produsului, cercetătorul de date și inginerul de date) pentru a se asigura că conștientizarea corectitudinii face parte din fișa postului.

6. Testați corectitudinea AI înainte de lansarea oricărei tehnologii

Solicitați departamentelor și furnizorilor să execute și să publice intern teste de rezultate de corectitudine înainte ca orice algoritm AI să poată fi pus în funcțiune. Odată ce știți ce grupuri pot fi tratate incorect din cauza prejudecății datelor, simulați utilizatorii din acel grup și monitorizați rezultatele. Aceasta poate fi folosită de echipele de produse pentru a repeta și a-și îmbunătăți produsul sau serviciul înainte de a fi lansat. Instrumente open source, cum ar fi Microsoft Fairlearn, poate ajuta la furnizarea analizei pentru un test de rezultat al corectitudinii.

7. Comunicați-vă abordarea cu privire la corectitudinea AI

Organizați sesiuni de învățare privind rezultatele corectitudinii cu personalul orientat către clienți și public pentru a trece prin testele rezultatelor corectitudinii pentru orice produs sau serviciu nou sau actualizat. Acest lucru este relevant în special pentru marketing și comunicațiile externe, precum și pentru echipele de servicii pentru clienți.

8. Dedicați un punct permanent în reuniunile consiliului de administrație proceselor de corectitudine AI

Această discuție ar trebui să includă raportarea privind progresul și aderarea, temele abordate de către ofițerul șef de etică AI și de la consiliul de etică și rezultatele testelor de rezultate de echitate cu prioritate înaltă.

9. Asigurați-vă că educația se menține

Urmăriți și raportați în mod regulat participarea și finalizarea activităților de corectitudine AI, împreună cu impactul demonstrat al gestionării echității în ceea ce privește valoarea reală a afacerii. Furnizați aceste actualizări managerilor de departament și de linie pentru a comunica personalului pentru a consolida faptul că, făcând platformele AI și software-ul mai corecte, organizația este mai eficientă și mai productivă.

10. Documentează totul

Documentați-vă abordarea cu privire la corectitudinea inteligenței artificiale și comunicați-o în cursuri de instruire pentru personal și furnizori și evenimente de mare profil, inclusiv pentru clienți și investitori.

[Această poveste a apărut inițial pe 10 pași pentru a vă educa compania cu privire la corectitudinea AI | Forumul Economic Mondial (weforum.org). Copyright 2021.]

Nadjia Yousif este director general și partener la Boston Consulting Group și co-conduce practica instituțiilor financiare pentru Regatul Unit, Țările de Jos și Belgia.

Mark Minevici este Catedra pentru Politica de Inteligență Artificială la Centrul Internațional de Cercetare pentru Inteligența Artificială sub auspiciile UNESCO, Institutul Jozef Stefan.