10 pasos para educar a su empresa sobre la equidad de la IA

A medida que las empresas aplican cada vez más la inteligencia artificial, deben abordar las preocupaciones sobre la confianza.

Aquí hay 10 intervenciones prácticas que las empresas pueden emplear para garantizar la equidad de la IA. Incluyen la creación de un Justicia AI charter e implementación de entrenamiento y pruebas.

Las tecnologías basadas en datos y la inteligencia artificial (IA) están impulsando nuestro mundo de hoy, desde predecir dónde surgirá la próxima variante de COVID-19 hasta ayudarnos a viajar por la ruta más eficiente. En muchos dominios, el público en general tiene una gran confianza en que los algoritmos que impulsan estas experiencias se están desarrollando de manera justa.

Sin embargo, esta confianza se puede romper fácilmente. Por ejemplo, considere software de contratación que, debido a los datos de capacitación no representativos, penaliza las aplicaciones que contienen la palabra "mujeres", o un sistema de calificación crediticia que pasa por alto la evidencia del mundo real de la solvencia crediticia y, por lo tanto, ciertos grupos obtienen límites de crédito más bajos o se les niegan los préstamos.

La realidad es que la tecnología avanza más rápido que la educación y la formación sobre la equidad de la IA. Las personas que capacitan, desarrollan, implementan y comercializan estas experiencias basadas en datos a menudo desconocen las implicaciones de segundo o tercer orden de su arduo trabajo.

Como parte del Foro Económico Mundial Consejo Global del Futuro sobre Inteligencia Artificial para la Humanidad, un colectivo de profesionales de la IA, investigadores y asesores corporativos, proponemos 10 intervenciones prácticas para que las empresas las empleen para garantizar la equidad de la IA.

1. Asignar la responsabilidad de la educación en IA

Asigne un director de ética de IA (CAIO) que, junto con una junta de ética interfuncional (incluidos representantes de ciencia de datos, reglamentación, relaciones públicas, comunicaciones y recursos humanos) debe ser responsable del diseño e implementación de actividades de educación de IA. El CAIO también debe ser el “defensor del pueblo” al que el personal debe comunicarse en caso de inquietudes sobre la equidad, así como un portavoz del personal no técnico. Idealmente, este rol debería reportar directamente al CEO para su visibilidad e implementación.

2. Defina la equidad para su organización

Desarrolle una plantilla de carta de equidad de IA y luego pregunte todos los departamentos que están utilizando activamente la IA para completarla en su contexto. Esto es particularmente relevante para los gerentes de líneas comerciales y los propietarios de productos y servicios.

3. Garantizar la equidad de la IA a lo largo de la cadena de suministro

Exija a los proveedores que está utilizando que tienen inteligencia artificial incorporada en sus productos y servicios adquiridos, por ejemplo, una agencia de contratación que podría usar inteligencia artificial para la selección de candidatos, que también completen una carta de equidad de inteligencia artificial y se adhieran a las políticas de la empresa sobre equidad de inteligencia artificial. Esto es particularmente relevante para la función de compras y para los proveedores.

4. Educar al personal y a las partes interesadas mediante la capacitación y un enfoque de "aprender haciendo"

Exigir capacitación y certificación obligatorias para todos los empleados sobre los principios de equidad de la IA, similar a cómo se requiere que el personal se registre en los códigos de conducta empresarial. Para el personal técnico, brinde capacitación sobre cómo construir modelos que no violen los principios de equidad. Todas las capacitaciones deben aprovechar los conocimientos de las cartas de equidad de IA para abordar directamente los problemas que enfrenta la empresa. Asegúrese de que la junta de ética revise periódicamente el contenido del curso.

5. Cree un plan de personas de equidad de IA de RR.HH.

Un plan de equidad de la IA de RR.HH. debe incluir una revisión anual por parte de RR.HH. para evaluar la diversidad del equipo que trabaja en tecnologías basadas en datos e IA, y una revisión explícita y actualización de las competencias y habilidades que se anuncian actualmente para el desarrollo de productos clave relevantes para la IA. roles (como propietario del producto, científico de datos e ingeniero de datos) para garantizar que la conciencia de la equidad sea parte de la descripción del trabajo.

6. Pruebe la imparcialidad de la IA antes del lanzamiento de cualquier tecnología

Exigir a los departamentos y proveedores que ejecuten y publiquen internamente pruebas de resultados de equidad antes de que se permita que cualquier algoritmo de IA se active. Una vez que sepa qué grupos pueden ser tratados injustamente debido al sesgo de los datos, simule usuarios de ese grupo y monitoree los resultados. Los equipos de productos pueden utilizar esto para iterar y mejorar su producto o servicio antes de que entre en funcionamiento. Herramientas de código abierto, como Aprendizaje justo de Microsoft, puede ayudar a proporcionar el análisis para una prueba de resultado de equidad.

7. Comunique su enfoque hacia la equidad de la IA

Establezca sesiones de aprendizaje de resultados de equidad con el personal de atención al cliente y al público para pasar por las pruebas de resultados de equidad para cualquier producto o servicio nuevo o actualizado. Esto es particularmente relevante para las comunicaciones externas y de marketing, así como para los equipos de servicio al cliente.

8. Dedicar un elemento permanente en las reuniones de la junta a los procesos de equidad de la IA

Esta discusión debe incluir informes sobre el progreso y el cumplimiento, los temas planteados por el director de ética de IA y la junta de ética, y los resultados de las pruebas de resultados de equidad de alta prioridad.

9.Asegúrate de que la educación se mantenga

Realice un seguimiento e informe periódicamente sobre la participación y finalización de las actividades de equidad de IA, junto con el impacto demostrado de la gestión de la equidad en términos de valor comercial real. Proporcione estas actualizaciones a los gerentes de departamento y de línea para comunicarse con el personal y reforzar que al hacer que las plataformas de inteligencia artificial y el software sean más justos, la organización es más efectiva y productiva.

10. Documenta todo

Documente su enfoque de la equidad de la IA y comuníquelo en las capacitaciones de personal y proveedores y en eventos de alto perfil, incluso para clientes e inversores.

[Esta historia apareció originalmente en 10 pasos para educar a su empresa sobre la equidad de la IA | Foro Económico Mundial (weforum.org). Derechos de autor 2021.]

nadjia yousif es Director General y Socio de Boston Consulting Group y codirige la práctica de instituciones financieras para el Reino Unido, los Países Bajos y Bélgica.

Marcos Minevich es Cátedra de Política de Inteligencia Artificial en el Centro Internacional de Investigación sobre Inteligencia Artificial auspiciado por la UNESCO, Instituto Jozef Stefan.