10 Schritte, um Ihr Unternehmen über KI-Fairness zu informieren

Da Unternehmen zunehmend künstliche Intelligenz einsetzen, müssen sie sich mit Vertrauensproblemen auseinandersetzen.

Hier sind 10 praktische Maßnahmen, die Unternehmen ergreifen können, um die Fairness der KI zu gewährleisten. Sie umfassen die Erstellung eines KI Fairness Charter und Durchführung von Schulungen und Tests.

Datengesteuerte Technologien und künstliche Intelligenz (KI) treiben unsere Welt heute an – von der Vorhersage, wo die nächste COVID-19-Variante auftauchen wird, bis hin zur Unterstützung beim Reisen auf der effizientesten Route. In vielen Bereichen hat die breite Öffentlichkeit ein hohes Maß an Vertrauen, dass die Algorithmen, die diese Erfahrungen ermöglichen, auf faire Weise entwickelt werden.

Dieses Vertrauen kann jedoch leicht gebrochen werden. Betrachten Sie zum Beispiel Recruiting-Software die aufgrund nicht repräsentativer Trainingsdaten Bewerbungen benachteiligt, die das Wort „Frauen“ enthalten, oder ein Bonitätsbewertungssystem, das reale Bonitätsnachweise verfehlt und dadurch bestimmte Gruppen erhalten niedrigere Kreditlimits oder Kredite verweigert werden.

Die Realität ist, dass sich die Technologie schneller entwickelt als die Aus- und Weiterbildung zur KI-Fairness. Die Menschen, die diese datengesteuerten Erfahrungen schulen, entwickeln, implementieren und vermarkten, sind sich oft nicht bewusst die Implikationen zweiter oder dritter Ordnung ihrer harten Arbeit.

Im Rahmen des Weltwirtschaftsforums Globaler Zukunftsrat für künstliche Intelligenz für die Menschheit, einem Kollektiv von KI-Praktikern, Forschern und Unternehmensberatern, schlagen wir 10 praktische Maßnahmen vor, die Unternehmen anwenden können, um KI-Fairness zu gewährleisten.

1. Verantwortung für KI-Bildung zuweisen

Weisen Sie einen Chief AI Ethics Officer (CAIO) zu, der zusammen mit einem funktionsübergreifenden Ethikausschuss (einschließlich Vertretern aus den Bereichen Data Science, Regulierung, Öffentlichkeitsarbeit, Kommunikation und HR) für die Gestaltung und Umsetzung von KI-Ausbildungsaktivitäten verantwortlich sein soll. Der CAIO sollte auch der „Ombudsmann“ für Mitarbeiter sein, an den sie sich bei Bedenken hinsichtlich der Fairness wenden können, sowie ein Sprecher für nicht-technische Mitarbeiter. Idealerweise sollte diese Rolle zur Sichtbarkeit und Implementierung direkt an den CEO berichten.

2. Definieren Sie Fairness für Ihr Unternehmen

Entwickeln Sie eine Vorlage für eine KI-Fairness-Charta und fragen Sie dann nach Alle Abteilungen die KI aktiv einsetzen, um sie in ihrem Kontext zu vervollständigen. Dies ist besonders relevant für Business Line Manager und Product and Service Owner.

3. KI-Fairness entlang der Lieferkette sicherstellen

Fordern Sie von Ihnen eingesetzte Lieferanten, die KI in ihre beschafften Produkte und Dienstleistungen integriert haben – zum Beispiel eine Personalvermittlungsagentur, die KI für das Kandidatenscreening einsetzen könnte – auf, ebenfalls eine KI-Fairness-Charta auszufüllen und die Unternehmensrichtlinien zur KI-Fairness einzuhalten. Dies ist insbesondere für die Beschaffungsfunktion und für Lieferanten relevant.

4. Mitarbeiter und Interessenvertreter durch Schulungen und einen „learning by doing“-Ansatz schulen

Verpflichtende Schulungen und Zertifizierungen für alle Mitarbeiter zu den Prinzipien der KI-Fairness – ähnlich wie Mitarbeiter verpflichtet sind, Verhaltenskodizes zu unterzeichnen. Bieten Sie für technisches Personal Schulungen zum Erstellen von Modellen an, die nicht gegen Fairnessprinzipien verstoßen. Alle Schulungen sollten die Erkenntnisse aus den KI-Fairness-Charta nutzen, um Probleme, mit denen das Unternehmen konfrontiert ist, direkt anzugehen. Stellen Sie sicher, dass die Kursinhalte regelmäßig von der Ethikkommission überprüft werden.

5. Erstellen Sie einen HR-KI-Fairness-Personenplan

Ein HR-KI-Fairnessplan sollte eine jährliche Überprüfung durch die HR umfassen, um die Vielfalt des Teams, das an datengesteuerten Technologien und KI arbeitet, zu bewerten, sowie eine explizite Überprüfung und Aktualisierung der Kompetenzen und Fähigkeiten, die derzeit für wichtige KI-relevante Produktentwicklungen ausgeschrieben werden Rollen (wie Product Owner, Data Scientist und Data Engineer), um das Bewusstsein für Fairness zu gewährleisten, ist Teil der Stellenbeschreibung.

6. Testen Sie die Fairness der KI, bevor eine Technologie auf den Markt kommt

Fordern Sie Abteilungen und Lieferanten auf, Fairness-Ergebnistests durchzuführen und intern zu veröffentlichen, bevor ein KI-Algorithmus live gehen darf. Sobald Sie wissen, welche Gruppen aufgrund von Datenverzerrungen möglicherweise unfair behandelt werden, simulieren Sie Benutzer aus dieser Gruppe und überwachen Sie die Ergebnisse. Dies kann von Produktteams verwendet werden, um ihr Produkt oder ihren Service zu iterieren und zu verbessern, bevor es live geht. Open-Source-Tools, wie z Microsoft-Fairlearn, kann dabei helfen, die Analyse für einen Fairness-Ergebnistest bereitzustellen.

7. Kommunizieren Sie Ihren Ansatz zur KI-Fairness

Richten Sie Fairness-Ergebnis-Lernsitzungen mit kunden- und öffentlich zugänglichen Mitarbeitern ein, um die Fairness-Ergebnistests für alle neuen oder aktualisierten Produkte oder Dienstleistungen durchzuführen. Dies ist insbesondere für Marketing und externe Kommunikation sowie Kundenservice-Teams relevant.

8. Einen ständigen Punkt in Vorstandssitzungen den KI-Fairnessprozessen widmen

Diese Diskussion sollte die Berichterstattung über Fortschritte und Einhaltung, Themen, die vom Chief AI Ethics Officer und Ethics Board angesprochen wurden, und die Ergebnisse von Fairness-Ergebnistests mit hoher Priorität umfassen

9. Stellen Sie sicher, dass die Bildung bleibt

Verfolgen und berichten Sie regelmäßig über die Teilnahme und den Abschluss der KI-Fairness-Aktivitäten, zusammen mit den nachgewiesenen Auswirkungen des Fairness-Managements in Bezug auf den realen Geschäftswert. Stellen Sie diese Updates den Abteilungs- und Vorgesetzten zur Verfügung, um sie mit den Mitarbeitern zu kommunizieren, um zu verstärken, dass die Organisation durch eine fairere Gestaltung von KI-Plattformen und -Software effektiver und produktiver ist.

10. Dokumentiere alles

Dokumentieren Sie Ihren Ansatz zur KI-Fairness und kommunizieren Sie ihn in Mitarbeiter- und Lieferantenschulungen und hochkarätigen Veranstaltungen, auch für Kunden und Investoren.

[Diese Geschichte erschien ursprünglich auf 10 Schritte, um Ihr Unternehmen über KI-Fairness aufzuklären | Weltwirtschaftsforum (weforum.org). Urheberrecht 2021.]

Nadjia Yousif ist Geschäftsführer und Partner bei Boston Beratungsgruppe und Co-Leiter der Financial Institutions Practice für das Vereinigte Königreich, die Niederlande und Belgien.

Markus Minewitsch ist Chair for Artificial Intelligence Policy am International Research Center on Artificial Intelligence unter der Schirmherrschaft der UNESCO, Jozef Stefan Institute.