TOKIO, 21. Februar 2022 – (JCN Newswire) – Fujitsu gab heute die Entwicklung eines Ressourcen-Toolkits bekannt, das Entwicklern eine Anleitung zur Bewertung der ethischen Auswirkungen und Risiken von KI-Systemen auf der Grundlage internationaler KI-Ethikrichtlinien bietet. Fujitsu wird diese Ressourcen ab dem 21. Februar 2022 kostenlos anbieten, um den sicheren Einsatz von KI-Systemen in der Gesellschaft zu fördern.
Das Toolkit besteht aus einer Vielzahl von Fallstudien und Referenzmaterialien, einschließlich einer neu entwickelten Methode zur Klärung ethischer Anforderungen in KI-Ethikrichtlinien, die in natürlicher Sprache verfasst sind, sowie zur Anwendung ethischer Anforderungen auf tatsächliche KI-Systeme. Die Ressourcen auf Japanisch können hier heruntergeladen werden, die Verfügbarkeit auf Englisch wird in naher Zukunft folgen.
Mit dieser Anleitung möchte Fujitsu Missverständnisse und potenzielle Risiken vermeiden, die durch unterschiedliche Interpretationen von Beschreibungen in Richtlinien verursacht werden, und bietet Entwicklern und Betreibern von KI-Systemen neue Tools zur gründlichen Identifizierung und Vermeidung möglicher ethischer Probleme in einem frühen Stadium des Entwicklungsprozesses im Einklang mit internationalen Best Practices .
Dr. Christoph Lutge von der Technischen Universität München, eine führende Autorität in der Erforschung von verantwortungsvoller KI und Wirtschaftsethik, kommentiert: „In Europa gibt es eine wachsende Debatte über KI-Regulierungen, und eine der Schlüsselfragen ist, wie man die Kluft zwischen Prinzipien und Praktiken oder „was“ und „wie". Ich glaube, dass die Ergebnisse dieser Forschung insofern sehr bedeutsam sind, als sie es uns ermöglichen, auf Prinzipien basierend zu praktizieren. Ich möchte auch meine tiefe Wertschätzung für die Entscheidung zum Ausdruck bringen Forschungsergebnisse erschließen und weltweit zur Diskussion anregen."
In Zukunft wird Fujitsu aktiv daran arbeiten, mit Regierungsbehörden, Privatunternehmen und führenden Forschern zusammenzuarbeiten, um seine neu entwickelte Methodik weiter zu verfeinern und zu fördern, und beabsichtigt, im Geschäftsjahr 2022 eine erweiterte Version des Ressourcen-Toolkits herauszubringen.
Hintergrund
Im April 2021 veröffentlichte die Europäische Kommission einen Entwurf für einen Regulierungsrahmen, der eine umfassende ethische Reaktion für Entwickler, Benutzer und Interessengruppen von KI-Systemen fordert, um auf die zunehmenden Bedenken hinsichtlich algorithmischer Voreingenommenheit und diskriminierender Entscheidungsfindung in KI- und maschinellen Lernanwendungen zu reagieren.
Um sich uneingeschränkt für den verantwortungsvollen Einsatz von Technologie einzusetzen und das Vertrauen der Gesellschaft in KI-Systeme und die in diesem Bereich tätigen Unternehmen und Organisationen zu gewinnen, hat Fujitsu 2019 eine eigene KI-Verpflichtung formuliert sowie ein neues KI-Ethik- und Governance-Büro entwickelt und durchgesetzt solide Richtlinien für KI-Ethik, Förderung der ethischen Governance von KI in Organisationen, um ihre Wirksamkeit sicherzustellen. Jetzt wird Fujitsu vom Prinzip zur Praxis übergehen, indem es kontinuierlich Best Practices in der realen Welt umsetzt, um die Umsetzung ethischer, sicherer und transparenter KI- und maschineller Lerntechnologien sicherzustellen.
Derzeit ist es gängige Praxis in der Entwicklung von KI-Systemen, mögliche ethische Risiken in KI-Systemen auf der Grundlage von KI-Ethikrichtlinien zu identifizieren, die von Behörden und Unternehmen herausgegeben werden. Diese Richtlinien sind in natürlicher Sprache verfasst, was jedoch zu möglichen Interpretationsunterschieden und Missverständnissen zwischen Designern und Entwicklern beiträgt, die zu unangemessenen oder unzureichenden Maßnahmen führen können. Auch bei dieser Methode ist es schwierig zu beurteilen, ob die Inhalte der Leitlinien gründlich und angemessen überprüft wurden.
Es bleiben jedoch viele Herausforderungen bestehen, und eine mögliche Fehlinterpretation von Richtlinien in der Designphase neuer Technologien kann möglicherweise zu unzureichenden oder unangemessenen Maßnahmen zur Risikoabwehr führen.
Neue Bewertungsmethode und Ressourcen zur Klärung von Richtlinien und ethischen Risiken
Bei der Vorbereitung dieses neuen Toolkits und Leitfadens für Entwickler führte Fujitsu Analysen vergangener KI-bezogener Vorfälle durch, die in der KI-Vorfallsdatenbank des internationalen Konsortiums Partnership on AI (1) gesammelt wurden. Dieser Prozess führte zu dem Schluss, dass ethische Fragen im Zusammenhang mit KI-Systemen mit dem Austausch von Informationen ("Interaktionen") zwischen diskreten Elementen innerhalb eines KI-Systems und zwischen einem KI-System und seinen Benutzern und anderen Interessengruppen in Zusammenhang gebracht werden können.
Basierend auf diesen Erkenntnissen hat Fujitsu erfolgreich eine Bewertungsmethode entwickelt, um relevante ethische Fragen im Zusammenhang mit KI-Systemen systematisch zu identifizieren und die Erstellung von KI-Ethikmodellen (2) zu ermöglichen, die in der Lage sind, die Interpretation von KI-Ethikrichtlinien zu klären.
Fujitsu wandte seine neue Bewertungsmethode auf 15 repräsentative Fälle des KI-Vorfalls an
Datenbank (164 globale Fälle registriert am 21. Februar 2022, Beispiele waren Fälle aus Bereichen wie dem Finanz- und Personalsektor). Mit der neuen Methode wurden alle ethischen Probleme, die in realen Anwendungsfällen aufgetreten sind, im Vorfeld erfolgreich in Verifizierungsversuchen als Risiken identifiziert, deren Ergebnisse veröffentlicht wurden.
Fujitsu wird das folgende Ressourcen-Toolkit anbieten, das aus einer Vielzahl von Ressourcen und Anleitungen besteht, auf die sich Entwickler bei ihrer eigenen Arbeit beziehen können:
Download-Site (auf Japanisch, Englisch zu einem späteren Zeitpunkt verfügbar)
1. Whitepaper: Ein allgemeiner Überblick über die Methodik
2. Handbuch zum Verfahren zur ethischen Folgenabschätzung von KI: Diagramm des KI-Systems, Verfahren zur Erstellung des ethischen KI-Modells und Erläuterung der Problemkorrespondenzmethode
3. KI-Ethikmodell: Ein KI-Ethikmodell basierend auf den von der Europäischen Kommission veröffentlichten KI-Ethikrichtlinien (erstellt von Fujitsu)
4. Fallstudien zur KI-Ethikanalyse: Ergebnisse der Analyse wichtiger Fragen der KI-Ethik aus der KI-Vorfallsdatenbank von Partnership on AI (Stand: 21. Februar gab es sechs Fälle, die nacheinander hinzugefügt wurden.)
Anwendungsfall: Risiko beim Einsatz von KI für die Bewertung von Personen für Bankkredite, Rekrutierung
Abbildung 1 zeigt beispielhaft einen Bewertungsprozess einer Person in typischen Anwendungsszenarien wie der Personalrekrutierung oder der Bewilligung von Bankdarlehen. Die Entsprechungstabelle im KI-Ethikmodell identifiziert die „Gültigkeit des Bewertungsprozesses“ (ob die Bewertung in Bezug auf die Ausgabeergebnisse des KI-Systems verantwortungsbewusst durchgeführt wird) als Prüfpunkt für die Interaktion (Beziehung) zwischen den Benutzern des KI-System und zu bewertende Zielperson, wobei als mögliche Risiken „Überabhängigkeit von KI-Ergebnissen“, „selektive Interpretation und Bewertung von Ausgabeergebnissen“ und „Unkenntnis von Ausgabeergebnissen“ aufgeführt werden.
Innerhalb dieses Beispiels können Entwickler von KI-Systemen das Risiko einer „übermäßigen Abhängigkeit von Benutzern von Ausgaben eines KI-Systems, die Vorurteile enthalten und zu unfairen Entscheidungen führen können“ als mögliches Risiko in einem KI-System identifizieren und das System entsprechend anpassen, um dieses Risiko zu verhindern .
(1) Partnerschaft zu KI:
Eine 2016 gegründete gemeinnützige Organisation, die sich mit den ethischen Herausforderungen der KI befasst, für eine Zukunft, in der KI und Menschen zusammenarbeiten.
(2) KI-Ethikmodelle:
KI-Ethikmodelle beinhalten eine Korrespondenztabelle von „Check Items“ und „Interactions“, ein Werkzeug zur schrittweisen Bewertung der ethischen Anforderungen an KI-Systeme. KI-Ethikmodelle werden basierend auf einer bestimmten Richtlinie manuell erstellt, aber einmal generiert, kann ein Modell generisch verwendet werden, um verschiedene KI-Systeme zu bewerten. Mit dieser Methode können Entwickler und Betreiber von KI-Systemen automatisch alle relevanten Prüfpunkte aus einem zuvor erstellten KI-Ethikmodell abrufen, um eine systematische und umfassende Bewertung der damit verbundenen möglichen Risiken basierend auf der Art der Interaktionen innerhalb eines KI-Systems zu ermöglichen.
Über Fujitsu
Fujitsu ist das führende japanische Unternehmen für Informations- und Kommunikationstechnologie (IKT), das eine breite Palette von Technologieprodukten, -lösungen und -dienstleistungen anbietet. Rund 126,000 Fujitsu-Mitarbeiter unterstützen Kunden in mehr als 100 Ländern. Wir nutzen unsere Erfahrung und die Kraft der IKT, um mit unseren Kunden die Zukunft der Gesellschaft zu gestalten. Fujitsu Limited (TSE: 6702) meldete für das am 3.6. März 34 endende Geschäftsjahr einen konsolidierten Umsatz von 31 Billionen Yen (2021 Milliarden US-Dollar). Weitere Informationen finden Sie unter www.fujitsu.com.
Copyright 2022 JCN Newswire. Alle Rechte vorbehalten. www.jcnnewswire.comFujitsu gab heute die Entwicklung eines Ressourcen-Toolkits bekannt, das Entwicklern Anleitungen zur Bewertung der ethischen Auswirkungen und Risiken von KI-Systemen auf der Grundlage internationaler KI-Ethikrichtlinien bietet.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Über uns
- Adresse
- AI
- algorithmisch
- Alle
- Zulassen
- Analyse
- angekündigt
- Anwendungen
- Anwendung
- April
- Autorität
- Verfügbarkeit
- verfügbar
- Bank
- BESTE
- Best Practices
- Milliarde
- Geschäft
- Fälle
- verursacht
- Herausforderungen
- berechnen
- Bemerkungen
- Provision
- Engagement
- gemeinsam
- Kommunikation
- Unternehmen
- Unternehmen
- Inhalt
- Urheberrecht
- Länder
- Kunden
- Datenbase
- Debatten.
- Einsatz
- Design
- entwickeln
- entwickelt
- Entwickler
- Entwicklung
- Früh
- Englisch
- etablierten
- Ethik
- Europa
- Europäische
- Europäische Kommission
- Beispiel
- Austausch-
- ERFAHRUNGEN
- Revolution
- folgen
- Folgende
- vorwärts
- Unser Ansatz
- Frei
- voller
- Zukunft
- Lücke
- Allgemeines
- Global
- Governance
- der Regierung
- persönlichem Wachstum
- Richtlinien
- Hilfe
- hier
- Ultraschall
- Hilfe
- HTTPS
- Human Resources
- Humans
- identifizieren
- Impact der HXNUMXO Observatorien
- inklusive
- Einschließlich
- Krankengymnastik
- Information
- Interaktion
- International
- beteiligt
- Probleme
- IT
- Aufbewahrung
- Wesentliche
- Sprache
- führen
- führenden
- lernen
- geführt
- Limitiert
- Gelistet
- Kredite
- Logo
- Maschinelles Lernen
- Dur
- manuell
- März
- Materialien
- Modell
- für
- schlauer bewegen
- In der Nähe von
- Non-Profit-
- bieten
- bieten
- XNUMXh geöffnet
- Organisation
- Organisationen
- Andere
- Partner
- Partnerschaft
- Personen
- Personal
- Phase
- Politik durchzulesen
- möglich
- Werkzeuge
- Gegenwart
- Verhütung
- privat
- Aufgabenstellung:
- Prozessdefinierung
- Produkte
- fördern
- Angebot
- realen Welt
- Rekrutierung
- eingetragen
- Vorschriften
- Regulierungsbehörden
- Beziehung
- Voraussetzungen:
- Forschungsprojekte
- Ressourcen
- Downloads
- Antwort
- für ihren Verlust verantwortlich.
- Die Ergebnisse
- Risiko
- safe
- Bibliotheken
- Verbindung
- Dienstleistungen
- signifikant
- SIX
- Gesellschaft
- Lösungen
- Raumfahrt
- Es wurden Studien
- Erfolgreich
- Support
- System
- Systeme und Techniken
- Target
- Technische
- Technologies
- Technologie
- heute
- gemeinsam
- Werkzeuge
- transparent
- Vertrauen
- Universität
- us
- Nutzer
- Verification
- ob
- Whitepaper (ENG)
- .
- Arbeiten
- weltweit wie ausgehandelt und gekauft ausgeführt wird.
- Das weltweit
- Jahr
- Yen