TOKYO, 21 februari 2022 – (JCN Newswire) – Fujitsu tillkännagav idag utvecklingen av en resursverktygssats som erbjuder utvecklare vägledning för att utvärdera den etiska inverkan och riskerna med AI-system baserat på internationella AI-etiska riktlinjer. Fujitsu kommer att erbjuda dessa resurser gratis från och med den 21 februari 2022 för att främja en säker och säker distribution av AI-system i samhället.
Verktygslådan består av en mängd olika fallstudier och referensmaterial, inklusive en nyutvecklad metod för att förtydliga etiska krav i AI-etiska riktlinjer skrivna på naturligt språk, samt för att tillämpa etiska krav på faktiska AI-system. Resurserna på japanska kan laddas ner här, med tillgänglighet på engelska inom en snar framtid.
Med denna vägledning syftar Fujitsu till att förhindra missförstånd och potentiella risker orsakade av skillnader i tolkningen av beskrivningar i riktlinjer, erbjuda AI-systemutvecklare och -operatörer nya verktyg för att noggrant identifiera och förebygga möjliga etiska problem tidigt i utvecklingsprocessen i enlighet med internationella bästa praxis .
Dr Christoph Lutge från Tekniska universitetet i München, en ledande auktoritet inom forskningen om ansvarsfull AI och affärsetik, kommenterar: "I Europa finns en växande debatt om AI-regleringar, och en av nyckelfrågorna är hur man stänger gap mellan principer och praxis, eller "vad" och "hur." Jag tror att resultaten av denna forskning är mycket betydelsefulla eftersom de gör det möjligt för oss att praktisera utifrån principer. Jag skulle också vilja uttrycka min djupa uppskattning för beslutet att öppna forskningsresultaten och stimulera diskussioner över hela världen."
Framöver kommer Fujitsu aktivt att arbeta för att samarbeta med statliga myndigheter, privata företag och ledande forskare för att ytterligare förfina och främja dess nyutvecklade metodik och siktar på att släppa en utökad version av resursverktygslådan under räkenskapsåret 2022.
Bakgrund
I april 2021 utfärdade Europeiska kommissionen ett utkast till ett regelverk som kräver ett omfattande etiskt svar för AI-systemutvecklare, användare och intressenter som svar på ökande farhågor kring algoritmisk fördom och diskriminerande beslutsfattande i AI- och maskininlärningsapplikationer.
För att fullt ut engagera sig i en ansvarsfull användning av teknik och förtjäna samhällets förtroende för AI-system och de företag och organisationer som är involverade i detta område, har Fujitsu formulerat sitt eget AI-åtagande under 2019, såväl som ett nytt AI-kontor för etik och styrning för att utveckla och genomdriva robusta policyer för AI-etik, främja organisatorisk AI-etisk styrning för att säkerställa deras effektivitet. Nu kommer Fujitsu att gå från princip till praktik genom att stadigt implementera bästa praxis i den verkliga världen för att säkerställa förverkligandet av etiska, säkra och transparenta AI- och maskininlärningsteknologier.
För närvarande är det vanlig praxis inom AI-systemutveckling att identifiera möjliga etiska risker i AI-system baserat på AI-etiska riktlinjer utfärdade av statliga myndigheter och företag. Dessa riktlinjer är skrivna på ett naturligt språk, vilket dock bidrar till möjliga tolkningsskillnader och missförstånd bland designers och utvecklare som kan leda till olämpliga eller otillräckliga åtgärder. Med denna metod är det också svårt att bedöma om innehållet i riktlinjerna har granskats grundligt och på lämpligt sätt.
Många utmaningar kvarstår dock och eventuell feltolkning av riktlinjer i designfasen av ny teknik kan potentiellt leda till otillräckliga eller olämpliga åtgärder för att motverka risk.
Ny utvärderingsmetod och resurser för att förtydliga riktlinjer och etiska risker
Vid utarbetandet av denna nya verktygslåda och vägledning för utvecklare utförde Fujitsu analyser av tidigare AI-relaterade incidenter som samlats in i AI Incident Database för det internationella konsortiet Partnership on AI (1). Denna process ledde till slutsatsen att etiska frågor relaterade till AI-system kan kontextualiseras med utbyte av information ("interaktioner") mellan diskreta element inom ett AI-system och mellan ett AI-system och dess användare och andra intressenter.
Baserat på dessa resultat har Fujitsu framgångsrikt utvecklat en utvärderingsmetod för att systematiskt identifiera relevanta etiska frågor relaterade till AI-system, vilket möjliggör skapandet av AI-etiska modeller (2) som kan förtydliga tolkningen av AI-etiska riktlinjer.
Fujitsu tillämpade sin nya utvärderingsmetod på 15 representativa fall av AI-incidenten
Databas (164 globala ärenden registrerade den 21 februari 2022, exempel inkluderade fall från områden som finans- och personalsektorn). Genom att tillämpa den nya metoden identifierades alla etiska problem som inträffade i verkliga användningsfall framgångsrikt som risker i förväg under verifieringsförsök, vars resultat har publicerats.
Fujitsu kommer att erbjuda följande resursverktygssats bestående av en mängd olika resurser och vägledning för utvecklare att referera till i sitt eget arbete:
Nedladdningssida (på japanska, engelska tillgänglig vid framtida datum)
1. Whitepaper: En allmän översikt av metodik
2. Handbok för AI-proceduren för etisk konsekvensbedömning: AI-systemdiagram, förberedelseförfarande för AI-etisk modell och förklaring av problemkorrespondensmetod
3. AI-etisk modell: En AI-etisk modell baserad på AI-etiska riktlinjer publicerade av Europeiska kommissionen (skapad av Fujitsu)
4. Fallstudier för AI-etikanalys: Resultat av analys av viktiga AI-etiska frågor från AI Incident Database of Partnership on AI (Från och med den 21 februari fanns det sex fall som lades till i följd.)
Användningsfall: risk vid användning av AI för utvärdering av individer för banklån, rekrytering
Figur 1 visar ett exempel på en utvärderingsprocess av en individ som är typiska i användningsfallsscenarier som personalrekrytering eller godkännande av banklån. Korrespondenstabellen i AI-etikmodellen identifierade "utvärderingsprocessens giltighet" (om utvärderingen genomförs på ett ansvarsfullt sätt med hänvisning till utdata från AI-systemet) som en kontrollpost för interaktionen (relationen) mellan användaren av AI-system och målpersonen som ska utvärderas, medan "överberoende av AI-resultat", "selektiv tolkning och utvärdering av outputresultat" och "okunnighet om outputresultat" listas som möjliga risker.
I det här exemplet kan AI-systemutvecklare identifiera risken för ett "överberoende av användare av utdata från ett AI-system som kan innehålla partiskhet och leda till orättvisa beslut" som en möjlig risk i ett AI-system och anpassa systemet på lämpligt sätt för att förhindra denna risk .
(1) Partnerskap om AI:
En ideell organisation etablerad 2016 som tar itu med de etiska utmaningarna med AI, för en framtid där AI och människor arbetar tillsammans.
(2) AI-etiska modeller:
AI-etiska modeller inkluderar en överensstämmelsetabell med "kontrollobjekt" och "interaktioner", ett verktyg för steg-för-steg-utvärdering av etiska krav för AI-system. AI-etiska modeller skapas manuellt baserat på en specifik riktlinje, men när de väl har genererats kan en modell användas generiskt för att utvärdera olika AI-system. Med den här metoden kan utvecklare och operatörer av AI-system automatiskt hämta alla relevanta kontrollpunkter från en tidigare skapad AI-etisk modell för en systematisk och omfattande utvärdering av relaterade möjliga risker baserat på typen av interaktioner inom ett AI-system.
Om Fujitsu
Fujitsu är det ledande japanska informations- och kommunikationsteknikföretaget (IKT) som erbjuder ett komplett utbud av teknikprodukter, lösningar och tjänster. Cirka 126,000 100 Fujitsu -människor stöder kunder i mer än 6702 länder. Vi använder vår erfarenhet och kraften i IKT för att forma samhällets framtid med våra kunder. Fujitsu Limited (TSE: 3.6) redovisade konsoliderade intäkter på 34 biljoner yen (31 miljarder dollar) för räkenskapsåret som slutade 2021 mars XNUMX. Mer information finns i www.fujitsu.com.
Copyright 2022 JCN Newswire. Alla rättigheter förbehållna. www.jcnnewswire.comFujitsu tillkännagav idag utvecklingen av en resursverktygssats som erbjuder utvecklare vägledning för att utvärdera den etiska inverkan och riskerna med AI-system baserat på internationella AI-etiska riktlinjer.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Om oss
- adress
- AI
- algoritmisk
- Alla
- tillåta
- analys
- meddelade
- tillämpningar
- Tillämpa
- April
- myndighet
- tillgänglighet
- tillgänglig
- Bank
- BÄST
- bästa praxis
- Miljarder
- företag
- fall
- orsakas
- utmaningar
- laddning
- kommentarer
- provision
- engagemang
- Gemensam
- Kommunikation
- Företag
- företag
- innehåll
- upphovsrätt
- länder
- Kunder
- Databas
- diskussion
- utplacering
- Designa
- utveckla
- utvecklade
- utvecklare
- Utveckling
- Tidig
- Engelska
- etablerade
- etik
- Europa
- Giltigt körkort
- Europeiska kommissionen
- exempel
- utbyta
- erfarenhet
- finansiella
- följer
- efter
- Framåt
- Ramverk
- Fri
- full
- framtida
- spalt
- Allmänt
- Välgörenhet
- styrning
- Regeringen
- Odling
- riktlinjer
- hjälpa
- här.
- Hur ser din drömresa ut
- How To
- HTTPS
- Human Resources
- Människa
- identifiera
- Inverkan
- ingår
- Inklusive
- individuellt
- informationen
- interaktion
- Internationell
- involverade
- problem
- IT
- hålla
- Nyckel
- språk
- leda
- ledande
- inlärning
- Led
- Begränsad
- Noterade
- Lån
- logotyp
- maskininlärning
- större
- manuell
- Mars
- material
- modell
- modeller
- flytta
- Nära
- ideell organisation
- erbjudanden
- erbjuda
- öppet
- organisation
- organisationer
- Övriga
- partnern
- Partnerskap
- Personer
- Personal
- fas
- Strategier
- möjlig
- kraft
- presentera
- förebyggande
- privat
- Problem
- process
- Produkter
- främja
- område
- verkliga världen
- rekrytering
- registrerat
- föreskrifter
- regulatorer
- relation
- Krav
- forskning
- resurs
- Resurser
- respons
- ansvarig
- Resultat
- Risk
- säker
- sektor
- säkra
- Tjänster
- signifikant
- SEX
- Samhället
- Lösningar
- Utrymme
- studier
- Framgångsrikt
- stödja
- system
- System
- Målet
- Teknisk
- Tekniken
- Teknologi
- i dag
- tillsammans
- verktyg
- transparent
- Litar
- universitet
- us
- användare
- Verifiering
- om
- whitepaper
- inom
- Arbete
- världen
- inom hela sverige
- år
- Yen