TOKYO, Feb 21, 2022 – (JCN Newswire) – Fujitsu today announced the development of a resource toolkit offering developers guidance for evaluating the ethical impact and risks of AI systems based on international AI ethics guidelines. Fujitsu will offer these resources free of charge starting from February 21, 2022 to promote the safe and secure deployment of AI systems in society.
Setul de instrumente constă dintr-o varietate de studii de caz și materiale de referință, inclusiv o metodă nou dezvoltată pentru clarificarea cerințelor etice în ghidurile de etică AI scrise în limbaj natural, precum și pentru aplicarea cerințelor etice sistemelor AI reale. Resursele în limba japoneză pot fi descărcate de aici, cu disponibilitate în limba engleză de urmat în viitorul apropiat.
Prin acest ghid, Fujitsu își propune să prevină neînțelegerile și potențialele riscuri cauzate de diferențele de interpretare a descrierilor din ghiduri, oferind dezvoltatorilor și operatorilor de sisteme AI noi instrumente pentru a identifica și a preveni în detaliu posibilele probleme etice la începutul procesului de dezvoltare, în conformitate cu cele mai bune practici internaționale. .
Dr. Christoph Lutge de la Universitatea Tehnică din München, o autoritate principală în cercetarea IA responsabilă și a eticii în afaceri, comentează: „În Europa, există o dezbatere tot mai mare despre reglementările AI, iar una dintre problemele cheie este cum să închidem decalajul dintre principii și practici, sau „ce” și „cum”. Consider că rezultatele acestei cercetări sunt foarte semnificative prin faptul că ne permit să exersăm pe baza unor principii. Aș dori, de asemenea, să-mi exprim aprecierea profundă pentru decizia de a deschide rezultatele cercetării și stimulează discuțiile la nivel mondial.”
În viitor, Fujitsu va lucra activ pentru a colabora cu agenții guvernamentale, companii private și cercetători de top pentru a-și perfecționa și promova metodologia nou dezvoltată și își propune să lanseze o versiune extinsă a setului de instrumente de resurse în anul fiscal 2022.
Context
În aprilie 2021, Comisia Europeană a emis un proiect pentru un cadru de reglementare care solicită un răspuns etic cuprinzător pentru dezvoltatorii de sisteme AI, utilizatorii și părțile interesate, ca răspuns la preocupările tot mai mari legate de prejudecățile algoritmice și luarea deciziilor discriminatorii în aplicațiile de AI și de învățare automată.
Pentru a se angaja pe deplin în utilizarea responsabilă a tehnologiei și pentru a câștiga încrederea societății în sistemele AI și în companiile și organizațiile implicate în acest spațiu, Fujitsu și-a formulat propriul angajament AI în 2019, precum și un nou Birou pentru Etică și Guvernare AI pentru a dezvolta și a pune în aplicare. politici solide pentru etica IA, promovează guvernanța etică AI organizațională pentru a le asigura eficacitatea. Acum, Fujitsu va trece de la principiu la practică, implementând în mod constant cele mai bune practici în lumea reală pentru a asigura realizarea unor tehnologii AI și învățare automată etice, sigure și transparente.
În prezent, este o practică obișnuită în dezvoltarea sistemelor AI să identifice posibilele riscuri etice în sistemele AI pe baza ghidurilor de etică AI emise de autoritățile guvernamentale și companii. Aceste linii directoare sunt scrise în limbaj natural, totuși, contribuind la posibile diferențe de interpretare și neînțelegeri între designeri și dezvoltatori care pot duce la măsuri inadecvate sau insuficiente. În conformitate cu această metodă, este, de asemenea, dificil de judecat dacă conținutul ghidurilor a fost revizuit amănunțit și adecvat.
Cu toate acestea, rămân multe provocări și o posibilă interpretare greșită a liniilor directoare în faza de proiectare a noilor tehnologii poate duce la măsuri insuficiente sau inadecvate pentru a contracara riscul.
Nouă metodă de evaluare și resurse pentru a ajuta la clarificarea liniilor directoare și a riscului etic
În pregătirea acestui nou set de instrumente și îndrumări pentru dezvoltatori, Fujitsu a efectuat analize ale incidentelor anterioare legate de AI, colectate în baza de date privind incidentele AI a consorțiului internațional Partnership on AI (1). Acest proces a condus la concluzia că problemele etice legate de sistemele AI pot fi contextualizate cu schimbul de informații („interacțiuni”) între elemente discrete din cadrul unui sistem AI și între un sistem AI și utilizatorii acestuia și alte părți interesate.
Pe baza acestor constatări, Fujitsu a dezvoltat cu succes o metodă de evaluare pentru a identifica în mod sistematic problemele etice relevante legate de sistemele AI, permițând crearea de modele de etică AI (2) care sunt capabile să clarifice interpretarea ghidurilor de etică AI.
Fujitsu a aplicat noua sa metodă de evaluare la 15 cazuri reprezentative din incidentul AI
Baza de date (164 de cazuri globale înregistrate la 21 februarie 2022, exemplele includ cazuri din domenii precum sectorul financiar și al resurselor umane). Aplicând noua metodă, toate problemele etice care au apărut în cazurile de utilizare din lumea reală au fost identificate cu succes ca riscuri în avans în timpul încercărilor de verificare, ale căror rezultate au fost publicate.
Fujitsu va oferi următorul set de instrumente de resurse, constând dintr-o varietate de resurse și îndrumări pentru dezvoltatori la care să se refere în propria lor activitate:
Site de descărcare (în japoneză, engleză disponibil la data viitoare)
1. Carte albă: O prezentare generală a metodologiei
2. Manualul procedurii de evaluare a impactului etic AI: diagrama sistemului AI, procedura de pregătire a modelului etic AI și explicarea metodei corespondenței problemei
3. Model etic AI: un model etic AI bazat pe liniile directoare etice AI publicate de Comisia Europeană (creat de Fujitsu)
4. Studii de caz de analiză a eticii AI: Rezultatele analizei problemelor majore de etică AI din Baza de date privind incidentele AI a parteneriatului privind IA (În 21 februarie, existau șase cazuri, care au fost adăugate secvenţial.)
Caz de utilizare: risc în utilizarea AI pentru evaluarea persoanelor fizice pentru credite bancare, recrutare
Figura 1 prezintă un exemplu de proces de evaluare a unui individ tipic în scenarii de caz de utilizare, cum ar fi recrutarea de personal sau aprobarea împrumuturilor bancare. Tabelul de corespondență din modelul de etică AI a identificat „validitatea procesului de evaluare” (dacă evaluarea este efectuată în mod responsabil, cu referire la rezultatele rezultate din sistemul AI) ca element de verificare pentru interacțiunea (relația) dintre utilizatorul Sistemul AI și persoana țintă care urmează să fie evaluată, în timp ce „dependența excesivă de rezultatele AI”, „interpretarea și evaluarea selectivă a rezultatelor rezultatelor” și „ignoranța rezultatelor rezultatelor” sunt enumerate ca posibile riscuri.
În acest exemplu, dezvoltatorii de sisteme AI pot identifica riscul unei „dependențe excesive a utilizatorilor de rezultatele unui sistem AI care poate conține părtiniri și poate duce la decizii neloiale” ca un posibil risc într-un sistem AI și pot ajusta în mod corespunzător sistemul pentru a preveni acest risc. .
(1) Parteneriat pentru IA:
O organizație non-profit înființată în 2016, care abordează provocările etice ale inteligenței artificiale, pentru un viitor în care IA și oamenii lucrează împreună.
(2) Modele de etică AI:
Modelele de etică AI includ un tabel de corespondență de „articole de verificare” și „interacțiuni”, un instrument pentru evaluarea pas cu pas a cerințelor etice pentru sistemele AI. Modelele etice AI sunt create manual pe baza unui ghid specific, dar odată generat, un model poate fi utilizat generic pentru a evalua diferite sisteme AI. Folosind această metodă, dezvoltatorii și operatorii de sisteme AI pot prelua automat toate elementele de verificare relevante dintr-un model de etică AI creat anterior pentru o evaluare sistematică și cuprinzătoare a riscurilor posibile aferente, pe baza tipului de interacțiuni din cadrul unui sistem AI.
Despre Fujitsu
Fujitsu este compania japoneză lideră în tehnologia informației și comunicațiilor (ICT), care oferă o gamă completă de produse, soluții și servicii tehnologice. Aproximativ 126,000 de oameni Fujitsu susțin clienții din peste 100 de țări. Ne folosim experiența și puterea TIC pentru a modela viitorul societății împreună cu clienții noștri. Fujitsu Limited (TSE: 6702) a raportat venituri consolidate de 3.6 trilioane de yeni (34 miliarde USD) pentru anul fiscal încheiat la 31 martie 2021. Pentru mai multe informații, consultați www.fujitsu.com.
Copyright 2022 JCN Newswire. Toate drepturile rezervate. www.jcnnewswire.comFujitsu a anunțat astăzi dezvoltarea unui set de instrumente de resurse care oferă dezvoltatorilor îndrumări pentru evaluarea impactului etic și a riscurilor sistemelor AI bazate pe ghidurile internaționale de etică AI.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Despre Noi
- adresa
- AI
- algoritmică
- TOATE
- Permiterea
- analiză
- a anunțat
- aplicatii
- Aplicarea
- Aprilie
- autoritate
- disponibilitate
- disponibil
- Bancă
- CEL MAI BUN
- Cele mai bune practici
- Miliard
- afaceri
- cazuri
- cauzată
- provocări
- taxă
- comentarii
- comision
- angajament
- Comun
- Comunicare
- Companii
- companie
- conținut
- drepturi de autor
- țări
- clienţii care
- Baza de date
- dezbatere
- desfășurarea
- Amenajări
- dezvolta
- dezvoltat
- Dezvoltatorii
- Dezvoltare
- Devreme
- Engleză
- stabilit
- etică
- Europa
- european
- Comisia Europeană
- exemplu
- schimb
- experienţă
- financiar
- urma
- următor
- Înainte
- Cadru
- Gratuit
- Complet
- viitor
- decalaj
- General
- Caritate
- guvernare
- Guvern
- În creştere
- orientări
- ajutor
- aici
- Cum
- Cum Pentru a
- HTTPS
- Resurse Umane
- Oamenii
- identifica
- Impactul
- inclus
- Inclusiv
- individ
- informații
- interacţiune
- Internațional
- implicat
- probleme de
- IT
- păstrare
- Cheie
- limbă
- conduce
- conducere
- învăţare
- Led
- Limitat
- listat
- Credite
- siglă
- masina de învățare
- major
- manual
- Martie
- Materiale
- model
- Modele
- muta
- În apropiere
- non-profit
- oferi
- oferind
- deschide
- organizație
- organizații
- Altele
- partener
- Asociere
- oameni
- Personal
- fază
- Politicile
- posibil
- putere
- prezenta
- prevenirea
- privat
- Problemă
- proces
- Produse
- promova
- gamă
- lumea reală
- recrutare
- înregistrată
- regulament
- autoritățile de reglementare
- relaţie
- Cerinţe
- cercetare
- resursă
- Resurse
- răspuns
- responsabil
- REZULTATE
- Risc
- sigur
- sector
- sigur
- Servicii
- semnificativ
- SIX
- Societate
- soluţii
- Spaţiu
- studiu
- Reușit
- a sustine
- sistem
- sisteme
- Ţintă
- Tehnic
- Tehnologii
- Tehnologia
- astăzi
- împreună
- Unelte
- transparent
- Încredere
- universitate
- us
- utilizatorii
- Verificare
- dacă
- Hartie alba
- în
- Apartamente
- lume
- la nivel internațional.
- an
- Yen