Verantwoorde AI geeft u een concurrentievoordeel

Er bestaat weinig twijfel over dat AI het zakelijke landschap verandert en concurrentievoordelen biedt aan degenen die het omarmen. Het is echter tijd om verder te gaan dan de eenvoudige implementatie van AI en ervoor te zorgen dat AI op een veilige en ethische manier wordt uitgevoerd. Dit heet verantwoordelijke AI en zal niet alleen dienen als bescherming tegen negatieve gevolgen, maar ook als een concurrentievoordeel op zichzelf.

Wat is verantwoorde AI?

Verantwoorde AI is een bestuurskader dat ethische, juridische, veiligheids-, privacy- en aansprakelijkheidskwesties omvat. Hoewel de implementatie van verantwoorde AI per bedrijf verschilt, is de noodzaak ervan duidelijk. Zonder verantwoorde AI-praktijken wordt een bedrijf blootgesteld aan ernstige financiële, reputatie- en juridische risico's. Aan de positieve kant worden verantwoorde AI-praktijken een voorwaarde om zelfs maar op bepaalde contracten te kunnen bieden, vooral als overheden erbij betrokken zijn; een goed uitgevoerde strategie zal enorm helpen bij het winnen van die biedingen. Bovendien kan het omarmen van verantwoorde AI bijdragen aan een reputatiewinst voor het bedrijf als geheel.

Waarden door ontwerp

Een groot deel van het probleem bij het implementeren van verantwoorde AI komt neer op vooruitziendheid. Deze vooruitziende blik is het vermogen om te voorspellen welke ethische of juridische problemen een AI-systeem zou kunnen hebben tijdens de levenscyclus van ontwikkeling en implementatie. Op dit moment vinden de meeste verantwoordelijke AI-overwegingen plaats nadat een AI-product is ontwikkeld – een zeer ineffectieve manier om AI te implementeren. Als u uw bedrijf wilt beschermen tegen financiële, juridische en reputatierisico's, moet u projecten starten met verantwoorde AI in gedachten. Uw bedrijf moet waarden hebben die inherent zijn aan het ontwerp, en niet aan de hand van wat u aan het eind van een project ook tegenkomt.

Waarden implementeren door ontwerp

Verantwoorde AI omvat een groot aantal waarden die prioriteit moeten krijgen van de bedrijfsleiders. Hoewel het belangrijk is om alle gebieden te bestrijken in elk verantwoord AI-plan, is de hoeveelheid inspanning die uw bedrijf aan elke waarde besteedt een zaak van de bedrijfsleiders. Er moet een evenwicht zijn tussen het controleren op verantwoorde AI en het daadwerkelijk implementeren van AI. Als u te veel aandacht besteedt aan verantwoorde AI, kan uw effectiviteit daaronder lijden. Aan de andere kant is het negeren van verantwoordelijke AI roekeloos omgaan met bedrijfsmiddelen. De beste manier om deze afweging tegen te gaan, is door te beginnen met een grondige analyse aan het begin van het project, en niet achteraf.

De beste praktijk is om een ​​verantwoordelijke AI-commissie op te richten die uw AI-projecten beoordeelt voordat ze beginnen, periodiek tijdens de projecten en na voltooiing. Het doel van deze commissie is om het project te beoordelen aan de hand van verantwoordelijke AI-waarden en acties goed te keuren, af te keuren of af te keuren om het project in overeenstemming te brengen. Denk hierbij aan het vragen om meer informatie of zaken die fundamenteel veranderd moeten worden. Net als een Institutional Review Board die wordt gebruikt om de ethiek in biomedisch onderzoek te controleren, zou deze commissie zowel experts op het gebied van AI als niet-technische leden moeten bevatten. De niet-technische leden kunnen van elke achtergrond komen en dienen als reality check voor de AI-experts. AI-experts daarentegen begrijpen misschien beter de mogelijke problemen en oplossingen, maar kunnen te veel gewend raken aan institutionele en industriële normen die mogelijk niet gevoelig genoeg zijn voor de zorgen van de grotere gemeenschap. Deze commissie moet worden bijeengeroepen aan het begin van het project, periodiek tijdens het project en aan het einde van het project voor definitieve goedkeuring.

Met welke waarden moet het Responsible AI Committee rekening houden?

Waarden waarop de focus moet liggen, moeten door het bedrijf worden overwogen om binnen de algemene missie te passen. Uw bedrijf zal waarschijnlijk specifieke waarden kiezen om te benadrukken, maar alle belangrijke aandachtsgebieden moeten aan bod komen. Er zijn veel raamwerken die u kunt gebruiken voor inspiratie, zoals Google en Facebook's. Voor dit artikel baseren we de discussie echter op de aanbevelingen van de High-Level Expert Group on Artificial Intelligence, opgezet door de Europese Commissie in de Assessment List for Trustworthy Artificial Intelligence. Deze aanbevelingen omvatten zeven gebieden. We verkennen elk gebied en stellen vragen voor die over elk gebied kunnen worden gesteld.

1. Menselijke keuzevrijheid en toezicht

AI-projecten moeten de menselijke keuzevrijheid en besluitvorming respecteren. Dit principe heeft betrekking op de manier waarop het AI-project mensen zal beïnvloeden of ondersteunen in het besluitvormingsproces. Het gaat ook om de manier waarop de onderwerpen van AI bewust gemaakt zullen worden van de AI en vertrouwen zullen stellen in de uitkomsten ervan. Enkele vragen die gesteld moeten worden, zijn onder meer:

• Worden gebruikers ervan bewust gemaakt dat een beslissing of resultaat het resultaat is van een AI-project?
• Bestaat er een detectie- en reactiemechanisme om de nadelige effecten van het AI-project te monitoren?

2. Technische robuustheid en veiligheid

Technische robuustheid en veiligheid vereisen dat AI-projecten preventief de zorgen rond de risico’s aanpakken die gepaard gaan met onbetrouwbare AI-prestaties en de impact daarvan minimaliseren. De resultaten van het AI-project moeten onder meer het vermogen van de AI om voorspelbaar en consistent te presteren omvatten, en moeten de behoefte van de AI om beschermd te worden tegen cyberveiligheidsproblemen omvatten. Enkele vragen die gesteld moeten worden, zijn onder meer:

• Is het AI-systeem getest door cybersecurity-experts?
• Bestaat er een monitoringproces om de risico's die aan het AI-project zijn verbonden te meten en er toegang toe te krijgen?

3. Privacy en gegevensbeheer

AI moet de privacy van individuen en groepen beschermen, zowel wat betreft de input als de output. Het algoritme mag geen gegevens bevatten die zijn verzameld op een manier die de privacy schendt, en het mag geen resultaten opleveren die de privacy van de proefpersonen schenden, zelfs niet als slechte actoren dergelijke fouten proberen af ​​te dwingen. Om dit effectief te kunnen doen, moet data governance ook een aandachtspunt zijn. Passende vragen om te stellen zijn onder meer:

• Maakt een van de trainings- of gevolgtrekkingsgegevens gebruik van beschermde persoonlijke gegevens?
• Kunnen de resultaten van dit AI-project worden gekruist met externe gegevens op een manier die de privacy van een individu zou schenden?

4. Transparantie

Transparantie omvat zorgen over de traceerbaarheid van individuele resultaten en de algehele verklaarbaarheid van AI-algoritmen. Dankzij de traceerbaarheid kan de gebruiker begrijpen waarom een ​​individuele beslissing is genomen. Uitlegbaarheid houdt in dat de gebruiker de basisprincipes kan begrijpen van het algoritme dat is gebruikt om de beslissing te nemen. Het verwijst ook naar het vermogen van de gebruiker om te begrijpen welke factoren betrokken waren bij het besluitvormingsproces voor zijn specifieke voorspelling. Vragen die u kunt stellen zijn:

• Bewaak en leg jij de kwaliteit van de invoergegevens vast?
• Kan een gebruiker feedback krijgen over hoe een bepaalde beslissing is genomen en wat hij of zij kan doen om die beslissing te wijzigen?

5. Diversiteit, non-discriminatie

Om als verantwoorde AI te worden beschouwd, moet het AI-project zo goed mogelijk werken voor alle subgroepen van mensen. Terwijl AI vooringenomenheid kan zelden volledig worden geëlimineerd, maar kan wel effectief worden beheerd. Deze beperking kan plaatsvinden tijdens het gegevensverzamelingsproces (om een ​​meer diverse achtergrond van mensen op te nemen in de trainingsdataset) en kan ook worden gebruikt tijdens de conclusie om de nauwkeurigheid tussen verschillende groepen mensen in evenwicht te brengen. Veelgestelde vragen zijn onder meer:

• Hebt u uw trainingsdataset zo goed mogelijk gebalanceerd om verschillende subgroepen van mensen op te nemen?
• Definieert u eerlijkheid en evalueert u vervolgens de resultaten kwantitatief?

6. Maatschappelijk en ecologisch welzijn

Een AI-project moet worden geëvalueerd in termen van de impact ervan op de proefpersonen en gebruikers, en op de impact op het milieu. Sociale normen zoals democratische besluitvorming, het hooghouden van waarden en het voorkomen van verslaving aan AI-projecten moeten worden gehandhaafd. Bovendien moet, indien van toepassing, rekening worden gehouden met de resultaten van de besluiten van het AI-project over het milieu. Eén factor die in vrijwel alle gevallen van toepassing is, is een evaluatie van de hoeveelheid energie die nodig is om de benodigde modellen te trainen. Vragen die gesteld kunnen worden:

• Hebt u de impact van het project op de gebruikers, de proefpersonen en andere belanghebbenden beoordeeld?
• Hoeveel energie is er nodig om het model te trainen en hoeveel draagt ​​dat bij aan de CO2-uitstoot?

7. Verantwoording

Een persoon of organisatie moet verantwoordelijk zijn voor de acties en beslissingen die door het AI-project worden genomen of die tijdens de ontwikkeling worden aangetroffen. Er moet een systeem zijn dat adequate verhaalsmogelijkheden garandeert in gevallen waarin schadelijke beslissingen worden genomen. Er moet ook enige tijd en aandacht worden besteed aan risicobeheer en -beperking. Passende vragen zijn onder meer:

• Kan het AI-systeem door derden worden gecontroleerd op risico's?
• Wat zijn de belangrijkste risico’s verbonden aan het AI-project en hoe kunnen deze worden beperkt?

De bottom line

De zeven hierboven geschetste waarden van verantwoorde AI bieden een startpunt voor het verantwoorde AI-initiatief van een organisatie. Organisaties die ervoor kiezen om verantwoorde AI na te streven, zullen merken dat ze steeds meer toegang krijgen tot meer mogelijkheden, zoals bieden op overheidscontracten. Organisaties die deze praktijken niet implementeren, stellen zichzelf bloot aan juridische, ethische en reputatierisico’s.

David Ellison is senior AI-datawetenschapper bij Lenovo.

Bron: https://venturebeat.com/2022/01/15/responsible-ai-will-give-you-a-competitive-advantage/