The Rise Of AI & Biases: Nerdy Divas VD Shanae Chapman om inkluderande, rättvis och tillgänglig teknik

Återutgiven av Platon

anhängare: 0

Även om AI erbjuder anmärkningsvärda framsteg och transformativ potential, väcker det också en rad problem, särskilt när det gäller fördomar. Potentialen för både representativ skada och allokativ skada framstår som angelägna frågor som kräver uppmärksamhet.

MassTLC chattade med Shanae Chapman, grundare, VD och verkställande direktör för Nördig Diva, för en genomgång av användningen och riskerna med AI-verktyg och hur företag kan skapa mer inkluderande metoder.

Vilken typ av uppgifter är AI-verktyg som ChatGPT, ChatSonic och Amazon CodeWhisperer bra för?

- Kodningsalgoritmer för appar utan säkerhetsbrister (granskning krävs)
- Copywriting för en allmän publik utan säkerhetsbrister (granskning krävs)
- Sammanfattning av allmänt innehåll utan säkerhetsbrister (granskning krävs)
- Brainstorming av många idéer utan säkerhetsbrister (granskning krävs)
- Kontrollera sökord och SEO för webbplatser och appar
- Att skriva ett utkast till ditt CV eller personliga brev
- Se hur andra använder ChatGPT här.

Vilka är riskerna med att använda AI-verktyg som ChatGPT?

- Fördomar i AI
  - Allokativ skada i naturlig språkbehandling
  - Representant inom naturlig språkbehandling
- Säkerhetsrisker
  - Känsliga företagsdata samlas in och delas i hela databasen och krypteras inte.
  - Sårbarheter genom integrationer, API:er, delning av känslig data över osäkra nätverk
  - Brist på säkerhetsutbildning för att använda AI-verktyg

Kan företag använda AI som pseudoanvändare för att testa produkter istället för att forska med mänskliga användare?

Kvalitativ data kan inte ersättas med AI och måste kompletteras med faktiska målanvändare baserat på kriterier som fastställts av PM, UX, Engineering.

Hur kan företag bäst dela forskningsdata och designrekommendationer internt för att påverka datadrivna beslut?

Det är viktigt att känna sin publik. Vissa organisationskulturer är mer öppna för långa rapporter och andra skulle föredra något närmare en sammanfattning. Jag började få mina rapporter till högst 5 sidor och gav länkar till detaljer i ett separat dokument för enkel skanning genom att dela höjdpunkterna och rekommendationerna tydligt.

Vad kan företag göra för att skapa mer inkluderande metoder med AI och annan teknik?

Skapa inkluderande riktlinjer för naturlig språkbehandling, stilguider, utvecklingsportaler, dokumentation och designsystem.

Resurser:

Led inkluderande forskning för att bedöma och ta itu med fördomar i AI och maskininlärning

Resurser:

Anställ och behålla olika talanger för att bidra till inkluderande styrning och standarder

Resurser:

MassTLC-medlem, Nördig Diva, är ett svart kvinnaägt boutiqueföretag som erbjuder forskning, design, teknisk utbildning och innehållsstrategi i världsklass för att växa och skala in i mogna företag med utmärkt användarupplevelse, strategisk mångfald och inkludering, och investeringar i att växa lokalt och globalt .

Läs mer från Shanae i Nerdy Diva Nyhetsbrevarkiv