AI Weekly: DeepMinds AlphaCode, automatisk aldersverifisering og en ny åpen språkmodell

Denne uken i AI, detaljerte DeepMind et nytt kodegenererende system, Alfakode, som den hevder er konkurransedyktig med topp menneskelige programmerere. Supermarkedskjeder i Storbritannia annonserte at de ville begynne å teste automatiske aldersverifiseringssystemer for å anslå kundenes alder når de kjøper alkohol. Og EleutherAI, en forskningsgruppe som fokuserer på åpen kildekode med høy kapable AI-systemer, ga ut GPT-NeoX-20B, en språkmodell som er blant de største i sitt slag.

AlphaCode er et av de mer sofistikerte eksemplene på maskinprogrammering, eller verktøy som automatiserer programvareutvikling og vedlikeholdsprosesser. DeepMind hevder at den kan skrive kode på "konkurransenivå", og oppnå en gjennomsnittlig rangering innenfor topp 54.3 % på tvers av 10 nylige konkurranser på programmeringsutfordringsplattformen Codeforces.

Anvendelsene til maskinprogrammering er enorme i omfang – og forklarer hvorfor det er entusiasme rundt det. Ifølge en studie fra University of Cambridge går minst halvparten av utviklernes innsats til å feilsøke, noe som koster programvareindustrien anslagsvis 312 milliarder dollar per år. Selv å migrere en kodebase til et mer effektivt språk kan kreve en fyrstelig sum. For eksempel Commonwealth Bank of Australia brukt rundt 750 millioner dollar i løpet av fem år for å konvertere plattformen fra COBOL til Java.

AI-drevne kodegenereringsverktøy som AlphaCode lover å kutte utviklingskostnader samtidig som programmerere kan fokusere på kreative, mindre repeterende oppgaver. Men AlphaCode er ikke feilfri. foruten å være dyrt å vedlikeholde, produserer den ikke alltid kode som er korrekt og kan – hvis lignende systemer er noen indikasjon – inneholde problematisk Bias. Dessuten, hvis det noen gang blir gjort offentlig tilgjengelig, kan ondsinnede aktører misbruke det til å lage skadelig programvare, bypass programmeringstester, og lure cybersikkerhetsforskere.

"Selv om ideen om å gi kraften til programmering til folk som ikke kan programmere er spennende, har vi mange problemer å løse før vi kommer dit," Mike Cook, en AI-forsker ved Queen Mary University of London.

Automatisk aldersbekreftelse

Tre supermarkedskjeder i Storbritannia – Asada, Co-op og Morrisons – bruker kameraer for å estimere kundenes alder som en del av en test utført av Home Office, den britiske avdelingen med ansvar for immigrasjon, sikkerhet og lov og orden. Teknologien, som allerede ble brukt på Aldis betalingsfrie plassering i London, gjetter alderen til kunder som samtykker ved å bruke algoritmer som er trent på "en database med anonyme ansikter," ifølge til BBC. Hvis den bestemmer at de er under 25 år, må de vise ID til et medlem av personalet.

Yoti – selskapet som leverer teknologien – sier at den ble testet på mer enn 125,000 2.2 ansikter og antatt alder innen XNUMX år. Men mens Yoti sier at det ikke er å utføre ansiktsgjenkjenning eller beholde bildene som tar, reiser systemet etiske bekymringer.

Aldersestimeringssystemer, som andre AI-systemer, kan forsterke enhver skjevhet i dataene som brukes til å utvikle systemene. En studie fremhever effekten av sminke, som kan dekke alderstegn som aldersflekker og rynker, og finner ut at programvare for aldersberegning har en tendens til å være mer nøyaktig for menn. Den samme forskningen fant at programvaren overvurderer alderen til yngre ikke-kaukasiere og undervurderer alderen til eldre asiatiske og svarte mennesker, og kan til og med bli påvirket av om noen smiler eller ikke.

I et intervju med Wired innrømmet Yoti-medgrunnlegger og administrerende direktør Robin Tombs at selskapet var usikker på hvilke ansiktstrekk dens AI bruker for å bestemme folks alder. Mens han understreket at Yotis treningsdatasett med «hundretusenvis» av ansikter var «representativt på tvers av hudtoner, aldre og kjønn», og at intern forskning viste lignende feilrater på tvers av demografi, faglig litteratur synes å foreslå noe annet. Yotis egen whitepaper viser at teknologien er minst nøyaktig for eldre kvinner med mørkere hud.

Et feil aldersanslag på supermarkedet kan utgjøre lite mer enn ulempe (og kanskje forlegenhet). Men det kan normalisere teknologien, og føre til mer problematiske applikasjoner andre steder. Daniel Leufer, en europeisk policy-analytiker med fokus på kunstig intelligens i sivile frihetsgruppen Access Now, sa til Wired at regulatorer bør se på hvem disse systemene sannsynligvis vil mislykkes når de vurderer brukstilfellene. "Vanligvis er det svaret folk som rutinemessig blir sviktet av andre systemer," sa han.

Språkmodell med åpen kildekode

EleutherAI på onsdag utgitt sin nyeste språkmodell, GPT-NeoX-20B, som en del av oppdraget med å utvide tilgangen til svært dyktig tekstgenererende AI. GPT-NeoX-20B, som er tilgjengelig nå gjennom en API og neste uke i åpen kildekode, utkonkurrerer andre offentlige språkmodeller på tvers av flere domener, samtidig som den er generelt billigere å distribuere, ifølge EleutherAI.

GPT-NeoX-20B – som ble utviklet på infrastruktur levert av CoreWeave, en spesialisert skyleverandør – ble trent på EleutherAIs 825 GB tekstdatasett og inneholder 20 milliarder parametere, omtrent 9 ganger færre enn OpenAIs GPT-3. I maskinlæring er parametere den delen av modellen som læres fra historiske treningsdata. Generelt sett, i språkdomenet, har korrelasjonen mellom antall parametere og sofistikert holdt seg bemerkelsesverdig godt.

EleutherAI påstår ikke at GPT-NeoX-20B løser noen av de store problemene som plager nåværende språkmodeller, inkludert aspekter som skjevhet og toksisitet. Men gruppen fastholder at fordelene ved å slippe modellen – og andre liker den – oppveier risikoen. Språkmodeller kan koste opptil millioner av dollar å trene fra bunnen av, og slutninger – (dvs. å faktisk kjøre den trente modellen) er en annen barriere. Ett estimat knytter kostnadene ved å kjøre GPT-3 på en enkelt Amazon Web Services-forekomst til minimum $87,000 XNUMX per år.

"Fra spam og astroturfing til chatbot-avhengighet er det klare skader som kan manifestere seg ved bruk av disse modellene allerede i dag, og vi forventer at justeringen av fremtidige modeller vil være av avgjørende betydning. Vi tror akselerasjonen av sikkerhetsforskning er ekstremt viktig, sa EleutherAI-medgrunnlegger Connor Leahy i en uttalelse.

EleutherAIs tidligere modeller har allerede skapt helt nye AI-as-a-service-oppstarter. Hvis historien er noen indikasjon, vil GPT-NeoX-20B gjøre det samme.

For AI-dekning, send nyhetstips til Kyle Wiggers - og husk å abonnere på AI Ukentlig nyhetsbrev og bokmerke vår AI-kanal, Maskinen.

Takk for at du leste,

Kyle Wiggers

AI Senior Staff Writer

Kilde: https://venturebeat.com/2022/02/04/ai-weekly-deepminds-alphacode-automatic-age-verification-and-a-new-open-language-model/