AI Weekly: DeepMinds AlphaCode, automatisk åldersverifiering och en ny öppen språkmodell

Denna vecka i AI, detaljerade DeepMind ett nytt kodgenererande system, AlphaCode, som den hävdar är konkurrenskraftig med mänskliga toppprogrammerare. Stormarknadskedjor i Storbritannien meddelade att de skulle börja testa automatiska åldersverifieringssystem för att uppskatta kundernas ålder när de köper alkohol. Och EleutherAI, en forskargrupp fokuserad på öppen källkod med mycket kapabla AI-system, släppte GPT-NeoX-20B, en språkmodell som är bland de största i sitt slag.

AlphaCode är ett av de mer sofistikerade exemplen på maskinprogrammering, eller verktyg som automatiserar mjukvaruutveckling och underhållsprocesser. DeepMind hävdar att det kan skriva kod på "tävlingsnivå", vilket uppnår en genomsnittlig ranking inom topp 54.3% över 10 senaste tävlingar på programmeringsutmaningsplattformen Codeforces.

Tillämpningarna av maskinprogrammering är enorma i omfattning – vilket förklarar varför det finns entusiasm kring det. Enligt en studie från University of Cambridge går minst hälften av utvecklarnas ansträngningar åt till felsökning, vilket kostar programvaruindustrin uppskattningsvis 312 miljarder dollar per år. Även att migrera en kodbas till ett mer effektivt språk kan kräva en furstlig summa. Till exempel Commonwealth Bank of Australia spent cirka 750 miljoner dollar under fem år för att konvertera sin plattform från COBOL till Java.

AI-drivna kodgenereringsverktyg som AlphaCode lovar att minska utvecklingskostnaderna samtidigt som kodarna kan fokusera på kreativa, mindre repetitiva uppgifter. Men AlphaCode är inte felfri. Förutom att vara dyra att underhålla, producerar den inte alltid kod som är korrekt och kan – om liknande system är någon indikation – innehålla problematisk förspänning. Dessutom, om det någonsin görs tillgängligt offentligt, kan illvilliga aktörer missbruka det för att skapa skadlig programvara, bypass programmeringstest, och lura cybersäkerhetsforskare.

"Även om idén att ge programmeringskraften till människor som inte kan programmera är spännande, har vi många problem att lösa innan vi når dit," Mike Cook, en AI-forskare vid Queen Mary University of London.

Automatisk åldersverifiering

Tre stormarknadskedjor i Storbritannien - Asada, Co-op och Morrisons - använder kameror för att uppskatta kundernas ålder som en del av ett test av Home Office, den brittiska avdelningen med ansvar för immigration, säkerhet och lag och ordning. Tekniken, som redan användes på Aldis kassafria plats i London, gissar åldern på kunder som samtycker med hjälp av algoritmer tränade på "en databas med anonyma ansikten." enligt till BBC. Om den bestämmer sig för att de är under 25 år måste de visa ID för en medlem av personalen.

Yoti – företaget som tillhandahåller tekniken – säger att den testades på mer än 125,000 2.2 ansikten och gissade ålder till inom XNUMX år. Men medan Yoti säger att det inte är att utföra ansiktsigenkänning eller att behålla bilderna som tas, väcker systemet etiska problem.

System för åldersuppskattning, precis som andra AI-system, kan förstärka eventuella bias i data som används för att utveckla systemen. En studie lyfter fram effekten av smink, som kan täcka ålderstecken som åldersfläckar och rynkor, och finner att programvara för åldersuppskattning tenderar att vara mer exakt för män. Samma forskning fann att programvaran överskattar åldrarna på yngre icke-kaukasier och underskattar åldrarna på äldre asiatiska och svarta människor, och kan till och med påverkas av om någon ler eller inte.

I ett intervjun med Wired erkände Yotis medgrundare och vd Robin Tombs att företaget var osäkert på vilka ansiktsegenskaper dess AI använder för att bestämma människors ålder. Samtidigt som han betonade att Yotis träningsdatauppsättning av "hundratusentals" ansikten var "representativ för hudtoner, åldrar och kön" och att dess interna forskning visade liknande felfrekvenser över demografi, akademisk litteratur verkar föreslå något annat. Yotis egna whitepaper visar att tekniken är minst exakt för äldre kvinnor med mörkare hud.

En felaktig åldersuppskattning i snabbköpet kan vara lite mer än besvär (och kanske pinsamhet). Men det kan normalisera tekniken, vilket leder till mer problematiska applikationer på andra håll. Daniel Leufer, en Europapolitikanalytiker med fokus på AI på medborgarrättsgruppen Access Now, sa till Wired att tillsynsmyndigheter bör titta på vilka dessa system sannolikt kommer att misslyckas när de överväger användningsfallen. "Vanligtvis är det svaret människor som rutinmässigt misslyckas av andra system," sa han.

Språkmodell med öppen källkod

EleutherAI på onsdag frigörs sin senaste språkmodell, GPT-NeoX-20B, som en del av sitt uppdrag att bredda tillgången till mycket kapabel textgenererande AI. GPT-NeoX-20B, som är tillgänglig nu via ett API och nästa vecka i öppen källkod, överträffar andra offentliga språkmodeller över flera domäner samtidigt som den generellt sett är billigare att distribuera, enligt EleutherAI.

GPT-NeoX-20B – som utvecklades på infrastruktur som tillhandahålls av CoreWeave, en specialiserad molnleverantör – tränades på EleutherAI:s 825 GB textdatauppsättning och innehåller 20 miljarder parametrar, ungefär 9 gånger färre än OpenAI:s GPT-3. I maskininlärning är parametrar den del av modellen som lärs från historisk träningsdata. Generellt sett, inom språkdomänen, har korrelationen mellan antalet parametrar och sofistikering hållit sig anmärkningsvärt väl.

EleutherAI gör inga anspråk på att GPT-NeoX-20B löser några av de stora problemen som plågar nuvarande språkmodeller, inklusive aspekter som partiskhet och toxicitet. Men gruppen hävdar att fördelarna med att släppa modellen – och andra liknande den – överväger riskerna. Språkmodeller kan kosta upp till miljontals dollar att träna från grunden, och slutledning - (dvs att faktiskt köra den tränade modellen) är en annan barriär. En uppskattning fastställer kostnaden för att köra GPT-3 på en enda Amazon Web Services-instans till minst 87,000 XNUMX USD per år.

"Från spam och astroturfing till chatbotberoende, det finns tydliga skador som kan manifestera sig från användningen av dessa modeller redan idag, och vi förväntar oss att anpassningen av framtida modeller kommer att vara av avgörande betydelse. Vi tycker att accelerationen av säkerhetsforskning är extremt viktig, säger EleutherAIs medgrundare Connor Leahy i ett uttalande.

EleutherAIs tidigare modeller har redan gett upphov till helt nya AI-as-a-service startups. Om historiken är någon indikation kommer GPT-NeoX-20B att göra detsamma.

Skicka nyhetstips till AI-täckning Kyle Wiggers - och se till att prenumerera på AI Weekly nyhetsbrev och bokmärka vår AI-kanal, The Machine.

Tack för läsning,

Kyle Wiggers

AI Senior Staff Writer

Källa: https://venturebeat.com/2022/02/04/ai-weekly-deepminds-alphacode-automatic-age-verification-and-a-new-open-language-model/