De fyra vanligaste misstagen om AI

Historien om artificiell intelligens har präglats av upprepade cykler av extrem optimism och löfte följt av desillusionering och besvikelse. Dagens AI-system kan utföra komplicerade uppgifter inom ett brett spektrum av områden, såsom matematik, spel och fotorealistisk bildgenerering. Men några av de tidiga målen för AI som hushållersrobotar och självkörande bilar fortsätter att avta när vi närmar oss dem.

En del av den fortsatta cykeln att missa dessa mål beror på felaktiga antaganden om AI och naturlig intelligens, enligt Melanie Mitchell, Davis professor i komplexitet vid Santa Fe Institute och författare till Artificiell intelligens: En guide för tänkande människor.

I en ny uppsats med titeln “Varför AI är svårare än vi tror, ”Mitchell redogör för fyra vanliga misstag om AI som orsakar missförstånd inte bara bland allmänheten och media utan också bland experter. Dessa misstag ger en falsk känsla av förtroende för hur nära vi är att uppnå konstgjord allmän intelligens, AI-system som kan matcha människors kognitiva och allmänna problemlösningsförmåga.

Smal AI och allmän AI är inte i samma skala

Den typ av AI som vi har idag kan vara mycket bra på att lösa snävt definierade problem. De kan överträffa människor på Gå och schack, hitta cancermönster i röntgenbilder med anmärkningsvärd noggrannhet och konvertera ljuddata till text. Men att utforma system som kan lösa enstaka problem får oss inte nödvändigtvis närmare lösningen av mer komplicerade problem. Mitchell beskriver den första felaktigheten som "Smal intelligens är på ett kontinuum med allmän intelligens."

"Om människor ser en maskin göra något fantastiskt, om än i ett smalt område, antar de ofta att fältet är så långt längre mot allmän AI", skriver Mitchell i sitt papper.

Till exempel dagens naturlig språkbehandling system har kommit långt i riktning mot att lösa många olika problem, såsom översättning, textgenerering och frågesvar på specifika problem. Samtidigt har vi djupinlärningssystem som kan konvertera röstdata till text i realtid. Bakom var och en av dessa prestationer ligger tusentals timmar av forskning och utveckling (och miljoner dollar spenderade på datorer och data). Men AI-samhället har fortfarande inte löst problemet med att skapa agenter som kan delta i öppna konversationer utan att förlora sammanhållningen över långa sträckor. Ett sådant system kräver mer än bara att lösa mindre problem; det kräver sunt förnuft, en av de viktigaste olösta utmaningarna med AI.

De enkla sakerna är svåra att automatisera

När det gäller människor förväntar vi oss att en intelligent person gör svåra saker som tar år av studier och övning. Exempel kan vara uppgifter som att lösa kalkyl- och fysikproblem, spela schack på stormästernivå eller memorera många dikter.

Men årtionden av AI-forskning har visat att de hårda uppgifterna, de som kräver medveten uppmärksamhet, är lättare att automatisera. Det är de enkla uppgifterna, de saker som vi tar för givet, som är svåra att automatisera. Mitchell beskriver den andra misstaget som "Enkla saker är enkla och hårda saker är hårda."

"De saker som vi människor gör utan mycket eftertanke - att se ut i världen och förstå vad vi ser, föra en konversation, gå ner på en trång trottoar utan att stöta på någon - visar sig vara de svåraste utmaningarna för maskiner," Skriver Mitchell. ”Omvänt är det ofta lättare att få maskiner att göra saker som är mycket svåra för människor; till exempel att lösa komplexa matematiska problem, behärska spel som schack och Go och översätta meningar mellan hundratals språk har alla visat sig vara relativt lättare för maskiner. ”

Tänk till exempel på vision. Under miljarder år har organismer utvecklat komplexa apparater för bearbetning av ljussignaler. Djur använder sina ögon för att göra en bild av föremålen som omger dem, navigera i omgivningen, hitta mat, upptäcka hot och utföra många andra uppgifter som är viktiga för deras överlevnad. Vi människor har ärvt alla dessa förmågor från våra förfäder och använder dem utan medvetet tanke. Men den underliggande mekanismen är verkligen mer komplicerad än stora matematiska formler som frustrerar oss genom gymnasiet och college.

Fall i punkt: Vi har fortfarande inte dator vision system som är nästan lika mångsidiga som mänsklig vision. Vi har lyckats skapa Artificiellt nervsystem som ungefär efterliknar delar av djurets och människans synsystem, som att upptäcka föremål och segmentera bilder. Men de är spröda, känsliga för många olika typer av störningar, och de kan inte efterlikna hela omfattningen av uppgifter som biologisk syn kan utföra. Därför måste till exempel datorsynssystemen som används i självkörande bilar kompletteras med avancerad teknik som lidars och kartdata.

Ett annat område som har visat sig vara mycket svårt är sensoriska motoriska färdigheter som människor behärskar utan uttrycklig träning. Tänk på hur du hanterar föremål, går, springer och hoppar. Det här är uppgifter som du kan göra utan medveten tanke. När du går kan du faktiskt göra andra saker, som att lyssna på en podcast eller prata i telefon. Men den här typen av färdigheter är fortfarande en stor och dyr utmaning för nuvarande AI-system.

"AI är svårare än vi tror, ​​för vi är i stort sett omedvetna om komplexiteten i våra egna tankeprocesser", skriver Mitchell.

Antropomorfisering av AI hjälper inte

Fältet AI är fylld med ordförråd som sätter programvara på samma nivå som mänsklig intelligens. Vi använder termer som "lära", "förstå", "läsa" och "tänka" för att beskriva hur AI-algoritmer fungerar. Medan sådana antropomorfa termer ofta fungerar som förkortning för att förmedla komplexa programvarumekanismer kan de vilseleda oss att tro att nuvarande AI-system arbeta som det mänskliga sinnet.

Mitchell kallar denna felaktighet för ”locket av önskvärda minnesmärken” och skriver: ”Sådan stenografi kan vara vilseledande för allmänheten som försöker förstå dessa resultat (och för media som rapporterar om dem), och kan också omedvetet forma hur även AI-experter tänker deras system och hur nära dessa system liknar mänsklig intelligens. ”

Den önskvärda minnesfel har också lett till att AI-communityn har nämnt riktmärken för algoritmbedömning på missvisande sätt. Tänk till exempel på Allmänt riktvärde för utvärdering av språkförståelse (GLUE), utvecklad av några av de mest uppskattade organisationerna och akademiska institutionerna inom AI. GLUE tillhandahåller en uppsättning uppgifter som hjälper till att utvärdera hur en språkmodell kan generalisera sina funktioner utöver den uppgift den har tränats för. Men i motsats till vad media skildrar, om en AI-agent får högre lim-poäng än en människa, betyder det inte att den är bättre på språkförståelse än människor.

"Medan maskiner kan överträffa människor på dessa specifika riktmärken, är AI-system fortfarande långt ifrån att matcha de mer allmänna mänskliga förmågorna vi associerar med riktmärkenas namn", skriver Mitchell.

Ett starkt exempel på önskvärda minnesmärken är ett 2017-projekt på Facebook Artificial Intelligence Research, där forskare utbildade två AI-agenter för att förhandla om uppgifter baserade på mänskliga konversationer. I deras blogginlägg, noterade forskarna att ”uppdatering av parametrarna för båda agenterna ledde till avvikelser från mänskligt språk som agenterna utvecklade sitt eget språk för förhandlingar [min betoning]. ”

Detta ledde till en ström av clickbait-artiklar som varnade för AI-system som blev smartare än människor och kommunicerade i hemliga dialekter. Fyra år senare kämpar de mest avancerade språkmodellerna fortfarande med förstå grundläggande begrepp att de flesta människor lär sig i mycket ung ålder utan att få instruktioner.

AI utan kropp

Kan intelligens existera isolerat från en rik fysisk upplevelse av världen? Det här är en fråga som forskare och filosofer har undrat över i århundraden.

En tankeskola tror att intelligens finns i hjärnan och kan separeras från kroppen, även känd som ”hjärnan i en kar”Teori. Mitchell kallar det misstag ”Intelligence is all in the brain”. Med rätt algoritmer och data går tanken att vi kan skapa AI som lever på servrar och matchar mänsklig intelligens. För förespråkarna för detta sätt att tänka, särskilt de som stöder rena djupinlärningsbaserade tillvägagångssätt, når generell AI, beroende på att samla in rätt mängd data och skapa större och större neurala nätverk.

Under tiden finns det växande bevis för att detta tillvägagångssätt är dömt att misslyckas. "En växande kadre av forskare ifrågasätter grunden för informationshanteringsmodellen" allt i hjärnan "för att förstå intelligens och för att skapa AI", skriver hon.

Människors och djurens hjärnor har utvecklats tillsammans med alla andra kroppsorgan med det yttersta målet att förbättra överlevnadschanserna. Vår intelligens är nära kopplad till kroppens gränser och kapacitet. Och det finns ett växande fält av förkroppsligad AI som syftar till att skapa agenter som utvecklar intelligenta färdigheter genom att interagera med sin miljö genom olika sensoriska stimuli.

Mitchell konstaterar att neurovetenskaplig forskning antyder att ”neurala strukturer som styr kognition är rikt kopplade till de som kontrollerar sensoriska och motoriska system, och att abstrakt tänkande utnyttjar kroppsbaserade neurala” kartor. ”” Och faktiskt finns det växande bevis och forskning som bevisar feedback från olika sensoriska områden i hjärnan påverkar både våra medvetna och omedvetna tankar.

Mitchell stöder tanken att känslor, känslor, undermedvetna fördomar och fysisk upplevelse är oskiljaktiga från intelligens. "Ingenting i vår kunskap om psykologi eller neurovetenskap stöder möjligheten att" ren rationalitet "kan skiljas från känslor och kulturella fördomar som formar vår kognition och våra mål," skriver hon. ”Istället är vad vi har lärt oss av forskning i förkroppsligad kognition att mänsklig intelligens verkar vara ett starkt integrerat system med nära sammankopplade attribut, inklusive känslor, önskningar, en stark känsla av självkänsla och autonomi, och en förnuftig förståelse av världen. Det är inte alls klart att dessa attribut kan separeras. ”

Sunt förnuft i AI

Att utveckla allmän AI behöver anpassas till vår förståelse av själva intelligensen. Vi kämpar fortfarande för att definiera vad intelligens är och hur man mäter den i artificiella och naturliga varelser.

"Det är tydligt att vi måste utveckla ett bättre ordförråd för att prata om vad maskiner kan göra för att göra och bedöma framsteg inom AI mer effektivt", skriver Mitchell. "Och mer allmänt kommer vi att behöva en bättre vetenskaplig förståelse för intelligens eftersom den manifesterar sig i olika system i naturen."

En annan utmaning som Mitchell diskuterar i sin uppsats är den av sunt förnuft, som hon beskriver som "ett slags paraply för vad som saknas i dagens toppmoderna AI-system."

Sunt förnuft inkluderar den kunskap som vi förvärvar om världen och tillämpar den varje dag utan mycket ansträngning. Vi lär oss mycket utan att uttryckligen instrueras genom att utforska världen när vi är barn. Dessa inkluderar begrepp som utrymme, tid, tyngdkraft och objektens fysiska egenskaper. Ett barn lär sig till exempel i en mycket ung ålder att när ett föremål stängs bakom ett annat har det inte försvunnit och fortsätter att existera, eller när en boll rullar över ett bord och når avsatsen, ska den falla av. Vi använder denna kunskap för att bygga mentala modeller av världen, göra kausala slutsatser och förutsäga framtida tillstånd med anständig noggrannhet.

Denna typ av kunskap saknas i dagens AI-system, vilket gör dem oförutsägbara och data-hungriga. I själva verket är hushållning och körning, de två AI-applikationerna som nämns i början av den här artikeln, saker som de flesta människor lär sig genom sunt förnuft och lite övning.

Sunt förnuft innehåller också grundläggande fakta om människans natur och liv, saker som vi utelämnar i våra konversationer och för att skriva eftersom vi vet att våra läsare och lyssnare känner till dem. Vi vet till exempel att om två personer "pratar i telefon" betyder det att de inte är i samma rum. Vi vet också att om "John sträckte sig efter sockret" betyder det att det fanns en behållare med socker inne någonstans nära John. Denna typ av kunskap är avgörande för områden som naturlig språkbehandling.

”Ingen vet ännu hur man kan fånga sådan kunskap eller förmåga i maskiner. Detta är den nuvarande gränsen för AI-forskning, och en uppmuntrande väg framåt är att utnyttja vad som är känt om utvecklingen av dessa förmågor hos små barn, ”skriver Mitchell.

Även om vi fortfarande inte känner till svaren på många av dessa frågor, är ett första steg mot att hitta lösningar att vara medvetna om våra egna felaktiga tankar. ”Att förstå dessa felaktigheter och deras subtila influenser kan peka på riktningar för att skapa mer robust, pålitlig och kanske faktiskt intelligenta AI-system, ”skriver Mitchell.

Ben Dickson är programvaruingenjör och grundare av TechTalks, en blogg som utforskar hur tekniken löser och skapar problem.

Denna berättelse uppträdde ursprungligen på Bdtechtalks.com. Upphovsrätt 2021

Källa: https://venturebeat.com/2021/05/08/the-four-most-common-fallacies-about-ai/