AI Is Harder Than We Think: 4 Key Fallacies In AI Research

Újra kiadta Platón

Követő: 0

A mesterséges intelligencia már közel egy évtizede volt a címlapokon, mivel a rendszerek gyorsan haladtak előre a régóta AI olyan kihívások, mint a képfelismerés, a természetes nyelvi feldolgozás és a játékok. A technológiai cégek gépi tanulási algoritmusokat vetettek be kereső- és ajánlómotorokba, arcfelismerő rendszerekbe és az OpenAI-ba. GPT-3 és a DeepMind's AlphaFold még több gyakorlati alkalmazást ígér az írástól a kódoláson át a tudományos felfedezésekig.

Valójában a mesterséges intelligencia tavaszának kellős közepén vagyunk, a technológiába történő befektetések virágzóak, és az optimizmus és a lehetőség mindenek felett álló érzése, hogy mit és mikor tud megvalósítani.

Ez az időszak másként hathat, mint a korábbi mesterséges intelligencia-rugók, a fent említett gyakorlati alkalmazások és a szűk AI technológiai elterjedése miatt, amelyeket sokan mindennap használunk – például okostelefonjaink, tévéink, autóink és porszívóink, hogy csak néhányat említsünk. De az is lehetséges, hogy meglovagolunk egy rövid távú előrelépési hullámot a mesterséges intelligencia terén, amely hamarosan a fejlődés, a finanszírozás és az érzelmek apályának részévé válik, amely 1956-os alapítása óta jellemzi a területet.

A mesterséges intelligencia alulmúlta az elmúlt néhány évtizedben megfogalmazott számos előrejelzést; 2020 például az volt beharangozott sokan, mint az évben önálló autóvezetés elkezdik feltölteni az utakat, zökkenőmentesen szállítva az utasokat, miközben hátradőltek és élvezték az utazást. A probléma azonban a vártnál nehezebb volt, és a robottaxik hordái helyett a legfejlettebb projektek továbbra is próbák alatt állnak. Eközben egyesek úgy vélik, hogy a mesterséges intelligencia domináns formája – egyfajta neurális hálózatokon alapuló gépi tanulás – hamarosan kifogyhat egy sor döntő áttörés nélkül.

Egy címû cikkben Miért nehezebb az AI, mint gondolnánk?, amelyet a múlt héten tettek közzé az arXiv preprint szerveren, Melanie Mitchell, a Portland State University számítástechnika professzora jelenleg a Santa Fe Intézet, azzal érvel, hogy a mesterséges intelligencia egy apály-folyamatban rekedt, nagyrészt azért, mert még nem értjük igazán az emberi intelligencia természetét és összetettségét. Mitchell ezt az átfogó pontot négy általános tévhitre bontja az AI körül, és megvitatja, mit jelentenek ezek a terület jövője szempontjából.

1. A szűk intelligencia terén elért haladás az általános intelligencia felé halad

A mesterséges intelligencia lenyűgöző új vívmányai gyakran azzal a feltételezéssel járnak együtt, hogy ugyanezek az eredmények egyre közelebb visznek bennünket emberi szintű gépi intelligencia. De nemcsak – amint Mitchell rámutat – a szűk és általános intelligencia különbözik annyira, mint a fára mászás és a holdraszállás, de még a szűk intelligencia is nagyrészt a feladatspecifikus adatok bőségétől és az ember által segített képzéstől függ.

Vegyük a GPT-3-at, amely néhány idézett mint felülmúlta a „szűk” intelligencia: az algoritmust szövegírásra betanították, de megtanult fordítani, kódot írni, képeket automatikusan kiegészíteni és matematikai feladatokat végezni. Ám bár a GPT-3 képességei kiterjedtebbnek bizonyultak, mint azt készítői szándékozták, minden képessége továbbra is azon a területen belül van, amelyen képezték: azaz a nyelv – beszélt, írásbeli és programozási.

Az általános intelligenciát jelezné, ha egy nem nyelvi készségben jártassá válik, és nincs képzettsége, de ez nem volt így a GPT-3 esetében, és nem volt így a közelmúltban kifejlesztett mesterséges intelligencia esetében sem: ezek továbbra is szűkek maradnak, és Bár önmagukban jelentősek, nem szabad összekeverni a világ alapos megértése felé tett lépésekkel, amelyek az általános intelligenciához szükségesek.

2. Ami könnyű az embereknek, annak könnyűnek kell lennie a gépeknek is

Is AI okosabb, mint egy négyéves? A legtöbb értelemben a válasz nem, és ez azért van így, mert az általunk „könnyűnek” tartott készségek és feladatok valójában sokkal összetettebbek annál, mint amiért hitelt érdemelnénk.s Moravec paradoxona megjegyeznis.

A négyévesek elég jól kitalálják az ok-okozati összefüggéseket a körülöttük lévő világgal való interakciók alapján. Ha például megérintenek egy edényt a tűzhelyen, és megégetik az ujjukat, akkor megértik, hogy az égést az edény forrósága okozta, nem pedig az, hogy kerek vagy ezüst. Az emberek számára ez az alapvető józan ész, de az algoritmusok nehezen tudnak ok-okozati következtetéseket levonni, különösen nagy adatkészlet nélkül vagy más kontextusban, mint amilyenben betanították őket.

Az emberekben a tudatalatti szinten végbemenő észlelések és döntések egy életre szóló tapasztalaton és tanuláson múlnak, még olyan elemi szinten is, mint „a forró dolgok megérintése megéget”. Mivel elérjük azt a pontot, ahol ez a fajta tudás reflexív, még csak tudatos gondolkodást sem igényel, „könnyűnek” látjuk, de ennek éppen az ellenkezője. „AI nehezebb, mint gondolnánk – írja Mitchell –, mert nagyrészt nem vagyunk tudatában saját gondolkodási folyamataink összetettségének.

3. Az emberi nyelv képes leírni a gépi intelligenciát

Az emberek hajlamosak a nem emberi dolgok antropomorfizálására, az állatoktól az élettelen tárgyakon át a robotokig és a számítógépekig. Ennek során ugyanazokat a szavakat használjuk, amelyeket az emberi tevékenységekről vagy az intelligenciáról beszélünk – kivéve, hogy ezek a szavak nem teljesen illeszkednek a kontextusba, és valójában megzavarhatják a mesterséges intelligencia megértését. Mitchell ezt a kifejezést használja „kívánságos mnemonika”, amelyet egy informatikus alkotott meg az 1970-es években. A mesterséges intelligencia leírására és értékelésére olyan szavakat használnak, mint az „olvasás”, „megértés” és „gondolkodás”, de ezek a szavak nem adnak pontos leírást az MI működéséről vagy fejlődéséről.

Mitchell szerint még a „tanulás” is téves elnevezés, mert ha egy gép valóban „tanulna” egy új készséget, akkor képes lenne ezt a képességet különböző körülmények között alkalmazni; korrelációk megtalálása az adatkészletekben és az azonosított minták felhasználása előrejelzések készítésére vagy más benchmarkok teljesítésére, de ez nem „tanulás” úgy, ahogyan az emberek tanulnak.

Szóval minek ez a felhajtás a szavak miatt, ha csak ők állnak rendelkezésünkre, és a lényeget értik? Nos, Mitchell szerint ez a pontatlan nyelvezet nemcsak a közvéleményt és a médiát vezetheti félre, hanem befolyásolhatja azt is, ahogyan az AI-kutatók gondolkodnak rendszereikről és munkájuk elvégzéséről.

4. Az intelligencia minden a fejünkben van

Mitchell utolsó gondolata az, hogy az emberi intelligencia nem csak az agyban található, hanem fizikai testet igényel.

Ez magától értetődőnek tűnik; érzékszerveinket használjuk az információ elnyelésére és feldolgozására, és kölcsönhatásba lépünk a testünkben lévő világgal és mozogunk a világban. Az AI-kutatásban azonban az uralkodó hangsúly az az agyon: annak megértése, különféle aspektusainak megismétlése forma vagy funkció, és készítés Az AI jobban tetszik.

Ha az intelligencia csak az agyban élne, közelebb kerülhetnénk az emberi szintű mesterséges intelligencia eléréséhez azáltal, hogy például egy neurális hálózatot építenénk ki, amely ugyanannyi paraméterrel rendelkezik, mint amennyire az agynak szinaptikus kapcsolatai vannak, és ezáltal megduplázzuk az agy „számítási kapacitását”. .”

Ez a fajta párhuzam vonható olyan esetekben, amikor az „intelligencia” egy meghatározott cél elérése érdekében meghatározott szabályok szerint való működésre utal – mint például egy sakkjátszma megnyerése vagy a fehérjék hajtogatásának modellezése –, amelyekre a számítógépek már elég jól képesek. jól. De az intelligencia más típusait sokkal inkább az érzelmek, az elfogultság és az egyéni tapasztalatok alakítják, és ezeknek vannak kitéve.

Visszatérve a GPT-3 példához: az algoritmus „szubjektív” intelligenciát (saját írást) állít elő egy sor szabály és paraméter segítségével, amelyet a már meglévő szubjektív intelligencia (emberi írás) hatalmas adatkészletével hozott létre. A GPT-3-at „kreatívnak” titulálják, de írása az emberi írás szavak és kifejezései közötti asszociációkra támaszkodik – amely tele van elfogultságokkal, érzelmekkel, már meglévő tudással, józan észlel és az író egyedülálló tapasztalataival az emberi írásban. világ, mindezt a testen keresztül tapasztaljuk meg.

Mitchell érvel hogy az emberek gondolkodásának és működésének nem racionális, szubjektív aspektusainem gátolja az intelligenciánkat, de azok valójában az alapkőzete és lehetővé tevő. Az általános mesterséges intelligencia vezető szakértője, Ben Goertzel hasonlóképpen támogatja a „teljes szervezet architektúráját”. idézésING„Az emberek éppúgy testek, mint elmék, ezért az emberszerű AGI eléréséhez mesterséges intelligencia rendszereket kell beágyazni olyan fizikai rendszerekbe, amelyek képesek árnyalt módon kölcsönhatásba lépni a mindennapi emberi világgal.”

Honnan innen?

Ezek a tévhitek nem hagynak kétséget afelől, hogy mi az AI-kutatók és fejlesztők ne csináld. Ami kevésbé világos, az az, hogy hogyan tovább. Mitchell szerint az intelligencia jobb megértésével kell kezdenünk – ez nem kicsi vagy egyszerű feladat. Az AI-kutatók azonban jó helyet kereshetnek az intelligenciával foglalkozó más tudományterületeken.

Egyáltalán, miért törekszünk annyira az emberi intelligencia mesterséges változatának létrehozására? Évmilliók alatt fejlődött, és rendkívül összetett és bonyolult, de még mindig bővelkedik a maga hiányosságaiban. Talán az a válasz, hogy nem egy mesterséges agyat akarunk építeni olyan jó, mint a miénk; próbálunk egy jobbat építeni, és ez segít megoldani a jelenleg megoldhatatlan problémákat.

Az emberi evolúció mintegy hatmillió év alatt zajlott le. Közben az 65 éve, hogy a mesterséges intelligencia a stu területévé váltdy, és ez emberszerű szöveg írása, készítése hamis arcok, tartja magát vitákban, orvosi diagnózis felállítása, és a több. Bár van még sokat kell tanulni, úgy tűnik, az AI fejlődik szép nos a dolgok nagy tervében-és a továbbvitel következő lépése a saját elménk megértésének elmélyítése.