Az emberiség fölé nőhetnek egyszer a gépek – Erik J. Larson a Mandinernek

Erik J. Larson (1971) számítógépes szakember, technológiai kutató. Filozófiai és matematikai tanulmányai után a Texasi Egyetemen szerzett diplomát filozófiából és informatikából. Az elmúlt húsz évben tucatnyi kutatásban vett részt a mesterséges intelligencia területén. Jelenleg a texasi KBSI szoftverfejlesztő cégnél hibrid programok fejlesztésén dolgozik, mint például a spaCy, amely egy Python programozási nyelven írt, nyílt forráskódú szoftverkönyvtár a fejlett természetes nyelv feldolgozásához. Tavasszal jelent meg nagy vitákat kiváltó könyve, a The Myth of Artificial Intelligence.

A kutatóval a budapesti Brain Baron beszélgettünk a technológia új kihívásairól.

***

Minden idők legjobb női sakkversenyzője, Polgár Judit nyilatkozta nekünk nemrég a mesterséges intelligenciáról: „Ami meg tud lepni, az elsődlegesen nem az emberi kombináció, hanem a mesterséges intelligencia, az AlphaZero sakkprogram gondolatai. Az emberi gondolatok kiszámíthatóak, de a komputer egy-egy lépése meg tud lepni”.

Igen, elképzelhető, hogy a sakkprogram meglepő lépéseket húz meg. De a támogató technológiája, amely adatokat dolgoz fel, csak általános reakciókat generál. Az AlphaZero sakkprogram elsősorban maga ellen játszik; egymillió korábbi játszmát tárol, játék közben pedig ezen játszmák adatai alapján a lehető legvalószínűbb lépéskombinációt húzza meg. Ez tehát nem más, mint a korábbi adatokból nyert valószínűség, így ez a program a sakk gyakorlásához fantasztikus lehet, más fejlesztésekhez azonban kevés.

a tudása oda nem konvertálható át.

A kérdés az, hogy ön kutatóként meg tud-e néha lepődni a mesterséges intelligencia egyes teljesítményein?

Én elsősorban nem rendszerezett adatok kutatásával, hangátalakító-beszélgetési rendszerek kísérleteivel foglalkozom, ezen a területen pedig sajnos meglehetősen kevés meglepetés éri a szakembereket. Általában előre elég pontosan kiszámítható rendszerhibák fordulnak elő, ezekkel kell bíbelődnünk. Például: ha azt a szót mondom a szoftvernek, hogy „apple”, akkor a rendszer nem tudja egyértelműen megkülönböztetni, hogy mire gondolok: egy techcégre vagy egy gyümölcsre. Ezért a fejlesztés során ezt az információt próbáljuk részletezni, és esetenként vannak kiemelkedő eredményeink, de az én kutatási területemen a gépek általánosságban nem tudnak egy szintnél tovább lépni, nem tudják továbbra sem megkülönböztetni az almát az Apple cégnévtől... A mérnöki szoftverek ezen hibák kiiktatásán dolgoznak, hogy a rendszerek okosabbak legyenek, de a mesterséges intelligencia fantasztikus teljesítményéről én nem tudok beszámolni.

Vannak, akik máshogy látják. A transzhumanista kutatók épp ellenkezőleg: az ő elképzelésük szerint az ember természetes állapota a modern technológia eszközeivel a közeljövőben meghaladható lehet. Milyen határai vannak ennek az ambíciónak ön szerint?

A transzhumanizmus egy bonyolult kérdéskör, nem teljesen az én szakterületem. A technológiai fejlesztések fúziója a biológiával ma egy nagy tudományos és morális kérdés, és ma még nem tudjuk előre megmondani, hogy ez a folyamat hova vezet, hol áll meg. A kognitív fejlesztések terén – én a számítógépes tudomány e területén dolgozom – szintén vannak jelentős rejtélyek, amelyek még megfejtésre várnak. A legfontosabb azonban az, hogy a józan ész, a racionalitás talaján kell állni két lábbal. A számítógép az adatokat, a statisztikákat sokkal gyorsabban és pontosabban képes feldolgozni, mint bármelyik ember, ezért a gépek fejlesztésének iránya az, hogy alapvető készségekkel, egyfajta okossággal próbáljuk meg felvértezni őket, hogy például képesek legyenek a párbeszédre. Érdekes, hogy

Arra, hogy a transzhumanista álmot, az emberi természet meghaladását valaha el fogjuk-e érni, én nem tudom a választ.

Erik J. Larson amerikai számítógépes szakember, technológiai kutató

Vannak olyan jelenleg zajló kísérletek, amelyek azért ön számára is meghökkentőek? Olyan például, mint a Neuralink-kísérlet, amelynek során egy sertés agyát egy számítógéppel kötötték össze.

Vannak meglepő, elgondolkodtató kísérletek Amerikában, mint például a GPT-3. Ez egy generatív nyelvi modell, amelynek rendszerébe 75 millió szöveget rögzítettek, így a tárolt panelekből bármilyen élő beszélgetésbe be tud kapcsolódni, választékosan, az embert meghazudtoló stílusban, előadói módban. Ugyanakkor, ha megnézzük a gyengeségeit, akkor látjuk, hogy ez a rendszer egy igazi beszélgetést nem tud lekövetni, az értése korlátolt, bonyolultabb helyzetekben nem koherens reagálásokat ad. Ezek a technológiák

Ezért én ezt továbbra is egy sci-fi víziónak érzem. Sokan szeretnének kommunikáló robotokat, de mi, számítógépes szakemberek ezt még nem tudjuk előállítani, megvannak ennek a korlátai.

A GPT-3 technológiával felépített virtuális személyek beszélgetnek (forrás: youtube)

A digitális technológia és a biológia fúziójával való kísérletezgetés azonban már jó ideje tart: nemcsak a Neuralinkre gondolok, de vannak kiborg kísérletek, próbálják fejleszteni a humanoid robotokat.

Ez nagyon hasonló terület, mint az önvezető járművekkel zajló kísérletek. Ha sikerül kifejleszteni egy olyan robotot, amely egy bonyolult, forgalmas útszakaszon is képes átnavigálni egy autót, akkor lesz önvezető autó. Nagyon hasonló a dinamikája az ön által kérdezett kísérleteknek is, olyan rugalmas rendszerekről van szó, amelyek képesek finom módosításokra, reagálásokra, már döntési autonómiával rendelkeznek.

ugyanis ha már van ilyen technológia, akkor kerül reális közelségbe a többi hasonló fejlesztés. Majd meglátjuk.

A könyvében (The Myth of Artificial Intelligence – A mesterséges intelligencia mítosza) azt állítja, hogy a mesterséges intelligenciát túl-, míg az emberi agy kapacitásait alulértékeljük. Mivel támasztja alá ezt az állítást?

Nagyon általános példákat tudok felhozni: Kopernikusz felfedezte, hogy a Föld és a többi bolygó kering a Nap körül, és nem fordítva. Nyolcszáz évig egy másik világkép volt érvényben, szépen, részleteiben kidolgozva, a csillagok állásainak elemzésével – ez egy Föld-központú világkép volt. Ha meg akarjuk érteni, miért hibás elképzelés, hogy a számítógépektől várjuk, hogy gondolkodjanak helyettünk, akkor éppen Kopernikusz példája a megfelelő. Ha ő szuperkomputereket használt volna az addig felhalmozott tudásokból, ismeretekből származó adatok összegzésére, akkor minden valószínűség szerint a hamis, Föld-központú világkép igazságához lyukadt volna ki: ezek az adatok ugyanis azt mutatták, hogy a kozmosz középpontja a Föld. Ő azonban a saját emberi agya segítségével, megfigyelésekkel más következtetésre jutott. Vagyis:

– ez az, amely a dolgokat előre viszi, a komputeres technológia csak kiegészítő jellegű, ebben csak segítség lehet.

„2029-re a komputerek teljesítménye eléri majd az emberi intelligencia szintjét”, „a 2030-as években az emberi test és a komputer fúziója meg fog valósulni” – mindkét idézet Ray Kurzweil jövőkutatótól van.

Megemelem a kalapomat Kurzweil előtt, ő a ‘90-es évek óta ezt mondja, következetesen. Több könyvet írt erről, és ezekben ezeket az állításait érvekkel támasztja alá. Egyrészt: én tisztelem benne azt, hogy fanatikusan hisz a saját elméletében. Másrészt: 2029 igen közel van már, ezért szerintem be fog bizonyosodni, hogy ez az előrejelzése hibásnak bizonyult. Ha lenne ilyen, emberi szintű mesterséges intelligencia,

Persze, mindig megvan az esély arra, hogy valaki – egy új Einstein – előáll egy paradigmaváltó, robbanásszerű innovációval, amely megváltoztatja a helyzetet. A mesterséges intelligencia jelenlegi helyzetét leginkább az olyan programok fejlettsége mutatja meg, mint a Cortana és az Alexa digitális személyi asszisztensek. Én egykor dolgoztam ennek a fejlesztésén, ezen a téren nagyon nehéz kirobbanó eredményeket elérni a fejlesztések során. Szóval én nem hiszek ebben. Sajnálom egyébként, hogy így van, hiszen ezen a területen dolgozom, és én is szeretném az áttörést.

Ray Kurzweil, a Google fejlesztési igazgatója beszél a digitális halhatatlanságról (forrás: youtube)

Kurzweil másik híres-hírhedt előrejelzése, hogy 2045-re bekövetkezhet az ún. „technológiai szingularitás”, vagyis amikor a technológiai fejlődés kikerül az emberi kontroll alól, a gépek fölénk nőnek. Ez lehetséges?

Igen, ez lehetséges. A 2045-öt akár reálisnak is láthatjuk, a 2029-es prognózis azonban valószínűtlennek tűnik. A „technológiai szingularitás” dolgával egyébként sok a bizonytalanság. Az életünk tele van hi-tech berendezésekkel. Amikor az Egyesült Államokba érkeztem, akkor az volt az általános életérzés, hogy az ország stabilitása megrendült. Most pedig a technikai eszközök túlburjánzása miatt érezhetik ezt sokan. Vagyis:

Sci-fi helyett azonban erről tudományos megközelítéssel kell beszélni.

Ön nem először említi, hogy a sci-fi nézőpontot el kell vetni, nem reális. Mégis, ha megnézzük a Világgazdasági Fórum honlapját, ott hasonló jövőt, a transzhumanisták elképzeléseihez nagyon is hasonlító programot látunk: azt írják, hogy a negyedik ipari forradalom zajlik, amelynek lényege, hogy a fizikai, a digitális és a biológiai szférák közötti határok elmosódnak majd. A mesterséges intelligencia tehát nagyon is formálni fogja az emberi jövőt. 

A helyzet valóban az, hogy mi már most fúzióban vagyunk a gépekkel. A Google-nek van emlékezete, a keresőprogramon milliárdszámra mennek az adatok, a keresések, ezen személyes adatoknak a digitális lenyomatai megmaradnak, ezek pedig fontos információkat árulnak el a felhasználókról.

A ’60-as években kezdődtek el az ilyen jellegű kutatások, és a ’90-es évek közepén jelent meg az internet, a digitális világháló. A kérdés, hogy a technológia kikerül-e a jövőben a társadalmi kontroll alól? Ettől sok kormány tart most. De erre nem tudok pontos választ adni.

A már többször említett Ray Kurzweil személye ebből a szempontból is elgondolkodtató: ha ő csak egy fantaszta szobatudós lenne, akkor a helyén kezelhetnénk, de ő a Google jövőkutatója is egyúttal. Vagyis: ha ez az ember felelős a több milliárd felhasználó kereséseiből kialakuló algoritmusokért, akkor talán nem is csoda, hogy amikor a Google-n kutatunk, aközben esetleg a Google is kutat bennünket.

Ez egy zavarba ejtő kérdés. A keresési algoritmusok fejlesztésének első fázisaiban a Google a felhasználókról szerzett információit a keresési szokások, tapasztalatok tanulmányozására használta. 2005-2006 előtt a Google ezekből az adatokból szűrte le, mely területeken kell tökéletesítenie a platform kereső funkcióit, hogy minél pontosabb, relevánsabb információk ugorjanak fel a kereséskor. A ronda titok azonban az, hogy néhány befektető meglátta, a cég milyen robbanásszerű növekedést ért a felhasználók számában, miközben ingyenes szolgáltatásként funkcionált. Ezért bejött a képbe a pénzcsinálás szempontja, vagyis megjelentek a célzott hirdetések. A keresések információit becsatornázták a hirdetőprogramokhoz, és...

...ezért történik az, hogy amit az ember a Google-n keres, az nemsokára hirdetésben felugrik a Facebook-oldalán...

Így van, és így jött létre ez a manipulációs játék. Az eredeti koncepció az volt, hogy miként lehet a keresések segítségével jobb a világ; ami pedig mára lett belőle, az az, hogy

Ezen a ponton az ember néha egy kísérleti patkánynak érzi magát.

Ha az algoritmusokkal, a mesterséges intelligenciával az a helyzet, ahogy leírta, és ez esetleg majd párosul például egy olyan fejlett megfigyelési rendszerrel, mint amilyen Kínában már működésben van, vagyis ha ezeket a technológiákat összekötik, és mondjuk mindez rossz kezekbe kerül, akkor ez egy rendkívül sötét, valóban orwelli jövőt ígér mindannyiunk számára.

Igen, ez így van. Az én fenntartásom is éppen ez a modern mesterséges intelligenciával, vagyis, hogy képes lehet majd hálózatok összecsatolására, átvenni az irányítást más rendszerek felett, a megfigyelési rendszereket összekötheti adatbázisokkal, és így emberek kiszűrésére lehet alkalmas. Ma ez a technológia ott tart, hogy drónokkal képes irányított gyilkosságokat végrehajtani ellenségek ellen, de rossz módon használva ugyanez a technológia elveheti a szabadságunkat, a magánszféránkhoz való jogunkat megsértheti. Pedig az alapötlet, ugye, az volt, hogy okos házi robotokat építsünk... Ha ez a technológia autokrata kormányzatok kezébe kerül, az valóban veszélyes lehet.

Van esélye, hogy ez a rosszabbik forgatókönyv valósul meg a jövőben?

Ha továbbra is az adatközpontú mesterséges intelligencia-fejlesztések vonalán haladunk tovább, akkor van miért aggódnunk. Az általános kísérletek az emberi szükségletek betöltésére irányulnak: a tiszta energia használata, a vírusok elleni vakcinák kidolgozása, és így tovább. Az adatbázisok és a mesterséges intelligencia „szentségtelen frigyében” azonban

Ha van egy arcfelismerő rendszer, amely be tud azonosítani egy bűnözőt, az egy dolog; de ha ez a rendszer egy globális megfigyelő hálózatba van bekötve, és ezt a milliónyi adatot egy „rendszergazda” (mondjuk egy állampolgárait kontroll alatt tartani akaró állam) birtokolni fogja, az egy másik történet.

Fotó: Ficsor Márton