Ne féljünk a mesterséges intelligenciától!

Félelmek

A svéd Nick Bostrom könyve, a Szuperintelligencia karácsony előtt jelent meg magyarul. Számos mesterségesintelligencia-forgatókönyvet vázol fel benne, figyelmeztet a veszélyekre, kihívásokra.

Egy másik svéd tudós, az MIT-n kutató Max Tegmark fizikus 2014-ben megalapította az Élet Jövője Intézetet, ahol az MI veszélyeivel, a fejlesztések kordában tartásával és hasonlókkal foglalkoznak. A tagságban olyan illusztris személyek találhatók, mint Elon Musk, Morgan Freeman, a Nobel-díjas fizikus Frank Wilczek, Stephen Hawking, Bostrom és egyetlen gyakorló MI-kutatóként Stuart Russell.

„Az MI a legjobb, de a legrosszabb dolog is lehet az emberiség számára. Óriási versenyfutás alakult ki a technológiai növekedés és az azt kordában tartó, szintén növekvő emberi bölcsesség között. A jövő a mi kezünkben van” – összegzik krédószerűen.

Hawking egy 2014-es megbeszélésen jelentette ki, hogy az „MI lehet az emberi történelem legnagyobb tévedése”, amit aztán a CNBC „az MI véget vethet az emberiségnek”-ként kürtölt világgá.

De mitől is félnek?     

A technológiai szingularitás

A tudományos-fantasztikus irodalom és a jövőkutatás technológiai szingularitás (Szingularitás vagy Különösség) néven ismert bonyolult jelensége eredetileg egy lehetséges jövőbeli eseményre, eseménysorra, az emberrel azonos szintű, de idővel jelentősen felülmúló MI megjelenésére vonatkozott. A képzeletbeli növekedési görbe elér egy pontra, ami után teljesen beláthatatlan a jövő.

A kifejezetten számítástudományi szempontok alapján kidolgozott elmélet szerint, az emberfelettivé váló MI hatására a technológiai fejlődés olyan drasztikusan és gyorsan változtatja meg a valóságot, hogy a Szingularitás előtt élők képtelenek felfogni azt. Mivel képtelenek felfogni, megbízhatóan előrejelezni sem képesek.

Az elnevezés asztrofizikai analógiára utal: a gravitációs szingularitás lényege, hogy a végtelen nagy vagy nullához tartó mennyiségek megjelenése miatt, a jelenleg ismert fizikai modell használhatatlan a fekete lyukak közelében. A fekete lyukat MI-vel, a fizikai modellt jövőmodellel behelyettesítve, máris megkapjuk a technológiai szingularitásról alkotott képet.

Szingularitás-értelmezések

Az eseményt először I. J. Good statisztikus írta le 1965-ben: „definiáljunk egy ultraintelligens gépet úgy, mint amelynek intellektuális tevékenysége túlmutat a legintelligensebb emberekén. Mivel gépek tervezése egyike e gép intellektuális tevékenységeinek, az ultraintelligens gép még jobb gépek tervezésére lenne képes, intelligenciarobbanást hozva létre, amely gyorsan maga mögött hagyná az ember intelligenciáját.”

A technológiai szingularitás elméletének jelenleg ismert változata a matematikus és sci-fi író Vernor Vinge nevéhez köthető. 1993-as esszéje (The Coming Technological Singularity) alapján „harminc éven belül meg lesznek a technológiai eszközeink az emberfeletti intelligencia létrehozásához.” Egyre inkább közelítünk a Szingularitáshoz, jövőmodelljeink egyre bizonytalanabbak lesznek. Az emberfeletti intelligenciák – egyrészt kibernetikailag „feljavított” emberi elmék, másrészt MI-k – megjelenésével lényegesen gyorsabb fejlődés várható.

A Szingularitás azóta is lázban tartja a tudományos-technológiai közvéleményt. Többen foglaltak állást pro és kontra: egyesek elképzelhetetlennek tartják, mások a nagyon – „beláthatatlanul” – távoli jövőbe vetítik ki.

Megint mások, például a témakörről vaskos kötetet (The Singularity Is Near, 2005, magyarul: A Szingularitás küszöbén, 2014) írt polihisztor feltaláló Ray Kurzweil a Moore törvényt általánosítva, viszont csak a „hardverre”, a mennyiségi növekedésre összpontosítva, fedeznek fel exponenciális mintát az emberi történelemben: a törvényben leírt minta az integrált áramkörök megjelenése előtti és a jövőbeli technológiákra egyaránt érvényes.

Mihelyst egy technológia megközelíti lehetősége határait, „paradigmaváltásként” új technológia jelenik meg, és ez az ismétlődés biztosítja a folyamatosan gyorsuló fejlődést. Ez az exponenciális növekedés végül a Szingularitáshoz vezet. Kurzweil megfogalmazásában: „a technológia történelmének elemzése rámutat, hogy a technológiai változás – szemben a jelenlegi intuitív-lineáris nézetekkel – exponenciális. Ezért a 21. században nem százévnyi, hanem a jelenlegi ütemmel húszezer évnyi fejlődést tapasztalunk meg. A fejlődés haszna és eredményei, mint például a chipsebesség és költséghatékonyság egyaránt exponenciálisan növekednek. De maga az exponenciális növekedés is exponenciálisan fog változni. Pár évtizeden belül a gépi intelligencia meghaladja az emberit, és ez olyan gyors és alapvető technológiai változásokhoz vezet, amelyek szakadást hoznak létre a történelemben.”

Forgatókönyvek

A Szingularitás „klasszikus” – MI-, robotika-alapú – modellje mellett legalább öt másik módon, de leginkább az összes forgatókönyv különböző kombinációjaként is bekövetkezhet. Ezek a következők:

A számítógépes kapacitás fejlődése közvetlenül hat vissza az emberi intelligenciára és egyéb képességeinkre, jönnek a cyborgok, a Homo sapiens-számítógép rendszerek. Az angol Kevin Warwick kísérletei például ezt az utat – a „megsokszorozott intelligenciát” (intelligence amplification, IA) – készítik elő.

A technológia és az idegtudományok gyors fejlődésével a humán agy merevlemezen történő emulálása (száz százalékos másolása) is megtörténhet. A cybertérbeli lények bonyolult rendszerekbe szerveződnek, egyfajta kollektív intelligenciát alkotva. (Ezt az elméletet elsősorban Hans Moravec, a Carnegie Mellon Egyetem robotikusa képviseli.)

Az egyre komplexebb, szerteágazóbb internet és az azt használó emberiség – globális agyként – „emberfeletti” rendszerré áll össze. (Kicsit úgy, ahogy Arthur C. Clarke a telefonhálózatokról prognosztizálta egykor.)

A mikro-elektromechanikus rendszerek (MEMS), a tárgyi környezetünkbe ágyazott, számítási kapacitással rendelkező eszközök és a fullerén-alapú gépek fejlesztése ipari nano-összeszerelőkhöz vezet. (Ez a – Digitális Gaianak is nevezett – megoldás főként nanotechnológia-kutatók nevéhez fűződik.)

Ember-számítógép szimbiózis helyett a genetika, a neurológia és a biotechnológia vezet el a Szingularitáshoz.

Pro és kontra

Nemcsak a különleges esemény bekövetkeztére, hanem időpontjára vonatkozóan is megoszlanak a vélemények. Legtöbben a 2020-as, 2030-as, 2040-es éveket jelölik meg.
„Egy napon, az emberi technológia addig a pontig fejlődik, hogy képes lesz az alapját alkotó hardvert és szoftvert kijavítani” – írja az MI-kutató Eliezer Yudkowsky.

A Szingularitást elfogadó kutatók szerteágazó tudományterületeken tevékenykednek, az viszont közös bennük, hogy közel állnak a transzhumanizmus néven ismert futurisztikus technológia-filozófiai eszmeáramlathoz.

Érdekes módon, a transzhumanizmus több jeles képviselője, például Anders Sandberg és Max More elvetik a Szingularitást: az emberiből a poszthumán állapotba történő átmenetet „különösségi pontok”, „törések” nélküli evolúcióként képzelik el.

Mások sokkal prózaibb okok miatt helyezkednek negatív álláspontra. Jeff Hawkins, az idegtudományokkal is foglalkozó számítástudományi szakember szerint a gépi intelligencia exponenciális növekedése soha nem valósul meg. Gordon Bell szintén kizártnak tartja a gépek „öntudatra ébredését.” A törvénye miatt oly sokat emlegetett Gordon Moore az evolúciót hozza fel példaként: a Homo sapiens sokkal több intellektuális adottságainak összességénél, és a „finomhangolás” akkor is kivitelezhetetlen lenne, ha ezeket az adottságokat valamilyen módon sikerülne gépi rendszerbe „másolni.” Steven Pinker kognitív pszichológus gyermekkora sci-fi élményeivel és régebbi korok meg nem valósult jövőképeivel (atommeghajtású autók, víz alatti városok stb.) von párhuzamot.

Szingularitás vagy szakadások sora?

Történészek, szociológusok és közgazdászok a múltba visszatekintve hasonlítják össze a technológiai szingularitást és az emberiség történelmét döntő módon meghatározó, átalakító két jelenséget, a mezőgazdasági, majd az ipari tevékenységek térhódítását. A párhuzam egyrészt logikus, másrészt – az „ipari forradalom” ellenére – mind a mezőgazdaság, mind az ipar nem egy adott történelmi ponton, hanem fokozatosan, hosszú evolúciós folyamat eredményeként változtatta meg az emberiséget, tehát az adott korok futurológusai bizonyossággal ugyan nem, de mindenképpen előrejelezhették a jövőt. Ezek a változások ugyanis nem egyetlen kataklizmaszerű esemény azonnali, hanem önmagukban kevésbé drámai, de összességükben – hosszú távon – mindent átalakító „szakadások” folyamatos hatására következtek be.

A Szingularitás egyébként részben egybecseng az 1970-es évek végétől megjelent, főként szociológusok és kultúrantropológusok – Alvin Toffler (Harmadik hullám, Jövősokk), Daniel Bell, John Naisbitt – által jegyzett, az ipari társadalom utáni (posztindusztriális) társadalmakról szóló elméletekkel, amelyekben kifejtik, hogy az információ és szolgáltatások fontosabbak az iparnál. Leírásaikban sokszor túllépnek az információs társadalmon, és az elemzések gyakran mutatnak meglepő hasonlóságot a technológiai szingularitáshoz közeli társadalmakról alkotott képpel.

Ezzel szemben a valóság

Álmokra és félelmekre ismét rácáfolnak, de legalábbis visszafogottságra intenek a tények.

Több mint fél évszázad mesterségesintelligencia-kutatás sem eredményezett akarattal rendelkező, tudatos gépet. Az ember uralja, bármikor kikapcsolhatja a technológiát.

Daniela Rus, az MIT Számítástudomány és Mesterséges Intelligencia Laboratóriumának (CSAIL) igazgatója karambolokat mindig elkerülő autót fejleszt a Toyotának. Egyáltalán nem fél a Szingularitástól, nem is foglalkozik vele.

"A robotok számolásban, nehéz terhek mozgatásában jobbak az embernél, mi viszont finom és ügyes mozgásokban múljuk felül őket, és az alkotó, absztrakt gondolkodást még nem is említettük" – érvel.

Az önvezérlő autók sem működnek mindenhol. Aprólékos térképpel is csak könnyen előrejelezhető szituációkban teljesítenek jól, de rendőrök által irányított közlekedési káoszban nem boldogulnának. Fogalmuk sem lenne arról, miért intenek be nekik vezetők stb.

„Nem állnak rendelkezésünkre a dugóban való reakciók pontos és gyors kiszámításához nélkülözhetetlen szenzorok, algoritmusok” – magyarázza Rus.

Az MI-kutatók többsége hasonlóan vélekedik. A gépi intelligencia térhódításától való félelem kb. annyira reális szerintük, mintha a Mars túlnépesedése miatt aggódnánk.
Más szempontból viszont sokkal veszélyesebb: hátráltathatja a technológiai fejlődést.