A digitalizált világ diktatúrába torkollhat – Miklos Lukacs de Pereny a Mandinernek

2022. május 26. 9:01
„Ha a mesterséges intelligenciának átadjuk a döntést, akkor valóban jöhet egy fordulat, amikor valóban már egzisztenciális fenyegetést fog jelenteni az emberi létezésre” – mondja Miklos Lukacs de Pereny lapunknak. Az MCC vendégoktatóját a Corvinák oldalra írt cikke kapcsán kérdeztük arról, hogy mit tudnak rólunk az algoritmusok, miért csökken a szabadság a virtuális valóságban és miért fontos a biokonzervativizmus. Interjúnk.

Miklos Lukacs de Pereny a perui Universidad de San Martín de Porres (USMP) magyar-perui származású tudomány- és technológiapolitikai kutatóprofesszora. Egyetemi végzettsége van innovációmenedzsmentből, fejlesztéstudományból, politológiából, emellett állatorvosi diplomája van, és elvégezte az Oxford Artificial Intelligence Programot is. Oktatóként dolgozott az Essex, illetve az Alliance Manchester Business Schoolban, tanácsadó volt a Német Fejlesztési Banknál, az ENSZ Élelmezési és Mezőgazdasági Szervezeténél és a Globális Környezeti Alapnál. A spanyol nyelvű világ egyik vezető technológiai gondolkodója, influenszer a közösségi médiaplatformokon, jelenleg az MCC vendégoktatója Budapesten.

***

Milyen sokat tudnak rólunk az algoritmusok?

Ezt pontosan nem tudhatjuk, mert ugyan vannak adatbiztonsági előírások, mégsem rendelkezünk teljes mértékben a saját adatainkkal. Nem tudjuk, mennyit tudnak rólunk, de az biztos, hogy minden egyes nap minden egyes órájában adatokat közlünk magunkról, hiszen a digitális térben dolgozunk, fizetünk, ott vagyunk a közösségi médiában, így

az algoritmusoknak az életünk szinte minden aspektusáról vannak információik.

Ha csupán a Google-t nézzük, tudjuk, hogy amikor keresünk a programon, a program is kutat minket: látja, mik az érdeklődési területeink, ebből kialakul egy profilunk, és ezt a rendszer le is menti. Mi ennek az adatgyűjtésnek a korlátja?

Van erre adatvédelmi szabályozás, de az nagyon gyenge védelmet ad a felhasználók számára. A személyes adatok kezelése tekintetében, illetve ezek továbbadására, a kutatási adatok kezelésére van védelem az EU-ban, a GDPR-rendelet, de ezzel sem valósul meg, hogy teljes ellenőrzést tudjunk gyakorolni a saját személyes adataink fölött.

A keresőprogramok raktározzák rólunk az információkat

– szerintem ez a mesterséges intelligenciával és az algoritmusokkal kapcsolatos nagy, aggodalomra okot adó probléma.

Miklos Lukacs de Pereny

 

Erről a problémáról szól a Netflixen futó egyik nagy hatású film, a Társadalmi dilemma. Big tech cégek fejlesztőmérnökei mondják el benne, hogy milyen veszélyeket rejt a technológia, amely az emberek összekapcsolására jött létre, de ma már kontrollálja, sőt, manipulálja őket. A felhasználók figyelméből van a bevételük.

Ez egy új valóság. A felhasználóknak a felületen töltött idejéből, figyelméből csinálnak profitot, és arra törekednek, hogy kondicionálják az emberi viselkedést: a közösségi média felületein begyűjtött adatok nemcsak gazdasági tranzakciókra vonatkoznak, de különböző személyes preferenciákat is tartalmaznak, így a különböző dolgokhoz, termékekhez, jelenségekhez kapcsolódó személyes érzelmeket is. Így egy sokkal átfogóbb egyéni adategyüttes (big data) áll rólunk rendelkezésre. Nagyon nehéz az életet, a személyiség identitását rekonstruálni ebben a virtuális világban – a fizikai világ realitásai egyértelműek, a digitálisé nem. Különösen a fiataloknak nehéz ebben a virtuális világban megtalálni önmagukat, meghatározni maguk számára, hogy kik is valójában.

Ez a kultúra kitermeli a figyelemfelkeltés, a figyelemszerzés szükségletét, kényszerességét,

ami nemcsak az egyén egóját táplálgatja, de egyfajta megfelelési kényszer is már. Ezeket a negatív pszichológiai, szociológiai mellékhatásokat nagyon komolyan kell venni.

A közösségi média működése örvényszerű: mintha az lenne a szándék, hogy a felhasználó minél több időt töltsön ott, a virtuális valóságban. A Metaverzum nem titkoltan ezt célozza meg: legyünk ott a való világ helyett.

Igen, ez így van. Ha minél többen minél több időt töltenek a virtuális térben, annak működtetői annál nagyobb profitot realizálnak a digitális szolgáltatásaik révén.

Az említett filmben megszólaló fejlesztőmérnökök nagy része otthagyta ezt a szektort, és többségük még ezekről a platformokról is lejött, valaki közülük még a keresőprogramokat sem használja. Mit tudnak, amiért ezt teszik?

Van egy erős morális dilemma ezekkel a programokkal kapcsolatban, mégpedig az, hogy

mennyire erkölcsös más emberek kihasználásával óriási profitra szert tenni?

Az egy emberi erkölcsi probléma, hogy a big tech cégek emberek kétségbeesését, bizonytalanságát növelő tevékenységből csinálnak nagy pénzeket.

 

Elon Musk szerint a mesterséges intelligencia „egzisztenciális fenyegetést” jelent az emberiség számára; ő azt mondja, hogy egy évtizeden belül megtörténhet, hogy a gépi intelligencia az emberi fölé kerekedik. A Corvinákon írt cikkében ön is utal erre. Ön is tart ettől?

Ezen a ponton ez még csak egy spekuláció, de valóban lehet egy pont, ahol a mesterséges intelligencia már veszélyforrást jelenthet. Véleményem szerint a legérzékenyebb terület az, hogy az ember egyre több döntési jogkört, területet ad át a mesterséges intelligenciának, így

az élet egyre több területén algoritmusok hozzák meg a döntéseket az emberek helyett az emberek számára.

Itt az emberi és a mesterséges cselekvőképesség versengéséről szó. Ha egy algoritmus, például egy GPS elmondja, hogy merre menjek a legrövidebb úton, az teljesen rendben van, de ha egy másik algoritmus lehetővé teszi az önvezető autók tömeges alkalmazását, akkor sok sofőr veszítheti el az állását, és az már nincs rendben. Ha a mesterséges intelligenciának kulcsterületeken átadjuk a döntési kompetenciákat, akkor valóban eljöhet egy fordulat, amikor már egzisztenciális fenyegetést fog jelenteni az emberi létezésre.

Mikor következhet ez be a legrosszabb forgatókönyv szerint?

Nem tartunk itt. És szerintem a technológiák fejlődési ütemei alapján 5-6 éves távlatban ez biztos nem fog bekövetkezni. De 15-20 éves távlatban már elképzelhetőnek tartom, hogy nagy teljesítményű szuperkomputerek, fejlett algoritmusok, processzorok annyi döntési jogkört vesznek majd át az embertől, hogy ez a fordulat bekövetkezhet.

A technológiai fejlesztő szektorban dolgozó néhány vezető ennek nagyon örülne,

részben a hatalmas tudományos haladás, részben a hatalmas profit miatt.

Ray Kurzweil, a Google fejlesztési igazgatója beszél a digitális halhatatlanságról (forrás: youtube)

 

Ray Kurzweil, a Google fejlesztési igazgatója, aki egyúttal egy futurista is, vélhetően már nem a pénzért csinálja. Ő valóban hisz abban, hogy a digitális forradalom egy másfajta emberi létet eredményez. Hisz abban, hogy a fizikai test helyett lehet egy digitális, a személyiség adatait le lehet majd menteni egy komputerre. De ez így még félelmetesebbnek tűnik.

Ez a megkülönböztetés teljesen igaz. Ők már nem csak a pénzért teszik ezt, inkább a hatalomért. Ezek az emberek a nagy tech vállalatokban vezető részvényesek, döntési pozíciójuk van. Ezeknek a vezetőknek már most több pénzük van, mint amennyit el tudnának költeni a hátralévő életükben.

Az ő valódi ambíciójuk, hogy a valóságot változtassák meg,

hogy a digitális szolgáltatásokkal, a technológia új eszközeivel kitolják az emberi képességek határait, hogy megvalósítsák azt, hogy az élet ura az ember.

Ők azt szeretnék, ha az emberi életkörülményeket a tudományos felfedezések révén megkönnyítenék, az emberi élet egy más minőséget kapna. De van egy félelem, miszerint az általuk ígért digitális paradicsom könnyen digitális pokollá válhat. A digitalizált pénzügyek (kriptovaluta, bankkártya, 5G, mobilapplikációk... stb.) egyszerűbbé teszik az életet. De vajon nem torkollhat ez végül egy globális pénzügyi kontrollba?

Nos, ez egy nagy kérdés. Megtörténhet. A pénzügyi digitalizáció nagyban egyszerűbbé teszi az életet, és növeli a szabadságérzetet is. Egy nagy techno-optimizmus érezhető jelenleg a világban, főleg a nemzetek fölötti nemzetközi szervezetek, a tech cégek berkeiben; ők a technológiai fejlődésben nagy lehetőségeket látnak, de a fogyasztói oldalról nézve nem biztos, hogy ez a közeljövőben csak pozitív folyamat lesz.

Ezt az optimizmust lejjebb kell tekernünk,

a világ nem feltétlenül halad helyes irányba.

 

Ha a technológiai fejlődés nagy tempóban halad előre, a személyes adatok kezelése, a megfigyelési rendszerek, a drónok, az arcfelismerő kamerák és egyéb technológiák összekapcsolása eredményezheti azt, hogy a nyugati államok is olyanok lesznek, mint Kína, egy állami ellenőrzésű kontrollgépezet?

Azt hiszem, hogy a tendenciák alapján ez nem lehetetlen kimenetele a folyamatoknak. Épülnek azok az infrastruktúrák, amelyek ugyanúgy képesek a szabadságot korlátozni, mint Kínában. Az internet, az adatvédelem szabályozása, a mobilszolgáltató társaságok tulajdonviszonyai mind azt jelzik, hogy ezek a folyamatok elkezdődtek, a véleménynyilvánítás szabadsága már most korlátozott, a cenzúra már most működik a digitális világban, tehát

ennek az eseménysorozatnak egy diktatúrába való torkollása egyáltalán nem kizárt.

Végül, hadd kérdezzem a biokonzervativizmusról, amely egyfajta antitézise a transzhumanizmusnak; egy mozgalom, amely ellenzi az emberi minőség meghaladását, az emberi viszonyok mesterséges megváltoztatását. Miért fontos, hogy ez a mozgalom erősödjék?

Ez egy bonyolult ügy, nem könnyű röviden válaszolni rá. A régi, 20. századi világban a politikai térfelek bal-, illetve jobboldali nézetrendszerekre, politikai mozgalmakra tagolódtak, a valóság azonban mára ezt a régi felosztást már meghaladta. A jelenkor technológiai forradalma sokkal nagyobb hatású, mint a 18. századi nagy ipari forradalom, a modern technológia,

a mesterséges intelligencia az emberi létet, az emberi természetet akarja átformálni, megváltoztatni.

A 21. század nagy küzdelmek, a kulturális háború, a nagy politikai és társadalmi viták fontosak, de sokan elfelejtik, hogy van még egy front: ez a biológiai-antropológiai háború. A transzhumanisták úgy akarják átalakítani az emberiséget, hogy a technológia eszközeivel erőszakosan akarják boldogítani az embereket, de anélkül, hogy tiszteletben tartanák az emberi természetet. A biokonzervativizmus arra törekszik, hogy a technológiai felfedezéseket, eljárásokat mindig az ember szolgálatában tartsa, és soha ne engedje meg, hogy ennek az ember kísérleti alanyává, alárendeltjévé váljon. A biokonzervativizmus egy antropológiai álláspont tehát, amely

ragaszkodik ahhoz, hogy az emberi természet megváltoztathatatlan,

ezért ellenáll minden transz- kezdetű ideológiai törekvésnek, a transzgendernek, a transzhumanizmusnak és így tovább. Nagyon fontos, hogy megerősödjön, és ellensúlyt tudjon alkotni a mai világban.

--

A Corvinák a Mathias Corvinus Collegium online tudományos ismeretterjesztő folyóirata. A folyóirat itt olvasható.

--

fotó: Ficsor Márton 

Összesen 13 komment

Jelenleg csak a hozzászólások egy kis részét látja.
Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi.
Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!

Bejelentkezés