„Súlyos fenyegetés elé néznek a demokráciák” – beszélgetés Tonje Hessen Schei filmrendezővel

Tonje Hessen Schei norvég filmrendező, az elmúlt húsz évben több dokumentumfilmet is készített, elsősorban emberi jogok, környezetvédelem és társadalmi igazságosság témakörökben. Olyan alkotások fűződnek a nevéhez, mint a Drone (2014) vagy a Play Again (2010). 

Az iHUMAN a mesterséges intelligencia hatásait mutatja be. Hol? Milyen kontextusban? Nekem innen hiányzik valami. El tudná mondani, hogy mi motiválta a film elkészítését?

Az eredeti ötletet tulajdonképpen a korábban forgatott „DRONE” című filmem adta, amely a CIA titkos pakisztáni drónháborújáról szól. Mialatt a „DRONE” című filmen dolgoztam, arra döbbentem rá, hogy a mesterséges intelligencia nemcsak a modern hadviselésre nyomja rá a bélyegét, hanem átszabja mindennapjainkat és társadalmainkat, nem is beszélve a jövőnkről. Rendkívül fontosnak tartom, hogy alaposan átgondoljuk, mit is jelent mindez, különös tekintettel arra, hogy

A mesterséges intelligencia ugyanis anélkül jut mind jelentősebb szerephez, hogy tisztában lennénk azzal, milyen hatásokkal is jár, illetve hogy politikai vitát folytathatnák arról, hogyan birkózzunk meg az általa előidézett etikai kihívásokkal. Az iHUMAN elkészítésével az volt a célom, hogy felhívjam a figyelmet minderre.

Amint azt a film hűen bemutatja, a mesterséges intelligencia és az algoritmikus döntéshozatal egyre erőteljesebben nyomja rá a bélyegét a 21. századi világra. Mik a fő társadalmi hatásai ennek a jelenségnek? Hogyan szabja újra életünket a mesterséges intelligencia?

Egy olyan világban élünk, ahol teljes mértékben függővé váltunk a különféle okos eszközöktől. Mesterséges intelligencia működteti a telefonjainkat és a számítógépjeinket. Olyan technológia vesz körül minket, amely hallgatja, amit mondunk, és figyelemmel kíséri, amit teszünk. Valamennyi online tevékenységünket folyamatosan nyomon követik, elemzik és rendszerezik. Jelenlegi életkörnyezetünket tehát egy újfajta algoritmikus világrend jellemzi, amelyet én „Megfigyelő Kapitalizmus”-ként szoktam említeni. Úgy gondolom, hogy ez egy igen találó kifejezés, ugyanis ezeknek a megfigyelő eszközöknek a többsége alapvetően személyre szabott hirdetésekkel vesz célba bennünket azért, hogy egyfajta „szuperfogyasztóvá” váljunk. Ami azonban ennél is aggasztóbb, hogy

a nagy technológiai cégek ellenőrzésük alatt tartják azt, amit megtudunk és megismerünk a világról.

Ezek a vállalatok, különösen a Google és a Facebook, vezető szerepet játszanak a mesterséges intelligencia forradalomban, ezért akár mesterséges intelligencia cégeknek is lehetne őket nevezni. Ha azonban viszonylag kevés technológiai vállalat tartja ellenőrzése alatt azt, amit a világból megismerhetünk, illetve ha ezen felül ezek a cégek képesek az információ manipulálására azért, hogy érzéseinket és gondolatainkat befolyásolják, akkor súlyos fenyegetés elé néznek a demokráciák. Az iHUMAN azt is felfedi, hogy a gyorsabb terjeszkedés érdekében ezek a vállalatok a hadsereggel és a titkosszolgálatokkal is együttműködnek. Ez igen súlyos visszaélésekre teremt lehetőséget, és mivel a mesterséges intelligencia használatának sem felügyeleti szerve, sem pedig nemzetközi szabályrendszere nincsen, így ezek a vállalatok egyfajta „nemzetközi maffiaként” működhetnek valódi átláthatóság és felelősség nélkül.

Hogyan képesek ezek a nagyvállalatok előnyt kovácsolni a modern technológiából?

Fontos emlékeztetni arra, hogy a Google és a Facebook több pénzt fordít a mesterséges intelligencia fejlesztésére, mint egyes nemzetek. Ennek megfelelően gyakran több hatalmuk is van, mint sok országnak, amelyekben egyébként a lobbitevékenységük révén befolyást gyakorolnak a politikai folyamatokra. Elolvasztják a magánszféránkat. A mesterséges intelligencia hihetetlenül hatékony eszköz. Megsokszorozza az igényeit azoknak, akik a kezükben tartják ezt a technológiát.

Említette, hogy a mesterséges intelligencia új világrendet formál. Miben fog különbözni ez a régitől?

Nem vagyok a mesterséges intelligencia ellen. Hihetetlenül izgalmasnak találom ezt a technológiát, és elismerem, hogy jó célokra is fordítható. Mint minden technológia, ez is egy eszköz, ami sokféle célra használható. A mesterséges intelligencia mögött álló emberek és hatalom az, amit igazából aggasztónak találok. Egy új hatalmi egyensúly formálódik a világban, ahol a nagy technológiai cégek szinte korlátlan hatalmat szereznek azzal, hogy emberek milliárdjait képesek megszólítani, és mindent tudnak rólunk. Azt, hogy kik vagyunk, hol vagyunk, kikkel vagyunk, és mit gondolunk. És ami még ennél is fontosabb az az, hogy ellenőrzésük alatt tartják, mit ismerhetünk meg a világból. 

Hogyan látja az úgynevezett „javítja kontra helyettesíti” dilemmáját? Vajon az algoritmikus döntéshozatal „javítja” az életünket vagy pedig annak „helyébe kíván lépni”? Milyen veszélyeket rejt ez magában?

Ez egy nagyon nehéz kérdés, és nem is hiszem, hogy egyértelmű választ lehet rá adni. A mesterséges intelligencia egyik előnyeként azt tartják számon, hogy segítséget nyújt az unalmas, piszkos vagy veszélyes munkák elvégzésében. Az pedig üdvözlendő, ha a technológiát és a gépeket arra használjuk, hogy olyan veszélyes vagy tényleg unalmas munkákat végezzenek el, amelyeken senki sem nem vállal szívesen. Az érem másik oldalán ugyanakkor ott van például az emelkedő munkanélküliség, amelynek a kihívásaira nem tudunk megoldást találni. Ennek megfelelően például San Franciscoban egyre nagyobb gondot jelentenek azok a hajléktalan emberek, akik azért nem tudják megengedni maguknak a méltó lakhatási körülményeket, mert a nagy technológiai vállalatok miatt egekbe szöktek a lakásárak, miközben a munkahelyek eltűnőben vannak. A filmben megszólaltatott egyik szakértő azt jósolja, hogy csak az Egyesült Államokban a mesterséges intelligencia több mint tíz millió munkahely megszűnéséhez vezet, például az önvezető autók elterjedésének köszönhetően. Ugyanakkor filozófiai nézőpontból is szükséges szemlélni ezt a dilemmát. Mi is az élet értelme és célja? Az élet számos területén nem a hatékonyság az elsődleges. Így

nem feltétlenül a nagyobb hatékonyság elérése a legfontosabb az olyan területeken, mint például az igazságszolgáltatás vagy a megelőző rendészet,

ahol éppen az ember által folytatott eljárásnak van jelentős szerepe.

Említette a szabályozás szükségességét. Mire kell itt gondolnunk?

Igen, a mesterséges intelligencia jelentette kihívások nemzetközi szabályozást igényelnek. Ugyanakkor ez egy rendkívül összetett kihívás, mert a mesterséges intelligencia korunk legnagyobb erejű technológiája. Életünk és társadalmunk legtöbb szeletére hatást gyakorol, és azt gondolom, rendkívül fontos, hogy az államok és a nemzetközi közösség meghúzza a mesterséges intelligencia felhasználhatóságának határait. Bár bizonyára rendkívül nehéz államok közötti konszenzust kovácsolni ebben a kérdésben, úgy gondolom, hogy ez egy lokális és globális együttműködést igénylő kihívás. És miközben mi még arról beszélgetünk, hogy vajon a mesterséges intelligencia jó vagy rossz-e, a technológiai olyan hihetetlenül gyorsan fejlődik, hogy már most egy igen jelentős szakadék tátong a politikaformálók és a technológia fejlesztői között. Jelenleg azt láthatjuk, hogy Európa átveszi a vezető szerepet a nemzetközi szabályozás kialakítása terén, így például az arcfelismerő rendszerek alkalmazásának betiltását fontolgatja addig, amíg rá nem jövünk, hogyan oldhatók meg az ezzel a technológiával együtt járó kihívások.

Miért kellene mindenkinek megnéznie a filmet?

Személy szerint úgy gondolom, hogy a mesterséges intelligencia korunk legnagyobb kihívása elé állítja a világot. A mesterséges intelligencia megváltoztatja életünket és társadalmunkat, nekünk pedig most kell felelősségteljes döntést hozni arról, hogy milyen világban is szeretnénk élni. Azt vallom, hogy ha mi magunk szeretnénk a saját jövőnk urai és alakítói maradni, akkor nekünk magunknak kell megteremtenünk ezt a jövőt. Úgy hiszem, hogy létezhet olyan digitális jövő, amelyben az emberiségnek is marad szava. Ha az iHUMAN filmnek van tanulsága, akkor az az, hogy felelősséget kell vállalnunk az életünkért és társadalmunkért. A történelem egy jelentős fordulópontjához érkeztünk,

meg kell győződnünk arról, hogy helyes úton járunk-e a mesterséges intelligencia fejlesztése és alkalmazása terén.

Meg kell győződnünk arról is, hogy ellenőrzésünk alatt tartjuk a mesterséges intelligenciát, még mielőtt a mesterséges intelligencia fog bennünket ellenőrzés alá vonni.
 

***

A cikk a Pallas Athéné Domeus Educationis Alapítvány támogatásával valósult meg.