Interjú: Az algoritmus nevében! – jogállami értékeket torzít az ítélkezés automatizálása

Az információs globalizáció és mesterséges intelligencia (MI) növekvő befolyása egyre erőteljesebben nyomja rá a bélyegét a mindennapokra. Véleménye szerint melyek ennek a technológiai fejlődésnek a legjelentősebb társadalmi hatásai?

Nem gondolom azt, hogy az MI idézi elő a legjelentősebb változásokat a társadalomban vagy a jogban. Az MI csak a technológiai fejlődés legutóbbi csúcsát jelenti. Viszont az Ön által is említett információs globalizáció alapvető változást hozott azzal, hogy lehetővé teszi az információ digitális formában való megjelenését. A történelem korábbi korszakaihoz képest a legnagyobb különbség abban áll, hogy az infrastruktúrák építése a digitalizáció eredményeként lényegesen olcsóbbá és egyszerűbbé vált. Emellett szintén fontos különbség, hogy a digitalizáció eredményeként nem-állami szereplők is hatalmi centrumokká váltak az információs társadalomban.

És hogyan látja akkor mindebben az MI szerepét?

Az MI legnagyobb előnye, hogy nagy mennyiségű információnak gyorsan, hatékonyan és olcsón képes értelmet adni. A jog pedig igencsak adatérzékeny terület, gondoljunk csak a nagyszámú jogszabályra és bírósági döntésre. Ennek dacára mégis úgy vélem, hogy az orvostudomány, illetve az ahhoz hasonló területek fogják az MI legnagyobb hasznát venni. Kétségtelen ugyanakkor, hogy különös kihívásokat vet fel az MI-nek és az algoritmikus döntéshozatalnak a jogi vagy politikai döntéshozatalba, vagy más hasonló alapvető jelentőségű társadalmi rendszerekbe történő integrációja. Az MI felhasználása éppen ezért sokkal inkább aggályos ezeken a területeken, mint például az üzleti világban.

Melyek az algoritmikus döntéshozatal lehetséges hatásai a jogi szakmában, illetve magában a jogban? Milyen előnyökkel jár, és milyen hátrányai vannak egy ilyen technológia bevezetésének a jogi szolgáltatások piacán, valamint a bírói és ügyészi döntéshozatal terén?

Úgy vélem, hogy az emberek ugyanezt a kérdést tették fel az 1970-es és ’90-es évek között, amikor a technológia hasonló jelentőségű befolyásra tett szert a jogi szakmában. Nyilvánvalóan számos előnyt kínál, hiszen a favágó jellegű vagy unalmasnak tűnő munkákat automatizálhatja. Ezzel pedig lehetőséget ad a jogászoknak ahhoz, hogy magasabb színvonalon és gyorsabban dolgozzanak, éppen úgy, mint ahogyan a Microsoft World a szövegszerkesztés elterjedésével ugyanerre kínált lehetőséget évekkel ezelőtt. Engem kevésbé aggaszt, hogy az ügyvédi irodák teljesítménye, munkája hogyan változik. Egy magánszférában dolgozó jogász éppen úgy hasznát látja ezeknek a kutatási és elemző eszközöknek, mint egy könyvelő vagy egy biztosítási cég alkalmazottja vagy ügynöke.

Maga az algoritmikus döntéshozatal viszont sok kérdést vet fel. Aggasztónak tartom az algoritmikus rendszerek közhatalmi döntéshozatalban való felhasználását. Észtország próbálkozik ezzel, amikor a 7000 euro pertárgyérték alatti polgári jogi ügyekben úgynevezett „robotbírók” eljárását teszi lehetővé. De ebbe a körbe vonhatók a biztosításkötési igények, valamint az iskolai és állásjelentkezések elbírálásai is. Az algoritmikus döntéshozatali rendszerek ezekben az esetekben az üzleti vállalkozások által összegyűjtött és rendelkezésükre bocsátott információk alapján maguk döntik el, hogy az emberek milyen munkahelyhez és milyen lehetőségekhez juthatnak, vagyis lényegében egyfajta „közvetítő szerepet” töltenek be az egyének és a társadalom között.

Hogyan vélekedik az észtek „robotbíró” kísérletéről?

Az elmúlt évben, amikor útjára indították ezt a programot, ellátogattam Észtországba. Kutatóként akkor is az a kérdés lebegett a szemem előtt, hogy milyen körülmények között látnánk elfogadhatónak ezeket az algoritmikus rendszereket. Ez még abban az esetben is dilemmát jelent, ha kiszámíthatóan működnek. Milyen feltételek mellett barátkoznánk meg az ilyen rendszerek alkalmazásával? Úgy vélem, a legtöbb ember egyetért abban, hogy kényelmetlenül éreznénk magunkat, ha egy „robotbíró” mondana ítéletet sorsunkról a büntetőbíróságon, egy családjogi ügyben vagy éppen emberi jogi kérdésekben. Miért is akarjuk, hogy ezekben a kérdésekben továbbra is hús-vér emberek döntsenek? Milyen területeken gondoljuk úgy, hogy összetett erkölcsi megfontolások miatt az algoritmikus rendszereket soha nem kellene használni vagy használatuk legfeljebb nagyon szigorú korlátok között lehetne megengedett? Azt gondolom, hogy ez az az alapvető kérdés, amit ideszerű feltenni.

Ön ehhez a kérdéshez kapcsolódóan egy egyetemi kutatási projektet is vezet. El tudná magyarázni a projektben megfogalmazott küldetést és a fő célkitűzéseket?

A kutatási projekt előkérdése, hogy mit is jelent az, ha a jog számíthatóvá válik. Vagyis mennyire tudunk olyan számítógépes rendszereket tervezni, amelyek nemcsak a jogi érvelés nyelvezetét ismerik, hanem ezt a nyelvezetet használni is tudják, képesek azt alkalmazni a jogi környezetben. Ezen a technológiai kérdésen túl pedig számba kell vennünk egy jóval összetettebb jellegű politikai kérdést is. Még ha a technológiai lehetőségek adottak is, miért és milyen feltételek mellett akarjuk, hogy ezeket a döntéseket algoritmusok hozzák meg? Hol kell a határt meghúzni, és megtiltani az algoritmusok használatát a döntéshozatalban?

Álláspontom szerint ennek a kérdésnek a megválaszolása lakosság megkérdezését és az emberek bevonását igényli – különösen itt nálunk, a „Brexit földjén”. Úgy vélem az a fontos, hogy minden esetben a bírók és bíróságok szerepét, valamint az emberi döntéshozatal minőségének javíthatóságát vizsgáljuk ahelyett, hogy csak egyszerűen hatra dőlve legyintenénk, hogy a számítógépek majd úgyis elvégzik helyettünk a munkát.

Véleménye szerint számolni kell azzal a veszéllyel, hogy az algoritmikus döntéshozatal meghatározó szerepre tesz szert a vitarendezés, sőt még a jogalkotás terén is? Hol lehet egyáltalán meghúzni a határt aközött, hogy egy algoritmikus döntéshozatal javítja vagy pedig át is veszi a döntéshozó szerepét a jogban?

Ez egy izgalmas kérdés. A filozófiának és a szociológiának az egyik legalapvetőbb kérdései közé tartozik, hogy hol húzzuk meg a határt saját magunk lényege és aközött, ami csak kiegészít bennünket. Vegyük példaként a számológépet. Nyugodtan mondhatjuk, hogy a számológép erőt ad nekünk, ugyanis kiegészíti ismereteinket és képességeinket. Ugyanakkor, ha valami nemcsak kiegészíti, hanem ki is képes váltani az emberi ismeretet, akkor az már egy egészen különböző helyzet. Ez a kérdés pedig közel sem csak filozófiai értelemben jelentős. Így például a 19. század elején végbemenő ipari forradalom, különösen itt, az

Egyesült Királyságban, rendkívül súlyos következményekkel járt. Mihelyst gépek vették át a termelést, kiváltva ezzel az emberi munkaerő szükségletet, az emberek arra döbbentek rá, hogy a gépek az olyan aprólékos és fárasztó munkát is jobban, gyorsabban és költségtakarékosabban végeztek el, mint például a ruhafonás vagy a szövés. Vagyis az ipari forradalom az emberi munka fizikai részét nagyrészt feleslegessé tette. A gépek pedig azóta is az embereknél jobban képesek számítani, mozgatni, építeni és számos más feladatot is elvégezni. Ugyanakkor, ahogyan Ön is utalt rá, az MI egy eltérő jellegű kihívást jelent. Az MI a kognitív képességek, vagyis a szellemi munka automatizálására alkalmas. Vagyis a kérdés az, hogy hol is húzzuk meg a határt aközött, ami segíti kiterjeszteni a szellemi képességeinket, illetve aközött, ami egyenesen kiváltja azt? Ez a dilemma, úgy vélem, alapvetően filozófiai gyökerű, de egyúttal felhívja a figyelmet arra, hogy a fejlődés milyen közvetlen fenyegetést jelent a demokráciákra és a normaalkotásra.

Milyen tanulságokat érdemes levonniuk a közpolitika formálóknak?

Véleményem szerint a korábbi technológiai forradalmak tapasztalataiból lehet leginkább tanulni. Nem első ízben nézünk szembe a technológiai újítások jelentette kihívásokkal. Ugyanakkor az MI lehetővé teszi az emberi korlátok meghaladását a sajátos emberi képességeink kiváltása révén. Mikor az emberi döntéshozatal egyre több szeletét automatizáljuk, ami egyébként a jogállami értékek szívét jelenti, akkor végül is eltorzítjuk a jogállamiságot. A jogállam megszűnik, és azt is mondhatjuk, hogy helyébe a technológia uralma lép. Az emberi képességek „kiegészítése” és „kiváltása” közötti határvonal megértése éppen ezért kulcsfontosságú, és az általam vezetett projektben ennek a feltárásán dolgozom.

***

A cikk a Pallas Athéné Domeus Educationis Alapítvány támogatásával valósult meg.