Asimov jogállamában nem hollandul beszélnek

Dobozi Gergely írása a Mandiner hetilapban.

„A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen” – szól a robotika első törvénye, amelyet a tudományos fantasztikum nagyja, Isaac Asimov fogalmazott meg Te hazug! című novellájában. Az éppen 2021-ben játszódó történetet a szerző 1941-ben írta, tudtán kívül újabb hátborzongató „jóslattal” gazdagítva a világirodalmat.

Ma, 2021-ben már csak egy hajszál választ el bennünket attól a ponttól, amikor a technológia lényegében önjáróvá válik. Utóbbiból kaptak ijesztő ízelítőt az elmúlt évtizedben azok a külföldi polgárok, akik családtámogatásban kívántak részesülni Hollandiában.

A hollandiai botrány a származási alapon diszkrimináló mesterséges intelligenciára épülő családtámogatási mechanizmushoz kapcsolódik, és két fontos tanulsággal is szolgál. Egyrészt rávilágít arra, hogy milyen sebezhetők is vagyunk a technológiával szemben, másrészt pedig megerősíti a nyilvánvalót: Hollandiának és a hozzá hasonló nyugati országoknak semmilyen erkölcsi alapjuk nincs arra, hogy Magyarország térdre kényszerítését emlegessék alapjogi vagy bármiféle egyéb jogállamisági kérdés kapcsán.

„Mikor az emberi döntéshozatal egyre több szeletét automatizáljuk, ami egyébként a jogállami értékek szívét jelenti, akkor végül is eltorzítjuk a jogállamiságot” – szögezte le rovatunknak a mesterséges intelligencia jelenét jól ismerő Christopher Markou, a Cambridge-i Egyetem jogászprofesszora. A mesterséges intelligenciával együtt járó úgynevezett feketedoboz-effektus ismeretében Markou szavai különösen élesen csengenek. A jelenség lényege, hogy a magát tanító mesterséges intelligencia már ma olyan döntésekkel, megoldásokkal tud előrukkolni, amelyeket már a fejlesztő szakemberek sem képesek megmagyarázni.

Ezzel kapcsolatban Frank Pasquale, a Brooklyni Jogi Egyetem jogász­professzora a Mandinernek májusban elmondta, hogy a döntéshozók a mesterséges intelligencia alkalmazásakor sokszor nem közvetlenül vizsgálnak meg vagy döntenek el egyéni eseteket, ehelyett képletet vagy szabályt készítenek, amely a személyeket lényegében egy – gyakran pontatlan – adathalmazzal teszi egyenértékűvé.

A szellem neve: Toeslagenaffaire

Ha a palackjából kiszabadult szellemként viselkedő mesterséges intelligenciának hirtelen nevet kellene találni, a Toeslagenaffaire magától értetődőnek tűnik. A kifejezés hollandul családtámogatási botrányt jelent. Egészen pontosan azt a botrányt, amelybe a liberális Mark Rutte holland miniszterelnök harmadik kormánya idén januárban belebukott. Megjegyzésképpen: arról a Mark Ruttéről beszélünk, aki a bukást követő hónapokban emberi jogi kérdésekben akarta térdre kényszeríteni Magyarországot.

A holland adóhatóságot éveken keresztül pontosan olyan algoritmus „segítette”, mint amilyentől Markou professzor óva intette a jogállamokat. Egy 2013-as módosítás után ugyanis az adóhatóság egy újfajta, komplex kockázatelemzésre specializálódott algoritmus alkalmazásába kezdett. Az algoritmus az általános uniós adatvédelmi rendelettel (GDPR) ellentétes módon profilalkotásra is képes volt, kapásból kockázatosnak minősítve a nem holland kérelmezőket. A hatóságok automatizált profilalkotását éppen a fent említett feketedoboz-effektus tette még hatékonyabbá.