Ezzel kapcsolatban Frank Pasquale, a Brooklyni Jogi Egyetem jogászprofesszora a Mandinernek májusban elmondta, hogy a döntéshozók a mesterséges intelligencia alkalmazásakor sokszor nem közvetlenül vizsgálnak meg vagy döntenek el egyéni eseteket, ehelyett képletet vagy szabályt készítenek, amely a személyeket lényegében egy – gyakran pontatlan – adathalmazzal teszi egyenértékűvé.
A szellem neve: Toeslagenaffaire
Ha a palackjából kiszabadult szellemként viselkedő mesterséges intelligenciának hirtelen nevet kellene találni, a Toeslagenaffaire magától értetődőnek tűnik. A kifejezés hollandul családtámogatási botrányt jelent. Egészen pontosan azt a botrányt, amelybe a liberális Mark Rutte holland miniszterelnök harmadik kormánya idén januárban belebukott. Megjegyzésképpen: arról a Mark Ruttéről beszélünk, aki a bukást követő hónapokban emberi jogi kérdésekben akarta térdre kényszeríteni Magyarországot.
A holland adóhatóságot éveken keresztül pontosan olyan algoritmus „segítette”, mint amilyentől Markou professzor óva intette a jogállamokat. Egy 2013-as módosítás után ugyanis az adóhatóság egy újfajta, komplex kockázatelemzésre specializálódott algoritmus alkalmazásába kezdett. Az algoritmus az általános uniós adatvédelmi rendelettel (GDPR) ellentétes módon profilalkotásra is képes volt, kapásból kockázatosnak minősítve a nem holland kérelmezőket. A hatóságok automatizált profilalkotását éppen a fent említett feketedoboz-effektus tette még hatékonyabbá.
A rasszista algoritmus éveken keresztül segítette a holland hatósági döntéshozatalt”