Mi történik, ha a robotok bedurvulnak?

„(…)

A mesterséges intelligencia felelősségének kérdése kifejezetten nehezen megoldható problémákat vet fel a jog területén, hiszen (…) nincs közvetlen emberi közrehatás a tevékenységében – a jogi felelősség kérdése pedig az emberi közrehatásra épül. Mindennek tetejébe pedig »az MI-rendszerek egyedülálló természete, továbbá technológia összetettsége, homályossága, kiismerhetetlensége és nyíltsága« még nehezebbé teszi a kárfelelősség kérdését.

Vegyük egy önvezető által okozott baleset példáját. A balesetet okozhatta konstrukciós és szoftveres hiba is, utóbbi pedig akár egy a járműgyártótól független (...) szoftverfrissítésnek, (…) de ugyanígy hibás adatfeldolgozásnak is betudható.

(…)

Természetesen nem a teljes mértékben önvezető autók vetnek fel problémát. A legtöbb új autóban már félautomata vezetéssegítő technológia működik; ilyen a tempomat, a parkolási automatika, a sávelhagyó asszisztens, az automatikus vészfék. Ezek a technológiák még összetettebbé tehetik a felelősség kérdését.

Az Európai Bizottság jelentése az összehasonlítás céljából három tárgykört vizsgál: az önvezető autókat, az automata mezőgazdasági rendszereket és a drónokat. Kiemeli azonban, hogy a mesterséges intelligencia a személy- és vagyonbiztonság tárgykörein túl is képes kárt okozni. Képes például diszkriminatívan viselkedni, illetve személyiségi jogokat is sérteni például akkor, ha büntetőpolitikai, vagy kereskedelmi célokra használják.

A mesterséges intelligencia a jogászszakmába is kezd beszivárogni. Az ügyvédi irodákban például dokumentumszerkesztésre, társasági átvilágításra, (…), kutatásra, valamint arra használják, hogy megjósolja egy-egy peres ügy győzelmi esélyeit.

Hiba esetében pénzügyi és egyéb következményekkel is számolni kell. Mégis, mi, jogászok aligha tudunk valamit (…) az általunk használt rendszerekről.

(…)

Meglepőnek találom, hogy a problémafelvetéseket orvosló szakképzés nem kötelező minden ügyvéd számára. Álláspontom szerint nem elég azt várni az ügyvédektől, hogy pusztán tudjanak azokról a dolgokról, amelyek alkalmazására ki kellene képezni őket.

(...)”