Jövődilemmák: kit ölhet meg egy önvezető autó?

Pár napja egy halálos gázolás híre járta be a világsajtót. Az arizonai Tempe városában március 18-án, vasárnap este egy Uber-terepjáró halálra gázolt egy, az úttestre hirtelen lelépő, a biciklijét toló gyalogost. Könnyedén legyinthetnénk: nem kell Arizonáig menni egy halálos gázolás híréért, hasonlóval itthon is nap mint nap találkozunk. 

Az eset különlegességét azonban nem a baleset mivolta adta, hanem az, hogy ez volt az önvezető autó által elkövetett első halálos gázolás a világon. És bár önmagában bravúr, hogy az önvezető technológiákkal már évek óta élesben kísérleteznek, de „csupán” most történt meg az első gázolás, néhány alapvető morális kérdésre mindenesetre érdemes kitérni az új technológiával kapcsolatban. Hiszen tetszik vagy sem, pár évtized, és lépten-nyomon önvezető autókkal fogunk találkozni, vagy épp már mi fogunk bennük ülni.

***

Bevetésre kész, vagy gyermekcipőben jár?

De vissza az arizonai esetre. Arizona az önvezető autók tesztparadicsoma: az állam kormányzója még márciusban engedélyezte különleges rendeletben a teljesen önállóan közlekedő járművek használatát a közutakon, ennek megfelelően a techcégek beözönlöttek az állam útjaira. A most balesetező Uber mellett a Google, a General Motors, a Cruise és az Intel is tesztel Arizonában (bár az Uber épp emiatt leállította a tesztüzemet), többek pedig annyira optimisták, hogy 2020-ra teszik a tesztüzemből való kilépés időpontját.

Márciusban azonban megtörtént a baleset: a rendőrségi jelentések szerint a gyorsan hajtó (a megengedett 56 helyett 61 kilométer/órával haladó) Volvo XC90 terepjáró még csak nem is lassított, amikor a 49 éves, biciklijét az úttesten áttoló nő lelépett elé, és már a sofőrnek sem volt ideje reagálni. Ebben a helyzetben kényes szituáció a felelősség megállapítása: vajon az autót üzemeltető Uber, a volán mögött ülő, de ténylegesen nem vezető sofőr, vagy a figyelmetlenül – még csak nem is gyalogátkelőhelyen – az úttestre lépő áldozat-e a hibás.

Egyértelműen látni kell: bármilyen jó sofőr, vagy elektronika is vezérelje az autót,

ha pedig nem egy önvezető autóval történik, talán hír sem lesz belőle. Így az esetben nem is a gázolás a hátborzongató, hanem az, hogy az elektronika egyáltalán nem fékezett, tehát nem számított rá, hogy egy gyalogos abban a pillanatban az úttestre léphet.

Mivel az üzemeltető Uber még nem hozott nyilvánosságra részletesebb adatokat a balesettel kapcsolatban, egyelőre csak találgatni lehet, mi zavarhatta meg az egyébként igen kifinomultan működő beépített számítógépet. Kétségkívül problémát jelenthetett, hogy az áldozat nem a zebrán haladt, így pedig a szenzorok is nehezebben ismerik fel és azonosítják be a mozgó objektumot.

És bár a robotautók 360 fokban, számos szenzorjukon keresztül pontosan látják, mi veszi körül őket, bizonyos dolgokat mégis rosszul mérhetnek fel. Így lehetett ez az arizonai balesetkor is: szakértők szerint a szenzorok szinte biztosan felismerték a biciklijét toló hölgyet, de lehet, hogy mégsem érzékelték gyalogosként. Matthew Johnson-Robertson, a Michigani Egyetem professzora például úgy véli, az elektronika számára a valódi kihívás az emberek, autók, bokrok, papírtáskák és egyéb tárgyak közötti különbségtétel jelenti. Az incidenskor pedig

az elektronika számára, ami emiatt összezavarodhatott.

Ez az egyszeri eset nem azt jelenti, hogy az önvezető autók életveszélyesek lennének, de tény, hogy a technológia még gyermekcipőben jár. A gyalogosok pontos felismerése például máig probléma, ahogyan az extrém körülményekkel – hóval, jéggel, de akár esővel is – nehezebben birkózik meg a sofőr nélküli jármű, épp emiatt tesztelik őket a napfényes Arizonában.

Kell-e aggódnunk automata üzemmódban?

Messze még az alagút vége

Persze akár egy ilyen eset is elég lehet ahhoz, hogy erősen megossza a közvéleményt, amely még az Egyesült Államokban sem tudja hová rakni az új technológia látványát. Az amerikaiak 56 százaléka bár úgy jósolja, 10-50 év múlva tömegével jöhetnek az önvezető autók, jelen állás szerint csupán 44 százalékuk próbálná ki a technológiát, a maradék 56 százalék többnyire az abba vetett bizalom hiánya és a biztonsággal kapcsolatos fenntartások miatt ódzkodik e járművektől. 

Vannak természetesen az önvezetőket propagáló újságcikkek, vélemények is: a CNN vonatkozó cikke kiemeli, hogy a mostani 1 halálesethez képest tavaly az Egyesült Államok útjain a szövetségi adatok szerint mintegy 40 ezer halálos baleset történt,

Bart Selman, a Cornell University informatikaprofesszora szerint a technológia már most biztonságosabb, mint az emberi sofőrök valaha lesznek: jobban betartja a közlekedési szabályokat, nem hajt gyorsan, nem telefonozik vezetés közben, nem iszik vagy alszik el, és jobban, éberebben meglátja az akadályokat.

A fentebb is említett, egyébként a Ford önvezető autó-rendszerén is dolgozó Johnson-Robertson már árnyaltabban látja a képet. Ő kifejtette, olyan városban él, ahol az amerikaifutball-meccsek idején sok részeg egyetemista mászkál, ezért ilyenkor tudatosan lassabban vezet. „Ezek olyan emberi döntések, amiket az előrelátás miatt hozunk meg, erre pedig még az önvezető autók aligha képesek” – összegzett. Az elektronika pedig még sok tekintetben félkész, és nem érett meg a mindennapi használatra, ennek ellenére több gyártó is így küldi ki azt a mindennapokba tesztelni. Az ilyen lépések azonban alááshatják az önvezető autókba vetett – amúgy sem magas – bizalmat, és végső soron a piaci bevezetést is hátráltathatják.

Ön kit ütne el?

Persze ezek olyan dolgok, amik idővel kikupálódnak, mivel az autók számítógépes rendszerei rendkívül gyorsan fejlődnek és tanulnak.

Ugyanis a járművek problémáin nem csak a mesterséges intelligencia szakértői és robotikusok, hanem filozófusok is aktívan dolgoznak, akik arra akarnak rájönni, mik is lehetnek az új technológia etikai vonzatai.

A dilemma aktuálisabb, mint valaha

A legfőbb kérdést az úgynevezett villamosdilemma veti fel, ami a következőről szól: egy elszabadult vagon egy olyan vágányon halad, amire öt ember le van kötözve. Ha változatlan irányban halad, mindenképp halálra gázolja az öt embert, a váltó segítségével azonban egy másik vágányra is terelhetjük a vagont. Azonban azon a vágányon is fekszik egy lekötözött ember. A morális kérdés az, hogy a váltó használatával eltérítjük-e a vonatot, és megmentjük-e az öt ember életét egy áldozatért cserébe.

És bár a villamosdilemma erősen túlzónak tűnik, az önvezető járművek korában van valóságalapja. Itt a kérdés az, hogy egy baleset esetén az elektronika az autó tulajdonosát vagy valaki mást, másokat sodor majd veszélybe. Vagy egy baleset előtti pillanatban az úton elé kerülő különböző „áldozatjelöltekről” kell valahogy döntenie. Az eredeti felvetéstől eltérően ebben az esetben már nem a váltó kezelője, hanem

Gondolatkísérlet szintjén már a világ egyik legnívósabb műszaki egyeteme, a Massachusettsi Műszaki Egyetem (MIT) is eljátszott a problémával: ők még 2016-ban „Moral Machine” néven írtak egy programot, ahol az elektronika (vagy a váltókezelő) helyébe lépve mi dönthetünk: elütjük-e a piros lámpán áthaladó kisgyermekes családot, vagy az eredeti iránytól eltérve a szabályosan áthaladó nyugdíjasok csoportját gázoljuk el?

Hasonló projektbe fogott Nicholas Evans filozófus professzor és csapata is, akik az önvezető autók esetében felmerülő etikai problémákra írnak algoritmusokat a villamosdilemma alapján.

Ugyanakkor annak eldöntésére is többféle filozófiai iskola létezik, hogy miként cselekedjen a jármű: az utilitariánusok szerint minden élet ugyanannyi morális súllyal bír, mindezek alapján a program a gyalogosok életét is ugyanannyira tartja, mint a tulajdonosét. Vannak azonban akik úgy gondolják, a jármű bizonyos esetekben tulajdonosát részesítheti előnyben még akkor is, ha ezzel másokat sodor veszélybe. Egyszerűbben fogalmazva: félreránthatja-e az elektronika a kormányt, ha ezzel az autó ütközését elkerülheti, de egy gyalogos életét kockáztatja vele?

Erre Evans még nem tud választ adni, de úgy gondolja, kutatásának eredményei segíthetik mind az autóvásárlókat, mind a gyártókat a jövőben.

A jövő még rejtély 

Nemcsak a villamosdilemma vet fel problémákat. Kevés filozófus foglalkozik az önvezető autók további hatásaival, Patrick Lin az egyik közülük. Ő több olyan kérdést is feltesz, amikre a villamosdilemma nem ad választ. Például, kit terhel a felelősség egy baleset esetén? Ki a felelős, ha az autó úgy van programozva, hogy valakit veszélybe sodorjon? Avagy nőhet-e az alkoholfogyasztás azáltal, hogy már a volán mögött is lehet inni? De ami talán a legfontosabb, az a magánélet kérdése – hiszen bárhogyan is nézzük, 

folyamatosan figyelő, hallgatózó és mindent tudó számítógéppel.

Az új technológiának egész biztosan számos nem előre látható következménye lesz: „olyan ez, mintha az elektromosság hatásait próbáltuk volna megjósolni” – mondta Lin, kifejtve, hogy azt nemcsak a gyertyák felváltására használjuk, hanem annyi minden másra, amit Benjamin Franklin nem is gondolhatott volna. „A robotika és a mesterséges intelligencia is hasonló” – mondta Lin, utalva arra, hogy csakúgy mint az elektromosság esetében, az önvezető autók térhódítása is elkerülhetetlen.