A robotetikus dilemmái

Asimov törvényei az elméletben

Automatizáció, robotizáció és mesterséges intelligencia együtt formálják és alakítják át a közeljövő társadalmát. Az utóbbi években döbbenetes mértékben felpörögtek az ezirányú fejlesztések, lassan már a csapból is MI-k folynak…

A robotikai projektek jelentős része kifejezetten az ember-gép interakció javítását szolgálja, például időseket, betegeket segítenének ezek a gépek. Viselkedésükkel kapcsolatban viszont még most, a 21. század második évtizedének vége felé is Isaac Asimov első alkalommal 1940-ben megfogalmazott törvényeit tekintjük a morális kiindulópontnak – már ha egyáltalán valamit annak tekintünk –, a robotetika alapjainak. Ezeket a törvényeket egyébként még az író képzeletbeli gépei sem tartották be mindig…

De hogyan is hangzanak?

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lény utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznek.
3.  A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Amíg a robotjövő és a törvények a sci-fi kategóriába tartoztak nem problémázott rajtuk senki, az elmúlt 10-15 év fejlesztéseivel a robotika viszont eljutott addig, hogy manapság már nem sci-fi, hanem alkalmazott technológia és tudomány. Egyelőre a terület élenjárója, Japán sem tart ott, hogy a pontos szabályozásnak különösebb jelentősége lenne, de mindenképpen fel kell készülni a robotizált, teljesen automatizált társadalomra.

Ma főként annyiban, hogy ezek a szerkezetek már nemcsak futószalag mellett, az embertől elkülönítve dolgoznak, hanem közvetlen közelünkben is tevékenyek: mentési műveletek résztvevőiként (például az olaszországi földrengések után), rendőrségi, katonai munkába besegítve, idősekre vagy gyerekekre vigyázva stb. Minél közelebb kerülnek hozzánk, annál egyértelműbb, hogy Asimov legendás törvényei kivitelezhetetlenek.
Az európai uniós ACCOMPANY projekt idős személyeket független életük fenntartásában támogató robottársat fejlesztett. A fejlesztésben részt vett Tom Sorell, az angliai Warwick Egyetem robotetikusa is.

Asimov törvényei a mai gyakorlatban

Sorell szerint a törvényeket aktualizálni, frissíteni kell. Asimov úgy gondolta, hogy mivel a robotok a hétköznapi élet részévé válnak, belső programozásuknál meg kell oldani, hogy ne ártsanak az embernek. Törvényei morális értékeken alapulnak, csakhogy hangozzanak akármennyire szájbarágónak, nem könnyű értelmezni őket.

Robotok okoztak már sérülést embereknek, önvezető autók és más szerkezetek sajnos halálesetekhez is vezettek, úgyhogy a félelem részben jogos. Másrészt viszont egyre bonyolultabb tevékenységeket hajtanak végre, és ezekkel a tevékenységekkel minket őriznek, védenek.

Otthonokban, mentésnél dolgozó robotok azonban csak az egyik olvasat, merthogy ezek a gépek kevésbé békés célokra is felhasználhatók. Például sok ember által irányított katonai drónt terveztek arra, hogy távvezérelve öljenek meg embereket. Sorell érvelése rámutat az Asimov törvények ellentmondására, értelmezési problémáira: ha emberi irányító vezérli a gépet, hogy a támadó ellenség megölésével védje meg honfitársait, akkor nyugodtan elmondható, hogy a robot egyszerre be is tartja és meg is szegi az első törvényt.

„Ha ember vezérli a drónt, azt is lehet állítani, hogy a csatatéri helyzetben okozott haláleset az ő hibája, és nem a gépé. Sőt, hadseregekben azért használnak olyan sok drónt, hogy jelentős mértékben csökkentsék a halottak számát. Valószínűleg jobb, ha robotok és nem emberek játsszák el az ágyútöltelék szerepét” – magyarázza Sorell.

A törvények betartása idősekre vigyázó robotoknál sem egyértelmű. Az érintettek önálló életvitelének megőrzése a cél, tehát a gépnek tiszteletben kell tartania függetlenségüket. Független tevékenység végzése közben viszont kárt okozhatnak magukban. Mit tegyen ilyenkor a robot, hogyan tartsa be az első törvényt? Nézze tétlenül, hogy elesik a rábízott személy?

Sorell szerint az Asimov által nem említett autonómia szintén – emberek és robotok által egyaránt tiszteletben tartandó – kulcstényező. Ha az idős személy akár önveszéllyel is járó döntést hoz, a gépnek el kell fogadnia azt.

Robotika és etika egymástól távolinak tűnő területek. Az infokommunikációs technológia fejlődése és az automatizáció térnyerése viszont közelítette egymáshoz, majd közös nevezőre hozta őket. A robotizáció nemcsak elvesz, hanem teremt is állásokat, például robotetikusokat.

Asimov törvényei pedig valóban felülvizsgálatra, átértelmezésre szorulnak.