Morálisan cselekvő gépek?

Autonómia és felelősség

Az új, erőteljes hálózatokat alkotó rendszerek előbb-utóbb mindenképpen megvalósítják az autonóm cselekvést, sőt – megítélés függvényeként –, egyesek már ma is valami olyasfélét tesznek… Morális értelemben viszont még jócskán távol állnak bármiféle, a legmegengedőbben értelmezett autonómiától is.

Egyre fontosabb a manapság sokat feszegetett felelősség kérdése: míg a problémával korábban szinte kizárólag elméleti síkon, kissé sci-fiszerűen foglalkoztak, napjainkban azonban már nemcsak a mesterséges intelligencia, hanem – mivel komputereink egyszerű eszközökként és részben autonóm gépekként egyaránt felfoghatók – az információs társadalom „konkrétabb” jelenségeivel, például a hálózatisággal vagy az adatfeldolgozással kapcsolatban szintén felmerül. Valójában mindig a megoldandó feladat jellege dönti el, hogy a gépet adott célra optimalizált eszköznek vagy univerzális szerkezetnek, de egyelőre azért inkább az előbbinek tekintjük.

Géplelkek

Optimalizált eszköz és univerzális szerkezet összehasonlításához viszont meg kell különböztetnünk egymástól cselekvést és viselkedést.

A cselekvés főként rutinszerű, ismétlődő, mechanikusan végrehajtható feladatok sora (és még így is teljesen más a gépi és az emberi), utóbbinál azonban a – robotokra és egyéb infokommunikációs rendszerekre még nagyon nem jellemző – tudatosság a meghatározó szempont. A tudatosságon, a „színtiszta” elmén és gondolkodáson túl, az érzelmek és a motivációk is döntő mértékben alakítják a viselkedést.

A mesterséges intelligencia csak (feltételezzünk róla akármit is) a „lélekkel” együtt válhat tényleges intelligenciává. Vice versa: azért építünk gépelméket, hogy a bennünk lejátszódó pszichológiai folyamatokat másoljuk le, értsük meg jobban, miközben a lélek karakterjegyeiről is újabb információkkal gazdagodunk. Megfelelő szoftverekkel ellátott számítógépek képesek tényekről „gondolkozni”, döntéseket hozni, vannak céljaik. Sokkal nagyobb kihívás például olyan robotokat fejleszteni, amelyek félnek, pontosabban – jelenállás szerint – tökéletesen szimulálják a félelmet.

Mikor lesznek a szellemgyermekeink?

A szakterület egyik újítója és meghatározó szereplője, Rodney Brooks szerint tíz-tizenöt év múlva a maiaknál ezerszer hatékonyabb számítógépekkel – robotokkal – fogunk rendelkezni. Tervezésüknél négy főszempontot kell figyelembe venni: (félelmeket generáló) esetleges önálló reprodukciójukat, érzelmeket, túlélési „ösztöneiket” (az önálló újratöltés képességét), az emberi vezérlés megszűnését.

Fizikai és mentális adottságainkat igyekszünk reprodukálni bennük.

Ma viszont még felettébb egyszerű „elmék”, autonómiájuk döcög, távolról sem azok a posztbiológiai létformák – szellemgyermekeink –, melyeknek a Carnegie Mellon Egyetem vizionáriusa, Hans Moravec megálmodta őket.

Humanoid és nem humanoid robotok

Autonómiájuk a legfejlettebb esetekben is csak egyes állatokhoz hasonlítható. Azzal a nem elhanyagolható kitétellel, hogy egyelőre termékek, és nem szubjektumok.

Már az ipari forradalom első bonyolultabb gépei, például a szövőszékek is a (különböző) emberi cselekvések reprodukciói voltak, és a helyzet azóta sem változott.

Kompetenciáink modellezése és szimulálása által teremtődnek… Azért tervezzük őket, hogy speciális, az ember számára unalmas, nehéz körülmények között végrehajtható feladatokat kivitelezzenek.

De miért akarnánk univerzális, mindentudó robotokat, amikor munkájukat – a kellemesebbet – mi magunk is el tudjuk végezni? És miért gondoljuk változatlanul, hogy a hasznossághoz humanoid küllemmel kell rendelkezniük? Holott az igazán praktikus – nemcsak média-szenzációszámba menő – robotok zöme egyáltalán nem hasonlít ránk.

Határsértés utáni határok

A jelenség másik oldala: a Homo sapiens testrészei fokozatosan kibernetikus-mechanikus megfelelőkkel helyettesíthetők. Idővel talán az összes.

Ám még akkor sem válunk mesterséges lénnyé, androiddá vagy éppen robottá. Identitásunk módosul, de lényegileg ugyanaz marad. Hiába mosódnak el a természetes és a mesterséges közötti különbségek, a klónozott, genetikailag módosított, gépi beültetésekkel megváltozatott ember belátható ideig legalábbis ugyanúgy ember marad, mint ahogy a különböző kognitív funkciókkal, ember-küllemmel rendelkező robot sem lép - még - túl robot mivoltán.