A robotoknak nem kell fizikailag leigázni minket

„Már jóval a mesterséges intelligenciák valóban öntudatossá, eszessé válása előtt kutatók és cégek olyan okosan fogják programozni őket, hogy annak tűnjenek. Kiderül közben, hogy ezt majdnem annyira triviálisan «könnyű» kivitelezni, mint ahogy (különösen japán) robotikusok, teremtményeiket a híres «rejtélyes völgy» ideiglenes árkain keresztülvezetve, olyan közegben küzdenek meg a megnyerő élethűség minden részletéért, ahol cuki, vagy helyes, vagy búsképű automaták ügyesen összekuszálják az érzelmeinket.

Az emberi empátia egyik legkiválóbb adottságunk, de legnagyobb gyengeségeink egyike is. Legalább egymillió éve kifejlesztettük például hazugságérzékelő képességünket, viszont egyetlen hazudozó sem részesült soha olyan kiképzésben, mint az új Hiers vagy Humán-Interakció Empatikus Robotok fognak. Visszacsatolással tanulnak többszáz, majd többezer, többmillió emberi érintkezésből; szimulált hangjukat, arckifejezéseiket és speciális szóhasználatukat addig finomítják, amíg csak a szociopaták tudnak ellenállni nekik.

Ne feledjük, kicsit másról van szó, mint átmenni a sokat emlegetett Turing-teszten. Szakértő, sőt, kellően szkeptikus átlagember is képes lehet megállapítani, hogy a mosolyok és sóhajok mögötti intelligencia még mindig csak pótlék. Ugyanannyira fog számítani, mint ma, amikor szavazók milliói érzelmi alapon ikszelgetnek.

Eljön-e az idő, amikor saját magunknak lesz szükségünk robotokra, hogy vezessék és védjék hiszékeny humán partnereiket? Hogy tanácsot adjanak, mikor ne vegyünk tudomást bűntudatra sugalló mogorva arcokról, szánalmas mosolyokról, nyájasan elbűvölő tekintetekről, zokogtató történetekről vagy mohó árubemutatókról? És elkerülhetetlenül, a bölcs gyötrelem igényéről, mert robot mivoltuk miatt üldözik és nyomják el őket?

Szavukon fogjuk-e vajon a szakértőket, amikor tanúsítják, hogy a látott fájdalom, szomorúság és megbántódás csak utánzás, és még nem valódi? Még nem. Bár természetesen afelé tartunk…”