Terminátor-forgatókönyv?

„A jövő számítógépei úgy nézhetnek ki, mint egy gélt tartalmazó kicsi edény, poharas joghurthoz hasonló méretben. Régóta azt gondolom, hogy baktériumok belsejében is készíthető elektronika, a baktériumok pedig alkalmasak elektronikus alkatrészek szaporítására.

Az okos joghurt különféle elektronikus és technológiai építőelemek fejlesztésére használható. A technológia 2050 előtt valósulhat meg, és sok számítási eszköz chipjeit erre a gél-féle anyagra cserélik le, mert a hagyományos chipek sokkal kisebbek már nem lehetnek, és sokkal több információt sem tudnak tárolni. Szintetikus idegsejtek trillióit pakolhatjuk a szabadabban áramló gélbe, amelyek csak a pontos szerkezetbe rendeződésre várnak, hogy agyként működhessenek.

Egy pohár joghurtban nagyjából annyi IQ lehet, mint egész Európában. Ennyire gyorsabbak lehetnek a komputerek. És most nem az emberrel azonos kapacitású gépekről beszélek, ami valószínűleg megtörténik a következő tíz évben.

Ennyi számítási kapacitás ilyen kis méretben nem lehet kockázatmentes. Nagyon kellemetlen, Terminátor-forgatókönyv következményei is lehetnek a számítógépek társadalomba integrálódásának és a mesterséges intelligencia további fejlődésének. Még ha a robotok nem is lázadnak fel Mátrix-mintára, erőszakosan és egységesen, akkor is kockázatos az embernél milliószor intelligensebb gépeket fejleszteni.

Ha a számítógép 100 milliószor okosabb nálunk, nagyjából ugyanaz az eset áll fenn, mintha a kertben lévő legostobább hangyához hasonlítanánk magunkat. És a hangyáktól sem kérünk engedélyt, hogy továbbépítsük a házunkat, vagy lenyírjuk a füvet. Nem tényezők számunkra. A veszély abban rejlik, hogy a gépnek nem kell rosszindulatúnak lennie, hogy ne vegyen figyelembe minket.”