Naiv dolog, hogy emberszerűnek képzeljük a szuperintelligenciát

„A regényt utópiaként definiálja. Tényleg egy mesterséges intelligencia által irányított világ a legeszményibb?

Az evolúcióban olyan folyamatok zajlanak, amelyek ebbe az irányba mutatnak, és ez teljesen független attól, hogy valaki leül egy számítógép elé, hogy egy MI-t készítsen. Minden nagy evolúciós lépésnél a sejtek, a többsejtű szervezetek, az emberi társadalom kialakulásánál durván ugyanazok az események következtek be: az alkotóegységek kommunikálnak egymással, szabályozott folyamatok jelennek meg, és kialakul egy magasabb egység, ami igyekszik védekezni és fenntartani magát. Az ember és minden más többsejtű állat rendkívül bonyolult, agyonszabályozott rendszer. A társadalom fejlődése is ebbe az irányba tart. A szabályozás elemi feltétele, hogy az alkotórészek gyorsan kapcsolatba tudjanak lépni egymással. Amikor 300 évvel ezelőtt kitört egy háború, volt, aki csak évtizedek múlva értesült róla. Ma ott a mobiltelefon, az internet, minden eseményről pillanatok alatt értesülhet az egész bolygó, tehát megvan a lehetőség, hogy minden alkotóegység villámgyorsan elérje a másikat. Ez egyik feltétele az egységgé válásnak, az önszervezésnek és az intelligenciának is, és ez már most is működik magától. A kérdés, hogy hogyan illeszkedik ehhez az, amit az ember tudatosan csinál. Mondhatjuk, hogy veszélyes az egész, és állítsuk le az internetet, de ez lehetetlen.

A folyamat tehát megállíthatatlan?

Nemcsak megállíthatatlan, de gyorsuló is. Az én 80 évem alatt rettenetesen gyors volt a változás, és feltehetően tovább gyorsul majd, hiszen számos olyan problémát kell megoldania, mint a környezetszennyezés és a klímaváltozás, amit egy ilyen nagy rendszer már érzékel. Az érzékelés nemcsak azt jelenti, hogy valaki egy műszerrel kimutatja, hanem azt is, hogy a populáció nagy része is tud róla. Mindenki sejti, hogy rosszul csináljuk a dolgokat, tönkretesszük a bioszférát, gyorsítjuk a klímaváltozást és ebből baj lesz, a pillanatnyi helyzet egy szuperintelligencia után kiált, ami globális szinten is képes összehangolni a különböző folyamatokat. Nem kell feltétlenül személyiséggel bírnia, én egy olyan változatot írtam meg, ahol azzal rendelkezik. Mindenki attól fél, hogy ha személyiség nélkül indítjuk el, akkor rosszindulatúvá válik, mert azt gondolja majd, hogy független, és a saját érdekei a legfontosabbak.”