Eljön-e a technológiai szingularitás?

„Mi van akkor, ha létrejön egy MI, továbbfejlődik, rövid idő elteltével óriási intellektuális fölénnyel fog rendelkezni, de ezt a leglogikusabb módon használja fel? Tudását, intelligenciáját se az emberi faj szolgálatába, se ellene nem fogja fordítani. Egyszerűen csak nem foglalkozik az emberi tényezővel, mert nem tart bennünket fontosnak.

Helyette a saját céljait követi.

Kezdetben talán valóban az embertől kapott alapokból indul ki, lehet, hogy szeretni, lehet, hogy gyűlölni fog bennünket, de egy biztos: fejlődni fog, méghozzá gyorsan, és könnyen elképzelhető, hogy gyorsan túllép ezeken. Vajon ekkor mit fog akarni?

Például megérteni és felfedezni, amit még nem ért. Például megérteni az univerzumot. Mert miért érdekelné a Föld és mi, emberek, a kicsinyes gondolkodásunk, korlátozott képességeink, amikor ennél sokkal fontosabb és izgalmasabb kérdésekre keresheti a választ?

Az is lehet, hogy az MI-k révén egyúttal eljön a csillagközi űrutazás aranykora: ha az MI-k menni akarnak, hogy felfedezzék a világűrt, akkor talán felkéredzkedhetünk az általuk épített csillaghajóra, talán nem jelent nekik nagy problémát, hogy az első emberi felfedezőket is magával vigyék. Persze, lehet, hogy mire ide eljutunk, már nem is akarnak velünk kommunikálni. Miért akarnának? Mi érdekeset tudnánk még nekik mutatni?

Vajon egy MI-nek lesznek érzései, és ha lesznek, biztos, hogy emberi érzések lesznek azok? Nem fog ebben is tovább fejlődni, magasabb szintre jutni, vagy csak teljesen más irányba eltérni? Tisztelni fog bennünket, lojális lesz hozzánk? Programozás kérdése, mondhatnánk, de egy önfejlesztő MI esetében erre a kérdésre nem biztos, hogy ez hihető válasz.

Reménykedhetünk, hogy támogatni fog bennünket, de könnyen elképzelhető, hogy amint képessé válik rá, elhagyja a Földet, és elindul a világűrbe, az új titkok, rejtélyek felé, megismerni azt, amit még nem ismer.

Mi pedig csak nézhetjük, ahogy a gyermek kirepül, és magunkra hagy bennünket a problémáinkkal és a vágyainkkal, amelyek megoldását, teljesítését mind tőlük vártuk volna a remélt technológiai szingularitás eljövetelével.”