Mesterséges intelligencia: isteni vagy ördögi erő?

„Minden szemszögből tanulmányozni kell az MI rövid- és hosszútávú következményeit. A Központban számítástudományi szakemberek, filozófusok, társadalomtudósok és mások vizsgálják az MI kapcsán az emberiség számára ebben a században felmerülő technikai, gyakorlati és filozófiai kérdéseket.

Az MI nagyon fontos szerepet fog játszani a gyerekeim generációja életében, és remélhetőleg pozitív irányban változtatja meg a világot. Izgalmas a lehetőség, hogy a maiaknál sokkal kifinomultabb MI-t fejleszthetünk. Pont olyan izgatott vagyok, mint amikor gyerekként olvastam Asimovot vagy a 2001 – Űrodüsszeiát, de közben azt is kell figyelnem, hogy mit jelenthet társadalmi és filozófiai szemszögből.

Az utóbbi 10 évben főként az emberi agyműködés megértésén dolgoztam. Az agy hálózatait utánzó kódot fejlesztek, és így képes leszek közvetítő szerepet játszani a Központ technikai és társadalmi/filozófiai kutatásai között.

Őszintén szólva, nem tartom helyesnek, ha sci-fikből indulunk ki az MI hosszútávú hatásaival kapcsolatban. A sci-fik hajlamosak emberként megjeleníteni, emberként kezelni a közben ördögi szerepet játszó MI-t. Sztorinak jó, de nem segít elgondolkoztatni az általunk fejlesztett technológiáról. Még egy nagyon értelmes MI-nek sem kell feltétlenül emberszerűnek lennie. Inkább utasítást követ, amivel kivitelezhet egy speciális célt. Mivel intelligens, a kivitelezés összes aspektusát figyelembe veszi, és ennek lehetnek előre nem látható következményei.

A rövidtávú következményeknél már létező technológiákról, például önvezérlő autókról beszélünk. Nagyon fontos tudni, hogyan jut el egy gép a döntéshozásig, mert nem elég, ha csak a döntés hatásaival foglalkozunk. Intelligens gépek is hibáznak. Például az egyik képelemző program felismeri a nagymacskákat, megkülönbözteti egymástól a jaguárt, a leopárdot és a gepárdot. Egy jaguártakarós szófát viszont jaguárként azonosított. Az emberi felülvizsgálathoz és beavatkozáshoz vagy a döntéshozást megszakító alaptechnológiákat kell fejleszteni, vagy a létező programot fejtjük vissza.

Tegyük fel, hogy létrehozunk több szabadidőt és nagy jólétet biztosító megoldásokat. De milyennek akarjuk ezt a világot? Mitől tartalmas az emberi élet a munka utáni társadalomban?

Az emberi elme csak egy a Földön létező elmetípusok közül. Tételezzük fel, hogy velünk azonos szintű MI-t fejlesztünk. Bővül ezzel az elmék köre? Milyen következményei lehetnek az MI személyiségének és jogainak?

Most még könnyű ezen gúnyolódni, mert a legbonyolultabb MI elméje sem több a tósztsütőénél. Semmiféle értelemben nem rendelkezik tudatossággal, nincs tisztában a körülötte lévő világgal. A robotporszívó ugyan érzékeli és elkerüli az akadályokat, de nem gondolkodik rajta, nem cselekszik tudatosan. Egyelőre nem tudjuk, hogy emberi szintű értelem beágyazható-e egy MI-be, és ha igen, akkor hogyan. Viszont hibáznánk, ha úgy állnánk hozzá, hogy a jelenlegi kutatások végeredménye nem lehet értelmes MI.”