A jövő okos gépei

„Biztos lehet morális megfontolásokat és döntéseket értékelő gépeket építeni, különösen, ha nagyon korlátozott kontextusról van szó. Sok különböző kontextusban viszont az adott helyzet teljes megértése kellene hozzá. Ehhez a gépeknek tudatossággal és más olyan képességekkel illene rendelkezniük, amelyekkel még nem foglalkoznak a számítógép- és robotfejlesztők.

A mélytanulásban elért eredmények a gépi érzékelés és tanulás több évtizedes problémáira adtak választ. De még mindig bizonytalan, hogy ezek a technikák meddig visznek el az MI Szent Gráljának keresésében, milyen más áttörésekre és akadályokra számíthatunk. Szóval nagy lépést tettünk előre. A mai rendszerek figyelemreméltó feladatokat hajtanak végre, viszont az okos gépek egyelőre primitívek, ha az alkalmazkodóképességekre gondolunk: bölcsességre, törődésre és kreativitásra.

A biotechnológia, az MI/robotika és az idegtudományok különösen érdekelnek, és a következő évtizedekben drámai hatással lesznek a társadalomra. A gyors DNS-szerkesztő eszköz CRISPR/Cas9 például megkönnyíti az emberi DNS módosítását, új organizmusok és biológiai termékek létrehozását. Azonban ha figyelembe vesszük a CRISPR és a szintetikus biológia más formáinak előnyeit és hozzávesszük az MI fejlődését, komoly kockázatokról és veszélyekről is beszélhetünk. Elsődlegesen e kockázatok, a kialakuló új technológiák társadalmi hatásainak kezelése foglalkoztat.

Intelligens gépek fejlesztésénél át kell gondolni a sok adottságot, amelyek nélkülözhetetlenek a megfelelő döntéshozáshoz. A teljesség igénye nélkül ezeket: érzelmi intelligenciát, közösségi készségeket, mások hitéből és szándékaiból való következtetés képességét, testtel rendelkezni, szavak és jelképek jelentésének megértését, a lényegtelen információból a lényeg kiszűrését, erkölcsi megfontolások iránti érzékenységet. Az ész önmagában nem elegendő a világban körültekintően cselekvő intelligens gépek létrehozásához.

A felelősséggel teli MI/robotikafejlesztések mellett kardoskodó néhány kutató aggodalma a mélytanulást használó áttörésekből felsejlő szuperintelligenciáig pusztába kiáltott szó volt csupán. Bízom benne, hogy ezek a megfontolások fontos szerepet játszanak a következő évek, évtizedek MI-fejlődésében. És még azokat a komoly kérdéseket is meg kell válaszolni, hogy az MI-rendszerek tényleg jótékonyak lesznek-e.

Elvetem az elkerülhetetlenséggel kapcsolatos vélekedéseket, a naiv techno-optimizmust, techno-pesszimizmust, leegyszerűsítő techno-megoldásokat.  Az embernek ébernek kell lennie a technológiai lehetőségek előnyeinek – a károk minimalizálása melletti – kihasználásánál.

A gépek már most hatással vannak az emberi értékekre. Az a tény, hogy intelligens gépeket alkothatunk kapcsolódik az emberi természetet gépiesítő és patologizáló tudományos tendenciához. Másrészt viszont a bonyolult morális döntést hozó gépek fejlesztési problémái kihangsúlyozzák, mennyire figyelemre méltó teremtmények is vagyunk mi emberek.”