„A legtöbb mai mesterséges intelligencia mélytanulással (deep learning) működik: megkap egy adatsort és az óhajtott kimenetet, amelyek alapján létrehozza az algoritmust, és azzal oldja meg a feladatot. A rendszer ismétli, fenntartja magát; ez az idegháló. Mindenképpen ezzel a módszerrel kell MI-t alkotni, mert a számítógép gyorsabban kódol, mint az ember, kézi kódolással életünk végéig vagy még tovább tartana.
Ha nagyon kicsi az idegháló, talán megértjük. De ha nagyra nő, és többszáz rétegből, rétegenként többezer egységből áll, érthetetlenné válik. Ma már eljutottunk ezekig az óriásrendszerekig. Hogyan értsük meg őket? Mindenképpen meg kell, mielőtt megbízunk bennük.
Első módszer az algoritmusok visszafejtése. A képfelismerésben ez azt jelenti, hogy a gépet a megtanult minta felismerésekor képalkotásra vagy módosításra programozzuk. A Deep Dream az Ádám teremtése megváltoztatásánál azt az utasítást kapta, hogy tegyen a képre kutyákat, ha felismeri valahol az állatot. Innen tudjuk meg, mit jelent az MI számára a kutya.
Az MI által használt adat azonosítása egy másik módszer. Megadjuk neki a felismerendő mintát, aztán részleteket rögzít, szakaszokat emel ki a szövegből.
A harmadik módszer egy-egy idegsejt folyamatos figyelése. Mérik, hogy melyik kép stimulálja leginkább. Ezzel az eljárással dedukció útján tudjuk meg, mit keres leginkább.
Ezek a módszerek sajnos nem hatékonyak, úgyhogy még nagyon messze járunk a teljesen megmagyarázható mesterséges intelligenciától. Pedig kellene ismerni a működésüket, mert már köztünk vannak, életünket befolyásoló területeken dolgoznak. Addig meg sem bízhatunk bennük, amíg nem tudunk mindent róluk, csak reménykedhetünk, hogy nem követik el ugyanazokat a hibákat, mint mi. Persze egyelőre még az emberi döntéshozást és tudatosság is titokzatos, és a világ ezért is érdekes hely.”