Autonóm fegyverrendszerek emberi felügyelet nélkül: biztosan ez a helyes döntés?

A bevetés a DARPA (Egyesült Államok Védelmi Minisztériumának kutatásokért felelős részlege) Pentagon, kék égbolt kutatási részlege által szervezett gyakorlat volt. Ez egyike volt azon tavalyi gyakorlatoknak, melyek során azt vizsgálták, hogyan képes a mesterséges intelligencia segíteni az automatizálás kiterjesztésében, beleértve azokat a forgatókönyveket is, melyek túlságosan összetettek és gyorsak ahhoz, hogy az ember minden esetben képes legyen jól dönteni. 

Az amerikai légierő múlt heti konferenciáján Micheal Kanaan, a Massachusettsi Műszaki Egyetem (MIT) Air Force Artificial Intelligence Accelerator műveleti igazgatója elmondta, hogy a mesterséges intelligencia e területen való alkalmazása még jelentős fejlesztésre szorul, például a lehetséges célpontok megkülönböztetésében. Ezért is bizonytalan az a kérdéskör, mely azt vitatja, hogy vajon el lehet-e távolítani egy ilyen halálos fegyverként is alkalmazható rendszer mellől az emberi döntéshozást. 

Kié legyen a döntés joga?

Az Egyesült Államok mellett már több nemzet alkalmazza fegyverrendszereiben az autonómiát. Most pedig eljutottunk oda, hogy AI algoritmusok gyors fejlődése megkérdőjelezi az ember szerepének fontosságát. 

Ez a kérdéskör problémásnak bizonyulhat, hiszen bármennyire is intelligens egy ilyen algoritmus, gyakran kiszámíthatatlanul viselkedhet. Például egy adott egyenruha felismerésére kiképzett algoritmus tévesen célozhat meg olyan személyeket, akik hasonló ruhát viselnek. Ez a fő oka annak, hogy a mesterséges intelligencia fegyverrendszerekben való alkalmazása az utóbbi években jelentősen megosztóvá vált.A Védelmi Minisztérium még 2012-ben kiadott egy autonóm fegyverek használatáról szóló irányelvet, miszerint az autonóm fegyverrendszereknek mindenképpen emberi felügyelet alatt kell állniuk.

Tegmark úgy véli, a mesterséges intelligencia fegyvereit ugyanúgy be kellene tiltani, mint a biológiai fegyvereket. S bár csodálatos a technológiai fejlődés, amin ez a terület átesett, egyszer még megbánhatjuk, hogy robotok kezébe adjuk mások életéről vagy haláláról való rendelkezést.

A cikk szerzője Pál Fanni.