Autonóm fegyverrendszerek emberi felügyelet nélkül: biztosan ez a helyes döntés?

2021. május 29. 16:33

Tavaly augusztusban több tucatnyi katonai drón és tankszerű robot állt munkába, hogy felkutassák a Seattle-től majdnem 65 kilométerre az épületek között rejtőzködő terroristákat.

A bevetés a DARPA (Egyesült Államok Védelmi Minisztériumának kutatásokért felelős részlege) Pentagon, kék égbolt kutatási részlege által szervezett gyakorlat volt. Ez egyike volt azon tavalyi gyakorlatoknak, melyek során azt vizsgálták, hogyan képes a mesterséges intelligencia segíteni az automatizálás kiterjesztésében, beleértve azokat a forgatókönyveket is, melyek túlságosan összetettek és gyorsak ahhoz, hogy az ember minden esetben képes legyen jól dönteni.

Az amerikai légierő múlt heti konferenciáján Micheal Kanaan, a Massachusettsi Műszaki Egyetem (MIT) Air Force Artificial Intelligence Accelerator műveleti igazgatója elmondta, hogy a mesterséges intelligencia e területen való alkalmazása még jelentős fejlesztésre szorul, például a lehetséges célpontok megkülönböztetésében. Ezért is bizonytalan az a kérdéskör, mely azt vitatja, hogy vajon el lehet-e távolítani egy ilyen halálos fegyverként is alkalmazható rendszer mellől az emberi döntéshozást.

Clinton Hinote altábornagy, a Pentagon stratégiai és integrációs kabinetfőnök-helyettes szerint: „Ez az egyik legérdekesebb kérdés, amelyet hamarosan meg kell vitatnunk.”

Kié legyen a döntés joga?

Az Egyesült Államok mellett már több nemzet alkalmazza fegyverrendszereiben az autonómiát. Most pedig eljutottunk oda, hogy AI algoritmusok gyors fejlődése megkérdőjelezi az ember szerepének fontosságát.

Ez a kérdéskör problémásnak bizonyulhat, hiszen bármennyire is intelligens egy ilyen algoritmus, gyakran kiszámíthatatlanul viselkedhet. Például egy adott egyenruha felismerésére kiképzett algoritmus tévesen célozhat meg olyan személyeket, akik hasonló ruhát viselnek. Ez a fő oka annak, hogy a mesterséges intelligencia fegyverrendszerekben való alkalmazása az utóbbi években jelentősen megosztóvá vált.A Védelmi Minisztérium még 2012-ben kiadott egy autonóm fegyverek használatáról szóló irányelvet, miszerint az autonóm fegyverrendszereknek mindenképpen emberi felügyelet alatt kell állniuk.

„Az ilyen halálos, autonóm fegyverek elég olcsóak ahhoz, hogy bármely terrorista megengedhesse magának, ezért nem felelnek meg Amerika nemzetbiztonsági érdekeinek” – mondta Max Tegmark, az MIT professzora és a Future of Life Institute, az autonóm fegyverek használatát ellenző nonprofit szervezet társalapítója.

Tegmark úgy véli, a mesterséges intelligencia fegyvereit ugyanúgy be kellene tiltani, mint a biológiai fegyvereket. S bár csodálatos a technológiai fejlődés, amin ez a terület átesett, egyszer még megbánhatjuk, hogy robotok kezébe adjuk mások életéről vagy haláláról való rendelkezést.

A cikk szerzője Pál Fanni.