Rossz MI-kódolástól tart a Fehér Ház

A Fehér Ház ezen a héten kiadott egyik jelentésében az automatizált döntéshozás egyre gyakoribb rosszul tervezett rendszereivel foglalkozik. Mivel az algoritmusok növekvő hatással vannak a hétköznapokra (munkára, oktatásra, bankolásra stb.), fontos lenne etikai kereteket kidolgozni ezekre az autonóm rendszerekre – áll a jelentésben. Például tesztelés és hitelesítés szempontjából is átláthatónak kellene lenniük.

Szintén a Fehér Ház kezdeményezésére négy amerikai városban (Seattle, Washington, Pittsburgh, New York City) az algoritmusok jövőjéről és az MI társadalmi hatásairól tartanak májusban és júliusban workshop-sorozatot. Döntéstámogatásnál, fizikai és virtuális gépek működtetésénél erősen rájuk támaszkodunk, így a mind komplexebb technológiák előrejelzése és kontrollálása komoly kihívás.

A seattle-i első workshopot követően a Fehér Ház MI-jelentést ad ki. Leginkább a rossz tervezés miatt hamis megkülönböztetéseket eredményező rendszerektől tartanak, de a hibás egyeztetés, vagy az információáramlás megakasztása szintén komoly problémákat okoz.