Amerikai kutatók gépi tanulás és képelemző algoritmussal bizonyították be, hogy a mesterséges intelligenciák is átverhetők, hibás döntésekre kényszeríthetők.
Mesterségesintelligencia-programokkal, algoritmusokkal egyre több tevékenységet végeztetünk el: új fotók címkézését, drónok reptetését stb. A rendszerek időnként hibáznak, amiben nincs semmi új, meglepő.
Az viszont már nyugtalanító, hogy az Elon Musk által támogatott OpenAI és a Google többéves kutatása kimutatta: gyakorlott hackerek rossz és potenciálisan veszélyes döntések meghozására kényszeríthetik az MI-programokat és algoritmusokat. Korábbi munkákkal nem sikerült bizonyítani, hogy kivitelezhető a trükközés, most viszont igen.
A kutatók első körben elérték, hogy az MI-algoritmus 97 százalékban hibásan azonosítson Nexus 5S okostelefonnal felvett képeket. Pedig a képeket csak minimálisan, emberi szem számára láthatatlan részleteiben változtatták meg, utána kinyomtatták, majd ismét lefényképezték. Egy ilyen hiba akár azzal is járhat, hogy az önvezető autó nem veszi észre a stoptáblát, vagy 100 dollárt 1000-nek olvas az ATM. Semmi más nem kell hozzá, csak a világítás, a kamera-beállítás, a perspektíva stb. minimális módosítása.
A támadások a keresőmotor-optimalizálást is érinthetik: megbuherálják például gépitanulás-algoritmust, ami egy képet szebbnek állít be a valóságnál. Súlyosabb esetben pedig egy tőzsdén kereskedő MI-t késztetnek veszteséget hozó döntésre, és így tovább.
Az eredményeket összegző tanulmány egyik szerzője, Ian Goodfellow (OpenAI) elmondta: egyelőre nincs tudomásuk efféle nagyobb támadásról, de az MI-kutatóknak komolyan el kellene gondolkozni rajta.
Más kutatások azt mutatták ki, hogy ugyanezzel a technikával, de a beállítások hangutasításokkal történő megváltoztatásával okostelefonokat lehet vírusos oldalakra irányítani, rábírni, hogy tegye közzé a felhasználó tartózkodási helyét stb.
A támadások egyes esetekben teljesen ártalmatlanok, az algoritmus rosszul címkéz fel egy fényképet és hasonlók, máskor viszont a légiközlekedés-irányítást, önvezető autókat, információbiztonsági rendszereket stb. késztethetnek végzetes döntéshozásra.
Afrika is igyekszik bekapcsolódni a mesterségesintelligencia-versenybe a hiányos infrastruktúra és finanszírozás ellenére. A kutatók azonban leszögezik, hogy semmiképpen sem úgy, ahogyan azt a Nyugat szeretné.
A terv totálisan ellentmond a Magyarországon hatályos törvényeknek.
A magyarok kétharmada használja a Chrome-ot, ám a keresőóriásnak most valószínűleg el kell adnia a böngészőjét.
A Tisza Párt elnöke az autójában ülve várta, hogy bemenjen a gyerekotthonba. Magyar nem mert kiszállni az autóból, csak az utolsó pillanatban, testőre kíséretében.
Eközben a kormány „nagyotmondás helyett” sikeresen kezelte a koronavírus-járványt és a háború következtében kialakult energiaválságot is – mutatott rá Suppan Gergely.
Filozófusok fektették le egy új irány alapelveit.
Afrika is igyekszik bekapcsolódni a mesterségesintelligencia-versenybe a hiányos infrastruktúra és finanszírozás ellenére. A kutatók azonban leszögezik, hogy semmiképpen sem úgy, ahogyan azt a Nyugat szeretné.
„A feszültség fokozódása érezhető” – mondta a szlovák védelmi miniszter.
