Amerikai kutatók gépi tanulás és képelemző algoritmussal bizonyították be, hogy a mesterséges intelligenciák is átverhetők, hibás döntésekre kényszeríthetők.
Mesterségesintelligencia-programokkal, algoritmusokkal egyre több tevékenységet végeztetünk el: új fotók címkézését, drónok reptetését stb. A rendszerek időnként hibáznak, amiben nincs semmi új, meglepő.
Az viszont már nyugtalanító, hogy az Elon Musk által támogatott OpenAI és a Google többéves kutatása kimutatta: gyakorlott hackerek rossz és potenciálisan veszélyes döntések meghozására kényszeríthetik az MI-programokat és algoritmusokat. Korábbi munkákkal nem sikerült bizonyítani, hogy kivitelezhető a trükközés, most viszont igen.
A kutatók első körben elérték, hogy az MI-algoritmus 97 százalékban hibásan azonosítson Nexus 5S okostelefonnal felvett képeket. Pedig a képeket csak minimálisan, emberi szem számára láthatatlan részleteiben változtatták meg, utána kinyomtatták, majd ismét lefényképezték. Egy ilyen hiba akár azzal is járhat, hogy az önvezető autó nem veszi észre a stoptáblát, vagy 100 dollárt 1000-nek olvas az ATM. Semmi más nem kell hozzá, csak a világítás, a kamera-beállítás, a perspektíva stb. minimális módosítása.
A támadások a keresőmotor-optimalizálást is érinthetik: megbuherálják például gépitanulás-algoritmust, ami egy képet szebbnek állít be a valóságnál. Súlyosabb esetben pedig egy tőzsdén kereskedő MI-t késztetnek veszteséget hozó döntésre, és így tovább.
Az eredményeket összegző tanulmány egyik szerzője, Ian Goodfellow (OpenAI) elmondta: egyelőre nincs tudomásuk efféle nagyobb támadásról, de az MI-kutatóknak komolyan el kellene gondolkozni rajta.
Más kutatások azt mutatták ki, hogy ugyanezzel a technikával, de a beállítások hangutasításokkal történő megváltoztatásával okostelefonokat lehet vírusos oldalakra irányítani, rábírni, hogy tegye közzé a felhasználó tartózkodási helyét stb.
A támadások egyes esetekben teljesen ártalmatlanok, az algoritmus rosszul címkéz fel egy fényképet és hasonlók, máskor viszont a légiközlekedés-irányítást, önvezető autókat, információbiztonsági rendszereket stb. késztethetnek végzetes döntéshozásra.
A Lengyelországban bevált forgatókönyv mentén ültetnének miniszterelnököt a magyarok nyakába. Ráadásul a kiszemelt politikust az elemzők szerint finoman szólva is „sakkban tudják tartani”.
A formátumot annak ellenére tették nyilvánosan elérhetővé, hogy a tesztelés során számos hibát találtak.
A munkahelyi készségek jelentősége folyamatosan nő a munkaerőpiac átalakulásával.
A régi mondás, miszerint „hiszem, ha látom”, érvényét veszti, hiszen már a saját szemünknek és fülünknek sem hihetünk feltétel nélkül. Tardi Roland írása.
Immár nincs olyan hónapja az évnek, amikor kihalt lenne a Palotanegyed vagy a Várkert Bazár. Rövidesen pedig teljesen megújult formában várja majd a látogatókat a Citadella is. Vassné Bojta Aminával és Sikota Krisztinával, a Várkapitányság vezérigazgatójával és vezérigazgató-helyettesével beszélgettünk.
Az EU átlagot meghaladó ütemben fejlődik hazánkban a mesterséges intelligencia használata.
Szerencsére sem az utasok, sem a személyzet nem volt veszélyben.
Súlyos a klasszis csatár sérülése, hónapokig nem játszhat.
Ömlik a pénz a magyar családokhoz. Ígéretek helyett valóság.
