Most nem érheti szó a ház elejét: a világon elsőként az Európai Unió áll a kapujában annak, hogy elkészítse saját mesterségesintelligencia-törvényét, amely igyekszik szabályozni a technológiai és informatikai forradalom lehetséges visszaéléseit. Ám ez rendkívül kockázatos mutatvány.
A mesterséges intelligencia (MI) legalább annyira lenyűgözte az emberiséget, mint amennyire aggasztja. Csak ámulhatunk, hogy pillanatok alatt miként kerekít a rendelkezésére álló adatokból vaskos elemzéseket, tanulmányokat. Szélesre tárja a kaput a tudományok előtt, amelyek korábban soha nem látott sebességgel fejlődhetnek. De ez is olyan, mint a kőbalta: kiváló arra, hogy megkönnyítse, hatékonyabbá tegye az ember munkáját, ám rossz kezekben gyilkos eszközzé válik.
A mesterséges intelligencia segítségével akár megfigyelhetjük az egész társadalmat, jó és rossz magaviseletűekként osztályozhatjuk az embereket, meghamisíthatjuk a választások eredményét, befolyásolhatjuk a tömegek véleményének kialakulását.
Néhány másodperc alatt az MI képes meghamisítani az eseményeket és a hangokat, de még a szereplőket is. Brüsszel attól tart, hogy a generatív mesterséges technológiák még termékenyebb talajt teremthetnek az álhírek terjedésének. Ez a mesterséges intelligencia sötét oldala.
Az MI tehát életet menthet, jobb körülményeket teremthet a földi létre, de akár meg is ragadhatja a hatalmat, sőt, egyes feltételezések szerint képes kiirtani az emberiséget. A jót el kell választani a rossztól – az Európai Unió jól felfogott érdekében ennek a szükségszerűségére próbált meg időben válaszolni. Bár a technológiában járatosak számára a dolog nem újdonság, szélesebb körben alig több mint fél éve robbant be a globális köztudatba a mesterséges intelligencia – elsősorban a ChatGPT által. A napokban fogadta el az Európai Parlament a tárgyalási álláspontját, amelyet a MI-t szabályzó törvény megvitatásakor az Európa Tanáccsal folytatandó egyeztetéseken képvisel. A hónap közepén meg is kezdődtek a tárgyalások, ezek zárultával véglegesíthetik a jogalkotást.
Mi szerepel a parlament tárgyalásos ajánlásában? A törvény célja az MI-rendszerek szabályozása, valamint az átláthatóság és a biztonság garantálása – emelte ki a Le Figaro francia napilap. Világszerte ez az első ilyen jellegű jogszabály, ami azt jelenti, hogy az EU élen járhat a mesterséges intelligencia emberközpontú, megbízható és biztonságos kialakításában. A rendelet szigorúbb korlátozást vezet be a magas kockázatú mesterségesintelligencia-alkalmazásokra. Ebbe tartozik az a mesterségesintelligencia-rendszer, amely jelentős kockázatot jelent az emberek egészségére, biztonságára vagy alapvető jogaira nézve.
A szabályrendszer alapértelmezés szerint nem terjedt ki az általános célú mesterséges intelligenciát (GPAI) alkalmazó rendszerekre. A ChatGPT és más nagy méretű, úgynevezett nyelvi modellek gyors sikere azonban arra késztette az uniós jogalkotókat, hogy az ilyen típusú rendszereket is figyelembe vegyék. A nagyközönség a múlt év végén fedezte fel a bennük rejlő hatalmas lehetőségeket, amikor a kaliforniai OpenAI cég megjelentette a ChatGPT szerkesztői tartalomgenerátort, amely másodpercek alatt képes eredeti esszéket, verseket vagy akár műfordításokat írni. A közösségi hálón azonban a Midjourney-hez hasonló alkalmazások segítségével létrehozott mesterséges, mégis élethű képek elterjedése riadalmat keltett a véleménymanipuláció (deep fake) veszélyeivel kapcsolatban. Vezető tudósok moratóriumot is kértek a legnagyobb teljesítményű rendszerek fejlesztésére, amíg azokat nem szabályozzák jobban a jogszabályok.
A tervezett törvény betiltja például a köztereken MI-vel végzett biometrikus azonosítást, érzelemfelismerést, emellett szigorú átláthatósági követelményeket támaszt a ChatGPT-hez hasonló rendszerekkel szemben is. Nem lehet nemen, fajon, etnikai származáson, valláson, politikai szemléleten alapuló azonosítást végezni. Ehhez hasonló, állami felügyelet alatt álló rendszerek jelenleg Kínában működnek. A pekingi vezetés milliószámra telepíti a megfigyelő kamerákat, amelyeket egyebek közt az állampolgárok viselkedésének osztályozására, pontozásukra használnak fel.
Kényes MI-kötéltánc
A mesterséges intelligencia rohamléptekkel fejlődő birodalmában az Európai Unió merész lépést tett előre – ez a véleménye a most formálódó jogszabályról a Modern Diplomacy honlapnak. A szerző meglátása szerint kényes az egyensúly az innováció előmozdítása és a fogyasztók védelme között, az uniós döntéshozók bizonytalan kötéltáncot járnak. Megpróbálják megőrizni a mesterséges intelligencia forradalmi erejét, ugyanakkor megszelídíteni annak vadságát.
A jogszabály elsősorban a magas kockázatú mesterségesintelligencia-rendszerekre összpontosít, megvédi a kiszolgáltatott népcsoportokat és megakadályozza a mesterségesintelligencia-technológiával való visszaélést. Ám nem kell hogy elfojtsa az innovációt, amelyet a mesterséges intelligencia ígér. Az MI-iparág képes forradalmasítani az egészségügytől a közlekedésig, az oktatástól a szórakoztatásig számos ágazatot – szögezte le az újságíró.
Ha az MI-t nehézkes szabályozások hálójával fojtanánk meg, az olyan lenne, mintha zabolázatlan lovakat ketrecbe zárnánk. Az EU mesterséges intelligenciáról szóló törvénye kockázatalapú megközelítésével elismeri ezt az elvet, a szabályozás és az innováció közötti kényes táncot. A jogszabály azáltal, hogy különbséget tesz az elfogadhatatlan, a nagy kockázatú és a korlátozott kockázatú mesterségesintelligencia-rendszerek között, észszerű keretet biztosít, amely testre szabott szabályozást biztosít anélkül, hogy megvonná az innovációhoz szükséges levegőt.
A felelős mesterséges intelligencia középpontjában az átláthatóság és az elszámoltathatóság áll, ez kulcsfontosságú a készülő jogszabályban. Az MI globális jellege nemzetközi együttműködést és közös szabványok létrehozását teszi szükségessé. Az innováció és a szabályozás közötti kötéltánc kényes egyensúlyt jelent. Ehhez az uniós MI-törvény ígéretes alapot nyújt. A jövő nem mentes a kihívásoktól – szögezte le a szerző –, de a jutalom megéri a kockázatot.
Az EU-s tilalom kiterjed majd a prediktív rendőri tevékenységre és az adatbázisok építéséhez szükséges arcképek leválogatására szolgáló mesterségesintelligencia-modellekre. Az érzelemfelismerő szoftvereket a bűnüldözésben, a határrendészetben, a munkahelyeken és az oktatásban is tiltják. Az MI-jogszabállyal az Európai Unió megtiltaná a mesterséges intelligencia használatát olyan alkalmazási területeken, amelyek elfogadhatatlan kockázatot jelentenek, illetve amelyek sértik az emberek magánélethez való jogait. A nagy kockázattal járó MI-rendszerekre szigorú átláthatósági és ellenőrzési követelmények vonatkoznak majd. Idetartozik minden olyan alkalmazás, amely veszélyezteti az emberek alapvető jogait, egészségét, biztonságát.
A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszereknek külön figyelmet szentelt az EP, ebbe tartoznak a közösségimédia-platformok által használt ajánlórendszerek is. A generatív mesterséges intelligenciát használó alkalmazások, például a ChatGPT az általános célú MI-rendszerek kategóriájába esik, így a fejlesztőknek fel kell tüntetniük, hogy az adott tartalmat mesterséges intelligencia állította elő.
Az EU-s kötelezettségek nagy része a gazdasági szereplőket terheli majd. A parlament álláspontja megerősíti a bizottság megközelítését: a tervezett szöveg a meglévő termékbiztonsági szabályozásokon alapul, és olyan ellenőrzéseket ír elő, amelyek elsősorban a vállalatok felelősségére teszik a hangsúlyt. Az Európai Unió hamarosan felpattan a vad lóra, a mesterséges intelligenciára, és megpróbálja kezes paripává szelídíteni. Ez a kísérlet minimum kétesélyes.
Címlapfotó:123rf.com
Életbe lépett a magyar építészetről szóló új törvény. Felkészültek-e az önkormányzatok és a vállalkozások ez ebből fakadó változásokra? Erről is kérdeztük Lánszki Regőt országos főépítészt.
Törvényi védelmet követelnek az 1956-os lyukas zászlónak.
Egy, a mindennapi életünket egyre inkább meghatározó jelenségről mondta el a véleményét a miniszterelnök.
A Meta és az Apple nem írta alá az uniós szabályozási terveket.
Egy felkapott étteremlánc pizzareceptje nemrég nagyot aratott.
Egy nagyon fontos kérdésnél torzít a mesterséges intelligencia.
A felhasználók nem győznek köszönetet mondani a szervezőknek és a beszélgetésben résztvevőknek, hogy mertek vitázni Európa békéjéről.
