Ugyanakkor a transzparencia hiánya adatvédelmi botrányokat, „elfogult” algoritmusokat szülhet, ami hosszú távon végső soron nagyobb károkat okozhat.
Az EU-s párhuzam
Európában az AI Act (ami 2024 augusztusától hatályos) egységes keretet ad, ellentétben az USA mozaikszerű szabályozásával. Az EU jelenleg a korlátozásra, a tiltásra fókuszál: tilos a társadalmi szintű online pontozás jellegű felhasználás, a rejtett manipuláció vagy közterületi, valós idejű biometrikus azonosítás, például az arcképfelismerés révén. Eközben az EU-s transzparencia már most kötelező: chatbotoknál jelezni kell, ha nem emberrel kerül kapcsolatba a felhasználó, a deepfake tartalmaknál pedig egyértelmű feliratozás szükséges. Idén pedig az általános célú MI-modellek átláthatósági szabályai léptek életbe: dokumentálni kell a tanító adatokat, kockázatokat. Ám a „feketeleves” jövőre jön, az úgynevezett magas kockázatú MI-rendszerekre szigorú szabályok érkeznek. Ide tartozik
az egészségügyi diagnosztika, a hitelbírálat, a rendvédelem és az oktatási célú vizsgáztatás.
E területeken kötelező lesz a kockázatkezelés, a minőségi adatok, a műszaki dokumentáció, a naplózás és az emberi felügyelet. A gyártóknak pedig a megfelelőségi értékelés, akár CE-jelölés is szükséges lehet. Mindez jóval szigorúbb, mint az amerikai szabályok. Az EU-ban auditálható módon kell eleget tenni a szabályoknak, az „elkövető” cég büntethetővé válik, akár a globális árbevétel 6 százaléka is kiszabható bírságként. Mindennek előnye, hogy az unió egységes piacot alkot, az Amerikaihoz képest jóval kevésbé töredezett innovációs tér jön létre. Hátrány viszont a lassabb innováció, különösen az MI-startupoknál. Az EU számára tehát a biztonság előbbre való, míg az USA ezúttal is az „előbb gyorsan innováljunk, majd vizsgáljuk meg, mit alkottunk, és ha kell, akkor javítsunk” megközelítés az irányadó.