Olyan sötét oldala is van a ChatGPT-nek, amelyről senki sem beszél

Aggasztó módon gyűjthet személyes adatokat az emberekről az OpenAI mesterséges intelligenciája, a ChatGPT, hiába állítja a cég ennek ellenkezőjét. Arra már többen is felhívták a figyelmet, hogy olyan forrásokból is dolgozik az MI, amelyek nem egészen legálisak, például több ezer olyan könyvet használt fel, amelyet árnyékkönyvtárakból szerzett meg. Még olyanokat is, amelyeket szerzői joggal védtek. Ennek kapcsán több per is folyamatban van már a cég ellen. 

Vidákovics Attila, a DLabs alapítója az Indexnek most rámutatott: még ennél is aggasztóbb a személyes adatok kezelése, hiszen bár az OpenAI azt állítja, hogy nem memorizálja a képzési adatokat modelljük, ennek ellenkezője az igaz. Nemcsak megőrzi az információkat, hanem promptolási technikákkal lehetséges a képzési adatok kinyerése is. A DLabs vezetője szerint ez a probléma nem igényel különösebb technikai szakértelmet - bárki, aki képes promptokat megfogalmazni a ChatGPT számára, megfelelő türelemmel vagy szerencsével rátalálhat olyan módszerekre, amelyekkel kijátszhatja a rendszer védelmét.

Így könnyen személyes adatokat szerezhetnek meg a rendszer segítségével, emiatt is indult egy csoportos kereset Kalifornia államban. Ennek középpontjában  az a súlyos vád áll, hogy a vállalat megszegte internetfelhasználók millióinak jogait és magánszféráját. Az ügyvédi iroda hivatalos közleménye hangsúlyozta, hogy olyan valódi emberek képviseletét vállalták, 

Érdekesség, hogy az OpenAI egészen mostanáig jelentéktelennek tartotta a szerzői jogok és személyes adatok jogosulatlan felhasználásának vádjait, ám most éppen ők háborodtak fel a kínai DeepSeek megjelenése miatt. A konkurencia ugyanis elismerte, hogy a DeepSeek a ChatGPT-ből kinyert adatokkal tanult. Tehát azon adatokból, amelyek eleve megkérdőjelezhető módon jutottak az OpenAI-hoz. 

Nyitókép: Jonathan Raa / NurPhoto via AFP