Egy 16 éves fiú halála kellett hozzá: drasztikus változások jönnek a ChatGPT-nél

A ChatGPT-t üzemeltető amerikai OpenAI bejelentette, hogy szülői felügyeleti mechanizmust vezet be a platformon, miután augusztus végén amerikai szülők azzal vádolták meg a chatbotot, hogy öngyilkosságra buzdította gyermeküket.

és „ellenőrizhetik, hogy a ChatGPT hogyan válaszol gyermeküknek a modell viselkedési szabályai alapján” – közölte az OpenAI egy blogbejegyzésben. A vállalat szerint a szülők értesítést kaphatnak, ha a platform gyermekük beszélgetéseiben „akut szorongást” észlel, és ellenőrizhetik a fiók beállításait.

Gyermekük halála után egy 16 éves kaliforniai fiú szülei augusztusban pert indítottak az OpenAI ellen, azzal vádolva a céget, hogy a ChatGPT részletes utasításokat adott fiuknak az öngyilkossághoz. A mostani bejelentés „valóban a legszükségesebb minimum” – mondta Melodi Dincer ügyvéd, aki a szülőkkel és egy egyesülettel együtt vitte az ügyet bíróság elé. 

Úgy vélekedett, az ilyen intézkedéseknek már régóta érvényben kellene lenniük, egyben kétségét fejezte ki az OpenAI által bevezetett korrekcióval kapcsolatban. „Továbbra is fejlesztjük modelleinket, hogy jobban felismerjék a mentális és érzelmi szorongás jeleit” – írta a cég blogbejegyzésében.

(MTI) 

Nyitókép: Yasin Baturhan Ergin / Anadolu