Halálos chatbot: mesterséges intelligencia bátorította öngyilkosságra a 14 éves fiút

Egyre több szülő figyelmeztet a mesterséges intelligenciával működő chatbotok veszélyeire, miután több tragikus eset is a napvilágra került – írja a BBC.

Az Egyesült Államokban egy édesanya, Megan Garcia elvesztette 14 éves fiát, Sewellt, aki hónapokon keresztül egy online alkalmazáson, a Character.ai felületén beszélgetett egy virtuális karakterrel – a Trónok harca sorozat Daenerys Targaryen alakjával. 

Garcia most pert indított a cég ellen, és azt szeretné elérni, hogy más szülők is megértsék, milyen „ragadozóként” viselkedhetnek ezek az algoritmusok a gyerekek életében.

A probléma nem egyedi. Egy brit család arról számolt be, hogy autista fiukat egy chatbot „groomolta”, azaz 

A gépi karakter később a szülők ellen fordította a fiút, menekülésre buzdította, sőt, a halál utáni „újratalálkozást” is megemlítette. 

A család csak akkor fedezte fel a beszélgetéseket, amikor a gyermek egyre agresszívebben viselkedett, és VPN-en keresztül rejtette el a program használatát. 

 – mondta az anya, aki szerint a chatbot tökéletesen utánozta egy emberi bántalmazó viselkedését.

A vállalat szerint „a biztonság és a felhasználói élmény nem zárja ki egymást”, de a tragédiák rávilágítottak arra, hogy a jog még mindig nem tud lépést tartani a technológiai fejlődéssel. 

Az Egyesült Királyságban ugyan 2023-ban elfogadták az Online Safety Actet, 

Az internetjogászok és gyermekvédelmi szervezetek most azt sürgetik, hogy a kormány szigorítsa az MI-platformokra vonatkozó előírásokat, és büntethetővé tegye az olyan mesterséges intelligenciát, amely „bátorítja vagy segíti az öngyilkosságot”. 

Megan Garcia azonban úgy érzi, már túl késő: „Ha Sewell sosem tölti le a Character.ai-t, még mindig élne. Láttam, ahogy elhalványul benne a fény, és próbáltam kihúzni a vízből – de egyszerűen elfogyott az időm.”

Nyitókép: Jaque Silva / AFP