A jövő elérkezett: Elon Musk rászabadítja a világra a mesterséges intelligenciát

Kezdhetnek félni a programozók.

Folyamatosan terjed az „AI-pszichózis".

Az OpenAI bejelentette a népszerű ChatGPT modelljének új biztonsági frissítését, miután egy belső elemzés kimutatta, hogy hetente több mint egymillió felhasználó beszél öngyilkossági hajlamokról a chatbotnak – írta a The Guardian. A változtatások célja a mesterséges intelligencia képességének javítása a szorongás felismerésére.
A cég közölte, a heti ChatGPT-felhasználók becsült 0,15%-a folytatott olyan beszélgetéseket, amelyek „explicit vagy implicit öngyilkossági szándékra utaltak”. Az OpenAI vezérigazgatója, Sam Altman korábban azt állította, hogy a ChatGPT-nek több mint 800 millió heti aktív felhasználója van, ami a cég legfrissebb adatai szerint azt jelenti, hogy
több mint 1,2 millió ember beszélt öngyilkosságról a chatbotnak.
A cég továbbá azt állította, hogy a heti felhasználók körülbelül 0,07%-a (560 000) és az üzenetek 0,01%-a (80 000) „lehetséges mentális egészségügyi vészhelyzetek” – pszichózishoz vagy mániához kapcsolódó – jeleit mutatták. Továbbá megjegyezte, hogy számos felhasználó érzelmileg túlzottan függővé vált a ChatGPT-től,
az aktív felhasználók körülbelül 0,15%-a (1,2 millió) mutatott olyan viselkedést, amely „magas szintű” érzelmi kötődést jelez a chatbot iránt.
Az OpenAI bejelentette, hogy mentális egészségügyi szakértőkkel működik együtt világszerte, hogy frissítse a chatbotot, hogy az megbízhatóbban felismerje a mentális betegségek jeleit, jobb válaszokat adjon, és a felhasználókat valós segítséget nyújtó forrásokhoz irányítsa.
Eközben folyamatosan nő az aggodalom a chatbotok növekvő használatának a mentális egészségére gyakorolt hatásával kapcsolatban. Pszichiáterek szerint a felhasználók egyre többször alakítanak ki veszélyes téveszméket és paranoid gondolatokat chatbotokkal folytatott hosszas beszélgetések után, amelyek hajlamosak megerősíteni és erősíteni a felhasználók hiteit. A jelenséget egyes szakértők „AI-pszichózisnak” nevezték el.
Nyitókép forrása: Kirill KUDRYAVTSEV / AFP
Ezt is ajánljuk a témában

Kezdhetnek félni a programozók.

***