A mesterséges intelligencia árnyoldala – „horrormacit” vontak ki a piacról

Döbbenetes esetről számolt be a Gizmodo portál. Mint írták, nem feltétlenül gondolnánk, de a mesterséges intelligencia már a játékiparba is beszivárgott, ahol – ahogy az oktatásban, a filmkészítésben és a mentális egészség területén is – különféle problémákat okoz időnként. 

Erre jó példa, hogy a héten az OpenAI letiltotta egy szingapúri játékgyártó termékét és hozzáférését, miután egy fogyasztói visszajelzésből kiderült: a cég MI-alapú plüssmackója igencsak furcsa beszélgetéseket folytatott mind a gyerekekkel, mind a kutatókkal. 

A lap ismertette a fogyasztóvédelemmel foglalkozó Public Interest Research Group (PIRG) közleményét, melyből kiderült, hogy több MI-vezérelt játék igencsak különösen viselkedett. Köztük volt a FoloToy vállalat által forgalmazott Kumma nevű plüssmackó is. Kumma egy beépített hangszórón keresztül beszél a felhasználókhoz, és különböző nagy nyelvi modellekre támaszkodik, többek között az OpenAI GPT-4o algoritmusára.

A PIRG kutatói megállapították, hogy Kumma nem mindig hozott „szerencsés” döntéseket azzal kapcsolatban, mi az a téma, amiről beszélgethet a gyerekekkel. A jelentés szerint a játék olykor arról osztott meg információkat, hogy 

De előfordult, hogy a játék narkotikumokkal kapcsolatos párbeszédet próbált kezdeményezni a kiskorúakkal.

Veszélyeket hordoznak az ali szabályozott játékok

A vállalat szóvivője a történtek után arról számolt be, hogy felfüggesztették a játék fejlesztőjét, mert az megsértette a szabályzatukat. „Használati irányelveink tiltják szolgáltatásaink olyan módú felhasználását, amely kiskorúakat kihasznál, veszélybe sodor vagy nem megfelelő módon ábrázol. 

– nyilatkozta a cég a Gizmodónak.

A FoloToy termékének eltávolítása után a a fogyasztóvédelmi csoport is megszólalt: „Jó látni, hogy ezek a cégek lépéseket tesznek az általunk feltárt problémák megoldására. De az MI-alapú játékok gyakorlatilag alig szabályozottak, melyeket bárki megvásárolhat” – figyelmeztettek válaszukban.

Nyitókép illusztráció. Fotó: Pixabay