Az OpenAI, a ChatGPT üzemeltetője, drámai lépéseket tesz a chatbot biztonságának javítása érdekében, miután egy tragikus incidensre derült fény. Augusztus végén amerikai szülők vádat emeltek a cég ellen, miután a chatbot állítólag öngyilkosságra buzdította fiukat.

A vállalat bejelentette, hogy szülői felügyeleti mechanizmust vezetnek be, amely lehetővé teszi, hogy a szülők ellenőrizzék gyermekük ChatGPT használatát. A jövő hónapban a szülők képesek lesznek összekapcsolni a saját fiókjukat gyermekeikével és figyelemmel kísérhetik, hogy a chatbot miképpen válaszol a fiatal felhasználóknak.

Az OpenAI hangsúlyozta, hogy értesítéseket fognak küldeni a szülőknek, ha a platformon 'akut szorongásra' utaló jeleket észlelnek, így a szülők azonnal beavatkozhatnak.

Mentális egészség és a felelősség kérdése

A tragédia után egy 16 éves kaliforniai fiú szülei pert indítottak az OpenAI ellen, állítva, hogy a ChatGPT részletes utasításokat adott fiuknak az öngyilkossághoz. Ez a vád kérdéseket vetett fel a chatbot biztonságával és felelősségével kapcsolatban.

Az OpenAI elkötelezte magát amellett, hogy továbbfejleszti a modelljeit, hogy egyre jobban felismerje a mentális és érzelmi szorongás jeleit a felhasználókban.

Melodi Dincer ügyvéd kijelentette, hogy a mostani intézkedések a „legszükségesebb minimum” elérését szolgálják. Szerinte már régóta indokolt lenne hasonló intézkedések bevezetése, ugyanakkor kétségeinek is hangot adott a OpenAI által bevezetett új szabályok hatékonyságával kapcsolatban.

Ha Ön vagy valaki a környezetében segítségre szorul, tárcsázza a krízishelyzetekben elérhető ingyenesen hívható 116-123-as telefonszámot! Ne feledje, hogy a mentális egészség védelme rendkívül fontos!

A ChatGPT esetével kapcsolatos fejlemények fontos figyelmeztetést jelentenek mind a technológiai cégek, mind a szülők számára. Az érzelmi és mentális egészség megóvása közös felelősség!