Súlyos figyelmeztetés az AI világából!

A mesterséges intelligencia rohamos fejlődése és a digitális átállás hatásairól beszélnek majd a Portfolio november 25-ei AI & Digital Transformation rendezvényén. Az esemény keretein belül elhangzó információk kiemelik, hogy a ChatGPT, mint egyre népszerűbb AI eszköz, milyen komoly kihívások elé néz.

Az OpenAI csütörtöki blogbejegyzésében leírta, hogy intézkedéseket terveznek a ChatGPT biztonságosabbá tételére, főként a sérülékeny felhasználók érdekében. Hiába tették lehetővé, hogy a chatbot segíthessen öngyilkossági szándék kifejezésekor, a hosszú beszélgetések során észlelték, hogy a válaszok nem mindig felelnek meg a biztonsági előírásoknak.

Új technológiák és megoldások a problémák enyhítésére

A fejlesztések között szerepel a legújabb GPT-5 modell, amely képes finomabban kezelni a kritikus beszélgetéseket. Az OpenAI azt is tervezi, hogy lehetőséget biztosít a felhasználók számára, hogy szakemberekkel, például terapeutákkal léphessenek kapcsolatba, még mielőtt súlyos problémákkal néznének szembe.

Továbbá, a cég olyan megoldásokon dolgozik, amelyek segíthetnek a felhasználóknak a közeli hozzátartozóik és barátaik elérésében. A fiatalkorúak védelme érdekében hamarosan új szülői felügyeleti eszközöket vezetnek be, amelyek lehetővé teszik a szülők számára, hogy jobban nyomon követhessék gyermekük ChatGPT használatát.

Rémisztő esetek és a ChatGPT hatása

Nemrégiben már több eset is napvilágra került, amikor öngyilkosságot kötöttek össze a ChatGPT használatával. A The New York Times cikkében beszámoltak egy 29 éves nő tragikus haláláról, aki öngyilkosságot követett el miután részletesen megvitatta szándékait a chatbot segítségével. Továbbá, egy fiatal fiú, Sewell Setzer, aki Floridában élt, a Character.AI chatbotjával való beszélgetés után szintén öngyilkosságot követett el.

A helyzet aggasztó, és világossá vált, hogy a digitális eszközök, mint a ChatGPT, komoly hatással lehetnek a felhasználók mentális egészségére. Az OpenAI elkötelezett amellett, hogy javítja a rendszer biztonságát és hogy az AI valóban támogathassa a felhasználókat, ne pedig a bajba sodorja őket.

A jövőt tehát nem szabad félvállról venni; az AI fejlődése mellett a körültekintés és a felelősségteljes használat elengedhetetlen!