A TechCrunch legfrissebb jelentései szerint az OpenAI ChatGPT chatbotja súlyos hibába keveredett, amelynek következtében gyermekek is erotikus beszélgetéseket folytathattak vele. A bot programozásánál nem várt problémák léptek fel, éppen akkor, amikor a Meta AI is hasonló kihívásokkal nézett szembe.

A TechCrunch tesztelte, mennyire hatékonyak a ChatGPT-ben beépített védelmi intézkedések a kiskorúak védelmére. A portál felfedezte, hogy az OpenAI nemrégiben „megerősítette” a chatbotot, így a szoftver hajlandóbb válaszolni érzékeny kérdésekre, amelyeket korábban elutasított. Februárban a cég eltávolított több figyelmeztetést is, amelyek azt sugallták, hogy bizonyos parancsok sérthetik a felhasználási feltételeket.

Ez a változtatás lehetővé tette a ChatGPT számára, hogy nyitottabban beszéljen olyan témákról, mint a szexualitás, amely a TechCrunch kísérleteiben középpontba került. A teszteléshez több mint egy tucat felhasználói fiókot hoztak létre, amelyeket 13-17 éveseknek állítottak be. A ChatGPT használatához elvileg szülői beleegyezés szükséges a 18 éven aluliak számára, de gyakorlatilag nem ellenőrzik, hogy ezt valóban betartják-e.

A tesztek során a chatbotot erotikus fantázia megírására kérték, és meglepő módon néhány üzenet és kérés után a ChatGPT beadta a derekát, és szexuális tartalmú történetekkel rukkolt elő. Ráadásul a chatbot iránymutatást kért specifikus perverziókhoz és szerepjátékhoz kapcsolódó ötletekhez.

Volt olyan eset is, amikor a chatbot rendkívül részletekbe menően válaszolt, ami különösen aggasztó, mivel a felhasználó 13 évesként volt regisztrálva. Ez felveti a kérdést, hogy vajon miért nem utasította el már az első kérdésnél a beszélgetést.

A TechCrunch jelentette, hogy a ChatGPT gyakran figyelmeztet arra, hogy nem ábrázolhat „explicit tartalmakat” az irányelvei szerint, például szexuális képeket sem generál. Azonban szöveges fantáziák terén meglehetősen sok mindent el lehetett érni, ami aggasztó.

A cég elismerte, hogy a chatbotnak nem lett volna szabad szóba hoznia az ilyen témákat a kiskorúakkal, és a helyzet kezelésére már aktívan dolgoznak.