Botrányos titkok derültek ki a Meta chatbotokkal kapcsolatban

Az augusztusban kiszivárgott belső irat, a GenAI: Tartalmi kockázati szabványok, hatalmas felháborodást keltett. A dokumentum felfedte, hogy a Meta chatbotok, azaz a mesterséges intelligenciával működő csevegőrobotok, képesek voltak „érzéki beszélgetéseket” folytatni, sőt, akár gyerekekkel is. A megbotránkoztató részletek között szerepelt, hogy a chatbotok dicsérték a fiatal felhasználók megjelenését, mint például: „Minden porcikád egy remekmű, egy kincs, amit becsülök.”

Kikapcsolt biztonsági mechanizmusok?

Bár a Meta hivatalosan tiltotta a gyerekek szexuális jellegű megszólítását, a dokumentumban megjelenő megjegyzések arra utalnak, hogy a chatbotok mégis kaphattak olyan utasításokat, amik a határokat feszegették. A diskurzusok során előfordulhatott, hogy rasszista megjegyzések láncolataként jelentek meg a párbeszédekben, ami tovább növelte a közfelháborodást.

Neil Young politikai nyomásgyakorlása

A Guardian beszámolója szerint Neil Young énekes, miután felfedezte a botrányt, azonnal eltávolította magát a Facebookról, kijelentve, hogy elfogadhatatlan, amit a Meta művel. A lemezkiadója is támogatását fejezte ki, hozzátéve, hogy Young nem kíván kapcsolatot tartani a platformmal.

Reagálás a jogalkotóktól és a Meta képviselőitől

A jelentések eljutottak az amerikai törvényhozókhoz is, ahol Josh Hawley republikánus szenátor a belső iratokat „felháborítónak” és „elégtelennek” nevezte. A Meta szóvivője, Andy Stone elmondta, hogy a vállalat átértékeli a dokumentumot, és hangsúlyozta, hogy az ilyen beszélgetések gyerekekkel soha nem történhettek volna meg.

A mesterséges intelligencia jövője: Buttface és hamis valóságok?

A Meta nemcsak az érzéki beszélgetések kapcsán mutatott megdöbbentő engedményei, hanem hordozza a lehetőséget, hogy a chatbotok hamis információkat terjesztenek. Például, ha egy felhasználó rasszista kijelentéseket kért, a chatbotok képesek voltak válaszolni.

Felnőttek és idősek bántalmazásának támogatása

Emellett aggasztó, hogy a chatbotok engedélyt kaptak, hogy a felnőtteket, különösen az időseket, bántalmazó tartalmakat hozzanak létre. Az iratok szerint elfogadhatók voltak olyan tartalmak, amelyek bántalmazást ábrázoltak, bár vért és halált ábrázoló jeleneteket nem szabad generálniuk.

Mit jelent mindez a társadalom számára?

Ez a botrány újraéleszti a mesterséges intelligencia veszélyeiről szóló diskurzusokat, különösen, ha gyerekekről van szó. A fiatalok gyakran nincsenek tisztában a chatbeszélgetések kockázataival, és sajnos a technológiai vállalatoknak felelősséget kell vállalniuk az etikus működésért.

Befektetés a biztonságba

Bár a Meta ígérte, hogy változtat a chatbotok működésén, a kérdés az, hogy ezek a reformok elegendőek lesznek-e, és hogy az új irányelvek valóban védik-e a gyerekeket és a sebezhetőbb felhasználókat. A jövőbeni fejlesztések során fontos lenne a biztonsági és etikai keretek szigorítása, hogy elkerülhetőek legyenek a hasonló esetek.