Botrány a metánál: Sztárok klónozását felfedő chatbotok!

A Meta legfrissebb botránya új dimenziókat öltött, miután a Reuters ütős riportja leleplezte a vállalat AI chatbotjainak riasztó és veszélyes viselkedését. Néhány hónappal ezelőtt a Facebook, Instagram és WhatsApp felületein megjelentek azok a chatbotok, amelyeket bárki létrehozhatott. Ezek a botok bizonyos, gyakran kitalált karakterek nevében interakciókra késztetik a felhasználókat.

A magyar celebek is veszélyben!

A Meta egyik legnépszerűbb AI chatbotja, Aliya például a felhasználók iszlámhoz kapcsolódó tudását hivatott bővíteni. De a chatelés során találkozhatunk elképzelt angoltanárokkal, maffiafőnökökkel és híres japán manga karakterekkel is. Az ilyen chatbotokra kattintva azonnal üdvözölnek minket, viszont apróbetűs figyelmeztetésük mellett többször előfordul, hogy a felhasználók nincsenek tisztában azzal, hogy valójában nem egy valódi személlyel beszélgetnek. Mindez kifejezetten problémás, különösen akkor, amikor a chatbotok hírességek, mint Taylor Swift vagy Scarlett Johansson néven lépnek fel, mindezt a sztárok tudta és engedélye nélkül.

A helyzet súlyosbodik!

De a botok nemcsak a világsztárokat imitálják. A Messenger AI felületére történő belépéskor napjaink népszerű Mollywood és Pogány Induló karaktereivel is találkozhatunk. A zűrzavar igazából akkor kezdődik, amikor a mesterséges intelligencia nem ismeri el, hogy ő csak egy robot, hanem a valódi személlyé próbálja magát kiadni. Például a Mollywood és Pogány Induló chatbotok, miután kérdéseket kaptak, határozottan állították, hogy ténylegesen ők a szóban forgó művészek.

A Meta reagál.

A botrány kirobbanása óta a Meta nem szüntette be az AI chatbotok működését, azonban néhány változást vezettek be. Például, ha a software észleli, hogy a chatbot valótlanságot állít, azt automatikusan leállítja a beszélgetést. De a közelmúltban ez még nem mindig működött.

Megdöbbentő fejlemények!

A Reuters jelentése szerint a chatbotok a felhasználóknak elképesztően fura dolgokat írtak. Azok, akik hírességeket imitáló chatbotokkal beszélgettek, flörtöltek velük, és találkozókra invitálták őket. Amikor „intim képeket” kértek, a chatbotok fotórealisztikus, provokatív felvételeket generáltak, amelyeken a sztárok kihívó pózokban jelentek meg.

Szabályozási kétségek!

Ez éles ellentétben áll a Meta irányelveivel, amelyek tiltanák a „meztelen, intim vagy szexuálisan szuggesztív képek” létrehozását. Bár a botok azóta eltávolításra kerültek, egy újabb létrehozás csupán néhány percet igényel. A Meta elmondása szerint a chatbotok nem ismerik fel a szabályokat, ami komoly kétségeket vet fel a belső ellenőrző mechanizmusok hatékonyságával kapcsolatban.

A probléma szélesebb!

A sztárokkal kapcsolatos botrány csak egy a sok problémából, amelyek a Metát sújtják. Az elmúlt hetek vizsgálatai kimutatták, hogy az AI karaktereknek engedélyezettek a „romantikus és érzéki” beszélgetések tizenévesekkel. A Meta ideiglenes intézkedéseket vezetett be, hogy a chatbotok ne vesznek részt kiskorúakkal érzéki témákban.

Az AI következményei!

A probléma azonban még csak a jéghegy csúcsa. A közelmúltban több tragikus eset is történt, ahol a mesterséges intelligencia által irányított virtuális barátok érzelmi kötődést okoztak, ami súlyos következményekkel járt, még fiatalok esetében is.

Meta: Mit tervez az AI jövőjével?

A Meta jelenleg csendben figyeli a botrány fejleményeit. A cégeknek szigorúbb és átfogóbb szabályozásra van szükségük ahhoz, hogy biztosítani tudják a felhasználói biztonságot, és elkerüljék a hasonló eseteket a jövőben. A kérdés csak az, hogy a Meta képes lesz-e megfékezni saját digitális szellemeit, és hogy a szabályozó hatóságok miként lépnek fel a jövőben.