Mystiska fejkade inlägg på Facebook

Har du också snubblat över de gripande inläggen på Facebook? Snyfthistorier som får tusentals likes och kommentarer, med krav på att du ska visa ditt stöd. En viral bild av en gråtande sjuksköterska spred sig snabbt i augusti, men vad du inte visste är att bilden var helt AI-genererad.

Fenomenet sprider sig

Inlägget fångade över 65 000 reaktioner och väckte starka känslor. Ett annat viralt bluffinlägg handlade om en brandman i Göteborg som räddade ett barn från eldsvåda.

Olaglig verksamhet av vietnamesiskt företag

Frilansjournalisten Jonathan Lundberg och IT-experten Karl Emil Nikkas har grävt djupt i dessa bluffhistorier. Deras forskning ledde dem till en vietnamesisk marknadsföringsbyrå specialiserad på att skapa dessa AI-driven klickbeten.

"Det här exploderade under sommaren och det kändes som att något suspekt fanns bakom," förklarar Lundberg. Byrån, beskriven som en 'klickbetesfabrik', anställer ett trettiotal unga talanger med erfarenhet inom sociala medier och AI.

Ekonomisk vinning på bekostnad av ärlighet

Enligt Lundberg är lönerna över genomsnittet i Vietnam, och de tjänar pengar varje gång någon klickar på de länkade artiklarna, som är fullproppade med annonser.

Ingen skam bland bluffmakarna

Det är ett växande fenomen i Sydostasien som Lundberg beskriver utan skam. "De har lärt sig att manipulera plattformarna och lura systemet." Det är främst äldre användare som kommenterar och delar dessa inlägg. Många har inte sett så många AI-bilder tidigare, vilket gör dem mer mottagliga.

Det globala problemet

I juni identifierades så många som sex svenska sidor och 27 internationella sidor med liknande innehåll. Lundberg har kontaktat Meta, men fått noll respons. "Det är nästan omöjligt att nå dem, vilket gör att mycket förblir ovisst. Facebook har sina egna motiv för att inte ta bort inlägg, baserat på de intäkter de får från annonser," avslutar Lundberg.