Carl Heath, som är ordförande för arbetet med digital resiliens på forskningsinstitutet RISE, är en expert inom desinformation på nätet. Under ett möte i Riga anordnat av NATO Stratcom, delade han insikter om hur lätt det är att skapa och sprida desinformation genom nya AI-verktyg.

Heath demonstrerade en teknik där han använde ett marknadsföringsverktyg och en chatbot för att omvandla en nyhetsartikel från SVT till rysk-ortodox propaganda, redo för spridning på sociala medier som X och Facebook. Enligt honom krävdes endast grundläggande programkunskaper och totalt 30 minuter för att bygga systemet.

– När teknologin blir mer tillgänglig för fler, innebär det att kunskapskraven sänks och därmed ökar möjligheterna till spridning av desinformation, förklarar han.

Jack Brewster, redaktör på Newsguard som granskar nyhetsmedier och avslöjar falska nyheter, gav oss också en skrämmande inblick. På en onlinemarknadsplats hittade han en pakistansk frilansare som för endast 100 dollar skapade en fejkad nyhetssajt, kapabel att producera tusentals smutskastande artiklar om valfritt ämne.

– AI har verkligen "demokratiserat" trollfabriken. Nu kan vem som helst massproducera desinformation med lätthet, säger Brewster.

Detta väcker frågor om vår digitala framtid och hur enkelt det numera är att manipulera information och påverka opinionen. Med AI-teknologins snabba utveckling kan vi förvänta oss ännu fler utmaningar i kampen mot desinformation. Hur ska vi skydda oss mot detta? Och vad betyder det för demokratin i allmänhet?

Följ vår rapportering för att få fler insikter och ta del av trender inom desinformation och AI.