Under hösten har amerikanska justitiedepartementet stängt ner över trettio fejkade nyhetssajter, som misstänks ha kopplingar till det ryska nätverket Doppelganger. Dessa sajter har spridit falska nyhetsartiklar som utgett sig för att komma från välkända medier som Washington Post och Fox News.

I takt med det kommande presidentvalet i USA 2024, har oro spridits kring valfusk med hjälp av artificiell intelligens (AI). Enligt statsåklagare Merrick Garland finns det ett tydligt syfte med dessa kampanjer - att sprida desinformation och skapa splittring i den amerikanska opinionen som gynnar Moskva.

Ett annat nätverk, med ryska kopplingar och namnet CopyCop, har under 2024 kartlagts av säkerhetsanalytiker från Recorded Future. Deras rapporterad verksamhet visar hur CopyCop använder AI för att massproducera innehåll riktat både mot de europeiska valen och det stundande presidentvalet i USA.

"De imiterar lokala amerikanska nyhetssajter och använder namn som 'Boston Times'," förklarar Clément Briens, analytiker på Recorded Future. "De skapar artiklar som verkar trogna och pålitliga, för att senare lansera desinformation om specifika händelser."

De senaste veckorna har amerikanska myndigheter utfärdat nya varningar om desinformationskampanjer från främmande makter, särskilt under valets kritiska skede. Enligt en rapport från FBI och CISA är Ryssland och Iran centrala avsändare av denna desinformation.

National Intelligence Council, som samlar information från hela det amerikanska underrättelseväsendet, varnar för att Kina, Ryssland och Iran är väl förberedda att utnyttja ett jämnt valresultat, genom att skapa oro och förvirring via digital desinformation på sociala medier.

Rapporter visar att ryska kampanjer fokuserar på att misskreditera Kamala Harris, medan Iran tycks ha som mål att undergräva Donald Trump. Detta kan få stora konsekvenser för det demokratiska valet, och många experter oroar sig för hur AI-fusk kan påverka den offentliga opinionsbildningen.

Med så mycket på spel, kan det vara värt att fråga sig: hur mycket av det vi ser i våra flöden i sociala medier egentligen är verklighet?