Har du noen gang scrollet gjennom sosiale medier som Facebook, TikTok eller X (tidligere Twitter) og blitt overrasket over de merkeligste bildene, videoene eller tekstene? Kanskje du har sett søte bilder av dyr, mennesker som engasjerer seg i hjertevarm veldedighet, eller kjente personer i uvanlige situasjoner, vanligvis delt av ukjente kontoer. Men vær forsiktig, for sjansen er stor for at dette innholdet er falskt og generert av kunstig intelligens (KI).

Myndighetene, inkludert Miljøpartiet De Grønne (MDG), har begynt å reagere på denne trenden. Ingrid Liland fra MDG uttrykker bekymring over at KI-generert innhold blir mer vanlig og at kvaliteten på dette innholdet stadig forbedres. "Sosiale medier er overfylt av informasjon som folk ikke kan være trygge på. Dette er en ny dimensjon av falskhet: Innlegg som ser ekte ut, men er laget av dataprogrammer," sier Liland.

Hun peker på at dette fenomenet kan få alvorlige konsekvenser for demokratiet. "Det er uholdbart; for at et demokrati skal fungere, må vi kunne skille mellom ekte og falsk informasjon. Når folk begynner å tro på falske bilder og situasjoner, kan det føre til en annen virkelighet, og i verste fall være direkte skadelig," advarer hun.

Digitaliseringsminister Karianne Tung er enig i bekymringene. Hun forteller at regjeringen jobber med å implementere EUs forordning om kunstig intelligens i norsk lov, som skal gjelde fra sommeren 2026. Men Liland mener at det haster mer enn som så. "Vi kan ikke vente til etter valget; KI brukes allerede til å manipulere og lure velgere i mange land. Regjeringen må handle raskt," sier hun med ettertrykk.

MDG presser regjeringen til å pålegge sosiale medieselskaper strengere regler for merking av KI-innhold. "Selskapene har ressursene til å håndtere dette, men mangler vilje. Myndighetene må trå til for å verne om folks rettigheter," påpeker Liland.

Ståle Grut, stipendiat i prosjektet Photofake, understreker at det er vanskelig å tallfeste omfanget av KI-innhold, men han er sikker på at det har økt betydelig det siste året. Til tross for at flere av verdens største medier og teknologiselskaper har arbeidet i flere år for å utvikle en standard for merking av medieinnhold, kalt C2PA, har den foreløpig ikke blitt mye brukt. Mange norske nyhetsmedier ser på muligheten for å støtte denne standarden, men usikkerheten rundt implementeringen henger fortsatt i luften.

"Fotorealistiske KI-bilder kan ødelegge troverdigheten til tradisjonelle fotografier og bidra til internettforurensning – en slags visuell spam som fyller opp bildesøk og sosiale medier. Dette er en alvorlig trussel mot hvordan vi oppfatter og deler informasjon," mener Grut.

Tung har tidligere uttalt at regjeringen vil innføre DSA-reglene i EØS-avtalen, men opplyser nå at det ser ut til å ta lengre tid enn først antatt. "Innføringen av DSA i norsk rett er høyt prioritert, men vi er avhengige av andre parter for å få det på plass," sier hun.

Regjeringen jobber parallelt med utformingen av en lov som skal regulere hvordan DSA kan implementeres i norsk lov, med mål om å sende det ut på høring før sommeren. Spørsmålet nå er om dette vil være nok til å håndtere den økende trusselen fra KI-generert innhold.