Att skapa fejkade nakenbilder med hjälp av digital teknik är ingen nyhet, men problemet har nått alarmerande proportioner via AI. En granskning av amerikanska Wired avslöjar att appen Telegram har flera bot-konton – cirka 50 stycken – som lovar att avlägsna kläder från bilder, och till och med skapa bilder där individer utför sexuella handlingar. De olika kontona hade en skrämmande mängd över 4 miljoner användare varje månad.

"Det är en stor oro att dessa verktyg - som ruinerar liv och skapar mardrömsliknande situationer, särskilt för unga kvinnor - är så lättåtkomliga på en av världens största plattformar", säger en expert som Wired har talat med.

Kända personer som Taylor Swift och Italiens premiärminister Giorgia Meloni har tyvärr blivit måltavlor för dessa fejkade nakenbilder, men risken gäller alla – från kollegor till vänner och familjemedlemmar.

Efter Wireds kontakt har flera av de botar och kanaler som annonserade dessa tjänster stängts ner av Telegram, men nya konton fortsätter att dyka upp. Detta pekar på ett större systematiskt problem som kräver snarliga åtgärder.

Telegram har ännu inte kommenterat dessa AI-botarnas närvaro på plattformen, vilket väcker frågor om deras ansvar i att hantera sådant skadligt innehåll.

Intressant nog greps Telegrams grundare, Pavel Durov, nyligen i Frankrike, anklagad för brottsligt innehåll relaterat till appen, inklusive spridning av övergreppsmaterial, drog- och vapenhandel, samt uppmaningar till våld.

Med den snabba utvecklingen av AI-teknologier är det en brådskande fråga att diskutera säkerheten och etiken kring sådana innovationer. Vad kan vi göra för att skydda oskyldiga människor från att bli måltavlor på detta sätt? Fortsätt att följa vår rapportering för mer djupgående analyser och viktiga uppdateringar kring detta växande problem.