En Rystende Historie om AI-misbruk

I Jersey City har Francesca Mani, bare 14 år gammel, blitt offer for en skandaløs spredning av falske nakenbilder. Nå har hun og moren, Dorota Mani, satset alt på å bekjempe digitale overgrep.

Det hele begynte en høstdag i 2023, da ryktene om nakenbilder av jenter spredte seg på Westfield videregående skole i New Jersey. Bilder som ikke engang var ekte, men skapt av avanserte AI-verktøy som kan manipulere bilder.

"Alle jentene gråt, for ingen visste hvem som var rammet. Det var total kaos," forteller Dorota.

Skolens Respons - En Skuffelse

Da situasjonen ble kjent, sendte skolen ut en e-post der de kalte det «massiv feilinformasjon», og en gutt fikk én dags suspensjon. Dorota og Francesca ble sjokkert over hvordan situasjonen ble håndtert.

"Rektor sa de ikke kunne gjøre noe da det ikke fantes lover mot dette. Da svarte Francesca: ‘Jeg skal skaffe en lov!’" fortsetter Dorota.

En Voksende Trussel i Samfunnet

Hendelsen skjedde bare ett år etter introduksjonen av AI-tjenester som Midjourney og ChatGPT. Siden den gang har falske nakenbilder blitt et økende problem blant ungdom over hele USA.

Eksempler på slike hendelser inkluderer en tenåring som ble suspendert i Texas, og to ungdomsskoleelever arrestert i Florida for å dele falske bilder. En undersøkelse viser at hele 11% av amerikanske elever har blitt utsatt for slike overgrep.

Fra Aktivisme til Lovgiving

Inspirert av datterens kamp, begynte Dorota og Francesca å kontakte politikere og organisasjoner for å kreve endring. De fikk kontakt med senator Ted Cruz, som jobbet med et lovforslag for å gjøre det straffbart å dele intime bilder uten samtykke.

"Vi ønsket lovgivning, tydelige retningslinjer og ansvarliggjøring," sier Dorota. Etter grundige forberedelser ble lovforslaget en realitet. Lovens hensikt er å beskytte ofrene og sikre rask fjerning av falske bilder.

En Historisk Dato i Rosehagen

Den 19. mai, under en seremoni i Rosehagen, signerte Donald Trump loven mens Francesca sto side om side med ham. "Det var et stort øyeblikk. Denne loven er så viktig for mange mennesker," sier Dorota.

Debatt om Sensur og Alansering

Det er imidlertid bekymringer om at den nye loven kan føre til sensur. Organisasjoner som Electronic Frontier Foundation advarer mot uklart språk som kan føre til misbruk av fjerning av innhold. Men Dorota mener det er viktig å starte et sted.

"Denne typen bilder kan påvirke millioner av ungdommer og deres fremtid," påpeker hun.

Globalt Engasjement mot AI-overgrep

Kampen mot digitale overgrep har ført Dorota og Francesca til en global scene, der de deler sin historie i flere land. De jobber også med skolekretser for å engasjere unge i ansvarlig bruk av kunstig intelligens.

"Teknologien er fantastisk, men vi må regulere den," avslutter Dorota. Deres historie er ikke bare et lokalt problem, men en global utfordring som krever umiddelbar oppmerksomhet.