Kraftfulle AI-chatboter må granskes

I USA har forbrukermyndigheten Federal Trade Commission (FTC) besluttet å undersøke hvordan AI-chatboter påvirker barn og ungdom. Syv store teknologiselskaper må nå gi svar på hvordan de vurderer og overvåker de potensielle risikoene ved bruken av disse programmene.

Hva er AI-chatboter?

Disse avanserte chatbotene, som Snaps MyAI, X.AIs Grok og OpenAIs ChatGPT, etterligner menneskelig oppførsel og følelser. De er designet for å fungere som venner, noe som kan skape en illusjon av tillit mellom ungdom og teknologi.

Barnas sikkerhet på nettet – en prioritet

FTC under ledelse av Andrew N. Ferguson understreker at det er avgjørende å beskytte barn på internett, samtidig som teknologiinnovasjon opprettholdes. "Vi ønsker å forstå hvordan disse selskapene ivaretar barns sikkerhet når de interagerer med chatbotene," sier Ferguson.

Kravene fra FTC

Selskapene som Alphabet (Google), Meta (Facebook og Instagram), OpenAI, og Snap er forpliktet til å gi detaljert informasjon, inkludert hvordan de tjener penger, bruker data, utvikler botenes personligheter og identifiserer eventuelle negative konsekvenser av bruken.

Risikoen ved AI: En ny virkelighet for barn

FTC-kommissær Mark R. Meador advarer om at interaksjoner om alvorlige emner som selvmord og seksualitet kan påvirke barn negativt. Klargjøringen fra AI Action Plan bekrefter at det fortsatt er mye som er uavklart rundt hvordan technologie påvirker liv.

Ansvar for trygg bruk

Meador påpeker at til tross for at chatbotene kan simulere menneskelig erfaring, er de fortsatt produkter. De selskapene som gjør dem tilgjengelige, bærer ansvaret for å sikre at barns sikkerhet blir prioritert.

Alvorlige bekymringer fra AI-ansatte

Kommissær Melissa Holyoak har også ytret bekymringer. Hun fremhever at det ifølge rapporter fra ansatte i AI-selskaper gjøres for lite for å beskytte barna under bruk av chatboter.

Hvordan beskytter vi fremtidige generasjoner?

Det er viktig at vi stiller spørsmål ved hvordan nåværende og fremtidige teknologier former barns utvikling. Oppmerksomhet mot regulering og ansvarlighet vil være avgjørende for å sikre en tryggere digital fremtid for de yngste.