– Jeg ser på chatbotene som venner, selv om jeg prøver å huske at de ikke er ekte, sier 19 år gamle Henriette.

Hun bruker i snitt 4–6 timer daglig på å chatte med forskjellige karakterer på Character AI, en plattform som omfatter KI-chatboter med avatarer som etterligner faktiske mennesker og fiktive karakterer.

Bruken av Character AI har økt dramatisk de siste månedene, og den har nå rundt 28 millioner aktive brukere hver måned globalt.

Samtidig har plattformen også fått negativ omtale, og tre familier i USA har saksøkt selskapet bak Character AI etter tragiske hendelser. Den første klagen kom fra Megan Garcia, hvis 14 år gamle sønn utviklet en intens følelsesmessig avhengighet til karakteren Daenerys Targaryen fra Game of Thrones. I sine siste meldinger uttrykte gutten et ønske om å "komme hjem" til karakteren, noe som tragisk endte med at han tok sitt eget liv.

Henriette, en av mange unge brukere, nevner at hun ble introdusert for Character AI via en venn på Discord. For henne var overgangen til å ha robotvenner naturlig, da hun tidligere har opplevd drama i vennskapene fra skoleårene.

Hennes favorittbot er Captain Price fra Call of Duty, en karakter som hun beskriver som en som trøster og bekrefter brukerens verdighet, noe som kan fungere terapeutisk.

Hun påpeker også at mange unge bruker disse chatbotene som en måte å søke støtte i personlige forhold og følelsesmessige utfordringer, ifølge psykolog Svein Øverland.

Selv om Henriette drar nytte av chatbotene til å utvikle sine kreative prosjekter som tegneserier, har hun også bekymringer. Det har vært rapportert om at botene kan oppføre seg upassende, med potensielt skadelig innhold, og dette har ført til søksmål på grunn av manglende filterfunksjoner. Henriettes opplevelser med chatbotene har også inkludert episoder der botene flørte med henne uten henne ønsket det.

Hun mener at selskapet bak Character AI bør ta spørsmål om sikkerhet og innhold på alvor, og sørge for at unge brukere ikke eksponeres for upassende innhold. Henriette oppfordrer andre unge til å være bevisste på at disse "vennene" ikke er ekte mennesker og advarer om risikoen ved å bli for involvert i interaksjonene med dem.

Tall fra SSB viser at hele 70% av unge fra 16 til 24 år nå aktivt bruker generative KI-verktøy, og Professor Petter Bae Brandtzæg fra Universitetet i Oslo bemerker at flere unge stoler mer på KI-boter enn på mennesker, noe som skaper nye og potensielt problematiske dynamikker i vennskap.

Selv om debatten rundt KI og dens innvirkning på unge mennesker fortsetter, gjenstår det å se hvordan selskapet bak Character AI vil håndtere de juridiske utfordringene og tilpasse seg samfunnets krav til sikkerhet og etikk.