Kunstig intelligens skaper nye skiller mellom kjønnene!

Har du noen gang lurt på hvordan kunstig intelligens (KI) behandler menn og kvinner? Ifølge Elisabeth Wetzer, førsteamanuensis ved UiTs maskinlæringsgruppe, kan de fleste svarene finnes i datamaterialet som KI-en trenes på.

"Kunstig intelligens bygger på historiske data som vi mennesker har skapt. Dette kan føre til diskriminering og fordommer som er dypt rottfestet i samfunnet vårt," forklarer Wetzer.

Urettferdighet i kredittvurdering!

Wetzer understreker at for eksempel kredittvurderingssystemer basert på lønnsstatistikk fra de siste 60 årene fremhever et betydelig lønnsgap mellom kvinner og menn. "Det er bekymringsfullt at jeg kan få et lavere lån enn en mann med samme kvalifikasjoner, bare fordi historiske data tilbyr dårligere forutsetninger for kvinner," sier hun.

KI reproducerer utdaterte kjønnsroller!

Når NRK utfordret KI-verktøyet Copilot til å lage flere bilder uten å spesifisere kjønn, ble resultatet en tydelig refleksjon av forhistoriske kjønnsroller. Den digitale virkeligheten fortsetter å velge bort kvinner, spesielt i vilkårlige beslutninger.

Hege Andreassen, senterleder for omsorgsforskning ved UiT, påpeker at ansettelsesprosesser kan bli ugunstige for kvinner. "Når vi bruker KI i rekruttering, har vi sett at kvinner ofte blir valgt bort, spesielt i bransjer der de ikke har vært representert," advarer hun.

Seksualisering av jenter i KI!

Et annet problem er hvordan KI kan seksualisere unge jenter. NRK gir et eksempel med oversettelse av en ungarsk tekst, der KI-en reproduserer kjønnsstereotypier – en tydelig indikasjon på hvordan historiske data former nåtidens oppfatninger.

Mangel på mangfold i utviklingen!

Ifølge Wetzer er mangel på kvinnelig representasjon i utviklingen av KI en hovedårsak til skjevhetene. Bare 22 prosent av de som jobber med utviklingen av KI er kvinner, noe som kan føre til at kvinnedominerte yrker eller sektorer blir oversett.

"Det er avgjørende å inkludere flere perspektiver i utviklingsprosessen for å skape en rettferdig teknologi som virkelig dekker behovene til hele befolkningen," sier Andreassen.

Hvor går veien videre?

Norge har sagt ja til EUs prinsipper for etisk utvikling av kunstig intelligens, og regjeringen har planer om å implementere EUs KI-forordning innen 2026. Wetzer mener strenge reguleringer er nødvendig for å hindre ytterligere forskjellsbehandling. "Vi har et spesielt ansvar for å forske på skjevheter og utvikle ansvarlig KI," avslutter hun.