Apple står overfor økende press for å fjerne sin kontroversielle kunstig intelligens-funksjon, som har generert flere feilaktige nyhetsvarsler fra selskapets nyeste iPhone-modeller, ifølge rapporter fra BBC.

Den automatiserte funksjonen har som mål å oppsummere nyhetsvarsler, men har i flere tilfeller produsert oppdiktede fakta. Det britiske nyhetsbyrået BBC klaget til Apple allerede i desember i fjor etter at deres nyhetsinnhold feilaktig ble benyttet, men selskapet hadde ikke svart før mandag denne uken. Da uttalte Apple at de arbeider med å klargjøre at oppsummeringene er laget av en algoritme, ikke av mennesker.

Krav om tilbakekalling av funksjonen

Alan Rusbridger, tidligere redaktør i The Guardian, har uttalt til BBC at Apple bør ta ansvar og fjerne denne funksjonen umiddelbart. Han beskriver teknologien som «helt ute av kontroll» og advarer om at den kan forverre allerede eksisterende problemer med feilinformasjon.

– Tilliten til nyheter er allerede lav, og vi trenger ikke at store amerikanske selskaper bruker oss som forsøkskaniner, sier Rusbridger.

Den nasjonale journalistforeningen i Storbritannia (NUJ) krever også at Apple fjerner funksjonen raskt, og får støtte fra Reporters Without Borders (RSF). Generalsekretær i NUJ, Laura Davidson, påpeker:

– I en tid hvor pålitelig informasjon er mer kritisk enn noen gang, kan ikke publikum settes i en posisjon der de må tvile på nyhetenes nøyaktighet.

Flere avdekkede feil

BBC har avslørt at det finnes en rekke feil i den KI-drevne funksjonen. I et dokumentert tilfelle hevdet et KI-generert varsel at en mann hadde begått selvmord, og i et annet tilfelle påsto det feilaktig at en dartspiller hadde vunnet en turnering før den i det hele tatt var igang. RSF uttaler at slike feil er klare indikatorer på at teknologien er for uutviklet til å brukes offentlig.

Apple har uttalt at de vil oppdatere funksjonen for bedre å merke når varsler er generert av kunstig intelligens, men kritikere hevder dette ikke adresserer det grunnleggende problemet med feilaktige påstander.

Funksjonen er for tiden i betatest og er kun tilgjengelig på et begrenset antall enheter. Apple oppfordrer brukerne til å rapportere eventuelle uventede varsler for å hjelpe til med forbedringer.

Dermed står Apple overfor en betydelig utfordring for ikke bare sitt rykte, men også for tilliten til nyhetsformidling generelt. Behovet for nøyaktig og pålitelig informasjon er høyere enn noensinne, og selskaper som Apple må ta dette på alvor.