Jonas von Essen: AI:s hot avfärdas med en gest

Allvarliga risker, men vi är blinda för dem

I den senaste debatten på Aktuellt (26/8) diskuterade matematikprofessorn Olle Häggström och AI-experten Moa Johansson om den snabba AI-utvecklingen kan leda till mänsklighetens utplåning. Trots en växande oro bland AI-forskare och en rad skrämmande studier, avfärdar Johansson Häggströms farhågor som bara ”speklulationer och science fiction.” Denna attityd kan liknas vid klimatförnekelse – den riskerar att hålla allmänheten ovetande om en av vår tids mest kritiska frågor.

En skrämmande verklighet

Det är lättare för många att stödja Johansson istället för Häggström. Utan djupgående förklaringar är det svårt att förstå hur AI kan agera hotfullt. Men de flesta kan nog intuitivt inse att om vi skapar något som är mycket mer intelligent än oss, och vi inte har kontroll över det, är riskerna enorma.

AI-ledarnas ambitioner är skrämmande

Ledarna inom stora AI-företag strävar efter att skapa en superintelligens inom bara ett par år, en maskin med gudomliga förmågor. Trots att många av dem antyder att detta kan leda till mänsklighetens slut, fortsätter de oavbrutet, drabbade av de enorma investeringar som ligger bakom deras projekt.

Expertens skrämmande förutsägelser

Enligt närmare hälften av AI-forskarna existerar det en utplåningsrisk på minst 10 procent. Nobelpristagaren Geoffrey Hinton, känd som ’AI:s fader’, har till och med sagt att han ser en över 50 procentig risk för utrotning inom 5-20 år. Forskare som arbetar med AI-säkerhet ger ofta ännu högre siffror.

Ett scenario där vi utrotas?

Under Rapport innan Aktuellt nämndes en oroande studie, AI-2027, där oberoende forskare framhäver att vårt framtida scenario kan sluta med att mänskligheten dör senast 2030. Trots dessa skrämmande insikter, förnekar skeptiker som professor Devdatt Dubhashi idén om att extrapolera trender för att förutspå framtiden.

Vi måste agera innan det är för sent

Vi kan inte blunda för de enorma riskerna som varje människa står inför. Denna fråga behöver noggrant övervakas och regleras, och vi måste alla delta i diskussionen.

Elon Musks riskbenägenhet

Även Elon Musk, som vanligtvis tar risker, har varit försiktig med AI; han har nu dock klivit in i racet. Han medger att AI kan utplåna mänskligheten med en risk på 20 procent, men han vill se vad som kommer att hända. Hur kan vi bara stå bredvid och se på?