Sedan den artificiella intelligensens boom började för två år sedan har teknikjättarnas aktier nått astronomiska nivåer, och i Silicon Valley målas tekniken upp som nästan utopisk. Men bakom stängda dörrar uttrycker flera ledande AI-experter en betydligt mer dyster bild av läget.

En ny undersökning från analysföretaget Gladstone AI, utförd på uppdrag av den amerikanska regeringen, visar att många inom branschen uppskattar att risken för att AI kan ta över kontrollen från mänskligheten är så hög som fem procent innan året är slut.

Edouard Harris, teknisk chef på Gladstone AI, berättar för Svenska Dagbladet, ”Det var chockerande... Det är en mycket högre siffra än jag hade föreställt mig.”

Berkeleyprofessorn Stuart Russell, en av världens mest framstående AI-forskare, drar paralleller till kärnvapens utveckling och varnar för att dagens AI-system är särskilt farliga eftersom deras mål är oklara. Han säger, ”De system som har dykt upp de senaste åren är ännu värre. Vi vet inte ens vilka mål de strävar mot.”

Det finns en växande oro bland forskare och teknikexperter att vi står inför en potentiell katastrof om vi inte agerar snabbt och effektivt. Flera viktiga punkter som måste beaktas inkluderar bristen på regleringar inom AI-forskning och utveckling, samt den snabba tempot av AI-innovationer som kan överskrida våra förmågor att hantera dem.

Experter uppmanar nu till ett globalt samarbete för att sätta upp tydliga riktlinjer och begränsningar för användning av artificiell intelligens för att undvika en katastrofal utgång. Är vi beredda att ställa de svåra frågorna om vad vi vill att dessa system ska uppnå och hur de ska kontrolleras? Den tiden kan snart vara förbi.