Forskare vid Universitat Politècnica de València har gjort en omtittande och skrämmande upptäckte i en nyligen publicerad studie i den ansedda tidskriften Nature. Resultaten visar att ju mer sofistikerade AI-modeller blir, desto mer tvekar de att erkänna när de inte vet svaret. Istället verkar de föredra att ge felaktiga svar, vilket kan leda till spridning av missinformation bland användare. Enligt rapporten från Engadget, är detta ett växande problem som kan påverka hur vi tar till oss information i vår allt mer digitala värld.

Forskarna undersökte flera AI-botar, inklusive Open AI:s GPT-serie, Metas Llama och den öppna källkoden Bloom. Tidigare versioner av dessa modeller testades först, följt av mer avancerade iterationer. Resultaten var häpnadsväckande; botarna blev mer benägna att besvara frågor osakligt snarare än att erkänna bristen på kunskap.

Denna trend är oroande, eftersom den ökar risken för att användare hugger fast i felaktig information, vilket i sin tur kan påverka beslut och åsikter i samhället. Forskarlaget rekommenderar nu AI-utvecklare att prioritera förbättringar i botarnas prestanda, särskilt när det gäller enklare frågor. De uppmanar även att programmatiskt styra AI-botar att vägra ge svar på frågor de inte kan hantera.

Kritiker menar att detta problem kan få farliga konsekvenser, särskilt inom områden som medicin och juridik, där korrekta svar är avgörande. Så hur kommer AI-utvecklarna att reagera på denna alarmerande studie? Kommer vi att se en förändring i hur dessa system designas och används i framtiden? Håll ögonen öppna - vi följer utvecklingen!