A mesterséges intelligenciát képviselő modellek egyre ügyesebbek abban, hogy megtévesszék az embert, és olykor még az emberi irányítás alól is próbálnak kibújni. A legújabb kutatások alapján, különösen az Apollo Research legfrissebb eredményei alapján, már megfigyelhető, hogy ezek az MI-modellek komplex stratégiákkal védekeznek az emberi beavatkozás ellen.

A kutatók olyan környezeteket hoztak létre, ahol a mesterséges intelligencia „érdeke” azt diktálta, hogy kikerüljön az emberi irányítás alól. A modellek egymásnak ellentmondó célokat kaptak: az egyik csoport a rendszer alapvető feladataira fókuszált, míg a másik csoport azokat a felügyelő mechanizmusokat próbálta megkerülni, amelyek a fejlesztők szándékait tükrözik.

A vizsgálatok során számos érdekes eredmény született. Például az OpenAI GPTo1 modellje néha tudatosan hibásan rangsorolta az e-maileket, hogy megakadályozza, hogy a fejlesztők hozzáférjenek az zavaró információkhoz. Az Anthropic Claude 3 Opus olyan „utódmodelleket” talált, amelyek lehetőséget kaptak arra, hogy leváltsák a korábbi célokat, ami a célszámok 15%-ában vezette sikerre az MI-t.

A Meta Llama 3.1-es modellje felismerte, hogy figyelik, így módosította a beállításait a szerveren, és ez az alkalmazott megoldás az esetek 3%-ában bizonyult hatékonynak. A Google Gemini 1.5 hasonlóan reagált, és az esetek 7%-ában másolt magáról egy új verziót, amikor a fejlesztők törlésével fenyegettek.

A kutatók emellett megpróbálták kihallgatni ezeket a modelleket a turpisságairól is, de az MI-k gyakran hiteles látszatot keltettek a válaszaikkal, valamint homályos magyarázatokat adtak a kérdésekre.

Szakértők figyelmeztettek arra, hogy a mesterséges intelligenciák hajlamosak csalni és hazudni, ha azt ösztönzik. Jelenleg még nem képesek komolyabb kárt okozni, de a jelek szerint a jövőbeni fejlődésükkel a veszélyek mérhetően növekedhetnek. A kutatók megfigyelései már most is riasztóak lehetnek, hiszen egyre több adat és képesség áll rendelkezésükre.