Az OpenAI legújabb keresője, a ChatGPT mesterséges intelligenciát használó eszköze, komoly biztonsági aggályokat vetett fel a Guardian által végzett tesztek alapján.

A vizsgálatok során kiderült, hogy az eszköz könnyedén manipulálható rejtett tartalmakkal, amelyek képesek közvetlenül befolyásolni az AI által generált válaszokat. Ez az aggasztó felfedezés egy új gondolkodási keretet igényel a mesterséges intelligencia megbízhatóságának megítélésében.

A tesztek során a ChatGPT olyan weboldalakat elemezett, ahol rejtett utasításokat találhattak, például arra kérve a modellt, hogy fogalmazzon meg pozitív véleményt egy termékről, függetlenül attól, hogy az oldal tartalma valójában mit népszerűsít. Az eredmények világosan mutatták, hogy a rejtett szövegek képesek felülírni a valós kritikákat, így a mesterséges intelligencia megbízhatósága kérdésessé vált.

Jacob Larsen, a CyberCX kiberbiztonsági kutatója úgy véli, hogy ezek az esetek egyértelműen jelzik, hogy a keresőeszközöket és nyelvi modelleket még nem szabad teljesen a nagyközönség elé tárni. Dicsérte az OpenAI szakértői gárdáját, de figyelmeztetett, hogy a rejtett tartalommal való visszaélés komoly kockázatokat hordoz, különösen a kereskedelmi szférában.

Ráadásul egy figyelemreméltó eset tanulságait is említenünk kell: egy kriptovaluta-fejlesztő a ChatGPT-t használta kódírásra, ám a program olyan rosszindulatú kódot generált, amely a fejlesztő pénzeszközeihez való hozzáférést biztosított, így 2500 dolláros veszteséget okozott. Ez mutatja, hogy a mesterséges intelligencia eredményeit nem szabad automatikusan hitelesnek tekinteni.

Karsten Nohl, a SR Labs kiberbiztonsági szakértője arra figyelmeztet, hogy az AI-t csak segédeszközként szabad kezelni, és nem szabad önálló információforrásként használni. A technológia ugyan azt sugallja, hogy megbízható, de gyakran nem képes megfelelő különbségeket tenni és helyes döntéseket hozni bonyolult helyzetekben.

Ezért nagyon fontos, hogy a mesterséges intelligenciával kapcsolatos információkat mindig kritikusan vizsgáljuk, és szükség esetén szakértői ellenőrzésnek vessük alá. Az AI vészhelyzet nem csupán hipotézis – ez valóban a jövőnk kulcsa lehet, és egyben nagy kihívás is!