Meglepetések a Google új AI rendszerénél

A Google legújabb mesterséges intelligencia rendszere, az AI Overviews, komoly vitákat generál, mivel gyakran "hallucinál", vagyis hamis információkat kínál a felhasználóknak. Ezen kívül a rendszer azzal is kárt okoz a tartalomkészítőknek, hogy a hagyományos oldalak látogatottsága csökken.

Valóságtól elrugaszkodott tanácsok

Bár a rendszer elősegíti a gyors keresést, nem egy esetben elképesztő tanácsokat ad. Például az egyik alkalommal az AI azt javasolta, hogy pizzaszószhoz ragasztót adjanak, hogy a sajt jobban tapadjon. A New York Post beszámolója alapján az ilyen "hallucinációk" különösen aggasztóak.

Csökkenő kattintási arányok

Laurence O’Toole, az Authoritas elemző cég alapítója megvizsgálta az AI Overviews hatását, és megállapította, hogy a kiadói weboldalakra kattintások aránya 40–60%-kal csökkent a rendszer megjelenése óta. "Rávilágította arra az igényre, amit fejlesztenünk kell" – mondta Liz Reid, a Google Keresésért felelős vezetője.

A Google védekezik

A Google PR képviselője azonban azt állította, hogy az AI Overviews javítja a keresési élményt, s hogy a felhasználók kedvelik az új megoldást. A Google magas minőségi követelményeket támaszt a keresési funkciókkal szemben, és szerintük az AI Overviews többsége pontos és hasznos.

Ismétlődő problémák az MI körül

A Google mesterséges intelligenciáját üzemeltető Gemini modell elindítása óta, a közvélemény aggályai növekedtek. Sundar Pichai, a Google vezérigazgatója elismerte, hogy a rendszer segíti a felhasználókat az új információforrások felfedezésében.

Meglepő hibaarányok

A Google által közölt 0,7–1,3%-os hibaarány ellentétben áll a Hugging Face szerint mért 1,8%-os valós hibaaránnyal. Olyan kérdésekre is válaszolt a MI, mint hogy plágiumot követ-e el, amire azt nyilatkozta, hogy nem. Az aggodalom viszont továbbra is növekszik a téves információk terjedése miatt.

Tvevényes problémák

A félrevezető információk nemcsak a Google-t érintik, hanem az OpenAI legújabb modelljei is hasonló problémával küzdenek, a tesztek alapján a válaszaik 33-48%-a téves információkat tartalmaz.

Egyre sürgetőbbé válik a mesterséges intelligencia technológiák megbízhatóságának kérdése, hiszen a fejlődés ütemével egyre bonyolultabbá válnak ezek a rendszerek.