A kínai cenzúra hatékonyságát senkinek sem kell bemutatni; mindenki tisztában van azzal, hogyan próbálja elnyomni a rendszer az elégedetlenkedő hangokat. A koronavírus-járvány alatt több cikk is foglalkozott azzal, hogy a kormány milyen módszerekkel manipulálta az információt. Nemrégiben pedig a DeepSeek nevű projekt révén kiderült, hogy a mesterséges intelligenciát is szigorúan korlátozzák Kínában. A Tech Crunch szerint azonban most egy frissen kiszivárgott adathalmaz rávilágított arra, hogy a cenzúrázáshoz magát az AI-t is használják.

Az adathalmazt egy NetAskari nevű kibervédelmi kutató fedezte fel egy titkosítatlan Elasticsearch-adatbázisban, a kínai Baidu egyik szerverén. Az adatok mögött álló források kiléte egyelőre ismeretlen, de az biztos, hogy az adatbázist 2024 decemberében is frissítették.

A szivárgás során előkerültek olyan információk, hogy 133 ezer minta került egy meg nem nevezett nagyméretű nyelvi modellbe (LLM). Ennek feladata, hogy azonosítsa a cenzúrázni kívánt érzékeny témákat, amelyek között szerepel például a politika, a társadalmi élet vagy a katonai helyzet. Amennyiben a cenzúrázás alá eső tartalmat észlel, az LLM automatikusan megjelöli azokat a posztokat.

A legfontosabb témák között olyan ügyek szerepelnek, amelyek Kínában az utóbbi években komoly aggodalomra adtak okot. Így például a helyi élelmiszerbiztonság, a környezetszennyezés, a pénzügyi csalások és a munkaügyi problémák. Az adathalmaz szorosan összefonódik a közvéleménnyel kapcsolatos feladatokkal, így várható, hogy a kormányzati cenzúrázásban jelentős szerepet játszik.

Xiao Qiang, a UC Berkeley kutatója szerint egyértelmű bizonyíték arra, hogy a kínai állam mesterséges intelligenciát kíván bevetni az elégedetlenség elnyomására. „Az LLM-ek előnye, hogy sokkal gyorsabban és hatékonyabban működnek, mint az emberi munkaerő, így a kormány még szorosabbra fűzheti a gyeplőt az online térben” – tette hozzá Xiao.

Ez az új fejlemény felveti a kérdést, hogy vajon hogyan alakul a jövő a digitális világban, ahol a mesterséges intelligencia nemcsak segít a kormányoknak, hanem aktívan részt is vesz a vélemények manipulálásában. A cenzúra eszközeinek fejlődése nemcsak Kína, hanem a globális közösség számára is aggasztó jelenség lehet.