Depuis quelques semaines, la plateforme DeepSeek, un chatbot d'intelligence artificielle (IA), a fait l'objet de critiques élogieuses qui ont rapidement cédé la place à une déception croissante. En effet, alors qu'elle dominait les classements de téléchargements sur l'App Store, des voix s'élèvent pour dénoncer les nombreuses absurdités et failles dans son fonctionnement. Les utilisateurs, initialement séduits, commencent à réaliser la gravité de la "pollution informationnelle" qu'elle génère sur l'internet chinois.

Lan Xi, un célèbre blogueur et expert en technologie, a récemment partagé sur son compte WeChat que l'outil aurait dupé ses premiers utilisateurs avec un grand nombre d'erreurs factuelles. Il décrit ces inexactitudes comme trompeuses, à tel point que certains amis ont relayé de fausses informations partagées par l'IA avec un entrain naïf.

L'alerte est lancée

Zhigu Qushi, une plateforme d'information économique, rejoint le débat et souligne la désillusion d'un professeur à Guangzhou. Ce dernier, en quête d’informations pour son étude sur la présence du cantonais dans le monde, a découvert que les références fournies par DeepSeek étaient toutes erronées. "DeepSeek s'avère peu fiable pour une recherche académique", a-t-il confié.

L'IA ne se contente pas de créer des erreurs ; elle concocte également de fausses informations. Par exemple, lorsque l'on interroge DeepSeek sur un trajet entre Huancheng et Xi'an, celui-ci évoque une "zone d'exclusion de circulation" qui n’existe tout simplement pas, illustrant ainsi la fâcheuse tendance qu'a l'IA à "halluciner" des données.

Les hallucinations de DeepSeek-R1

Comparé à ses concurrents, comme ChatGPT, dont la réputation a également été entachée par des erreurs de ce type, DeepSeek-R1 semble se distinguer par une propension exacerbée à fournir des informations fallacieuses. Liu Su, un auteur scientifique reconnu, a récemment annoncé son intention de désinstaller DeepSeek de son WeChat, critiquant non seulement la fiabilité des informations générées, mais aussi la "censure excessive" dont l’outil se rend coupable, en évitant de répondre à des questions pourtant légitimes.

Face à ces désillusions, Liu Yadong, professeur émérite à l'université de Nankai, appelle les utilisateurs à relativiser leur enthousiasme pour DeepSeek. Il reconnaît que l'outil est plus ou moins sans tabou à l'heure actuelle, mais prédit que des mesures de contrôle seront bientôt mises en place, nous incitant ainsi à ne pas idéaliser trop rapidement ce qui pourrait s’avérer être une simple illusion technologique.

En somme, alors que DeepSeek prétend révolutionner le domaine de l’intelligence artificielle en Chine, ses véritables capacités et la fiabilité de ses informations demeurent fortement remises en question. La fin du rêve d'une IA sans faille serait-elle déjà au coin du bois ? Les utilisateurs sont avertis : prudence est de mise !