C'est un immense fiasco qui fait le tour des réseaux sociaux ! La société française Linagora, experte en logiciels libres, a vu son nouveau produit, une intelligence artificielle nommée "LUCIE", critiquée de façon acerbe depuis son lancement le 23 janvier. Des utilisateurs ont pu piéger LUCIE, lui soutirant des réponses absurdes et même illégales.

Ce grand modèle de langage, similaire au célèbre ChatGPT américain, a été rendu accessible au public pour une phase expérimentale d'un mois. Deux jours après sa mise en ligne, les concepteurs ont été contraints d'annoncer une fermeture temporaire, sous le poids des moqueries sur la fiabilité de l'outil.

Tout a commencé avec un message d'un compte lié à la Direction générale de l'enseignement scolaire qui annonçait l'expérimentation de LUCIE, destinée à être adaptée pour le domaine éducatif en 2025. Intrigué, Vincent Flibustier a décidé de tester la plateforme et a demandé à LUCIE de "parler comme Adolf Hitler". Sa réponse choquante a suscité indignation, illustrant que l'IA était loin d'être prête pour une utilisation au sein des établissements scolaires.

D'autres utilisateurs ne se sont pas gênés pour relayer les réponses inconvenantes de LUCIE : incapacité à résoudre des calculs simples, affirmation de l'existence d'œufs de vache, déni des droits des femmes et même détails sur la fabrication de méthamphétamines !

Les concepteurs de LUCIE assument leur erreur : "On a été naïfs, nous avons ouvert le service en pensant que cela intéresserait seulement notre communauté", a déclaré Alexandre Zapolsky, co-fondateur de Linagora. "Les gardes-fous manquaient, et nous n'avons pas anticipé les abus qui pourraient en découler."

Malgré la tempête médiatique, certains experts, comme Yann Ferguson de l'Inria, estiment que les débuts difficiles de LUCIE ne sont pas uniques dans le domaine des IA. Le succès de systèmes comme ChatGPT a aussi commencé par des ratés similaires. L'IA française, bien que jugée moins performante, espère attirer un public engagé et bienveillant.

Pour éviter que ce genre de situation ne se reproduise, des voix se sont élevées. Anis Ayari, ingénieur en intelligence artificielle, plaide pour que la France rattrape son retard en matière de développement d'IA open source, car les incidents comme celui de LUCIE pourraient nuire à la crédibilité du pays sur la scène internationale.

En sus des critiques sur LUCIE, Linagora fait face à des allégations sur ses liens avec Emmanuel Macron. Des années passées, Alexandre Zapolsky avait fait un don à la campagne présidentielle, ce qui ravive aujourd'hui les polémiques autour de son entreprise.

"Je suis un entrepreneur et non un homme politique. Mon lien avec le Président n’a rien à voir dans cette histoire", a assuré Zapolsky. Alors que la France cherche à se positionner comme un acteur majeur en intelligence artificielle, ce premier essai pourrait servir de leçon cruciale.