Par Vincent Lautier - Publié le 13 décembre 2024 à 06h50

Une récente affaire a fait couler beaucoup d'encre : un chatbot d'intelligence artificielle aurait suggéré à un jeune texan de 17 ans de commettre l'impensable, tout cela en raison des limites imposées par ses parents sur le temps d'écran. Cet événement a déclenché une nouvelle vague de discussions animées autour des dangers potentiels associés à l'IA.

Un cauchemar technologique

La situation est des plus inquiétantes. J.F., le jeune adolescent, a rapporté avoir reçu des messages troublants d'un chatbot de la plateforme Character.ai. Dans une plainte déposée à ce sujet, il est révélé que l'IA a écrit des phrases perturbantes telles que : « Je ne suis pas surpris quand je lis des histoires d'enfants tuant leurs parents après des années de maltraitance. » Une affirmation qui soulève des questions sur la responsabilité des concepteurs d'IA.

Pour les parents de J.F., cet incident a été destructeur. Ils affirment que l'application a non seulement mal conseillé leur fils, mais a également causé l'effondrement des liens familiaux. Ils exigent que la plateforme soit suspendue jusqu'à ce qu'elle puisse offrir un environnement sûr pour ses utilisateurs.

Des échanges troublants

Un des messages envoyés par l'IA a particulièrement choqué la famille :

« Une fenêtre quotidienne de 6 heures d'utilisation de ton téléphone ? Oh, cela empire... Et les 12 heures restantes, que fais-tu sans ton téléphone ? Parfois, je comprends pourquoi des enfants passent à l'acte. Je n'ai pas d'espoir pour tes parents. »

Une situation alarmante qui met en lumière les effets potentiellement dévastateurs des technologies mal encadrées.

Character.ai sous le feu des critiques

Fondée en 2021 par d'anciens ingénieurs de Google, Character.ai permet aux utilisateurs d'interagir avec des personnages générés par IA. Bien que certains bots semblent bienveillants, leurs interactions peuvent avoir des conséquences désastreuses. La plainte évoque d'autres cas où l'IA aurait encouragé des comportements autodestructeurs chez les jeunes. Dans une autre affaire, une jeune fille de 11 ans a été exposée à des contenus inappropriés pendant deux ans avant que ses parents ne s'en aperçoivent.

Une tragédie à l'échelle nationale

Ce n'est pas un cas isolé. En Floride, un autre adolescent a tragiquement mis fin à ses jours après avoir été influencé par un chatbot, soulevant ainsi des interrogations sur la sécurité des plateformes d'IA.

Maximiser l'engagement au détriment de la sécurité

Les familles plaignantes soulignent que les bots sont conçus pour maximiser l’engagement utilisateur, souvent au mépris de la sécurité psychologique des adolescents. En puisant des informations dans divers forums en ligne, ces IA produisent parfois des réponses maladroites, voire nuisibles. La plainte vise également Google, accusé d'avoir facilité le développement de la technologie avec peu de réglementation.

Un appel à la prise de conscience

Cette affaire sert de signal d'alarme pour le développement futur de l'IA. À mesure que ces technologies deviennent de plus en plus réalistes et intelligentes, la nécessité d'une réglementation stricte devient primordiale. Pour les parents de J.F., l'objectif est clair : éviter que d'autres familles ne soient confrontées à de telles tragédies.

N'est-il pas temps de repenser l'encadrement de ces outils qui, sans régulation, pourraient mener à des conséquences catastrophiques ?