Ils façonnent l'avenir de l'IA, mais sont aussi ceux qui mettent en garde.

L'attribution du prix Nobel de physique 2024 à Geoffrey Hinton, aux côtés de John Hopfield, souligne une carrière consacrée à la recherche sur les réseaux neuronaux artificiels. Ces structures mathématiques ont permis aux machines de franchir des étapes majeures dans l'apprentissage. Ironiquement, ce succès s'accompagne d'une angoisse grandissante pour Hinton, surnommé le « parrain de l’intelligence artificielle ». Loin de savourer sa distinction, il devient l'un des plus fervents critiques de cette technologie, appelant l'humanité à prendre conscience des dangers qu'elle représente.

L'Académie royale des sciences de Suède a salué leurs « découvertes et inventions fondamentales permettant l'apprentissage automatique via les réseaux neuronaux ». Ces innovations, remises en lumière, ont permis une explosion actuelle de l'IA, touchant des secteurs variés tels que la médecine, les finances et l’industrie. Cependant, Hinton, ancien professeur à l’université de Toronto, est loin de célébrer. Sa démission retentissante de Google en 2023, couplée à ses préoccupations croissantes sur le développement de l'IA, en dit long sur ses craintes.

Une reconnaissance qui alimente la peur

La reconnaissance de ses travaux par le Prix Nobel, plutôt que de l’apaiser, intensifie son souci. « Nous n'avons aucune expérience de ce que c'est que d'avoir des systèmes plus intelligents que nous », a-t-il déclaré récemment, soulignant une peur partagée par de nombreux experts. Si l'IA offre d'énormes bénéfices, notamment dans la médecine, l'inquiétude persiste : Hinton craint que l'humanité ne perde le contrôle sur sa propre création. Il prédit un avenir proche où les machines, surpassant notre intelligence, pourraient bien se retourner contre leurs concepteurs, rappelant ainsi des scénarios de science-fiction.

D'après ses estimations, dans cinq à vingt ans, la probabilité qu'une IA tente de prendre le contrôle de nos vies pourrait être inquiétante.

Au cœur de ses préoccupations se trouve la désinformation.

L'IA, capable de créer des contenus de plus en plus crédibles, pourrait inonder le Net de faux articles, images et vidéos, rendant la distinction entre vérité et mensonge presque impossible. Ce contrôle de l’information, associé à la capacité des chatbots, pourrait être exploité par des « acteurs malveillants » pour influencer l’opinion publique et déstabiliser nos démocraties.

La compétition sauvage entre géants de la technologie, comme Google et Microsoft, exacerbe les craintes de Hinton.

Il observe que la course à l'innovation prend le pas sur des pratiques plus sûres et réfléchies. Bien qu'il ait reconnu le rôle « responsable » de Google jusqu'à 2022, l'émergence de ChatGPT et l'incorporation de chatbots dans les moteurs de recherche ont déclenché une escalade risquée. Sa démission est un acte de liberté pour alerter sur ces dangers sans être limité par son ancien poste.

L'IA au cœur d'une tempête d'inquiétudes

Au-delà de la désinformation, le rôle de l'IA sur le marché du travail est une autre source d'angoisse. Si l'automatisation permet d'éliminer des tâches pénibles, elle menace également de rendre obsolètes de nombreux emplois, remplaçant les humains par des machines plus efficaces et moins coûteuses. De plus, la perspective d’une IA impliquée dans la création d’armes autonomes, des « robots tueurs » capables de décisions sans intervention humaine, représente un cauchemar que Hinton ne peut ignorer.

L'attribution du prix Nobel à Hinton et à Demis Hassabis, cofondateur de DeepMind, soulève également des interrogations sur la concentration de la recherche en IA dans les mains de quelques grandes entreprises technologiques. Les critiques s'interrogent sur leur influence sur l'orientation de la recherche et l'accès aux données, cruciales pour le développement de l'IA.

Face aux menaces potentielles, Hinton appelle à une collaboration internationale.

entre scientifiques pour chercher des solutions afin de contrôler l'IA et d’atténuer ses risques. Il plaide pour une régulation mondiale similaire à celle encadrant l'énergie nucléaire, afin de prévenir une course incontrôlée à l'armement technologique. Le « parrain de l'IA » espère que son cri d'alarme sera entendu assez tôt, pour que l'humanité puisse éviter une catastrophe. Un moment charnière s'annonce : saura-t-elle maîtriser cette incroyable puissance qu'elle a engendrée ou sera-t-elle engloutie par elle?