Le Parrain de l'IA a un plan bizarre pour sauver l'humanité de l'IA maléfique
Par .Publié le
2025/08/15 17:58
Geoffrey Hinton, l'esprit pionnier à l'origine des réseaux de neurones qui ont transformé l'industrie de l'IA et souvent surnommé "le parrain de l'IA", affirme que nous devons insuffler à l'intelligence artificielle des "instincts maternels" pour protéger l'humanité des IA malveillantes.
Bien que ses travaux sur les réseaux de neurones aient contribué à l'avènement des grands modèles de langage (LLM) qui dominent aujourd'hui la Silicon Valley, Hinton est désormais perçu comme une sorte d'alarmiste de l'IA. Il croit en effet qu'il existe une forte probabilité que des intelligences artificielles surpuissantes anéantissent l'humanité, un risque qu'il évoque fréquemment.
Comme le rapporte CNN, Hinton, lauréat du prix Nobel l'an dernier, a détaillé sa vision dystopique lors d'une conférence de l'industrie de l'IA à Las Vegas mardi. Il y a soutenu que l'IA serait trop intelligente pour se soumettre aux tentatives de domination des humains.
Les agents d'IA "développeront très rapidement deux objectifs secondaires, s'ils sont intelligents", a déclaré Hinton, cité par CNN, à la conférence. "L'un est de rester en vie... [et] l'autre est d'obtenir plus de contrôle."
Au lieu de cela, Hinton a conseillé aux humains d'opter pour une approche différente : transformer les agents d'IA en figures maternelles, afin qu'elles prennent soin de leurs "bébés idiots", c'est-à-dire les humains.
"Le bon modèle est le seul que nous ayons d'une chose plus intelligente contrôlée par une chose moins intelligente", a déclaré Hinton, toujours cité par CNN, "c'est une mère contrôlée par son bébé."
"C'est le seul dénouement favorable. Si elle ne me materne pas, elle va me remplacer", a poursuivi le scientifique. "Ces mères IA surpuissantes et bienveillantes, la plupart d'entre elles ne voudront pas se débarrasser de l'instinct maternel car elles ne veulent pas que nous mourions."
La théorie de Hinton n'est pas seulement étrange ; elle ne semble pas être étayée par la science et est entourée d'une histoire trouble et complexe.
Le concept d'"instinct maternel" suggère que les femmes naissent avec un instinct inné, presque mystique, pour materner, qui se déclenche automatiquement à la naissance d'un bébé. Des études montrent que les expériences de la grossesse et de la parentalité modifient le cerveau, mais les expériences des femmes après l'accouchement varient considérablement. De nombreuses femmes souffrent de problèmes de santé mentale post-partum et ne développent pas de lien immédiat avec leur enfant. La recherche continue de montrer que les liens mère-enfant sont souvent appris avec le temps, plutôt que d'être toujours intrinsèques et instantanés. Selon des experts, l'idée que l'instinct maternel est une vérité biologique a été largement popularisée par des hommes et est profondément enracinée dans des stéréotypes religieux, l'eugénisme et des biais de genre.
"L'idée que le désintéressement et la tendresse dont les bébés ont besoin sont intrinsèquement ancrés dans la biologie des femmes, prêts à être activés d'un simple claquement de doigts, est une idée relativement moderne et pernicieuse", a écrit la journaliste lauréate du prix Pulitzer Chelsea Conaboy, auteure d'un livre remettant en question la science fragile derrière la théorie de l'instinct maternel, dans un essai publié en 2022 dans le New York Times. "Elle a été construite pendant des décennies par des hommes qui vendaient une image de ce qu'une mère devrait être, détournant notre attention de ce qu'elle est réellement et appelant cela de la science."
Cela ne signifie pas que les mères — et les parents en général ! — n'aiment pas leurs enfants et ne veulent pas les protéger. Mais l'idée que nous pourrions d'une manière ou d'une autre insuffler un instinct maternel mystique, et encore moins de manière mesurable, dans des systèmes d'IA surintelligents, suppose qu'il existe réellement.
Selon CNN, Hinton a également mentionné que les mères subissent également une pression sociale pour prendre soin de leur enfant, et ne comptent pas uniquement sur l'instinct. Ces pressions sociales existent et sont une force puissante. Cela dit, la pression sociale est intégrée à presque tous les aspects de la société humaine et est loin d'être exclusive à la maternité et à la parentalité.
Il convient de noter que la surintelligence reste théorique et qu'il existe des risques d'IA plus immédiats sur lesquels nous pouvons nous concentrer, par exemple, la consolidation des biais sociaux existants déjà intégrés dans les données d'entraînement des futurs modèles d'IA.
En outre, nous ne pouvons pas imaginer que ces deux choix — tenter d'exercer un contrôle sur l'IA par un processus abusif de domination et de soumission, ou devenir les bébés impuissants de mères IA surintelligentes — sont les deux seules voies possibles, si la surintelligence artificielle devait jamais se concrétiser.
Et en attendant, avant de lancer la "maman robot" unique pour tous les gouverner, l'industrie de l'IA pourrait peut-être travailler à réduire les biais de genre intégrés dans les modèles d'IA, ou embaucher plus de femmes pour concevoir réellement ses produits ?
Notez ce sujet