Anthropic craint une perte de contrôle de l’IA et appelle à une pause mondiale de son développement
Par Frank Landymore .Publié le
2026/06/06 15:45
Anthropic, l’une des entreprises les plus influentes dans le domaine de l’intelligence artificielle, a lancé un appel sans précédent en faveur d’une « trêve » ou d’un moratoire temporaire et coordonné à l’échelle mondiale sur le développement des modèles d’IA les plus avancés. L’entreprise estime que la technologie pourrait rapidement atteindre un stade où l’humanité risquerait de perdre sa capacité à la superviser efficacement.
Cet avertissement a été formulé dans un long rapport publié par l’institut de recherche de la société. Le document affirme que la famille de modèles Claude pourrait se rapprocher d’une étape où deviendrait possible ce que les chercheurs appellent l’« auto-amélioration récursive » (Recursive Self-Improvement), c’est-à-dire la capacité pour un système d’intelligence artificielle d’améliorer ses propres performances sans intervention humaine directe.
Selon le rapport, un tel processus pourrait accélérer le développement de systèmes toujours plus puissants et autonomes, soulevant des interrogations quant à la capacité des institutions humaines à les encadrer et à les réglementer.
Anthropic souligne que le monde n’a pas encore atteint ce point critique, mais avertit que ce scénario pourrait se concrétiser plus rapidement que ne l’anticipent de nombreux gouvernements et organismes internationaux.
Domination commerciale et accusations d’opportunisme
L’appel d’Anthropic intervient à un moment que certains observateurs jugent particulièrement favorable à ses propres intérêts économiques. Ces derniers mois, l’entreprise a connu une forte croissance et ses modèles figurent parmi les systèmes d’intelligence artificielle les plus performants du marché, notamment dans le domaine de la programmation informatique.
Pour certains analystes, un ralentissement coordonné de l’industrie à ce stade pourrait contribuer à consolider la position dominante de la société face à ses concurrents.
Les avertissements d’Anthropic n’ont toutefois pas convaincu l’ensemble des experts. Le chercheur et critique de l’intelligence artificielle Gary Marcus a qualifié le rapport de tentative de « changement de narration de dernière minute ». Dans son blog, il a estimé que l’entreprise cherche à susciter des craintes autour d’une éventuelle perte de contrôle humain, alors qu’elle n’a démontré, selon lui, qu’une accélération de certains processus de programmation qui demeurent sous supervision humaine.
« Un outil de programmation plus rapide ne va pas détruire le monde », a résumé Marcus.
L’image d’une entreprise responsable
Depuis sa création, Anthropic s’efforce de se présenter comme l’un des acteurs les plus prudents et les plus soucieux de la sécurité dans l’industrie de l’IA. Cette réputation repose notamment sur l’idée que son directeur général, Dario Amodei, aurait choisi de ne pas commercialiser certaines avancées technologiques en 2022 en raison de préoccupations liées à la sécurité, tandis qu’OpenAI attirait l’attention mondiale avec le lancement de ChatGPT.
Plus récemment, l’entreprise a renforcé ce discours en annonçant un nouveau modèle baptisé Mythos, dont l’accès a été volontairement restreint au motif que ses capacités pourraient présenter des risques importants s’il était diffusé sans contrôle adéquat.
Un écart entre le discours et la réalité ?
Cependant, certains observateurs estiment que l’image éthique d’Anthropic a été fragilisée par plusieurs collaborations avec des organismes gouvernementaux et militaires.
Au début de l’année, des informations ont fait état de débats internes concernant l’utilisation potentielle de systèmes d’intelligence artificielle dans des applications militaires et de surveillance. Par la suite, plusieurs rapports ont indiqué que des modèles de l’entreprise étaient employés dans des tâches liées à l’analyse d’objectifs militaires.
Par ailleurs, différents médias ont évoqué une coopération entre Anthropic et certaines agences de sécurité américaines dans des projets liés à la cybersécurité avancée.
Dans des déclarations rapportées par The Guardian, le professeur Steven Murdoch, de l’University College London, a estimé que la définition de la sécurité défendue par l’entreprise restait trop étroite et que sa volonté de collaborer avec les autorités de sécurité nationale soulevait des questions quant à la cohérence entre son discours public et certaines de ses activités.
Une alerte sincère ou une stratégie de communication ?
Au-delà des motivations réelles de l’entreprise, cette initiative a relancé le débat sur la vitesse de progression de l’intelligence artificielle et sur la nécessité de mettre en place des mécanismes internationaux de contrôle.
Anthropic a annoncé qu’elle organiserait dans les prochains mois des rencontres réunissant responsables politiques, chercheurs, représentants de la société civile et entreprises concurrentes afin de débattre des défis posés par l’éventuelle apparition de systèmes capables de s’améliorer eux-mêmes.
La question de savoir si l’auto-amélioration récursive constitue une menace réelle ou une perspective encore lointaine demeure ouverte. Ce qui semble en revanche incontestable, c’est que la course au développement de modèles toujours plus puissants a placé la sécurité et la gouvernance de l’intelligence artificielle au cœur du débat technologique mondial.
Notez ce sujet