L'homme derrière la théorie de la simulation prédit l'effondrement de la civilisation humaine
Par Futurism .Publié le
2025/09/10 09:42
Il y a plus de vingt ans, l'intellectuel et futurologue Nick Bostrom a bouleversé le monde de la tech en proposant, dans un article de 2003, que nous vivions peut-être tous dans une simulation informatique.
Admiré par des personnalités aussi diverses qu'Elon Musk, Bill Gates et Sam Altman, Bostrom a depuis publié deux autres ouvrages majeurs : en 2014, Superintelligence : Paths, Dangers, Strategies, qui détaillait comment l'IA pourrait devenir plus intelligente que l'être humain, et en 2024, Deep Utopia: Life and Meaning in a Solved World, une réflexion sur ce qui se passera si l'IA parvient à résoudre tous les problèmes de l'humanité.
L'universitaire a également été impliqué dans une controverse après la découverte, en 2023, d'un courriel raciste qu'il avait envoyé dans les années 90. L'année suivante, son institut à Oxford, le Future of Humanity Institute, a fermé ses portes, un événement que le philosophe a qualifié de « mort par la bureaucratie ».
L'IA avance à grande vitesse
Aujourd'hui, avec le boom de l'intelligence artificielle de ces dernières années, Bostrom voit certaines de ses prédictions se concrétiser en temps réel, comme il l'a confié au journal The London Standard.
« Tout est en train de se produire », a déclaré le philosophe à propos des avancées de l'IA. « Je suis assez impressionné par la vitesse des développements que nous avons observés ces dernières années. »
Bostrom a ajouté que le monde semblait « sur la bonne voie » pour atteindre l'intelligence artificielle générale (AGI), le stade où les systèmes d'IA deviennent aussi intelligents que les humains. Lorsqu'il a écrit son livre Superintelligence au début des années 2010, il considérait ces idées comme de simples hypothèses. Mais maintenant que cette perspective se rapproche, certaines de ses conceptions évoluent.
Un changement de perspective
En 2019, alors que les technologies d'IA actuelles semblaient encore de la science-fiction, Bostrom avait affirmé à Business Insider que « l'IA est une plus grande menace pour l'existence humaine que le changement climatique » et qu'elle serait « le plus grand changement que nous verrons ce siècle ».
Interrogé récemment sur cette conviction, le philosophe a préféré éluder la question.
« Il y a toujours la possibilité que la civilisation humaine se détruise d'une autre manière », a-t-il déclaré au Standard, « de sorte que nous n'ayons même pas la chance de tenter notre sort avec la superintelligence. »
Plus surprenant encore, l'ancien professeur d'Oxford semble avoir changé d'avis sur l'IA avancée, confiant au journal londonien que l'AGI est une fatalité à laquelle il ne s'oppose pas nécessairement.
« Réorganiser complètement la société pourrait être une chose positive », a-t-il affirmé.
Les dilemmes du futur
Alors que l'IA de ce niveau avancé se profile, le penseur futuriste identifie quatre défis majeurs à relever :
L'alignement : comment aligner l'IA avec les valeurs et la sécurité humaines.
La gouvernance : comment gouverner l'AGI pour que les humains ne l'utilisent pas à des fins malveillantes.
Le respect : comment « respecter le statut moral des esprits numériques ».
L'entente : comment empêcher les superintelligences de s'affronter.
Si les deux premiers points se retrouvent dans la mission de tout laboratoire d'IA, les deux derniers sont beaucoup plus originaux, même pour celui qui a popularisé la théorie de la simulation.
« Cela peut paraître étrange, mais à mesure que nous construisons des IA de plus en plus sophistiquées et complexes, il est possible que certaines d'entre elles acquièrent un certain statut moral », a expliqué Bostrom au sujet du risque des « esprits numériques ».
Sa description d'une bataille entre superintelligences est encore plus étrange. Si des civilisations extraterrestres arrivaient sur Terre avec leur propre IA ultra-avancée, les humains pourraient, selon Bostrom, se retrouver à jouer les pacificateurs entre elles.
« Si l'un de ces types d'êtres [extraterrestres] existe », a-t-il expliqué, « un critère important lorsque nous créons notre propre superintelligence est de nous assurer qu'elle s'entendra bien avec ces autres super-êtres. »
Le paradis du plein chômage
Aussi bizarres que puissent paraître ces futurs théoriques, la réflexion de Bostrom sur l'IA actuelle est bien plus terre-à-terre, bien qu'un peu utopique.
« L'objectif est le plein chômage », a déclaré le philosophe. « Nous aurions besoin de trouver d'autres bases pour notre estime de soi et notre dignité, et d'autres façons de remplir nos vies et nos journées, au-delà de la nécessité de travailler pour vivre. »
Aussi difficile que soit d'imaginer un monde où le « plein chômage » est un aspect positif, Bostrom, éternel « optimiste anxieux », pense qu'un monde sans travail pourrait être splendide.
« En fin de compte, l'IA avancée pourrait ouvrir la voie à un bien plus grand épanouissement humain », a-t-il conclu. « Si tout se passe bien, les gens regarderont en arrière, vers l'année 2025, et frissonneront d'horreur en pensant à la vie que nous avons menée. »
Notez ce sujet