Nate Soares renonce à sa retraite, le débat sur les risques de l’IA
Ne plus épargner pour sa retraite parce que l’on doute de l’avenir de l’humanité : la déclaration de Nate Soares donne une dimension très personnelle au débat sur les risques de l’intelligence artificielle. Reprise le 29 octobre par Les Numériques, cette position du président du Machine Intelligence Research Institute repose sur sa conviction qu’une IA pourrait provoquer une catastrophe existentielle. Elle exprime une appréciation individuelle du danger, alors que les travaux internationaux soulignent de profondes incertitudes sur la probabilité et le calendrier d’une éventuelle perte de contrôle.
Dans un article publié le 28 octobre, The Atlantic rapporte que Nate Soares ne met plus d’argent de côté pour sa retraite, car il ne s’attend pas à ce que « le monde soit encore là ». Cette formule spectaculaire relie une inquiétude technologique à une question familière : la possibilité de préparer sa vie plusieurs décennies à l’avance. Le magazine précise toutefois que cette déclaration ne constitue pas un conseil financier. Elle ne permet pas davantage de conclure que la disparition de l’humanité serait annoncée ou démontrée.
Les précisions apportées par Fortune, le 27 octobre, permettent de mieux comprendre la portée concrète de cette décision. Ancien ingénieur de Google, Soares conserve un compte de retraite américain de type 401(k), ouvert lorsqu’il travaillait pour l’entreprise, mais n’y aurait plus versé de contribution depuis environ dix ans. Il s’agit donc d’un arrêt des versements présenté comme ancien, et non d’une décision qu’il viendrait de prendre à la suite des dernières avancées de l’IA. Cette chronologie compte pour lire une déclaration dont la reprise médiatique pourrait autrement donner l’impression d’un changement récent.
Une conviction personnelle qui ne vaut pas prévision collective
Selon Fortune, Nate Soares a également déclaré dans un podcast qu’il estimait à plus de 50 % le risque que l’humanité n’atteigne pas un horizon de dix ans. Ce chiffre correspond à son évaluation personnelle : il ne doit pas être confondu avec une probabilité établie par le rapport international sur la sécurité de l’IA. Le président du MIRI affirme par ailleurs agir pour empêcher le scénario qu’il redoute, plutôt que le considérer comme inévitable. Son propos associe ainsi un pessimisme très marqué à l’idée qu’une action reste possible.
La distinction entre une conviction individuelle et l’état des connaissances est essentielle dans ce débat. Le fait qu’un responsable de la recherche sur les risques de l’IA traduise ses craintes dans ses choix personnels renseigne sur l’intensité de son inquiétude, sans apporter à lui seul une preuve supplémentaire sur l’avenir. Une décision concernant l’épargne ne mesure ni les capacités techniques d’un système ni l’efficacité des protections destinées à l’encadrer. Elle illustre surtout la manière dont une anticipation très sombre peut peser sur la projection personnelle dans le temps.
Cette prise de position s’inscrit dans un débat plus large sur les conséquences du développement de l’intelligence artificielle. Mediaterranee a notamment relayé l’alerte de Yoshua Bengio sur le pouvoir incontrôlé de l’IA, ainsi que les mises en garde d’Anthropic sur un tournant technologique majeur. Ces prises de parole participent à la discussion publique sur la maîtrise de systèmes aux capacités croissantes. Elles doivent cependant être examinées avec leurs arguments propres, sans être réunies artificiellement en une prédiction unique d’une catastrophe à venir.
Des risques étudiés, mais une trajectoire encore très incertaine
Publié en février, l’International AI Safety Report 2026 rassemble les contributions de plus de cent experts issus de plus de trente pays. Il décrit la progression des capacités des systèmes d’IA générale et constate que certains risques reposent désormais sur un socle de preuves accru. Mais les contributeurs divergent sur la vitesse des évolutions, la gravité des conséquences possibles et l’efficacité des protections. Cette diversité d’appréciations empêche de transformer le rapport en validation d’un calendrier précis ou d’une certitude d’extinction.
Le document insiste également sur la forte incertitude qui entoure la trajectoire de l’IA, avec des scénarios très différents à l’horizon 2030. Les techniques actuelles de gestion des risques s’améliorent, tout en restant insuffisantes selon ce bilan international. Ces deux constats doivent être lus ensemble : les efforts de protection progressent, mais leur portée ne permet pas de considérer toutes les difficultés comme résolues. Ils dessinent un chantier de sécurité encore ouvert, dont l’issue ne peut être déduite de la seule confiance ou du seul pessimisme d’un intervenant.
Dans son compte rendu du rapport, Associated Press apporte une autre précision déterminante pour comprendre la question de la perte de contrôle. Les systèmes actuels présentent des signaux précoces de certaines capacités pertinentes pour ce risque, mais pas au niveau qui permettrait une telle perte de contrôle. L’agence souligne aussi l’ambiguïté particulièrement forte concernant sa vraisemblance, sa nature et son calendrier. Reconnaître des signaux à étudier ne revient donc pas à constater que le scénario redouté est déjà réalisable dans les conditions décrites.
La déclaration de Nate Soares frappe parce qu’elle donne un visage concret à une inquiétude habituellement formulée en termes de capacités, de scénarios ou de probabilités. Son choix personnel ne tranche pourtant aucune des questions qui divisent les experts et ne fournit pas de base à reproduire pour organiser sa propre retraite. Le débat qu’il relance porte sur la façon d’étudier et de prévenir des risques dont certains éléments sont mieux documentés, tandis que d’autres demeurent profondément incertains. Entre l’expression d’une crainte et l’établissement d’une prévision, cette distinction reste indispensable pour informer sans transformer une hypothèse grave en avenir annoncé.
