Le 8 septembre 2026, Jacob Coxon, chercheur britannique de 27 ans spécialisé dans le pré-entraînement des modèles d'intelligence artificielle, a annoncé sa démission d'Anthropic sur X. Son message, devenu viral en quelques heures, accuse à la fois Anthropic et OpenAI de foncer vers une intelligence artificielle capable de s'auto-améliorer sans mesurer suffisamment les risques que cela ferait peser sur l'humanité.
Un parcours au cœur des laboratoires d'IA les plus en vue
Avant de rejoindre Anthropic, où il a passé environ trois ans, Coxon avait travaillé chez OpenAI, où il est crédité comme contributeur au system card du modèle GPT-4o. Son domaine d'expertise, le pré-entraînement, concerne l'étape où les modèles sont nourris de vastes quantités de données pour construire leurs capacités de base. Selon plusieurs médias, il aurait choisi de quitter entièrement le secteur de l'IA, renonçant au passage à ses parts dans l'entreprise.
Le cœur de son message : une crainte partagée en privé
Dans son fil de démission, Coxon affirme que les personnes qui développent l'IA croient sincèrement que la technologie pourrait causer l'extinction de l'humanité avant la fin de la décennie. Il précise que cette inquiétude n'est pas un argument marketing : selon lui, dirigeants et chercheurs seniors adoptent un discours plus rassurant face à la presse, tout en exprimant les mêmes craintes en interne. Il ajoute qu'aucune autre activité humaine ne présenterait, selon lui, un niveau de danger comparable.
Un soutien inhabituel venu de l'intérieur d'Anthropic
Ce qui distingue cette démission d'un simple coup d'éclat, c'est la réaction de certains employés encore en poste. Evan Hubinger, responsable de la recherche en alignement chez Anthropic, a publiquement validé la description faite par Coxon, en avançant lui-même une estimation supérieure à 10 % de probabilité que l'IA provoque l'extinction humaine dans la prochaine décennie. Il a toutefois nuancé ce chiffre en précisant que les modèles actuellement déployés présentent un risque comparativement faible, sa préoccupation portant davantage sur l'émergence future de systèmes superintelligents capables de s'améliorer eux-mêmes. Il a également reconnu qu'Anthropic ne dispose pas, à ce stade, d'un plan concret pour aligner une éventuelle superintelligence. D'autres chercheurs, dont l'ancien de Google DeepMind Alex Turner, ont depuis apporté leur soutien public aux propos de Coxon.
Anthropic plus responsable qu'OpenAI, selon Coxon lui-même
Fait notable, Coxon distingue les deux entreprises pour lesquelles il a travaillé. D'après plusieurs comptes-rendus, il estime qu'Anthropic prend le risque catastrophique plus au sérieux qu'OpenAI, tout en jugeant que l'entreprise reste prise dans une dynamique de course concurrentielle qui limite sa marge de manœuvre. Il aurait par ailleurs indiqué que des employés d'Anthropic utilisent en interne des expressions comme « crunch time » ou « endgame » pour évoquer les une ou deux prochaines années de développement des modèles de pointe.
Une controverse qui relance le débat sur la régulation
Cette démission s'inscrit dans une série d'alertes similaires émises ces dernières années par d'anciens employés de grands laboratoires d'IA, et elle est déjà citée dans les discussions autour d'une régulation plus stricte du secteur. Les experts restent toutefois partagés sur la probabilité réelle de tels scénarios, l'ampleur du risque et le calendrier d'apparition d'une éventuelle superintelligence demeurant des sujets de désaccord marqués au sein même de la communauté scientifique.
