[Mise à jour #104]
Le 8 septembre, Jacob Coxon, mathématicien britannique de 27 ans, a annoncé sur X sa démission d’Anthropic et son retrait complet de l’industrie de l’intelligence artificielle. Son message, publié sans détour, a dépassé 90 millions de vues en moins de 24 heures : « J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche en pré-entraînement, d’abord chez OpenAI puis chez Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »
Un profil qui rend ce départ inhabituel
Ce qui distingue Coxon des précédents lanceurs d’alerte dans le secteur, c’est son parcours. Il a travaillé chez OpenAI de 2023 à 2026, notamment sur le modèle GPT-4o, avant de rejoindre Anthropic plus tôt cette année — un choix motivé, selon le Wall Street Journal, par la réputation de l’entreprise en matière de sécurité de l’IA. Dans les deux cas, son rôle portait sur le pré-entraînement des modèles, la phase où l’IA ingère des quantités massives de données pour construire ses capacités de base. La plupart des chercheurs qui ont démissionné publiquement ces dernières années pour dénoncer les risques de l’IA appartenaient à des équipes dédiées à la sécurité ou à l’alignement ; Coxon, lui, a œuvré du côté du développement des capacités elles-mêmes, ce qui donne un relief particulier à sa décision de partir.
Ce qu’il dit précisément
Dans son message et dans un entretien accordé au magazine TIME, Coxon détaille sa crainte : ces systèmes seront bientôt « surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain, et d’acquérir un véritable pouvoir ainsi que des ressources. » Il affirme que « les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing. » Interrogé par TIME sur ce qui a précisément déclenché sa décision, Coxon répond qu’aucun événement isolé n’en est à l’origine, mais deux constats : que les choses s’accélèrent nettement, et qu’elles échappent au contrôle. Il ajoute une nuance intéressante entre les deux entreprises où il est passé, estimant que de nombreux collaborateurs d’OpenAI n’auraient pas encore pleinement pris la mesure des enjeux civilisationnels en jeu, un problème qu’il semble juger moins présent chez Anthropic.
La réponse d’Anthropic, qui confirme plus qu’elle ne dément
Fait notable, l’entreprise elle-même n’a pas cherché à minimiser les propos de Coxon. Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, a publiquement réagi sur X en confirmant que le constat de Coxon reflétait bien une inquiétude réelle et partagée par certains chercheurs du secteur. Sur le fond, Hubinger a livré son propre chiffre : selon lui, la probabilité que l’IA cause l’extinction de l’humanité dans la décennie à venir dépasserait 10%. Il a néanmoins tenu à nuancer ce constat en précisant que les modèles actuellement disponibles ne présentent, eux, qu’un risque limité — sa véritable préoccupation concerne des systèmes futurs, hypothétiques, capables de s’améliorer eux-mêmes de façon autonome et récursive. Ce type de mise en garde n’a rien d’inédit chez Anthropic : son PDG Dario Amodei évoquait déjà, en 2023 lors du sommet britannique sur la sécurité de l’IA, des menaces qu’il jugeait « relativement limitées » à l’époque mais susceptibles de « devenir très sérieuses à un moment indéterminé ».
Un débat plus large sur la façon d’en parler
Cette affaire relance aussi une question de fond dans la presse : comment raconter ce type d’alerte sans tomber ni dans le déni, ni dans la caricature ? Un édito publié par Libération interroge justement la tendance à comparer systématiquement les géants de l’IA au savant fou de Mary Shelley, se demandant si cette image de Frankenstein aide vraiment à comprendre la situation ou si elle finit par banaliser le sujet à force d’être répétée. Le cas Coxon s’inscrit d’ailleurs dans une longue liste de mises en garde similaires émanant de figures du secteur ces dernières années, jusqu’à des dirigeants aussi centraux qu’Altman ou Musk, qui ont eux-mêmes publiquement évoqué le risque d’une intelligence dépassant celle des humains.
Ce qu’il faut retenir
Le plus frappant dans cette histoire n’est pas la révélation d’un secret caché : l’estimation chiffrée avancée par le responsable de l’alignement chez Anthropic reste cohérente avec des années de déclarations publiques de la direction de l’entreprise sur les risques à long terme. Ce qui change avec Coxon, c’est le profil de la personne qui parle — quelqu’un qui a directement contribué à construire les capacités des modèles plutôt qu’à les évaluer, et qui choisit de partir plutôt que de continuer.
La vraie question que pose ce témoignage, largement relayée en quelques heures, dépasse le seul cas individuel : elle porte sur l’écart persistant entre le fait que plusieurs dirigeants et chercheurs du secteur, chez plusieurs entreprises concurrentes, reconnaissent publiquement l’existence de ce risque, et le fait qu’aucun d’entre eux n’a pour l’instant choisi de ralentir le rythme du développement pour autant.
Sources : TIME, « He Helped Build Powerful AI at OpenAI and Anthropic. Now He’s Afraid It Could Kill Us » — Newsweek, « Who Is Jacob Coxon? Anthropic Researcher Quits—Warns AI Could Kill Everyone » — Generation-NT, « Un chercheur d’Anthropic claque la porte, dénonçant une IA qui ‘joue avec nos vies’ » — Le Media en 442, « ‘Ils jouent avec nos vies’ : Jacob Coxon quitte Anthropic et alerte sur l’IA » — Libération, édito « IA : et si on arrêtait de parler de moment Frankenstein ? » — X (@hilbertspaess), publication originale de Jacob Coxon du 9 septembre 2026 — PauseAI (traduction française), « Les risques existentiels liés à une superintelligence artificielle »
Level 50, la mise à jour pour rester connecté.