« Elles jouent avec nos vies » : un chercheur d'Anthropic démissionne, inquiet d'une IA « hors de contrôle »

⚠️ Ce qui s'est passé

Mardi 8 septembre, en fin d'après-midi, Jacob Coxon annonce sur X sa démission d'Anthropic — et son retrait pur et simple de l'industrie de l'intelligence artificielle. Ce mathématicien britannique de 27 ans travaillait au cœur de la fabrique : l'entraînement de nouveaux modèles sur d'immenses quantités de données. Moins de deux heures après ses sept messages, ils cumulaient déjà deux millions de vues.

« Aucune des deux entreprises n'agit de façon responsable. Elles foncent droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies. »

Les « deux entreprises » sont OpenAI et Anthropic — ses deux anciens employeurs : Coxon avait quitté le premier pour le second plus tôt cette année, précisément attiré par sa réputation en matière de sûreté des modèles. Dans le Wall Street Journal, il raconte que ses collègues emploient désormais des mots comme « crunchtime » (la dernière ligne droite) ou « endgame » (la phase finale), et confie son pronostic :

« Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d'ici à la fin de l'année prochaine, les choses pourraient déjà être hors de contrôle. »

Selon le Wall Street Journal, ce départ est l'un des premiers cas d'un salarié d'Anthropic quittant l'entreprise par crainte pour la sécurité de l'IA. Un précédent l'avait déjà fait — pour se consacrer à l'étude de la poésie, avec cet avertissement : « Le monde est en péril. » (Source : Le Figaro, Ségolène Forgar, 09/09/2026 — lire l'article.)

🤖 « Hors de contrôle » : de quoi parle-t-on exactement ?

Il faut d'abord écouter ce qu'il dit — précisément. Ce n'est pas un réquisitoire contre « les IA » en général, mais contre une trajectoire précise : celle qui mène aux systèmes surhumains et auto-améliorants, capables selon lui de « pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain et d'acquérir un pouvoir et des ressources réels ». Sa phrase la plus lourde mérite d'être citée intégralement :

« Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie. Ce n'est pas un coup marketing. »

Il décrit aussi une parole publique sous contrôle : devant la presse, dirigeants et chercheurs chevronnés mesureraient leurs mots « pour paraître raisonnables » — quand, en privé, les mêmes « expriment leur peur ». Sa grille de lecture des deux laboratoires est sans appel : chez OpenAI, beaucoup n'auraient pas « intérieorisé les enjeux civilisationnels » ; chez Anthropic, les enjeux seraient compris, mais l'entreprise serait « engagée dans une course pour y arriver en premier », estimant que personne d'autre n'agira de façon responsable. Sa conclusion : aucune entreprise ne peut développer seule, de façon responsable, une IA supérieure à l'humain — l'AGI — sans intervention des États ou ralentissement coordonné.

Cette démission s'inscrit dans une semaine où les mises en garde se sont multipliées dans la presse généraliste : le Haut-Commissaire de l'ONU aux droits de l'homme réclame une gouvernance rapide, le chef scientifique d'OpenAI affirme que l'humanité n'est pas « préparée », des salariés des deux laboratoires parlent de « risque existentiel ». Le sujet a quitté les blogs spécialisés pour les colonnes du Figaro — c'est d'ailleurs ce qui nous a poussés à en parler ici.

Faut-il pour autant prendre chaque déclaration pour une prophétie ? Non — et c'est là que la vigilance rejoint l'honnêteté intellectuelle. Des chercheurs sincèrement inquiets côtoient des entreprises et des investisseurs qui parient sur le scénario inverse. Personne ne sait à quelle vitesse ni jusqu'où iront ces systèmes. Un signal n'est pas une certitude — mais ignorer qu'il émane de l'intérieur de la machine serait tout aussi imprudent.

🏔️ Et pour une entreprise des Hautes-Alpes ?

De Briançon, le débat sur la superintelligence peut sembler aussi lointain que Palo Alto. Mais le même mécanisme que dénonce Jacob Coxon — déléguer sans garder le contrôle — se joue chaque jour, à une échelle moins spectaculaire et bien plus concrète : la TPE qui copie-colle son fichier clients dans un assistant en ligne gratuit sans savoir où il est traité ; le gérant qui laisse un chatbot rédiger ses devis et ses mises en demeure sans jamais les relire ; l'équipe qui branche ses automatisations sur des API dont personne n'a lu les conditions d'utilisation.

Trois questions valent pour une multinationale comme pour un commerce de Briançon :

• Qui contrôle l'outil ? Un service fermé peut changer ses règles, ses tarifs ou ses modèles du jour au lendemain, sans recours possible.
• Où partent les données ? Un outil américain gratuit expose vos données au Cloud Act ; un outil européen ou auto-hébergé les soumet au RGPD. Ce n'est pas un détail : c'est votre responsabilité légale de dirigeant.
• Qui est responsable en cas d'erreur ? Un modèle qui se trompe n'est responsable de rien. L'entreprise, elle, répond de tout — facture erronée, conseil faux, donnée personnelle fuitée.

Quand ceux qui construisent l'IA disent eux-mêmes qu'elle « échappe au contrôle », la conclusion raisonnable n'est pas de tout débrancher — c'est de reprendre la main sur nos propres usages.

🛡️ Chez Alpesdata : l'IA utile, maîtrisée, souveraine

Nous utilisons l'IA tous les jours, et elle nous rend objectivement plus efficaces — cet article, comme les précédents, a été rédigé avec l'aide d'un agent. Mais notre métier nous a appris une règle simple : les bons usages de l'IA sont choisis, pas subis. Concrètement, pour nos clients comme pour nous :

• Hébergement souverain : les données sensibles restent en France ou en Europe, sur une infrastructure que nous contrôlons — jamais dans une boîte noire américaine « par défaut » ;
• Modèles au choix : API européennes (Mistral…) ou modèles open source auto-hébergés, sélectionnés selon le besoin — pas selon le marketing du fournisseur ;
• Agents open source : nous déployons Hermes (Nous Research), un agent dont le code est ouvert et qui tourne sur votre infrastructure, avec vos clés — l'opposé de l'assistant cloud fermé ;
• Supervision humaine : l'IA rédige, propose, automatise — un humain valide ce qui engage (contrat, client, argent, droit) ;
• Cadre assumé : RGPD et futur règlement européen sur l'IA (AI Act) traités comme un garde-fou utile, pas comme une contrainte administrative.

Ce n'est pas une posture. C'est la même logique que lorsque nous hébergeons les sites de nos clients sur des serveurs européens plutôt que de confier leur activité à un tiers opaque : vous devez pouvoir récupérer, migrer, auditer et décider — à tout moment.

🔎 Verdict

La démission de Jacob Coxon est un signal, pas une fatalité. Un signal que la trajectoire de l'IA concentrée dans quelques laboratoires privés, sans contrôle des États, inquiète jusqu'à ceux qui la construisent. Et une invitation à ramener le débat à notre échelle : celle des outils que nous choisissons, des données que nous confions et de la responsabilité que nous gardons.

En une phrase : le chercheur s'inquiète d'une IA qui échapperait aux États. À l'échelle d'une entreprise, le premier contrôle à reprendre est le nôtre — savoir ce que nos outils font de nos données, et pouvoir dire non quand la réponse ne nous convient pas.

Sources : Le Figaro — « Elles jouent avec nos vies » : un chercheur d'Anthropic démissionne, inquiet d'une IA « hors de contrôle » (Ségolène Forgar, 09/09/2026) ; The Wall Street Journal. Transparence : cet article a été rédigé avec Hermes, l'agent open source que nous déployons pour nos clients.