Lorsque Jacob Coxon a démissionné d’Anthropic en septembre et a averti que l’intelligence artificielle (IA) pourrait mettre fin à la civilisation humaine, son message a été vu plus de 170 millions de fois en 48 heures. Mais l’histoire la plus révélatrice n’est pas la raison pour laquelle un chercheur a quitté l’entreprise, mais plutôt la raison pour laquelle les talents les plus soucieux de la sécurité de l’industrie ne peuvent exprimer leur inquiétude qu’en démissionnant.
L’avertissement de Coxon est arrivé la même semaine où Anthropic finalisait les préparatifs de ce qui pourrait devenir la plus grande introduction en bourse de l’histoire du marché. Anthropic a déposé un dossier confidentiel S-1 auprès de la Securities and Exchange Commission des États-Unis le 1er juin, visant une valorisation de 965 milliards de dollars, et espère finaliser sa cotation avant les élections américaines de mi-mandat en novembre. Nvidia est en pourparlers pour ancrer l’offre à une valorisation de 2 000 milliards de dollars, rapporte Reuters.
Le gage de sécurité disparu
Le PDG d’Anthropic, Dario Amodei, a publiquement appelé à ralentir le développement de l’IA afin que les systèmes de sécurité puissent rattraper leur retard, mais le calendrier d’introduction en bourse de son entreprise ne montre aucune décélération correspondante. En février 2026, Anthropic a publié la version 3.0 de sa politique de mise à l’échelle responsable, qui abandonnait l’engagement antérieur de l’entreprise de suspendre la formation des modèles si les risques ne pouvaient pas être atténués de manière adéquate.
L’engagement de « suspendre la formation » a tout simplement disparu du document, remplacé par un langage plus doux sur le « développement responsable » et les mécanismes de transparence. Comme l’a noté une analyse du média technologique chinois 36Kr, les lignes rouges de sécurité d’Anthropic sont devenues ajustables de manière dynamique.
C’est la contradiction structurelle au cœur du débat sur la sécurité de l’IA. Les entreprises mettent en garde contre le risque civilisationnel alors qu’elles se précipitent pour commercialiser la technologie à une vitesse sans précédent.
Le PDG d’OpenAI, Sam Altman, a saisi l’ironie sans détour, en comparant l’approche d’Anthropic au marketing basé sur la peur : « C’est clairement un marketing incroyable de dire : « Nous avons construit une bombe.
Au-delà de l’introduction en bourse
La tension entre le discours sur la sécurité et le comportement commercial s’étend au-delà des dépôts d’introduction en bourse. Le 10 septembre – la même semaine où la démission de Coxon est devenue virale – Anthropic a publié un rapport de renseignement sur les menaces de 154 pages révélant que son propre modèle Claude avait été utilisé pour le développement d’armes, la collecte de renseignements militaires, les cyberattaques et la fraude.
Anthropic a reconnu que ses mécanismes de sécurité, tout en bloquant certaines violations, ne pouvaient pas empêcher totalement les abus. L’entreprise a également restreint l’accès à son modèle le plus puissant via le projet Glasswing, le limitant à environ 200 organisations. Et après une ordonnance du Département américain du Commerce, les ressortissants étrangers ont été entièrement exclus, y compris l’agence européenne de cybersécurité ENISA.
Le déficit de gouvernance ne se limite pas aux conseils d’administration des entreprises. Le Groupe scientifique international indépendant des Nations Unies sur l’IA a averti en juillet que l’IA « dépasse à la fois la compréhension scientifique et la capacité d’adaptation des gouvernements ». Le panel a spécifiquement signalé une phase d’autonomie « agentique » que les cadres de surveillance actuels ne peuvent pas gérer, permettant potentiellement l’émergence de capacités dangereuses avant que les gouvernements ne puissent réagir.
L’UE a reporté les délais de mise en conformité pour les systèmes d’IA à haut risque d’août 2026 à décembre 2027, invoquant la nécessité de consacrer plus de temps à la préparation des normes et de l’infrastructure réglementaire.
Un modèle de gouvernance différent
Dans ce contexte de contradictions au sein des entreprises et de retards réglementaires, l’approche chinoise a été sensiblement différente dans sa méthode, voire toujours dans son rythme. Les mesures de gestion chinoises sur les services d’IA générative, mises en œuvre en août 2023, ont été les premières réglementations officielles au monde régissant les services d’IA générative. En juillet, 1 028 services de grands modèles avaient finalisé leur enregistrement, avec des candidatures couvrant l’industrie, l’agriculture, le commerce, l’éducation, les transports et le droit.
Le cadre de gouvernance de la sécurité de l’IA du pays, qui entre désormais dans sa version 3.0, traduit les principes de « classification, gouvernance agile et gouvernance partagée » en plans de mise en œuvre réalisables, traitant des risques liés à la fois à la technologie elle-même et à ses applications.
L’initiative du gouvernement Internet chinois « Qinglang » a permis de nettoyer plus de 5,61 millions d’informations illégales, de traiter plus de 49 000 comptes et de fermer plus de 2 400 sites Web et applications en infraction liés à l’utilisation abusive de l’IA. Le pays a également créé l’Organisation mondiale de coopération en IA en juillet, avec 29 États membres fondateurs, et s’est engagé à offrir 5 000 opportunités de formation en IA aux pays en développement au cours des cinq prochaines années.
Une enquête mondiale de CGTN révèle que 85,4 % des personnes interrogées estiment que le développement rapide de l’IA crée de nouveaux défis pour la sécurité et la gouvernance mondiales. Quelque 92,6 % ont exprimé leur inquiétude quant au fait que les deepfakes et la désinformation générée par l’IA pourraient éroder la confiance sociale, et 82,6 % pensent que les pays en développement et les pays du Sud devraient jouer un rôle plus important dans l’élaboration des règles de gouvernance de l’IA.
La vraie question n’est pas de savoir si les préoccupations en matière de sécurité de l’IA sont réelles – elles le sont. La question est de savoir si une industrie qui produit des avertissements existentiels tout en se précipitant vers des valorisations de plusieurs milliers de milliards de dollars peut se gouverner de manière crédible. Le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, l’a déclaré directement lundi : « Le développement de l’IA concerne le bien-être commun de toute l’humanité. Toutes les parties devraient travailler ensemble pour promouvoir une IA ouverte, inclusive et bénéfique.
