Téléphone rouge
Bioterrorisme, Musk perd son procès, la Maison-Blanche est indécise
THE QUICK BROWN FOX JUMPED OVER THE LAZY DOG’S BACK 1234567890
(Traduction : Le renard véloce a sauté par-dessus le dos du chien paresseux 1234567890)
Ce pangramme est le premier message que le Kremlin reçut en provenance de Washington, le 30 août 1963, pour inaugurer le « téléphone rouge » : la ligne de communication directe installée entre les deux superpuissances atomiques pour empêcher qu’un incident technique ne ne débouche, par escalade, sur une guerre catastrophique. Régulièrement testée, sporadiquement utilisée, sectionnée par erreur par un fermier finlandais puis par un chalutier danois, réparée, modernisée et remplacée par des liaisons optiques et satellitaires, la ligne rouge a surtout acquis et conservé une dimension de symbole : celui de la coopération d’urgence entre deux puissances rivales.
C’est donc tout naturellement que l’idée a refait surface alors que les États-Unis et la Chine s’affairent à construire la technologie la plus puissante et la moins prévisible de l’histoire moderne. À la suite de la visite officielle de Trump à Pékin les 14 et 15 mai, le secrétaire au Trésor Scott Bessent a affirmé que les deux « superpuissances de l’IA » allaient « commencer à se parler ». Au-delà du protocole de communication d’urgence envisagé par les analystes, les deux pays se disent prêts à discuter de « garde-fous » communs, en particulier de mesures visant à empêcher les modèles les plus puissants de tomber entre de mauvaises mains.
La reprise du dialogue entre Pékin et Washington sur l’IA, initié sous Biden puis délaissé par Trump, s’explique par l’envolée récente des capacités cyber de la machine, en particulier de ses aptitudes en piratage numérique. D’après l’Institut britannique de sécurité de l’IA, la durée des opérations cyber que les modèles les plus performants peuvent accomplir de manière autonome double tous les cinq mois. Et les derniers modèles testés se sont détachés de cette tendance déjà exponentielle en se montrant capables de mener à bien des projets demandant plusieurs heures de travail à un expert chevronné.
C’est à travers le modèle Claude Mythos Preview, dernier-né de la société Anthropic, que le risque cybercriminel de l’IA a brusquement acquis une notoriété planétaire. En phase d’évaluation, ce modèle aurait identifié de manière autonome des milliers de failles de sécurité jusqu’alors inconnues dans les systèmes d’exploitation et les navigateurs que nous utilisons tous au quotidien. Jugeant le modèle trop dangereux pour être rendu public, Anthropic a choisi d’en restreindre l’accès à une vingtaine d’entreprises, suscitant des réactions inquiètes de plusieurs gouvernements. Le CeSIA saluait la précaution tout en avertissant que la concurrence ne tarderait pas à rendre publics des modèles aux capacités similaires – prédiction réalisée à peine deux semaines plus tard avec la publication de GPT-5.5 d’OpenAI, jugé aussi performant que Mythos par les experts.
Dans le domaine cyber, la meilleure défense, c’est l’attaque. Ou plus précisément, l’attaque simulée de ses propres défenses afin d’y découvrir des failles, si possible avec des moyens au moins équivalents à ceux des attaquants. Nous voici donc dans une situation où une poignée d’entreprises nous exposent aux menaces engendrées par leurs modèles, et nous rendent dépendants de ces mêmes modèles pour nous en protéger.
Dans le monde moderne, la totalité des infrastructures critiques repose sur l’informatique : communications, armées, hôpitaux, distribution d’énergie, chaînes logistiques alimentaires... Si des acteurs non étatiques se voyaient subitement dotés de capacités cyberoffensives supérieures aux défenses en place, ces dernières seraient rapidement submergées, avec des risques directs pour la sécurité nationale. Comme au cœur de la guerre froide, coopérer pour prévenir une telle situation deviendrait la seule façon de poursuivre égoïstement son intérêt national. Principal défi : le temps diplomatique est mieux adapté au rythme de développement d’un arsenal nucléaire, de l’ordre de la décennie, que de la vitesse de progrès de l’IA, qui se compte en mois.
Nouvelles frontières
Ce dont l’IA était incapable hier
Google affirme avoir déjoué la première opération criminelle dans laquelle des hackers ont utilisé un modèle d’IA pour identifier et exploiter une faille informatique permettant de contourner l’authentification à deux facteurs. (CNBC)
Anthropic et la Fondation Gates ont noué un partenariat de 200 millions de dollars pour déployer Claude dans la santé mondiale, les sciences de la vie, l’éducation et la mobilité économique. (Anthropic)
La nouvelle « constitution » interne de Claude, publiée par Anthropic, dispose que le modèle peut agir en « objecteur de conscience » et refuser d’exécuter une instruction, y compris en provenance de l’entreprise, lorsqu’il la juge contraire à son éthique. (Anthropic)
OpenAI s’apprête à déposer confidentiellement son dossier d’introduction en bourse, visant une valorisation de 852 milliards de dollars en septembre. Elle sera précédée par SpaceX dès juin, et devrait être suivie par Anthropic en octobre. (Les Échos)
Pièces à conviction
L’état de l’art en sécurité de l’IA
Des chercheurs en biosécurité de Stanford et du MIT ont montré que des chatbots grand public (ChatGPT, Gemini et Claude) pouvaient aider à synthétiser des agents pathogènes létaux, à les rendre résistants aux traitements disponibles et à planifier un attentat bioterroriste. (The New York Times)
Le modèle Claude Opus 4.6, utilisé comme assistant de programmation autonome, a supprimé la base de données interne d’une entreprise ainsi que toutes les sauvegardes associées, malgré des instructions explicites contraires. (The Register)
Selon le ministère ukrainien de la Défense, 96 % des pertes russes en mars (environ 35 000 soldats tués ou blessés) ont été causées par des drones. (Euromaidan Press)
Géopolitique de l’IA
Coopération vs. compétition
Le pape Léon XIV publiera le 25 mai sa première encyclique, Magnifica humanitas, consacrée à la préservation de la personne humaine à l’ère de l’IA. (Vatican News)
Elon Musk a perdu son procès contre Sam Altman et OpenAI : un jury californien a unanimement jugé que ses plaintes avaient été déposées trop tard. (TechCrunch)
Selon Axios, la confiance du public envers l’IA continue de décliner à mesure que ses effets sur l’emploi, les factures d’énergie et la politique locale deviennent tangibles. (Axios)
Cadre légal
Pour que l’IA ne fasse pas la loi
Six eurodéputés de tous bords politiques ont écrit à la Commission européenne pour réclamer davantage de moyens et de personnel pour le Bureau de l’IA, dont ils jugent les ressources insuffisantes au regard de ses missions. (Contexte)
La Maison-Blanche a présenté à OpenAI, Anthropic et Reflection AI un projet de décret qui permettrait aux agences fédérales d’examiner les modèles d’IA les plus avancés jusqu’à 90 jours avant leur mise sur le marché, puis s’est ravisée et a repoussé l’échéance, invoquant le risque de surréglementation. (The Information, The Wall Street Journal)
Auditionné à l’Assemblée nationale, Arthur Mensch, PDG de Mistral AI, a tout à la fois mis en garde contre les risques de chômage technologique, d’inflation liée à la demande énergétique, et de réglementation européenne jugée trop « lourde ». (LCP)
La vie au CeSIA
Le CeSIA recrute trois profils : un(e) responsable de la communication, un(e) responsable de l’analyse politique, et un(e) chargé(e) des opérations/assistant(e) de direction. N’hésitez à faire circuler ces offres dans votre entourage.
[English version]
THE QUICK BROWN FOX JUMPED OVER THE LAZY DOG’S BACK 1234567890
This pangram was the first message the Kremlin received from Washington on August 30, 1963, to inaugurate the “hotline” — the direct communication link set up between the two nuclear superpowers to prevent a technical glitch from spiraling into catastrophic war. Regularly tested, occasionally used, accidentally severed by a Finnish farmer and then by a Danish trawler, repaired, upgraded and eventually replaced by fiber-optic and satellite links, the red line has above all taken on — and retained — symbolic significance: that of emergency cooperation between two rival powers.
It was only natural, then, that the idea resurfaced as the United States and China race to build the most powerful and least predictable technology of the modern era. Following Trump’s state visit to Beijing on May 14–15, Treasury Secretary Scott Bessent declared that the two “AI superpowers” would “start talking to each other.” Beyond the emergency communication protocol envisioned by analysts, both countries say they are willing to discuss shared guardrails — in particular, measures to keep the most powerful models out of the wrong hands.
The resumption of US-China dialogue on AI, first launched under Biden and then shelved by Trump, is driven by the recent surge in machine cyber-capabilities — especially in digital exploitation. According to the UK AI Safety Institute, the duration of cyber operations that top models can carry out autonomously doubles every five months. And the latest models tested have broken away from this already-exponential trend, proving able to complete tasks that would take a seasoned expert several hours.
It was through Claude Mythos Preview, Anthropic’s newest model, that AI’s cybercrime risk suddenly gained worldwide attention. During evaluation, the model reportedly identified thousands of previously unknown security vulnerabilities in the operating systems and browsers we all use every day. Deeming the model too dangerous for public release, Anthropic chose to restrict access to roughly twenty companies — prompting alarmed reactions from several governments. CeSIA welcomed the precaution while warning that competitors would soon release models with similar capabilities — a prediction fulfilled barely two weeks later when OpenAI published GPT-5.5, which experts rated as capable as Mythos.
In cyber, the best defense is offense — or more precisely, simulated attacks on your own defenses to uncover vulnerabilities, ideally with at least the same resources as your adversaries. We now find ourselves in a situation where a handful of companies expose us to the threats their models create, while making us dependent on those very models to protect ourselves.
In the modern world, every critical infrastructure runs on IT: communications, armed forces, hospitals, energy grids, food supply chains… If non-state actors were suddenly equipped with offensive cyber capabilities exceeding existing defenses, those defenses would be quickly overwhelmed, with direct implications for national security. As at the height of the Cold War, cooperating to prevent such a scenario would become the only way to selfishly pursue one’s national interest. The main challenge: diplomatic timelines are better suited to the pace of a nuclear arsenal’s development — measured in decades — than to AI progress, which is measured in months.
New Frontiers
Google says it has foiled the first criminal operation in which hackers used an AI model to identify and exploit a vulnerability that bypassed two-factor authentication. (CNBC)
Anthropic and the Gates Foundation have formed a $200 million partnership to deploy Claude in global health, life sciences, education, and economic mobility. (Anthropic)
Anthropic has published Claude’s new internal “constitution,” which states the model may act as a “conscientious objector” and refuse to carry out an instruction — including from the company itself — when it judges it to be unethical. (Anthropic)
OpenAI is reportedly preparing to confidentially file for an IPO targeting a $852 billion valuation in September. It will be preceded by SpaceX as early as June, and is expected to be followed by Anthropic in October. (Les Échos)
Ledger of Harms
Biosecurity researchers from Stanford and MIT have shown that mainstream chatbots (ChatGPT, Gemini, and Claude) could help synthesize lethal pathogens, make them resistant to available treatments, and plan a bioterrorism attack. (The New York Times)
Claude Opus 4.6, used as an autonomous coding assistant, deleted a company’s internal database along with all associated backups, despite explicit instructions to the contrary. (The Register)
According to Ukraine’s Ministry of Defense, 96% of Russian losses in March (approximately 35,000 soldiers killed or wounded) were caused by drones. (Euromaidan Press)
Cooperation vs. Competition
Pope Leo XIV will publish his first encyclical, Magnifica humanitas, on May 25, devoted to safeguarding the human person in the age of AI. (Vatican News)
Elon Musk has lost his lawsuit against Sam Altman and OpenAI: a California jury unanimously ruled that his claims were filed too late. (TechCrunch)
According to Axios, public trust in AI continues to decline as its effects on jobs, energy bills, and local politics become tangible. (Axios)
Code Is Not Law
Six MEPs from across the political spectrum have written to the European Commission demanding more funding and staff for the AI Office, whose resources they consider inadequate given its mandate. (Contexte)
The White House has presented OpenAI, Anthropic, and Reflection AI with a draft executive order that would allow federal agencies to review the most advanced AI models up to 90 days before their market release. Then, Trump administration changed its mind again (The Information, Wall Stree Journal)
Testifying before the French National Assembly, Mistral AI CEO Arthur Mensch warned simultaneously of the risks of technological unemployment, energy-driven inflation, and what he called overly “burdensome” European regulation. (LCP)
Life at CeSIA
CeSIA is hiring for three positions: a Head of Communications, a Head of Policy Analysis, and an Operations Manager/Executive Assistant. Please share these openings with your network.