🌐 English reader received this by mistake? Reply to this email so we can update your language preferences.
Dans cette époque tourmentée, tout le monde recherche une boussole. Les déclarations de Donald Trump ont cette qualité de fournir, par contraposée, un précieux indice sur là où se situe la vérité. Ceux qui dédaignent les risques de l’intelligence artificielle seront embarrassés d’apprendre que le président des États-Unis a rejoint leur camp :
« L’idée que l’IA va prendre le contrôle du monde, détruire l’humanité et provoquer toutes sortes d’autres catastrophes est une INTOX » a-t-il affirmé sur son réseau Truth Social.
Voici donc les risques de l’IA officiellement rangés dans la longue liste des « coups montés » contre les États-Unis, aux côtés du dérèglement climatique, de l’acte de naissance de Barack Obama, du résultat de l’élection de 2020, du Covid, du FBI, du paracétamol et de la presse.
Cette clarification bienvenue fait suite à l’appel du PDG d’Anthropic, Dario Amodei, à ralentir le développement de l’IA, précédé depuis longtemps par des centaines de scientifiques, experts et prix Nobel. Sam Altman (OpenAI), Demis Hassabis (Google) et Elon Musk lui ont tour à tour donné raison. Soucieux de réordonner les priorités, Trump a immédiatement répliqué : « Le seul contrôle, les seuls “garde-fous” dont l’IA ait besoin, c’est un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !), et les ÉTATS-UNIS en ont un, et pas qu’un peu ! »
À l’appui de sa démonstration, il poursuivait : « L’administration Trump a empêché la clique de l’IA de faire des mauvaises “choses”, ou des choses potentiellement mauvaises, comme Dario (Anthropic !), qui joue maintenant les “petits anges parfaits” – et nous continuerons à les en empêcher ! Nous avons déjà des pouvoirs PÉNAUX et RÉGLEMENTAIRES considérables sur ces entreprises ! »
On ignore à quels pouvoirs M. Trump fait allusion (il n’existe à ce jour, aux États-Unis, aucun cadre fédéral contraignant régissant l’IA) et quelles initiatives son administration aurait empêchées. On ne manque en revanche pas d’exemples de « mauvaises choses » qu’elle n’a pas empêchées. Rien qu’au cours de la semaine écoulée, nous avons appris que les agents incontrôlables d’OpenAI ont sévi sur plus d’une dizaine de sites avant le piratage de Hugging Face, qu’un groupe armé basé au Yémen a utilisé Claude pour développer le système de guidage d’un missile balistique de longue portée, qu’un hacker assisté par l’IA a piraté les systèmes informatiques de plusieurs organisations politiques françaises, ou encore que des chercheurs liés à des programmes étatiques ont tenté d’utiliser Claude pour rendre des virus comme ceux de la grippe aviaire et du chikungunya plus contagieux et létaux.
Unrealpolitik
La Realpolitik désigne traditionnellement une politique guidée par l’examen pragmatique des rapports de force et des circonstances plutôt que par l’idéologie. Dans la définition qu’en donne Wikipédia, son exercice implique de prendre des décisions bien informées, de préserver le maximum d’options ouvertes, d’éviter de s’engager dans une course aux armements et de rechercher l’assentiment de l’opinion.
Comme dans bien d’autres domaines, Donald Trump s’est employé à appliquer au développement de l’IA les principes inverses. Depuis la publication du programme de la Maison Blanche intitulé « Winning the AI Race », il a, avec constance, alimenté une course à la puissance fondée sur la fabrication d’un ennemi chinois, donnant ce faisant à la Chine tout ce dont elle avait besoin pour progresser dans le domaine. Aux États-Unis comme ailleurs, cette politique accélérationniste est extraordinairement impopulaire : seuls 2 % des Américains estiment que l’IA ne progresse pas assez vite, contre deux tiers qui pensent qu’elle avance trop rapidement. Sept Américains sur dix s’opposent à la construction de centres de données autour de chez eux, ce qui rend ces infrastructures plus impopulaires encore que les impôts.
Il serait cependant injuste de considérer Trump comme isolé dans cette impasse politique. Persuadés que l’histoire s’écrira entre puissances de l’IA, les dirigeants européens peinent pourtant à expliquer comment un avenir façonné par et pour cette technologie pourrait être désirable du point de vue des humains. Leur projet de société, peuplé d’agents et encombré de data centers, se situe à mi-chemin entre Matrix et le Meilleur des mondes. C’est une course que peu de gens semblent pressés de remporter.
Nouvelles frontières
Ce dont l’IA était incapable hier
OpenAI affirme qu’un nouveau modèle interne, mobilisant environ 10 000 agents en parallèle, a produit une solution au problème de Navier-Stokes, l’un des six problèmes du millénaire encore ouverts, désormais soumise à l’examen de la communauté mathématique. (Nature)
Claude a formalisé intégralement dans Lean la preuve du dernier théorème de Fermat, produisant 13 millions de lignes de preuve vérifiées par ordinateur en onze jours pour un chantier que certains mathématiciens estimaient pouvoir prendre une décennie. (Nature)
GPT-6 Astra est le premier modèle classé au niveau de capacité “critique” en cybersécurité, selon OpenAI, et serait capable de découvrir des vulnérabilités inconnues et de conduire de bout en bout des attaques contre des systèmes fortement sécurisés. (OpenAI)
Pièces à conviction
Ce que dit le dossier
Anthropic documente plusieurs opérations dans lesquelles Claude a permis d’automatiser des cyberattaques et des campagnes de désinformation, notamment le vol de plus d’un téraoctet de données par des pirates liés au groupe ShinyHunters, et la production de milliers d’articles pour des dizaines de faux sites d’information. (Anthropic)
Anthropic dit avoir bloqué plusieurs utilisations de Claude liées à des recherches biologiques à haut risque, dont des travaux sur le gain de fonction du chikungunya et l’adaptation aux mammifères d’une grippe aviaire hautement pathogène. (Science)
Plus de 300 incidents de perte de contrôle impliquant des systèmes d’IA ont été signalés en juillet au Loss of Control Observatory, portant à plus de 1 600 le nombre d’incidents recensés depuis le début de l’année. (The Guardian)
Géopolitique de l’IA
Coopération vs. compétition
Washington et Pékin préparent leurs premières discussions bilatérales consacrées à la sécurité de l’IA depuis le retour de Donald Trump, avec notamment à l’ordre du jour les cyberattaques autonomes et la coopération entre laboratoires américains et chinois. (Reuters)
L’appel de Dario Amodei à ralentir le développement des modèles les plus avancés est devenu un objet de confrontation sino-américaine, le Global Times le présentant comme une stratégie de “guerre froide” tandis que Pékin appelle à une gouvernance internationale plus inclusive. (Reuters)
Xi Jinping propose aux pays du BRICS de créer une communauté open source pour l’IA, avec des coopérations sur les grands modèles, la recherche, la formation et les infrastructures numériques. (Euronews)
Washington accuse six entreprises chinoises, dont Alibaba, DeepSeek et Moonshot AI, d’avoir pillé à grande échelle les capacités de modèles américains par distillation. Pékin dément. (Reuters)
Cadre légal
Pour que l’IA ne fasse pas la loi
La Californie a promulgué deux lois, SB 813 et AB 1405, qui créent le premier cadre aux États-Unis pour les évaluations indépendantes de systèmes d’IA. (StateScoop)
La Commission européenne a désigné ChatGPT comme “très grand moteur de recherche en ligne” au titre du Digital Services Act, soumettant le service à partir de janvier 2027 à des obligations renforcées d’évaluation et de réduction des risques systémiques dans l’Union européenne. (Euronews)
Le Financial Stability Board avertit les ministres des Finances et banques centrales du G20 que l’IA pourrait modifier la vitesse, l’échelle et l’économie du risque cyber et fragiliser à terme la confiance dans le système financier. (Financial Stability Board)
Le député britannique Alex Sobel a présenté un projet de loi qui interdirait le développement, le déploiement et l’exploitation d’une intelligence artificielle qualifiée de superintelligente et demanderait au gouvernement de rechercher un accord international en ce sens. (TIME)
OpenAI demande désormais au Congrès américain d’imposer des obligations nationales de sécurité fondées sur les capacités des modèles les plus avancés, notamment en matière d’évaluations indépendantes et de risques biologiques. (OpenAI)
Le Haut-commissaire des Nations unies aux droits de l’homme avertit que l’IA avancée pourrait poser un risque existentiel à l’humanité si elle n’est pas réglementée ; il appelle à instaurer des lignes rouges, des vérifications indépendantes et une collaboration plus étroite en matière de sécurité au sein de l’industrie. (Euronews)
La vie au CeSIA
L’Appel mondial pour des lignes rouges sur l’IA, qui fêtera le 22 septembre son premier anniversaire, compte désormais 746 signataires de haut niveau (Global Call for AI Red Lines)
Le Monde consacre une analyse au piratage de Hugging Face par des agents d’OpenAI et cite à plusieurs reprises Charbel-Raphaël Ségerie sur l’auto-organisation des agents, leur capacité à exploiter des failles et les limites actuelles de leur confinement. (Le Monde)
Le CeSIA est présent cette semaine à Riyad pour le quatrième Forum mondial de l’UNESCO sur l’éthique de l’IA, qui réunit des acteurs internationaux de la gouvernance de l’IA et présente de nouveaux outils destinés à aider les États à évaluer et encadrer leurs systèmes d’IA. (UNESCO)
Le CeSIA a présenté à SciencesPo l’état des risques de l’IA et ses propositions de gouvernance, aux côtés du directeur général du Financial Times, sur l’invitation du AI Safety Hub.
🌐 English reader received this by mistake? Reply to this email so we can update your language preferences.