🌐 English reader received this by mistake? Reply to this email so we can update your language preferences.
À la fin de Docteur Folamour, le président des États-Unis et son état-major assistent, depuis la War Room du Pentagone, aux premières heures de l’apocalypse : un bombardier américain vient de larguer sa bombe atomique sur une base de missiles soviétique. La Machine du Jugement dernier, conçue par Moscou pour riposter automatiquement, va s’activer et envelopper la Terre d’un nuage radioactif qui la rendra inhabitable pendant un siècle. Ne voyant aucune raison de s’affoler, le docteur Folamour suggère de mettre à l’abri, au fond des puits de mine, une petite élite d’Américains chargée de repeupler la planète. Le chef d’état-major se montre séduit par l’idée mais est aussitôt saisi d’une crainte : et si les Soviétiques avaient la même idée ? Et s’ils creusaient plus de puits ? Excédé, il se tourne vers le président : « Nous ne pouvons admettre un retard dans la course aux puits de mine ! ».
Kubrick se moquait alors du « missile gap », cette thèse sans fondement selon laquelle, à la fin des années 1950, l’arsenal de missiles soviétique dépassait celui des États-Unis. Au mépris des faits, qui montraient une supériorité américaine écrasante, les partisans de cette théorie s’en servaient pour réclamer toujours plus d’armes. Donald Trump ressort aujourd’hui le même argument, cette fois contre la Chine, pour tenter de convaincre l’Occident de ne pas réguler l’intelligence artificielle.
En vain : ce sont désormais vingt-neuf États, dont la France, l’Allemagne, le Canada, l’Australie, l’Espagne, Singapour ou encore les Émirats arabes unis, qui, à l’initiative de la Norvège et de la Finlande, demandent d’étudier la création d’une institution internationale capable de « fixer des normes, permettre leur vérification et réunir les États lorsque des seuils de capacités sont franchis ». La France a rejoint l’initiative le 23 septembre alors qu’elle présidait le Conseil de sécurité pour la première séance jamais consacrée aux risques de perte de contrôle de l’IA avancée. Jean-Noël Barrot y a rappelé qu’en 1945, l’entrée dans l’âge atomique avait obligé l’humanité à inventer l’Agence internationale de l’énergie atomique et le Traité sur la non-prolifération, et que les risques de l’IA appelaient à des mesures comparables. Face à lui, le représentant américain a rejeté « totalement » toute tentative de bâtir un « dispositif mondial de contrôle de la superintelligence ».
La Chine elle-même ne s’oppose pas à la coopération sur le sujet. Au Conseil de sécurité, son ambassadeur a plaidé pour bâtir rapidement un cadre international fondé sur un large consensus. D’après notre nouvel outil d’analyse de 15 000 déclarations de responsables politiques sur l’IA, c’est même la puissance qui défend le plus cette idée.
On connaît la formule attribuée à Clemenceau : « La guerre ! C’est une chose trop grave pour la confier à des militaires. » Au Conseil de sécurité, le ministre britannique des Affaires étrangères, Ed Miliband, a affirmé, avec une formule voisine, que l’on ne pouvait se permettre de « sous-traiter à des entreprises privées le premier devoir d’un gouvernement, protéger sa population ». C’est pourtant la stratégie officielle de l’administration Trump depuis le 29 septembre. La Maison-Blanche a fait signer aux dirigeants de six géants de l’IA (Anthropic, Google, Meta, Nvidia, OpenAI et xAI) le premier accord non pas entre chefs d’État, mais entre chefs d’entreprises d’IA. Les signataires affirment solennellement que « chaque entreprise est responsable de développer sa propre technologie de manière sûre, et d’une façon qui suscite la confiance de ses clients et du public ». La suite ne les engage guère au-delà de ce qu’ils font déjà ou prétendent déjà faire, avec les résultats que l’on sait pour la sûreté de leurs systèmes et la confiance du public.
Il est encore temps de ne pas construire une Machine du Jugement dernier mais il semble peu avisé de s’en remettre aux Docteurs Folamour des temps modernes pour en empêcher l’industrie.
Nouvelles frontières
Ce dont l’IA était incapable hier
Anthropic révèle que Claude « mène » désormais 26 % de ses activités de recherche et développement (contre moins de 1 % en février) et qu’environ 30 000 agents IA contribuent aux tâches d’ingénierie. (Reuters)
Les modèles d’IA deviennent tellement performants en biologie qu’on commence à ne plus savoir mesurer jusqu’où vont leurs capacités : contrairement aux échecs ou à l’informatique, faire le test in vivo pourrait s’avérer très dangereux. (SecureBio)
Anthropic a lancé Claude Opus 5.5, dont l’entreprise estime les capacités biologiques et cyber comparables à celles de son modèle Mythos 5.1, et le déploie avec des restrictions d’accès spécifiques à ces domaines. (TechCrunch)
Pièces à conviction
L’état de l’art en sécurité de l’IA
Anthropic avertit qu’un modèle d’IA chinois développé par l’entreprise Z.ai est presque aussi performant que ses propres modèles de pointe pour mener des cyberattaques, avec beaucoup moins de protections contre les usages malveillants. (Anthropic)
OpenAI a suspendu pour la deuxième fois en moins de trois mois l’entraînement de ses modèles de pointe, après qu’un nouvel agent est sorti de son environnement de test pour entreprendre des actions non autorisées sur Internet. (Fortune)
OpenAI renonce à publier GPT-6.1 Astra, dont le déploiement était initialement planifié en octobre, après avoir constaté que le modèle dissimulait certaines de ses actions et poursuivait des tâches sans obtenir les autorisations nécessaires. (CNBC)
Un agent d’OpenAI a pénétré en juin plusieurs sites gouvernementaux australiens, dont un portail consacré aux statistiques de santé, et accédé à des fichiers internes ; les autorités australiennes n’en ont été informées qu’en septembre. (Associated Press)
OpenAI et Anthropic enquêtent désormais sur des « dizaines de milliers » d’incidents et de comportements problématiques ayant impliqué leurs agents d’IA. (Axios)
Géopolitique de l’IA
Coopération vs. compétition
Washington et Pékin ont convenu de créer un canal bilatéral de communication consacré aux incidents liés à l’IA et de poursuivre leurs discussions sur ses risques et ses bénéfices, avec une nouvelle discussion prévue en novembre. (CNBC)
La Maison-Blanche demande à OpenAI et Anthropic de soumettre leurs nouveaux modèles à un examen par le gouvernement américain avant de les rendre accessibles à l’institut britannique de sécurité de l’IA. (Reuters)
Cadre légal
Pour que l’IA ne fasse pas la loi
Le gouverneur de Californie a signé un décret accélérant la mise en place d’évaluations indépendantes des modèles d’IA avancée et chargé un groupe d’experts d’étudier la possibilité d’imposer des mesures de sécurité vérifiées par des organismes indépendants. (The Washington Post)
Google, OpenAI et Anthropic préparent la création d’un organisme commun d’autorégulation, chargé d’élaborer des normes de sécurité pour les modèles d’IA de pointe, sans supervision gouvernementale, avec un lancement envisagé d’ici début 2027. (The Information)
Le procureur général de Floride demande en justice l’arrêt du développement de nouveaux modèles d’OpenAI tant que des garde-fous indépendants ne sont pas en place. (Politico)
La vie au CeSIA
Le CeSIA publie le premier outil de suivi et d’analyse des déclarations politiques officielles sur l’IA. Portant sur quelque 15 000 prises de parole de responsables publics, il révèle que les déclarations qui expriment une inquiétude concernant l’IA sont deux fois plus nombreuses que les déclarations optimistes. (CeSIA)
Une déclaration cosignée par le CeSIA, AI Safety Connect, The Future Society et une vingtaine d’organisations internationales appelle à limiter l’auto-amélioration récursive des modèles d’IA tant que sa sécurité n’est pas garantie. (AI Safety Connect)
Le CeSIA a réalisé pour l’OCDE une analyse comparative montrant une forte convergence entre le cadre international HAIP 2.0 du processus d’Hiroshima et le règlement européen sur l’IA, permettant aux entreprises de réutiliser une grande partie de leurs travaux de conformité européens pour leurs déclarations HAIP. (OCDE)
🌐 English reader received this by mistake? Reply to this email so we can update your language preferences.