La dernière invention ?
L'IA accélère les progrès de l'IA, Pékin met les bouchées doubles sur les centres de données, vers une coopération du G7 face aux risques de l'IA ? [English version below]
En 1965, le statisticien britannique Irving John Good, ancien collègue d’Alan Turing à Bletchley Park, décrivait le concept d’« explosion d’intelligence » :
Définissons une machine ultra-intelligente comme une machine capable de surpasser de très loin toutes les activités intellectuelles de n’importe quel humain, aussi brillant soit-il. Or la conception de machines fait partie de ces activités intellectuelles. Une machine ultra-intelligente pourrait donc concevoir des machines encore meilleures ; il s’ensuivrait alors, à n’en pas douter, une “explosion d’intelligence”, et l’intelligence humaine serait largement dépassée.
Good en tirait cette conclusion optimiste, assortie d’une réserve notable :
Ainsi, la première machine ultra-intelligente est la dernière invention que l’homme aura jamais besoin de faire – à condition que cette machine soit assez docile pour nous dire comment la garder sous contrôle.
Le 5 juin 2026, Anthropic publiait un état des lieux de sa progression vers l’« auto-amélioration récursive », définie comme la capacité d’un système d’IA à concevoir et programmer son propre successeur sans intervention humaine. Plus de 80 % du code produit par l’entreprise, affirme-t-elle, est désormais écrit par Claude. L’IA exécute, corrige et améliore elle-même ce code. Ce n’est pas tout : elle joue un rôle croissant d’encadrement en déléguant à d’autres machines des tâches de programmation. Peu à peu, le rôle des humains se réduit à l’intuition et à la priorisation des directions de recherche, « un domaine dans lequel les humains conservent l’avantage, pour le moment », rassure Anthropic.
À Davos, en janvier, Demis Hassabis, PDG de Google DeepMind, résumait : « Reste à savoir si cette boucle d’auto-amélioration sur laquelle nous travaillons tous peut effectivement se refermer, sans humain dans la boucle ». OpenAI s’est donné pour objectif de concevoir un « chercheur en IA automatisé » de niveau apprenti d’ici septembre 2026, puis un système pleinement autonome d’ici mars 2028.
Les entreprises ont un intérêt évident à laisser entendre qu’elles sont proches de ce point critique : une partie de leur valeur s’évaporerait si leurs investisseurs en doutaient. Faut-il pour autant réduire leurs déclarations à du « marketing de la peur » ? Si les scientifiques sont divisés quant à la possibilité prochaine que l’IA remplace totalement des chercheurs en IA, une majorité d’entre eux considère un tel scénario comme a minima plausible et digne de considération. « Cette incertitude pose des problèmes de planification extrêmes aux décideurs politiques et aux institutions : si chaque progrès de l’IA qui accélère le rythme de la R&D en IA facilite aussi le progrès suivant, des niveaux de progrès anticipés sur plusieurs décennies pourraient se produire en quelques années. », peut-on lire dans le Rapport international sur la sécurité de l’IA.
Les évaluations indépendantes des modèles attestent de leurs progrès fulgurants au cours des derniers mois et accréditent la thèse d’avancées plus grandes encore dans les mois à venir. Qu’il s’agisse de débugger des logiciels, de résoudre des exercices de logique formelle, de passer des épreuves de mathématiques ou de reproduire des expériences scientifiques, la quasi-totalité des tests conçus en 2023 et 2024 sont « saturés » : l’IA obtient un score quasi-parfait. Si ces métriques ne mesurent pas l’aptitude de la machine à produire des idées originales de recherche, elles montrent néanmoins que chaque test conçu pour résister finit par lui céder, souvent bien plus vite qu’anticipé par les experts. D’ailleurs, après avoir soumis à Claude des problèmes de recherche ouverts sur lesquels ses propres chercheurs avaient buté, Anthropic fait état des premiers résultats démontrant une capacité de la machine à générer des idées de recherche fructueuses.
La contribution croissante de l’IA à sa propre amélioration est donc assurée. Mais la vitesse du progrès qui en résultera reste pour l’heure incertaine : la puissance de calcul installée devrait longtemps continuer à jouer un rôle limitant (bien qu’en croissance exponentielle) et les nouvelles idées de recherche pourraient s’avérer de plus en plus difficiles à trouver. Nous disposons en tout cas de la preuve qu’il existe des réseaux de neurones bien plus économes en données et en puissance de calcul que l’IA actuelle : le cerveau humain peut apprendre à conduire en une vingtaine d’heures alors qu’il faut des milliers d’heures de simulation à l’IA. Il y a donc, à n’en pas douter, une réserve considérable d’idées et d’architectures nouvelles à explorer.
Quelle que soit la trajectoire empruntée, il est raisonnable d’anticiper que la place des chercheurs dans le développement de l’IA s’amoindrira à mesure que celle-ci progressera en recherche. Pour parer aux scénarios dans lesquels l’humanité serait reléguée au rang de simple spectatrice, Anthropic juge qu’« il serait bon pour le monde de disposer d’un moyen de ralentir ou de suspendre temporairement » le développement de l’IA, et a annoncé travailler sur les mécanismes de vérification qu’exigerait une pause coordonnée, en concertation avec des chercheurs, des politiques et d’autres fournisseurs d’IA. OpenAI a de son côté reconnu que le secteur devrait peut-être ralentir le développement pour mieux comprendre ces systèmes « à mesure que nous nous rapprochons de l’auto-amélioration récursive ». Les deux entreprises les plus avancées du secteur expliquent ainsi, en substance, qu’il faudra peut-être interrompre ce qu’elles font (tout en continuant de le faire). De part et d’autre du Pacifique, des sommités de la recherche demandent depuis longtemps que ces vagues intentions soient transformées en obligations formelles.
Du 15 au 17 juin, le G7 a, pour la première fois de son histoire, convié les patrons de grandes entreprises d’IA (Altman, Amodei, Hassabis, Mensch) à la table des chefs d’État, le temps d’un déjeuner consacré à « tirer parti de l’IA tout en en limitant les risques ». Le président français a assuré travailler, d’ici à septembre, sur « une plateforme de discussions et de coopération entre quelques démocraties face aux risques de l’intelligence artificielle [...] pour définir ensemble des standards communs ».
Dans son article de 1965, Good estimait que la dernière invention résoudrait tous les problèmes de l’humanité. Il écrivait : « La survie de l’homme repose sur la construction précoce d’une machine ultra-intelligente. » En 1998, il se relut pour rédiger ses mémoires et décida de se corriger en remplaçant le terme « survie » par celui d’« extinction ». La rivalité entre les nations, redoutait-il, nous empêcherait de garder le contrôle des machines. Les grandes puissances de l’IA sauront-elles lui donner tort ?
Nouvelles frontières
Ce dont l’IA était incapable hier
Les humains sont officiellement minoritaires en ligne : les bots représentent 53 % du trafic internet mondial. Et les bad bots, agents IA déployés avec pour objectif de fausser les statistiques pour tromper les moteurs de recherche, 40 %. (Imperva)
Des chercheurs de Google DeepMind publient une feuille de route détaillant quatre voies possibles vers la « superintelligence », une IA qui dépasserait des organisations entières d’experts humains. (arXiv)
Pièces à conviction
L’état de l’art en sécurité de l’IA
MIT FutureTech a demandé à 272 experts de classer les risques liés à l’IA, puis a cartographié les institutions qui devraient être responsables de leur prévention ou de leur réduction. (MIT FutureTech)
Meta aurait discrètement intégré dans l’application de ses lunettes connectées une technologie de reconnaissance faciale fournie par Rank One, prestataire du Pentagone, qui pourrait transformer ces lunettes en outil d’identification en temps réel. (Gizmodo)
D’après The Economist, le directeur de la NSA aurait confié à des sénateurs que Mythos 5 avait, lors d’un exercice de simulation, déjoué presque tous les systèmes de protection de l’agence en quelques heures. L’ampleur réelle de cette démonstration reste toutefois débattue. (TechTimes)
Géopolitique de l’IA
Coopération vs. compétition
Après avoir imposé des restrictions sur Claude Fable 5 et Mythos 5, Washington discuterait avec Anthropic d’un cadre permettant de rouvrir l’accès à certains partenaires de confiance. Anthropic se dit « très confiante » quant au retour de Fable 5 et Mythos 5 « dans les prochains jours ». (Business Insider)
La Chine prépare un plan massif de 295 milliards de dollars pour construire des centres de données dédiés à l’IA, tandis que Taïwan envisage des sanctions pénales contre les exportations de puces IA vers la Chine. (Bloomberg)
Selon le Pew Research Center, 63 % des Américains estiment que l’IA progresse trop vite, signe d’un décalage croissant entre la course industrielle et l’acceptation du public. (Pew Research Center)
Pour comparaison, une enquête du CeSIA a montré que seuls 8 % des Français souhaitaient accélérer le développement de l’IA en France et en Europe. Ils sont 42 % à vouloir en ralentir le rythme ou l’interrompre. (Le Monde)
Cadre légal
Pour que l’IA ne fasse pas la loi
Une coalition de 42 États américains, menée par la procureure générale de New York, a adressé le 12 juin une assignation à OpenAI, portant notamment sur la protection des mineurs et la sécurité de ses produits : c’est l’enquête la plus large jamais lancée par des autorités contre une entreprise d’IA. (Bloomberg)
Les pays du G7 ont adopté leurs premiers principes communs pour mieux protéger les mineurs en ligne, en appelant les plateformes à renforcer leur responsabilité face aux contenus nocifs, aux usages addictifs et aux risques liés à l’IA. (UNICEF)
À la suite de la France, le Canada et le Royaume-Uni ont annoncé des mesures prochaines d’interdiction des réseaux sociaux aux moins de 16 ans. (Al Jazeera ; NPR)
La vie au CeSIA
Le CeSIA a été consulté dans le cadre de la refonte du Processus d'Hiroshima (HAIP), le principal cadre international de transparence sur l'IA, piloté par l'OCDE pour le G7 : sa nouvelle version impose aux entreprises de détailler publiquement, dans un format normalisé, la façon dont elles gèrent les risques les plus avancés : agents autonomes, seuils de capacité, risques systémiques. (CeSIA)
[English version]
Humanity’s Last Invention?
In 1965, the British statistician Irving John Good, a former colleague of Alan Turing at Bletchley Park, laid out the idea of an “intelligence explosion”.
Let an ultra-intelligent machine be defined as a machine that can far surpass all the intellectual activities of any man, however clever. Since the design of machines is one of these intellectual activities, an ultra-intelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion,’ and the intelligence of man would be left far behind.
Good drew an upbeat conclusion from this, though with one striking caveat:
“Thus the first ultra-intelligent machine is the last invention that man need ever make—provided that the machine is docile enough to tell us how to keep it under control.”
On June 5, 2026, Anthropic published a progress report on its march toward “recursive self-improvement,” defined as the ability of an AI system to design and write the code for its own successor with no human involvement. More than 80% of the company’s code, it claims, is now written by Claude. The AI runs, debugs, and improves that code itself. And there’s more: it increasingly acts as a kind of manager, farming out programming tasks to other machines. Bit by bit, the human role is narrowing down to intuition and to choosing which research directions to pursue—”an area where humans still have the edge, for now,” Anthropic reassures. At Davos in January, Google DeepMind CEO Demis Hassabis put it this way: “The question is whether this self-improvement loop we’re all working on can actually close, with no human in the loop.” OpenAI, for its part, has set itself the goal of building an apprentice-level “automated AI researcher” by September 2026, and a fully autonomous one by March 2028.
These companies have an obvious incentive to suggest they’re nearing this tipping point: part of their value would evaporate if their investors doubted it. But does that mean their statements are nothing more than “fear marketing”? While scientists are split on whether AI could soon replace AI researchers outright, most regard such a scenario as at least plausible and worth taking seriously. “This uncertainty creates extreme planning challenges for policymakers and institutions: if each advance in AI that speeds up the pace of AI R&D also makes the next advance easier, decades’ worth of expected progress could happen in just a few years,” reads the International AI Safety Report.
Independent evaluations of the models bear out their breakneck progress in recent months and lend credence to the idea of even bigger leaps in the months ahead. Whether it’s debugging software, solving formal-logic problems, sitting math exams, or reproducing scientific experiments, almost every test designed in 2023 and 2024 is now “saturated”: the AI scores near-perfect marks. These metrics don’t capture the machine’s ability to generate original research ideas, but they do show that every test built to hold out eventually gives way—often far faster than the experts had predicted. What’s more, after feeding Claude open research problems that had stumped its own researchers, Anthropic reports early results showing the machine can come up with productive research ideas.
AI’s growing contribution to its own improvement is therefore a given. But how fast the resulting progress will be remains uncertain for now: installed computing power should keep acting as a brake for a long while yet (even as it grows exponentially), and new research ideas could prove harder and harder to find. In any case, we have proof that neural networks far more frugal with data and computing power than today’s AI exist: the human brain can learn to drive in about twenty hours, whereas AI needs thousands of hours of simulation. So there is, without a doubt, a vast reserve of new ideas and architectures still to explore.
Whatever path it takes, it’s reasonable to expect the role of researchers in AI development to shrink as AI itself gets better at research. To guard against scenarios in which humanity is reduced to a mere bystander, Anthropic argues that “it would be good for the world to have a way to slow down or temporarily pause” AI development, and has said it is working on the verification mechanisms a coordinated pause would require, in consultation with researchers, policymakers, and other AI providers. OpenAI, for its part, has acknowledged that the industry may need to slow development to better understand these systems “as we get closer to recursive self-improvement.” In effect, then, the two most advanced companies in the field are saying that it may become necessary to halt what they are doing (all while carrying on doing it). On both sides of the Pacific, leading researchers have long been calling for these vague intentions to be turned into formal obligations.
From June 15 to 17, the G7, for the first time in its history, invited the heads of major AI companies (Altman, Amodei, Hassabis, Mensch) to sit at the table with heads of state, over a lunch devoted to “harnessing AI while limiting its risks.” The French president said he was working, by September, on “a platform for discussion and cooperation among a handful of democracies facing the risks of artificial intelligence [...] to define common standards together.”
In his 1965 paper, Good reckoned the last invention would solve all of humanity’s problems. He wrote: “The survival of man depends on the early construction of an ultra-intelligent machine.” In 1998, rereading himself as he prepared his memoirs, he chose to revise the line, swapping the word “survival” for “extinction.” Rivalry between nations, he feared, would keep us from keeping the machines under control. Will the great AI powers manage to prove him wrong?
New Frontiers
Humans are now officially a minority online: bots make up 53% of global internet traffic. And bad bots—AI agents deployed to skew statistics and fool search engines—account for 40%. (Imperva)
Researchers at Google DeepMind publish a roadmap laying out four possible paths to “superintelligence,” an AI that would outstrip entire organizations of human experts. (arXiv)
Ledger of Harms
MIT FutureTech asked 272 experts to rank the risks posed by AI, then mapped out the institutions that ought to be responsible for preventing or reducing them. (MIT FutureTech)
Meta has reportedly quietly built facial-recognition technology into the app for its smart glasses—supplied by Rank One, a Pentagon contractor—which could turn the glasses into a real-time identification tool. (Gizmodo)
According to The Economist, the director of the NSA reportedly told senators that, during a simulation exercise, Mythos 5 had defeated nearly all of the agency’s safeguards within a few hours. The true scale of that demonstration remains disputed, however. (TechTimes)
Cooperation vs. Competition
After imposing restrictions on Claude Fable 5 and Mythos 5, Washington is reportedly in talks with Anthropic over a framework to reopen access to the most powerful models for certain trusted partners. Anthropic says it is “very confident” that Fable 5 and Mythos 5 will be back “within the coming days.” (Business Insider)
China is preparing a massive $295 billion plan to build AI data centers, while Taiwan is weighing criminal penalties for exports of AI chips to China. (Bloomberg)
According to the Pew Research Center, 63% of Americans think AI is moving too fast—a sign of a widening gap between the industrial race and public acceptance. (Pew Research Center)
For comparison, a CeSIA survey found that only 8% of French people wanted to speed up AI development in France and Europe. A full 42% want to slow it down or stop it. (Le Monde)
Code Is Not Law
A coalition of 42 U.S. states, led by New York’s attorney general, served OpenAI with a subpoena on June 12, focused notably on protecting minors and on the safety of its products: it is the broadest investigation authorities have ever launched against an AI company. (Bloomberg)
The G7 countries have adopted their first shared principles for better protecting children and teenagers online, calling on platforms to take greater responsibility for harmful content, addictive uses, and AI-related risks. (UNICEF)
Following France’s lead, Canada and the United Kingdom have announced upcoming measures to ban social media for under-16s. (Al Jazeera; NPR)
Life at CeSIA
CeSIA was consulted as part of the overhaul of the Hiroshima Process (HAIP), the leading international framework for AI transparency, run by the OECD on behalf of the G7: its new version requires companies to spell out publicly, in a standardized format, how they manage the most advanced risks—autonomous agents, capability thresholds, systemic risks. (CeSIA)