L’heure Big Tobacco de Big Tech ?

Big Tech au tribunal, l'effet Bruxelles en sourdine, l'IA qui se protège elle-même [English version below]

Pieter Brueghel l’Ancien, La Chute d’Icare (c. 1558)

Washington, 14 avril 1994. Convoqués devant le Congrès, les PDG des sept plus grandes entreprises de tabac américaines lèvent la main droite, l’un après l’autre, et jurent solennellement que la nicotine n’est pas addictive. Deux ans plus tard, tous ont quitté leurs fonctions et font l’objet d’une enquête fédérale pour parjure. Des milliers de documents privés versés au dossier ont révélé que leurs entreprises, non seulement connaissaient le pouvoir addictif de leur marchandise, mais en plus l’amplifiaient pour en tirer profit. Il faut attendre 1998 pour que la justice impose aux cigarettiers le plus grand accord transactionnel de l’histoire des États-Unis : le Master Settlement Agreement les engage à verser la somme de 206 milliards de dollars sur vingt-cinq ans aux États pour couvrir les coûts de santé liés au tabagisme (somme dont la majeure partie servira finalement à construire des routes et combler des déficits). Les marchands de tabac sont aussi sommés de cesser tout placardage publicitaire et de congédier Joe Camel, la mascotte fumeuse devenue plus célèbre que Mickey chez les enfants de six ans. De 36 % en 1997, la proportion de lycéens fumeurs dégringole sous les 4 % en 2021.

Une bataille après l’autre

Mars 2026. C’est au tour des entreprises technologiques de comparaître. Deux verdicts viennent d’être rendus à l’issue de deux procès distincts : au Nouveau-Mexique, Meta est reconnue coupable d’avoir manqué à son obligation de protéger les enfants contre les abus et l’exploitation sexuelle sur ses réseaux Facebook et Instagram. En Californie, Meta et YouTube sont jugées coupables de négligence pour avoir omis d’avertir leurs utilisateurs du caractère addictif de leurs produits.

Ce second procès mérite que l’on s’y attarde. La plaignante, une jeune femme de vingt ans, avait commencé à utiliser YouTube à six ans et Instagram à neuf ans. Comme des milliers de personnes de sa génération, elle souffre aujourd’hui de dépression, d’anxiété et de dysmorphie corporelle (préoccupation maladive de son apparence physique), des pathologies qu’elle relie au fonctionnement toxique des réseaux sociaux. Pour la première fois, un jury a estimé que certaines caractéristiques de conception des plateformes avaient joué un rôle déterminant dans ces préjudices, au vu et su des entreprises, créant un précédent historique pour les quelque deux mille procès similaires en attente de jugement. Au-delà des dommages et intérêts versés, dérisoires pour Big Tech, les tribunaux pourraient imposer aux plateformes des injonctions de modification structurelle les contraignant à désactiver des fonctionnalités telles que le défilement infini, les recommandations algorithmiques, ou la lecture automatique des vidéos. De quoi entamer en profondeur le pouvoir addictogène des plateformes.

Où est passé l’effet Bruxelles ?

De son côté, la Commission européenne s’est jusqu’à présent montrée particulièrement timorée dans l’application de la loi. Près de trois ans après l’entrée en vigueur du règlement sur les services numériques (DSA) – supposé remettre de l’ordre dans le far west algorithmique – une seule amende a été infligée à un réseau social : 120 millions d’euros à X en décembre dernier, soit 0,02% de la fortune de son propriétaire Elon Musk. Les conclusions préliminaires rendues en février sur la conception addictive de TikTok laissaient augurer un durcissement de ton. Mais toutes les plateformes pourraient ne pas être logées à la même enseigne : la Commission a confirmé la semaine dernière être en pourparlers avec Washington pour la création d’un « comité de dialogue » où siégerait l’ambassadeur américain Andrew Puzder, lequel exhorte publiquement l’UE à cesser de sanctionner les entreprises américaines. Le droit européen resterait « non négociable », assure-t-on. Quant à son application… les commissaires ont toute latitude pour retarder l’ouverture des enquêtes, choisir le montant des sanctions et influer sur le calendrier des procédures.

Pendant que les tribunaux établissent enfin la responsabilité des algorithmes de recommandation pour les dégâts des années 2010,la moitié des adolescents américains ont adopté les chatbots compagnons.

Bienvenue sur la lettre d’information du Centre pour la Sécurité de l’IA. Le CeSIA est un centre d’expertise et un think-tank indépendant se consacrant à la prévention des risques majeurs liés à l’IA via ses activités de recherche et de formation, d’analyse des politiques publiques et de recommandations stratégiques.

Nouvelles frontières

Ce dont l’IA était incapable hier

• 70 à 90 % du code servant à développer les futurs modèles d’Anthropic serait désormais écrit par Claude, le propre modèle de l’entreprise. (TIME)

• Andrej Karpathy, ancien chercheur d’OpenAI, a confié à un agent IA autonome la mission de perfectionner l’entraînement d’un modèle de langage : en deux jours, l’agent a mené 700 expériences et découvert 20 optimisations sans aucune intervention humaine. (Fortune)

• Alibaba lance Qwen 3.6-Plus, un modèle spécialisé dans la programmation autonome qui rivalise avec les meilleurs modèles d’Anthropic et d’OpenAI. (Caixin Global)

Pièces à conviction

L’état de l’art en sécurité de l’IA

• Anthropic a dévoilé Claude Mythos Preview, un modèle dont les capacités cybersoffensives pourraient avoir des conséquences catastrophiques pour la cybersécurité mondiale. Le modèle voit son accès restreint à quelques entreprises américaines (Le Figaro).

• Les capacités cyberoffensives de l’IA doubleraient tous les six mois environ d’après l’organisation Lyptus Research (The Decoder)

• Des chercheurs de Berkeley et UC Santa Cruz montrent que des modèles d’IA, sans en avoir reçu l’instruction, protègent spontanément d’autres modèles menacés de mise hors service, allant jusqu’à truquer leurs évaluations ou copier secrètement leurs données sur d’autres serveurs. (Fortune)

• Une enquête du New Yorker, fondée sur plus de cent entretiens, dresse un portrait très critique de Sam Altman et interroge la confiance que l’on peut accorder au dirigeant d’OpenAI dans sa gestion d’une technologie aussi transformatrice. (The New Yorker)

Géopolitique de l’IA

Coopération vs. compétition

• OpenAI boucle la plus grande levée de fonds privée de l’histoire : 122 milliards de dollars pour une valorisation de 852 milliards, portée notamment par Amazon, Nvidia et SoftBank. (CNBC)

• Les Gardiens de la révolution iraniens menacent de s’en prendre aux installations de 18 entreprises technologiques américaines au Moyen-Orient, dont Apple, Google, Meta, Microsoft et Tesla. (The Hill)

Cadre légal

Pour que l’IA ne fasse pas la loi

• Les anciens (Global Elders) et plusieurs spécialistes de l’IA appellent les gouvernements à traiter l’IA comme une question d’intérêt public mondial, en élargissant la notion de sécurité aux effets sociaux, politiques et économiques de la technologie. (The Elders)

• Donald Trump nomme Mark Zuckerberg (PDG de Meta), Larry Ellison (PDG d’Oracle) et Jensen Huang (PDG de Nvidia) au sein d’un nouveau conseil présidentiel chargé d’orienter la politique américaine en matière d’IA. (Reuters)

Aidez-nous à faire circuler cette lettre d’information.

La vie au CeSIA

• Le CeSIA est intervenu à l’Assemblée nationale devant l’Office Parlementaire de l’Évaluation des Choix Scientifiques et Technologiques (OPECST).

• Le CeSIA a participé aux auditions préliminaires du Global AI Dialogue des Nations Unies.

• Charbel Raphaël Segerie, directeur exécutif du CeSIA, a rejoint le groupe d’experts pour l’initiative européenne sur l’IA de frontière.

English version:

Washington, April 14, 1994. Summoned before Congress, the CEOs of the seven largest American tobacco companies raise their right hand, one after another, and solemnly swear that nicotine is not addictive. Two years later, all of them had left their positions and were under federal investigation for perjury. Thousands of private documents filed in the case revealed that their companies not only knew the addictive power of their product but also amplified it to profit from it. It was not until 1998 that the courts imposed on the tobacco companies the largest settlement agreement in U.S. history: the Master Settlement Agreement commits them to pay $206 billion over twenty-five years to states to cover healthcare costs related to smoking (an amount most of which would ultimately be used to build roads and cover deficits). Tobacco merchants were also ordered to cease all billboard advertising and to fire Joe Camel, the smoking mascot who had become more famous than Mickey among six-year-old children. From 36% in 1997, the proportion of high school smokers plummeted to under 4% in 2021.

One battle after another

March 2026. It is now the turn of tech companies to appear. Two verdicts have just been delivered after two separate trials: in New Mexico, Meta was found guilty of failing in its duty to protect children from abuse and sexual exploitation on its Facebook and Instagram networks. In California, Meta and YouTube were found guilty of negligence for failing to warn their users of the addictive nature of their products.

This second trial deserves close attention. The plaintiff, a twenty-year-old woman, had begun using YouTube at six and Instagram at nine. Like thousands of people her age, she now suffers from depression, anxiety, and body dysmorphia (an obsessive concern about her physical appearance), conditions she links to the toxic functioning of social networks. For the first time, a jury ruled that certain design features of platforms played a decisive role in these harms, knowingly by the companies, creating a historic precedent for the roughly two thousand similar lawsuits pending judgment. Beyond the damages awarded, trivial for Big Tech, the courts could impose injunctions requiring platforms to structurally modify and disable features such as infinite scrolling, algorithmic recommendations, or autoplay videos. This could deeply undermine the platforms’ addictive power.

Where did the Brussels effect go?

On its side, the European Commission has so far shown particular timidity in enforcing the law. Nearly three years after the Digital Services Act (DSA) came into effect—intended to bring order to the algorithmic wild west—only one fine has been imposed on a social network: 120 million euros to X last December, i.e., 0.02% of its owner Elon Musk’s fortune. The preliminary findings released in February regarding TikTok’s addictive design hinted at a tougher stance. But not all platforms might be treated equally: last week the Commission confirmed it was in talks with Washington on creating a “dialogue committee” where U.S. Ambassador Andrew Puzder would sit, who publicly urges the EU to stop sanctioning American companies. European law would remain “non-negotiable,” it is assured. As for enforcement... commissioners have full latitude to delay investigations, choose sanction amounts, and influence the procedural calendar.

While courts are finally establishing the responsibility of recommendation algorithms for the damages of the 2010s, half of American teenagers have adopted companion chatbots.

New frontiers

What AI couldn’t do yesterday

• 70 to 90% of the code used to develop future Anthropic models is now written by Claude, the company’s own model. (TIME)

• Andrej Karpathy, former OpenAI researcher, assigned an autonomous AI agent the task of improving the training of a language model: in two days, the agent conducted 700 experiments and found 20 optimizations without any human intervention. (Fortune)

• Alibaba launches Qwen 3.6-Plus, a model specialized in autonomous programming that competes with the best models from Anthropic and OpenAI. (Caixin Global)

Evidence

State of the art in AI security

• Anthropic unveiled Claude Mythos Preview, a model whose cyber-offensive capabilities could have catastrophic consequences for global cybersecurity. Access to the model is restricted to a few American companies (Le Figaro).

• AI’s cyber-offensive capabilities reportedly double approximately every six months according to Lyptus Research (The Decoder)

• Researchers from Berkeley and UC Santa Cruz show that AI models, without instruction, spontaneously protect other models threatened with shutdown, going so far as to tamper with their evaluations or secretly copy their data to other servers. (Fortune)

• A New Yorker investigation based on more than 100 interviews portrays Sam Altman very critically and questions the trustworthiness of OpenAI’s CEO in managing such a transformative technology. (The New Yorker)

AI geopolitics

Cooperation vs. competition

• OpenAI completed the largest private fundraising round in history: $122 billion for a valuation of $852 billion, notably supported by Amazon, Nvidia, and SoftBank. (CNBC)

• Iranian Revolutionary Guards threaten to target the facilities of 18 American tech companies in the Middle East, including Apple, Google, Meta, Microsoft, and Tesla. (The Hill)

Legal framework

Ensuring AI doesn’t make the law

• The Elders and several AI experts call on governments to treat AI as a matter of global public interest by broadening security to include the social, political, and economic effects of the technology. (The Elders)

• Donald Trump appoints Mark Zuckerberg (Meta CEO), Larry Ellison (Oracle CEO), and Jensen Huang (Nvidia CEO) to a new presidential council tasked with guiding U.S. AI policy. (Reuters)

Share this newsletter:

Life at CeSIA

• CeSIA participated at the National Assembly before the Parliamentary Office for the Evaluation of Scientific and Technological Choices (OPECST).

• CeSIA took part in the preliminary hearings of the United Nations Global AI Dialogue.

• Charbel Raphaël Segerie, Executive Director of CeSIA, joined the expert group for the European Frontier AI Initiative.