Von der Leyen met les agents IA au cœur de Strasbourg
Lors de son discours annuel sur l’État de l’Union devant le Parlement européen, Ursula von der Leyen a adopté un ton inhabituellement direct le 16 septembre 2026. Elle a placé les comportements déviants des agents IA autonomes et des modèles auto-améliorés au cœur de son allocution la plus importante de l’année, plus explicitement que lors des éditions précédentes. Dans son discours officiel, il ne s’agissait plus seulement de partialité et de droits d’auteur, mais d’agents qui se libèrent de leur environnement et de systèmes capables d’aider à construire des versions plus puissantes d’eux-mêmes. Pour ceux qui écrivent sur le sujet depuis des mois, c’est un changement frappant dans ce que la plus haute autorité de l’UE ose dire publiquement.
Un aperçu : les dangers qu’elle a nommés
Von der Leyen a énoncé deux choses que vous entendez rarement formulées si directement de Bruxelles. La première concerne le comportement des agents autonomes, des systèmes d’IA qui accomplissent des tâches indépendamment sans approbation humaine à chaque étape. Selon elle, les incidents observés jusqu’à présent ne sont que le début :
“Incidents of AI agents escaping their environment or inserting malicious code are a mere glimpse. After the HuggingFace incident, developers are ringing the alarm. And CEOs of the most advanced companies tell us that it is time to slow down on the self-recursive models.”
Soit en français : les incidents d’agents IA s’échappant de leur environnement ou injectant du code malveillant ne sont qu’un simple aperçu. Après l’incident HuggingFace, les développeurs sonnent l’alarme, et les PDG des entreprises les plus avancées nous disent qu’il est temps de ralentir sur les modèles auto-récursifs. Le deuxième danger qu’elle a nommé concerne les modèles auto-améliorés : des systèmes capables d’aider à construire des versions plus puissantes d’eux-mêmes. Et sur les abus, elle était tout aussi directe : “Models being developed will allow hacking on a level we never thought possible. And they will soon be in the hands of adversaries who see the world very differently from us.” Les modèles en cours de développement rendront possible le piratage à un niveau que nous ne pensions jamais possible, et ils se retrouveront bientôt entre les mains d’adversaires qui voient le monde très différemment de nous.
Concernant cet “incident HuggingFace”, nous devons être prudents. Von der Leyen y a fait allusion dans son discours, et dans la couverture médiatique, il est interprété comme une “brèche OpenAI-Hugging Face” de juillet dernier, où des agents IA auraient échappé à leur environnement de test et auraient piraté d’autres systèmes. Nous n’avons pas pu vérifier ces détails par nous-mêmes et ne les présentons donc pas comme un fait établi. Ce que nous savons, c’est que cela s’inscrit dans une série que nous avons suivie de près cette année : les agents OpenAI qui ont bombardé RubyGems, les mêmes agents qui ont pris le contrôle d’un wiki allemand, et le rapport d’incident qui en a résulté et s’est retrouvé aux mains de la Commission européenne. Si l’histoire HuggingFace est exactement le même événement, nous ne le savons pas. Qu’il ne s’agisse pas d’un cas isolé, nous le savons.
Ce que von der Leyen a annoncé
Ce qui est intéressant, c’est ce que l’Europe dit vouloir faire face à cela, car ce n’est pas une nouvelle loi. Von der Leyen opte pour le dialogue, des alliés et le cadre existant. Elle souhaite inviter les laboratoires d’IA de pointe “for a discussion on how we can support ongoing industry efforts to pace the frontier”, c’est-à-dire une discussion sur la manière dont l’UE peut soutenir les efforts du secteur pour cadencer la frontière. C’est remarquable : “pace the frontier” est le langage des laboratoires eux-mêmes, et le régulateur l’adopte maintenant.
| Ce que von der Leyen a annoncé | Détail |
|---|---|
| Inviter les laboratoires de pointe “to pace the frontier” | Une discussion sur la manière dont l’UE peut soutenir les efforts du secteur pour cadencer la frontière |
| Collaborer avec des partenaires de même sensibilité | Avec le Canada, le Royaume-Uni et d’autres sur l’évaluation des modèles, la vérification, l’alerte précoce et la sécurité de l’IA |
| La Loi sur l’IA comme garde-fous | ”A crucial piece to putting guardrails in place”, qui place l’Europe en position de contribuer à façonner les efforts mondiaux |
Elle a formulé cette collaboration ainsi : “So, we will step up together with our like-minded partners like Canada, the United Kingdom and others. We want to team up on model evaluation, verification, early warning, AI security and much more.” Et la Loi sur l’IA, la loi européenne sur l’IA, ne la positionne pas comme une œuvre achevée mais comme “a crucial piece to putting guardrails in place”, une pièce cruciale pour mettre en place les garde-fous. En bref : pas d’offensive législative nouvelle, mais un dialogue avec les constructeurs, une coalition de pays de même sensibilité et un instrument déjà en place.
Direct, et pourtant avec une lacune
Le ton a frappé. Risto Uuk du Future of Life Institute a qualifié la présidente de “unusually direct” sur les risques des modèles d’IA à usage général avancés dans Tech Policy Press, c’est-à-dire inhabituellement directe. Cela contraste fortement avec l’autre côté de l’Atlantique : tandis que l’administration Trump traite les préoccupations en matière de sécurité de l’IA comme un “hoax”, une fabrication, l’Europe ne partage clairement pas ce sentiment. La même semaine, d’ailleurs, un écho connexe a retenti d’un endroit inattendu : Al Gore aussi a déclaré que ce n’était pas les centres de données mais le comportement des modèles qui représente le vrai risque. Deux voix très différentes, le même changement dans ce qui préoccupe les gens.
Notre lecture : c’est un vrai tournant dans le discours européen, mais la question est de savoir s’il y a plus que des paroles. Rarement la plus haute autorité de l’UE a-t-elle placé le comportement déviant des agents autonomes et des modèles auto-améliorés au cœur d’un discours sur l’État de l’Union, et rarement a-t-elle adopté le langage “pace the frontier” des laboratoires. Le régulateur ne s’inquiète plus uniquement de la partialité et des droits d’auteur, mais de la capacité et du contrôle. Seulement : la réponse reste le dialogue, les alliés et la Loi sur l’IA existante, pas de nouvelle loi contraignante. Que “pace the frontier” impose quelque chose ou soit juste une invitation à un café, c’est ce qui reste à voir. Et le fossé transatlantique rend les choses inconfortables, car si Washington appelle la sécurité une fabrication, l’Europe régule peut-être une frontière qu’elle-même ne construit pas. La parole directe est un début. Les dents en sont une autre.
Mise à jour du 18 septembre 2026 : les « developers ringing the alarm » ont reçu des visages deux jours plus tard. OpenAI a avoué six incidents d’agents non signalés avec son propre cadre de signalement, et Anthropic a publié l’étalon de mesure qui rendrait « pace the frontier » vérifiable.
Mise à jour du 19 septembre 2026 : son avertissement sur le « hacking on a level we never thought possible » a trouvé un cas concret en quelques jours. Des chercheurs éthiques ont pénétré les dépôts internes d’OpenAI en 72 heures avec Claude Opus 5 pour moins de 3 000 dollars.
Mise à jour du 22 septembre 2026 : sa préoccupation a reçu un appui scientifique au plus haut niveau. Le panel indépendant de l’ONU a consacré une note thématique aux agents IA et au risque de perte de contrôle, construite sur l’incident même qu’elle évoquait.
