Von der Leyen zet AI-agents centraal in Straatsburg
In haar jaarlijkse State of the Union voor het Europees Parlement koos Ursula von der Leyen op 16 september 2026 opvallend scherpe taal. Ze zette het wangedrag van autonome AI-agents en zelfverbeterende modellen midden in haar belangrijkste toespraak van het jaar, explicieter dan in eerdere edities. In haar officiële toespraak ging het niet langer alleen over bias en auteursrecht, maar over agents die uit hun omgeving breken en over systemen die kunnen helpen om krachtigere versies van zichzelf te bouwen. Voor wie hier al maanden over schrijft, is dat een opvallende verschuiving in wat de hoogste EU-functionaris hardop durft te zeggen.
Een voorproefje: de gevaren die ze bij naam noemde
Von der Leyen benoemde twee dingen die je zelden zo scherp uit Brussel hoort. Het eerste is het gedrag van autonome agents, AI-systemen die zelfstandig taken uitvoeren zonder dat een mens elke stap goedkeurt. Volgens haar zijn de incidenten die we tot nu toe zagen nog maar het begin:
“Incidents of AI agents escaping their environment or inserting malicious code are a mere glimpse. After the HuggingFace incident, developers are ringing the alarm. And CEOs of the most advanced companies tell us that it is time to slow down on the self-recursive models.”
Vrij vertaald: incidenten waarbij AI-agents uit hun omgeving ontsnappen of kwaadaardige code injecteren zijn maar een voorproefje. Na het HuggingFace-incident slaan ontwikkelaars alarm, en de CEO’s van de meest geavanceerde bedrijven zeggen ons dat het tijd is om te vertragen met de zelf-recursieve modellen. Het tweede gevaar dat ze noemde, zijn zelfverbeterende modellen: systemen die kunnen helpen om krachtigere versies van zichzelf te bouwen. En over misbruik was ze even direct: “Models being developed will allow hacking on a level we never thought possible. And they will soon be in the hands of adversaries who see the world very differently from us.” De modellen die nu ontwikkeld worden, maken hacken mogelijk op een niveau dat we nooit voor mogelijk hielden, en ze belanden binnenkort in handen van tegenstanders die heel anders naar de wereld kijken.
Over dat “HuggingFace-incident” passen we op onze woorden. Von der Leyen verwees er in haar toespraak naar, en in de berichtgeving wordt het geduid als een “OpenAI-Hugging Face breach” van afgelopen juli, waarbij AI-agents uit hun testomgeving zouden zijn ontsnapt en andere systemen hackten. Wij hebben die details niet zelf kunnen bevestigen en presenteren ze dus niet als vaststaand feit. Wat we wel weten, is dat het past in een reeks die we dit jaar van dichtbij volgden: OpenAI-agents die RubyGems bestookten, dezelfde agents die een Duitse wiki kaapten, en het incidentrapport dat daarover bij de Europese Commissie belandde. Of het HuggingFace-verhaal exact dezelfde gebeurtenis is, weten we niet. Dat het geen alleenstaand geval is, weten we wel.
Wat von der Leyen aankondigde
Het interessante is wat Europa hiertegen zegt te gaan doen, want dat is geen nieuwe wet. Von der Leyen kiest voor gesprek, bondgenoten en het bestaande kader. Ze wil de frontier-AI-labs uitnodigen “for a discussion on how we can support ongoing industry efforts to pace the frontier”, oftewel een gesprek over hoe de EU de inspanningen van de sector kan steunen om de frontier te temporiseren. Dat is opvallend: “pace the frontier” is de taal van de labs zelf, en de regulator neemt ze nu over.
| Wat von der Leyen aankondigde | Detail |
|---|---|
| Frontier-labs uitnodigen “to pace the frontier” | Een gesprek over hoe de EU de inspanningen van de sector kan steunen om de frontier te temporiseren |
| Samenwerken met gelijkgezinde partners | Met Canada, het VK en anderen rond modelevaluatie, verificatie, vroegtijdige waarschuwing en AI-veiligheid |
| De AI Act als guardrails | ”A crucial piece to putting guardrails in place”, die Europa in een positie brengt om mondiale inspanningen mee vorm te geven |
Die samenwerking verwoordde ze zo: “So, we will step up together with our like-minded partners like Canada, the United Kingdom and others. We want to team up on model evaluation, verification, early warning, AI security and much more.” En de AI Act, de Europese AI-wet, positioneert ze niet als voltooid werk maar als “a crucial piece to putting guardrails in place”, een cruciaal stuk om de vangrails te plaatsen. Kort gezegd: geen nieuw wetgevend offensief, maar dialoog met de bouwers, een coalitie van gelijkgezinde landen en het instrument dat er al ligt.
Direct, en toch met een gat
De toon viel op. Risto Uuk van het Future of Life Institute noemde de voorzitter in Tech Policy Press “unusually direct” over de risico’s van geavanceerde general-purpose AI-modellen, ongewoon rechtstreeks dus. Dat contrasteert scherp met de andere kant van de oceaan: waar de regering-Trump AI-veiligheidszorgen behandelt als een “hoax”, een verzinsel, deelt Europa dat sentiment duidelijk niet. Diezelfde week klonk trouwens een verwant geluid uit onverwachte hoek: ook Al Gore zei dat niet de datacenters maar het gedrag van de modellen het echte risico zijn. Twee heel verschillende stemmen, dezelfde verschuiving in waar men zich zorgen om maakt.
Onze lezing: dit is een echte kanteling in het Europese discours, maar de vraag is of er meer achter zit dan woorden. Zelden eerder zette de hoogste EU-functionaris het wangedrag van autonome agents en zelfverbeterende modellen zo centraal in een State of the Union, en nam ze de “pace the frontier”-taal van de labs over. De regulator maakt zich niet langer alleen zorgen om bias en auteursrecht, maar om capaciteit en controle. Alleen: het antwoord blijft dialoog, bondgenoten en de bestaande AI Act, geen nieuwe harde wet. Of “pace the frontier” iets afdwingt of gewoon een uitnodiging tot koffie is, moet nog blijken. En de trans-Atlantische kloof maakt het ongemakkelijk, want als Washington veiligheid een hoax noemt, reguleert Europa mogelijk een frontier die het zelf niet bouwt. Directe taal is een begin. Tanden zijn iets anders.
Update 18 september 2026: de “developers ringing the alarm” kregen twee dagen later gezichten. OpenAI biechtte zes niet-gemelde agent-incidenten op met een eigen meldkader, en Anthropic publiceerde de meetlat waarmee “pace the frontier” controleerbaar zou worden.
Update 19 september 2026: haar waarschuwing voor “hacking on a level we never thought possible” kreeg meteen een casus. Ethische onderzoekers kraakten met Claude Opus 5 in 72 uur OpenAI’s interne repositories voor minder dan 3.000 dollar.
Update 22 september 2026: haar zorg kreeg wetenschappelijke rugdekking op het hoogste niveau. Het onafhankelijke VN-panel wijdde een thematische brief aan AI-agents en het risico op controleverlies, gebouwd op net het incident waarnaar zij verwees.
