OpenAI haalt zijn scherpste criticus binnen in het bestuur
Vorige week vroeg Jakub Pachocki, de hoofdwetenschapper van OpenAI, in een essay om een scheidsrechter: verplichte veiligheidslatten, afgetoetst door externe auditors of overheden. Wat zijn bedrijf deze week deed, leest als een vervolgstap. Op woensdag 9 september 2026 maakte OpenAI op zijn eigen nieuwspagina bekend dat Paul Christiano toetreedt tot het bestuur van de OpenAI Foundation, het stichtingsbestuur boven het bedrijf, én tot het Safety and Security Committee, het comité dat over veiligheid en beveiliging waakt. In OpenAI’s eigen woorden brengt hij “experience in AI alignment, safety, and standards” mee: ervaring in alignment (zorgen dat AI doet wat de maker bedoelt), veiligheid en standaarden. Het comité wordt geleid door Carnegie Mellon-professor Zico Kolter, meldt TechCrunch.
Wat die keurige aankondiging niet zegt: Christiano is niet zomaar een veiligheidsexpert erbij. Hij is zowat de scherpste criticus van het tempo waarmee de sector, OpenAI voorop, richting steeds capabelere AI raast.
De man die zegt dat de sector op ramkoers ligt
TechCrunch noemde hem in de kop van zijn stuk “a prominent AI doomer”, een prominente doemdenker over AI. Christiano’s eigen woorden, opgetekend door datzelfde TechCrunch, liegen er niet om:
“I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term.”
Hij gelooft dus dat er een betekenisvol risico bestaat dat de snelle versnelling van AI-capaciteiten op zeer korte termijn tot catastrofaal en onomkeerbaar controleverlies leidt. En hij spaart zijn nieuwe werkgever niet: “I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level.” De industrie, OpenAI inbegrepen, zit volgens hem niet op koers om dat risico tot een aanvaardbaar niveau terug te brengen.
Die man zit nu in het bestuur van de stichting boven OpenAI en in het comité dat over veiligheid waakt. Pachocki vroeg vorige week om een scheidsrechter; zijn bedrijf haalt er nu eentje in huis. De vraag die blijft hangen: krijgt de rem hiermee een hand op het stuur, of koopt OpenAI vooral geloofwaardigheid?
Dezelfde woensdag: duwen en remmen tegelijk
Wie denkt dat OpenAI hiermee gas terugneemt, hoeft alleen naar de rest van diezelfde woensdag te kijken. Om 11:00 GMT lanceerde het bedrijf “GPT-6 Astra: The next generation in intelligence for work”, een zakelijke uitrol van zijn nieuwste model. Om 13:00 GMT volgde een beleidspleidooi van Chris Lehane, “The AI policy window is open. We need to act”, met als kern dat sterkere AI-capaciteiten om sterker veiligheidsbewijs, gedeelde standaarden en duurzaam beleid vragen. En om 17:00 GMT kwam de benoeming van Christiano (alle tijdstippen volgens OpenAI’s eigen nieuwsfeed). Product, pleidooi en rem, netjes na elkaar op één dag: hetzelfde patroon als de zondag waarop het gaspedaal en de rem een uur na elkaar online kwamen.
De benoeming valt bovendien in de periode waarin toezicht op OpenAI ineens heel concreet werd: sinds maandag is bevestigd dat het incidentrapport over de gekaapte Duitse wiki in Brussel ligt. Of die twee iets met elkaar te maken hebben, weten we niet; OpenAI zegt er niets over, en wij gaan het niet verzinnen. Wat wel vaststaat: het bedrijf blijft doen wat het al weken doet, tegelijk duwen en remmen, en beide luidkeels aankondigen.
Zo iemand tekent niet voor een schaamlapje
De makkelijkste cynische lezing, een criticus als uithangbord binnenhalen en verder niets veranderen, is hier te makkelijk. Christiano is geen decorstuk dat je voor de foto neerzet. Hij ontwikkelde bij OpenAI mee reinforcement learning from human feedback, kortweg RLHF, de techniek waarbij een model bijleert van menselijke feedback en die mee aan de basis ligt van ChatGPT. Hij vertrok in 2021, richtte het Alignment Research Center op, een onafhankelijk onderzoekscentrum rond AI-veiligheid, en adviseert vandaag het Amerikaanse Center for AI Standards and Innovation. Wie zijn reputatie bouwde door OpenAI te verlaten en de sector publiek op ramkoers te noemen, zet zijn naam niet lichtzinnig onder een pr-oefening. En een zetel in het veiligheidscomité is concreter dan een essay: een essay hoopt, een comitélid zit aan tafel.
En dat comité is geen praatclub. Volgens TechCrunch heeft het “the final say on whether OpenAI releases new models”, het laatste woord over de vraag of OpenAI nieuwe modellen uitbrengt, zoals het vorige week gelanceerde Astra. De rem heeft dus wel degelijk een hand op het stuur. Wat we niet weten, is hoe zwaar Christiano’s stem daarbinnen weegt: over zijn persoonlijke mandaat, en over wie beslist wanneer hij vindt dat het te snel gaat, zegt de aankondiging niets. Het verschil tussen een hand op het stuur en een stem op de achterbank zit dus niet bij het comité, maar bij zijn plek erin.
Volg daarom niet de persberichten maar de releases. Christiano heeft jarenlang hardop gezegd wat er volgens hem schort, tot en met de zin dat zijn nieuwe werkgever niet op koers zit. Zie je vanaf nu lanceringen vertragen of sneuvelen wanneer het comité twijfelt, en blijft hij even hardop spreken als daarbuiten, dan kreeg de rem deze week een echte hand op het stuur. Rollen de lanceringen gewoon door terwijl het rond hem stil wordt, dan was die zetel vooral een aankoop op de geloofwaardigheidsmarkt.
