OpenAI accueille son critique le plus virulent au conseil
La semaine précédente, Jakub Pachocki, scientifique en chef d’OpenAI, avait demandé dans un essai un arbitre : des normes de sécurité obligatoires, auditées par des auditeurs externes ou des gouvernements. Ce que son entreprise a fait cette semaine s’apparente à une suite logique. Mercredi 9 septembre 2026, OpenAI a annoncé sur sa propre page d’actualités que Paul Christiano rejoignait le conseil de la Fondation OpenAI, le conseil de fondation au-dessus de l’entreprise, et le Comité de sécurité et de protection, le comité qui veille sur la sécurité. Selon les propres termes d’OpenAI, il apporte “une expérience en alignement de l’IA, en sécurité et en normes”: une expérience dans l’alignement (s’assurer que l’IA fait ce que son créateur entend), la sécurité et les normes. Le comité est dirigé par le professeur de Carnegie Mellon, Zico Kolter, rapporte TechCrunch.
Ce que cette annonce soignée ne dit pas : Christiano n’est pas simplement un expert en sécurité supplémentaire. Il est probablement le critique le plus mordant du rythme auquel le secteur, OpenAI en tête, fonce vers une IA toujours plus puissante.
L’homme qui dit que le secteur fonce droit dans le mur
TechCrunch l’a appelé dans le titre de son article “a prominent AI doomer”, un critique éminent de l’apocalypse par l’IA. Les propres paroles de Christiano, rapportées par ce même TechCrunch, ne mâchent pas les mots:
“I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term.”
Il croit donc qu’il existe un risque significatif que l’accélération rapide des capacités de l’IA entraîne une perte de contrôle catastrophique et irréversible à très court terme. Et il n’épargne pas son nouvel employeur: “I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level.” L’industrie, y compris OpenAI, n’est selon lui pas en bonne voie pour réduire ce risque à un niveau acceptable.
Cet homme siège maintenant au conseil de la fondation au-dessus d’OpenAI et au comité qui veille sur la sécurité. Pachocki avait demandé la semaine précédente un arbitre; son entreprise en engage maintenant un. La question qui demeure: le frein obtient-il vraiment une main sur le volant, ou OpenAI n’achète-t-elle surtout de la crédibilité?
Même mercredi : accélération et freinage simultanés
Quiconque pense qu’OpenAI retire le pied de l’accélérateur n’a qu’à regarder le reste de ce même mercredi. A 11:00 GMT, l’entreprise a lancé “GPT-6 Astra: The next generation in intelligence for work”, un déploiement commercial de son dernier modèle. A 13:00 GMT, a suivi un plaidoyer politique de Chris Lehane, “The AI policy window is open. We need to act”, dont le cœur est que des capacités d’IA plus fortes exigent des preuves de sécurité plus fortes, des normes partagées et une politique durable. Et a 17:00 GMT est venue la nomination de Christiano (tous les horaires selon le flux d’actualités propre d’OpenAI). Produit, plaidoyer et frein, soigneusement l’un après l’autre en une seule journée: le même schéma que le dimanche où l’accélérateur et le frein sont apparus en ligne à une heure d’intervalle.
La nomination intervient en outre à un moment où la surveillance d’OpenAI est soudainement devenue très concrète: depuis lundi, il a été confirmé que le rapport d’incident sur le wiki allemand détourné se trouve à Bruxelles. Que ces deux faits aient un lien, nous l’ignorons; OpenAI ne dit rien à ce sujet, et nous ne allons pas le deviner. Ce qui est certain: l’entreprise continue ce qu’elle fait depuis des semaines, foncer et freiner à la fois, et annoncer les deux bruyamment.
Un tel personnage ne signe pas sur une feuille de vigne
La lecture cynique la plus facile, faire entrer un critique en tant que vitrine et ne rien changer d’autre, est trop simple ici. Christiano n’est pas un accessoire qu’on sort pour la photo. Il a co-développé chez OpenAI le reinforcement learning from human feedback, en bref RLHF, la technique par laquelle un modèle apprend du retour humain et qui est à la base de ChatGPT. Il a quitté en 2021, a fondé le Alignment Research Center, un centre de recherche indépendant sur la sécurité de l’IA, et conseille aujourd’hui le Centre américain pour les normes et l’innovation en IA. Quelqu’un qui a bâti sa réputation en quittant OpenAI et en critiquant publiquement le secteur ne met pas légèrement son nom sous un exercice de relations publiques. Et un siège au comité de sécurité est plus concret qu’un essai: un essai espère, un membre d’un comité siège à la table.
Et ce comité n’est pas un simple forum de discussion. Selon TechCrunch, il a “the final say on whether OpenAI releases new models”, le dernier mot sur la question du lancement de nouveaux modèles, comme l’Astra qu’il a lancé la semaine dernière. Le frein a donc effectivement une main sur le volant. Ce que nous ne savons pas, c’est le poids que porte la voix de Christiano en son sein: sur son mandat personnel, et sur qui décide quand il estime que c’est trop rapide, l’annonce ne dit rien. La différence entre une main sur le volant et une voix à l’arrière ne se situe pas au niveau du comité, mais à sa place en son sein.
Suivez donc non pas les communiqués de presse mais les lancements. Christiano parle depuis des années sur ce qu’il pense qui cloche, jusqu’au point de dire que son nouvel employeur n’est pas en bonne voie. Si à partir de maintenant vous voyez les lancements ralentir ou échouer quand le comité hésite, et qu’il continue de parler aussi fort qu’il le faisait à l’extérieur, alors le frein a vraiment une main sur le volant cette semaine. Si les lancements roulent simplement tandis que le silence règne autour de lui, alors ce siège était surtout un achat sur le marché de la crédibilité.
