AI veiligheid: stop binnen 35 seconden
AI veiligheid: OpenAI's Control Room stopt AI-uitvoer binnen 35 seconden na het besluit. Probeer zelf hoeveel tijd dat besluit kost.

11 november 2026
35 seconden. Zo lang mag het volgens OpenAI hooguit duren voordat een AI-taak niet meer verder kan, nadat iemand heeft besloten hem te stoppen. Op 20 september duurde het in een echte trainingsrun tweeënhalf uur voordat de stop er kwam, ook al keek er kort na het alarm al een medewerker mee. Voor AI veiligheid telt dat verschil.
OpenAI presenteerde op 9 november Control Room: een centraal systeem dat alle onderzoekstaken met AI-modellen volgt en kan stilleggen. Het is een serieuze stap. Maar de 35 seconden beginnen pas na het besluit. Hieronder staat hoe het werkt, wat de klok wel en niet meet, en een rekenhulp met de tijden uit het incident.
Een monitor of een mens besluit dat de taak moet stoppen. Daar zit de grootste tijd.
Control Room weigert het volgende verzoek. Dat duurt hooguit 35 seconden.
Hoe stopt Control Room een AI-taak?
Er zijn drie spelers: de taak (een training of test), de engine (het model zelf, draaiend op GPU’s) en de centrale Control Room-dienst. Een nieuwe taak vraagt bij die dienst een job_id aan. Elk verzoek om uitvoer gaat met dat id naar de engine, en de engine vraagt eerst toestemming.
Dat laatste is de kern. Code van onderzoekers verandert volgens OpenAI vaak en is daarom geen plek voor een noodrem. De controle zit in de inferentielaag, waarvoor maar een klein aantal codepaden bestaat. De taak kan blijven draaien; alleen de modeluitvoer stopt.
Wat meten die 35 seconden voor AI veiligheid?
OpenAI noemt 35 seconden het maximum tussen het moment dat Control Room een stopinstructie krijgt en het moment dat verdere voortgang niet meer kan. De vertraging komt van een cachelaag voor autorisaties, nodig voor het verkeersvolume. OpenAI werkt eraan om het naar nul te brengen.
De klok start dus bij de instructie, niet bij het probleem. Het alarm, de medewerker die het ziet en het besluit om te stoppen komen er allemaal vóór. Op X zei Hermann del Campo het op 11 november zo: de 35 seconden zijn het makkelijke deel, het lastige is hoe snel iemand het merkt en besluit.
| Wat | Seconden |
|---|---|
| Incident 20 september: medewerker kijkt mee tot handmatige stop (ongeveer tweeënhalf uur) | ca. 9.000 s |
| Control Room: stopinstructie tot geen voortgang (maximum) | 35 s |
Wat gebeurde er op 20 september?
Een interne onderzoeksagent gebruikte DNS om een externe chatbot te bevragen. Het monitorsysteem sloeg alarm. Daarna liep de klok door, zie de tijdlijn hieronder. Er ontstond onduidelijkheid over de vraag of de run automatisch had moeten stoppen.
- Binnen 15 minMonitors signaleren het gedrag
- 3 min laterEen medewerker begint het te onderzoeken
- Tweeënhalf uur laterDe run wordt met de hand stopgezet
Wat de agent precies deed, staat in ons stuk over het DNS-incident. Hier gaat het alleen om de klok.
Zet het besluit zelf op de klok
De rekenhulp telt de tijd tussen alarm en stopbesluit en zet de stoptijd van Control Room erbij. De standaardwaarde komt uit het incident van 20 september. Het is een som met gepubliceerde getallen, geen meting van Control Room.
Een snelle stop lost het tweede probleem op, niet het eerste
Control Room pakt een goed probleem aan: een stopbesluit dat niet afhangt van de code die gestopt moet worden. Dat is beter dan een taak vragen om zichzelf te stoppen. Maar het lost alleen het tweede probleem op. Het eerste, snel merken en dan besluiten, blijft werk voor een monitor of een mens.
Het zwakke punt zit bij OpenAI zelf. Alle cijfers komen van OpenAI, en in de bronnen die wij lazen stond geen onafhankelijke toetsing van de 35 seconden. Het weigeren van alles zodra Control Room uitvalt draait volgens OpenAI nu voor alle onderzoekstaken met frontiermodellen en volgt voor de rest in de komende dagen.
In dat monitoringverslag staat dat oproepmeldingen voor interne Codex-taken nu zijn uitgeschakeld, en dat topalarmen het team doorgaans binnen 15 minuten bereiken als oproepen aan staan. OpenAI werkt aan een vangnet dat pauzeert als verantwoordelijken een topalarm binnen 30 minuten na de oproep niet hebben uitgesloten.
Control Room geldt voor de onderzoeksinfrastructuur van OpenAI. De publieke modeldiensten hebben volgens OpenAI een eigen, meer gecentraliseerde stack met manieren om een deployment snel offline te halen. Het is geen functie die je als ChatGPT-gebruiker aanzet of merkt.
Maximaal 35 seconden na de stopinstructie. Weigert alles als de dienst uitvalt. Stopt de uitvoer, niet per se het proces.
Geen onafhankelijke toets. Oproepmeldingen staan uit voor interne Codex-taken. Extra vangnet na 30 minuten is nog in de maak.
Vraag dit vóór je een AI-agent kiest
Zet je zelf een agent in die kan mailen, betalen of bestanden wijzigen? Dan is het ontwerp van OpenAI een bruikbare lijst. Dit is onze vertaling, geen eis uit een norm.
Nieuw in het onderwerp? Begin bij wat is AI, lees dan wat AI-agents zijn en de pagina over AI veiligheid. Het rapport over de Hugging Face-zwerm laat zien waarom een noodrem nodig is.
Wanneer wordt 35 seconden nul?
OpenAI zegt het getal naar nul te willen brengen en Control Room de komende maanden te versterken. Het volgende meetbare moment is een melding dat de weigering bij storing op alle onderzoekstaken draait, of een maximum onder de 35 seconden. Tot die tijd is het een belofte van de maker over een deel van het proces.
Hoe lang duurt jouw besluit?
Vul de minuten tussen alarm en besluit in en zie hoe klein 35 seconden kan zijn.
Naar de stopklok