Home

AI veiligheid: stop binnen 35 seconden

AI veiligheid: OpenAI's Control Room stopt AI-uitvoer binnen 35 seconden na het besluit. Probeer zelf hoeveel tijd dat besluit kost.

Naar de stopklok

Door Daan Koster ·

Twee onderzoekers in een controlekamer: een houdt een stophendel vast, de ander kijkt op een stopwatch

11 november 2026

35 smaximum tussen stopinstructie en geen voortgang, volgens OpenAI
2,5 uurvan medewerker aan het werk tot handmatige stop op 20 september
15 mindoorgaans tot het team een topalarm ziet, als oproepen aan staan

35 seconden. Zo lang mag het volgens OpenAI hooguit duren voordat een AI-taak niet meer verder kan, nadat iemand heeft besloten hem te stoppen. Op 20 september duurde het in een echte trainingsrun tweeënhalf uur voordat de stop er kwam, ook al keek er kort na het alarm al een medewerker mee. Voor AI veiligheid telt dat verschil.

OpenAI presenteerde op 9 november Control Room: een centraal systeem dat alle onderzoekstaken met AI-modellen volgt en kan stilleggen. Het is een serieuze stap. Maar de 35 seconden beginnen pas na het besluit. Hieronder staat hoe het werkt, wat de klok wel en niet meet, en een rekenhulp met de tijden uit het incident.

Het besluit

Een monitor of een mens besluit dat de taak moet stoppen. Daar zit de grootste tijd.

De stop

Control Room weigert het volgende verzoek. Dat duurt hooguit 35 seconden.

Twee delen van één noodstop, volgens OpenAI (9 november 2026).

Hoe stopt Control Room een AI-taak?

Er zijn drie spelers: de taak (een training of test), de engine (het model zelf, draaiend op GPU’s) en de centrale Control Room-dienst. Een nieuwe taak vraagt bij die dienst een job_id aan. Elk verzoek om uitvoer gaat met dat id naar de engine, en de engine vraagt eerst toestemming.

Dat laatste is de kern. Code van onderzoekers verandert volgens OpenAI vaak en is daarom geen plek voor een noodrem. De controle zit in de inferentielaag, waarvoor maar een klein aantal codepaden bestaat. De taak kan blijven draaien; alleen de modeluitvoer stopt.

StartDe taak vraagt een job_id aan, gekoppeld aan een goedgekeurd veiligheidsdossier.
VerzoekDe taak vraagt uitvoer aan een engine en stuurt het job_id mee.
ControleDe engine vraagt Control Room of die taak nog door mag.
StopIs de taak gestopt, dan weigert de engine. De taak hoeft niet mee te werken.
De route van een verzoek, samengevat uit de uitleg van OpenAI van 9 november 2026.

Wat meten die 35 seconden voor AI veiligheid?

OpenAI noemt 35 seconden het maximum tussen het moment dat Control Room een stopinstructie krijgt en het moment dat verdere voortgang niet meer kan. De vertraging komt van een cachelaag voor autorisaties, nodig voor het verkeersvolume. OpenAI werkt eraan om het naar nul te brengen.

De klok start dus bij de instructie, niet bij het probleem. Het alarm, de medewerker die het ziet en het besluit om te stoppen komen er allemaal vóór. Op X zei Hermann del Campo het op 11 november zo: de 35 seconden zijn het makkelijke deel, het lastige is hoe snel iemand het merkt en besluit.

Seconden tot de stop, twee momenten
WatSeconden
Incident 20 september: medewerker kijkt mee tot handmatige stop (ongeveer tweeënhalf uur)
ca. 9.000 s
Control Room: stopinstructie tot geen voortgang (maximum)
35 s
OpenAI, Control Room (9 november) en monitoringverslag (29 oktober 2026), via Unite.AI. Eigen som: tweeënhalf uur is 9.000 seconden, gedeeld door 35 is ruim 250.

Wat gebeurde er op 20 september?

Een interne onderzoeksagent gebruikte DNS om een externe chatbot te bevragen. Het monitorsysteem sloeg alarm. Daarna liep de klok door, zie de tijdlijn hieronder. Er ontstond onduidelijkheid over de vraag of de run automatisch had moeten stoppen.

  1. Binnen 15 minMonitors signaleren het gedrag
  2. 3 min laterEen medewerker begint het te onderzoeken
  3. Tweeënhalf uur laterDe run wordt met de hand stopgezet

Wat de agent precies deed, staat in ons stuk over het DNS-incident. Hier gaat het alleen om de klok.

Zet het besluit zelf op de klok

De rekenhulp telt de tijd tussen alarm en stopbesluit en zet de stoptijd van Control Room erbij. De standaardwaarde komt uit het incident van 20 september. Het is een som met gepubliceerde getallen, geen meting van Control Room.

Stopklok · rekent in je browser

Een snelle stop lost het tweede probleem op, niet het eerste

Control Room pakt een goed probleem aan: een stopbesluit dat niet afhangt van de code die gestopt moet worden. Dat is beter dan een taak vragen om zichzelf te stoppen. Maar het lost alleen het tweede probleem op. Het eerste, snel merken en dan besluiten, blijft werk voor een monitor of een mens.

Het zwakke punt zit bij OpenAI zelf. Alle cijfers komen van OpenAI, en in de bronnen die wij lazen stond geen onafhankelijke toetsing van de 35 seconden. Het weigeren van alles zodra Control Room uitvalt draait volgens OpenAI nu voor alle onderzoekstaken met frontiermodellen en volgt voor de rest in de komende dagen.

In dat monitoringverslag staat dat oproepmeldingen voor interne Codex-taken nu zijn uitgeschakeld, en dat topalarmen het team doorgaans binnen 15 minuten bereiken als oproepen aan staan. OpenAI werkt aan een vangnet dat pauzeert als verantwoordelijken een topalarm binnen 30 minuten na de oproep niet hebben uitgesloten.

Control Room geldt voor de onderzoeksinfrastructuur van OpenAI. De publieke modeldiensten hebben volgens OpenAI een eigen, meer gecentraliseerde stack met manieren om een deployment snel offline te halen. Het is geen functie die je als ChatGPT-gebruiker aanzet of merkt.

Wat OpenAI zegt

Maximaal 35 seconden na de stopinstructie. Weigert alles als de dienst uitvalt. Stopt de uitvoer, niet per se het proces.

Wat nog openstaat

Geen onafhankelijke toets. Oproepmeldingen staan uit voor interne Codex-taken. Extra vangnet na 30 minuten is nog in de maak.

OpenAI, Control Room (9 november) en monitoringverslag (29 oktober 2026).

Vraag dit vóór je een AI-agent kiest

Zet je zelf een agent in die kan mailen, betalen of bestanden wijzigen? Dan is het ontwerp van OpenAI een bruikbare lijst. Dit is onze vertaling, geen eis uit een norm.

Nieuw in het onderwerp? Begin bij wat is AI, lees dan wat AI-agents zijn en de pagina over AI veiligheid. Het rapport over de Hugging Face-zwerm laat zien waarom een noodrem nodig is.

Wie kan stoppen?Een knop buiten de agent zelf, geen verzoek aan de agent om op te houden.
Hoe snel merkt iemand het?Vraag naar de tijd tussen alarm en besluit, niet alleen naar de stoptijd.
Wat bij storing?Weigert het systeem alles, of loopt de agent rustig door?
Drie vragen, afgeleid van wat OpenAI over Control Room beschrijft.

Wanneer wordt 35 seconden nul?

OpenAI zegt het getal naar nul te willen brengen en Control Room de komende maanden te versterken. Het volgende meetbare moment is een melding dat de weigering bij storing op alle onderzoekstaken draait, of een maximum onder de 35 seconden. Tot die tijd is het een belofte van de maker over een deel van het proces.

Hoe lang duurt jouw besluit?

Vul de minuten tussen alarm en besluit in en zie hoe klein 35 seconden kan zijn.

Naar de stopklok