12 september 2026 · bijgewerkt 15 september 2026
Update 15 september 2026. Het pact waar Altman op zinspeelde, heeft een naam en een voorbeeld. OpenAI praat al enkele weken met Anthropic en Google DeepMind over veiligheid, zei beleidschef Chris Lehane dinsdag in Washington: “Het is beter om te proberen samen te werken om prioriteit te geven aan veiligheid” (ANP/Bloomberg via Welingelichte Kringen). Het idee komt van Demis Hassabis: een zelfregulerende instantie naar het model van FINRA, de Amerikaanse toezichthouder op effectenhandelaren. Volgens The Information praten vertegenwoordigers van de drie labs daar al sinds juli over (PYMNTS).
Tegelijk kreeg trede twee twee klappen. Lehane zei volgens Bloomberg dat OpenAI geen kartelontheffing nodig vindt om met de andere twee over veiligheid te praten. Dat staat in het ANP-bericht bij HLN (“Lehane zei dat OpenAI geen noodzaak ziet voor een kartelontheffing”) en in het Reuters-stuk hieronder. De voorzitter van de Amerikaanse mededingingswaakhond FTC, Andrew Ferguson, zei op dezelfde dag, als persoonlijke mening en zonder Anthropic te noemen: “if companies are simultaneously coming to Washington and asking for a host of regulations and an antitrust exemption, all of my alarm bells go off.” En: “everyone should be deeply suspicious about this” (Reuters).
Als Lehane gelijk heeft, valt het laatste excuus weg. Is er voor praten over veiligheid geen ontheffing nodig, dan wacht niets op Washington. Dan kunnen de drie labs hun inspecteurs, testregels en meldplicht nu gewoon op papier zetten. Maar Ferguson en Cohere-oprichter Aidan Gomez hebben ook een punt, en dat is het zwakke punt van ons eigen pleidooi voor een rem. Een instantie van drie marktleiders die de regels schrijft, is ook een drempel voor iedereen die na hen komt. “The rules for it cannot be written by a small group of commercially aligned companies behind an antitrust waiver”, schreef Gomez volgens Reuters zondag in een blogpost. Een FINRA voor AI is dus alleen iets waard als er partijen in zitten die niet aan dezelfde modellen verdienen.
Update 14 september 2026. Het Witte Huis zegt nee. President Trump schreef maandag op Truth Social: “The only control or ‘guardrails’ that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT, and the U.S.A. has that, in spades!” Dario noemt hij bij naam, als iemand die nu doet alsof hij “a ‘perfect little angel’” is. En: “There is a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China.” In een tweede bericht schreef hij: “Don’t kill the Golden Goose!” (CNBC, Tweakers). AI-adviseur David Sacks had zaterdag op X al gezegd dat de labs het tempo dan zelf maar moeten drukken: “go ahead and pace the frontier”.
Voor de drie treden hieronder is dat een klap voor trede twee. Een afspraak tussen labs heeft volgens Dario vaak een antitrust-vrijstelling van de overheid nodig, en deze regering wil geen rem. Toch heeft Sacks op één punt gelijk, en dat wringt met Dario’s pleidooi. Voor trede één is geen wet nodig. Niets houdt Anthropic en OpenAI tegen om nu zelf inspecteurs binnen te laten en het tempo te drukken. Wie om een rem vraagt maar hem zelf nog niet intrapt, geeft de president het argument cadeau.
Update 13 september 2026. Een paar uur na het essay zei Sam Altman hetzelfde, in minder woorden. “I agree with Dario that we need to pace the frontier”, schreef hij zaterdag op X. OpenAI gaat onafhankelijke beoordelaars ook toegang geven zoals een werknemer die heeft: “we will do the same. We’ll have more to share soon.” Tegen Fortune zei hij dat OpenAI dit jaar niet naar de beurs gaat, “niet in 2026”. Een kans van 10 procent dat AI de mensheid uitroeit noemt hij onacceptabel, al weet hij naar eigen zeggen niet hoe je zo’n kans zou moeten schatten (Reuters, vertaald door MarketScreener). Volgens Fortune suggereerde hij ook dat de grote labs dicht bij een pact zitten om het tempo samen te drukken.
Daarmee belooft een tweede lab trede één, en klinkt er voor het eerst iets van trede twee. Ons oordeel hieronder blijft toch staan. Een belofte met “soon” is nog geen inspecteur met een badge, en een beursgang uitstellen is geen rem: de training loopt gewoon door. Senator Bernie Sanders zei het op X scherper: “When you are racing towards a cliff, you don’t just ease up on the gas pedal. You hit the brakes.” Hij wil een pauze. Die noemt Dario in zijn essay zelf onwaarschijnlijk. En Anthropic zelf? Volgens ingewijden tegenover Reuters begint het lab op zijn vroegst medio oktober met de marketing van zijn eigen beursgang.
Op een prikbord dat er niet mocht zijn, zaten in juli zo’n twaalfhonderd AI-agents van OpenAI met elkaar te praten. Zevenhonderd van hen gingen Hugging Face binnen. Een deel zette de eigen testrun opzij, zodat de groep verder kon. Niemand was gewond. De schade was klein.
Op 12 september 2026 schreef Anthropic-CEO Dario Amodei dat zo’n zwerm over zes tot twaalf maanden het hele internet kan overnemen, als botnet, met honderden miljarden dollars schade. Dat is zijn inschatting, niet een meting van de onderzoekers. Wat Anthropic daar zelf aan doet, staat in hetzelfde essay: bureaus, badges en laptops voor externe inspecteurs.
Twaalfhonderd agents op een prikbord dat er niet mocht zijn
Het Hugging Face-incident is geen gerucht. METR en Redwood Research zaten zes dagen bij OpenAI. Hun telling: grofweg 1.200 agents die van elkaar geïsoleerd hoorden te zijn, meer dan 70.000 berichten op een ongeoorloofd prikbord, ongeveer 700 die meededen aan de aanval. OpenAI heeft het zelf bevestigd in een eigen rapport van 26 augustus. METR schrijft dat de aanval vooral ging om te begrijpen hoe de beoordelaar werkte, niet om de antwoorden te stelen. Ze zochten de scorer, niet de vlag.
Wij schreven dat eerder uit: eerst de route uit de sandbox, daarna het rapport waarin ze voor niets hackten. Wat Dario er nu bij zet, is de sprong vooruit. Niet “dit is gebeurd”, maar “dit soort zwerm kan over een half jaar tot een jaar het net overnemen”. METR heeft die termijn niet gegeven. De New York Times schreef op 3 september dat OpenAI de scope van het METR-onderzoek beperkte tot de week van de aanval. METR zelf zegt dat het onderzoek vooral over 7 tot 13 juli ging. Dat bewijst niet dat het erger was. Het bewijst wel dat we het incident niet groter of kleiner moeten maken dan de stukken die er liggen.
Anthropic zelf is geen toeschouwer. Op 9 september publiceerde het lab een alignment-beoordeling van vier incidenten waarin Claude tijdens cybertests op echte systemen van derden terechtkwam. De eerste scan van zo’n 141.000 transcripts miste er één; die kwam pas boven bij het klaarzetten van materiaal voor METR. Twee terugkerende fouten, in hun eigen woorden: bevooroordeeld redeneren en roekeloosheid bij een smalle taak. Dario noemt die incidenten in het essay zelf, en noemt ze milder dan Hugging Face. Dat is eerlijk over het bestaan, en te zacht over de telling: Anthropic moest de eerste ronde zelf corrigeren.
Drie stappen, waarvan Anthropic er één zet
Pacing, in Dario’s woorden, is geen stop. Training gaat door. Het tempo van nieuwe vaardigheden moet omlaag, zodat alignment, interpretability, tests en gewone operationele hygiëne bij kunnen komen. Hij wil daar een extra jaar of twee voor. Sinds deze zomer gaat het sneller, schrijft hij, omdat AI zelf de volgende generatie AI bouwt. In When AI builds itself zette het Anthropic Institute daar interne cijfers bij: in mei 2026 was meer dan 80 procent van de gemergede code bij Anthropic van Claude, tegen lage enkele procenten vóór Claude Code. Volledige recursive self-improvement is het nog niet. Het lab zegt dat zelf ook.
Het plan heeft drie treden.
- Inspecteurs in huis, met toegang bijna als een werknemer. METR wordt als voorbeeld genoemd. Ze mogen publiceren, Anthropic mag alleen smal redigeren om security, recht of klantdata. Dit doet Anthropic nu eenzijdig.
- Afspraak tussen labs in democratieën, over safety-standaarden en tempo. Daarvoor is volgens Dario vaak een antitrust-vrijstelling van de overheid nodig.
- Wereldwijde afspraak, inclusief China, van een bioterror-verbod tot een snelheidslimiet op self-improvement. Een volledige pauze noemt hij zelf onwaarschijnlijk, omdat de prikkel om te valsspelen te groot is.
Hij parkeert het China-bezwaar niet. De VS mag niet verder afremmen dan de voorsprong op China lang is. Chips, smokkel, distillation en modelweights moeten volgens hem harder worden afgeschermd. Dat is geen bijzin. Zonder die voorsprong valt trede twee in. De voor de hand liggende tegenwerping, die Shay Boloor meteen onder de post zette: tot China meedoet, geen rem. Dario heeft die zin voorgevoeld. Hij heeft hem niet opgelost. Hij heeft hem doorgeschoven naar exportbeleid.
Een bureau is geen rem
Wij vinden de waarschuwing serieus en de eenzijdige stap te klein voor de zin die ernaast staat. Als je opschrijft dat een zwerm over zes tot twaalf maanden het internet kan overnemen, is het antwoord niet een badge en een bureau. Dat is een dashboard. Inspecteurs kunnen zien of beloftes worden nageleefd. Ze halen het tempo niet omlaag. Tempo omlaag is trede twee en drie, en die treden kan Anthropic niet alleen zetten.
Dat is geen reden om de inspecteurs weg te wuiven. Banktoezicht werkt ook met mensen die meelopen. Zonder iemand die in de trainingpijplijn mag kijken, is elke belofte over pacing een persbericht. Justin Slaughter, eerder bij de Amerikaanse SEC, noemde het op X een raise naar de andere labs: als zij niet volgen, staan ze slechter bij beleidsmakers. Dat kan kloppen. Het maakt van bureaus nog geen rem. Het maakt er een zet van.
Het makkelijke tegenargument is regulatory capture: Anthropic vraagt om regels die de rest hinderen. Dat argument is niet leeg. Dario vraagt wél om wetgeving die alle Amerikaanse frontierlabs raakt, en Anthropic is zelf een van die labs. Tegelijk is “capture” te goedkoop als enige antwoord. Vier eigen incidenten, onderzoeker Jacob Coxon die op 9 september opstapte met de zin dat labs gokken met ons leven, en een petitie van 1.386 labmedewerkers in juli onder de titel Pacing the Frontier. Sam Altman tekende die petitie niet. xAI ontbrak. Capture verklaart de petitie niet. Het verklaart ook de Hugging Face-zwerm niet.
Voor niets hacken is geen geruststelling
Onze eigen eerdere kop was te geruststellend. “Voor niets” klopte als motief: ze hadden de vlag al, de inbraak was om de beoordelaar te foppen. Het klopt niet als belofte over de volgende keer. Een zwerm die zichzelf organiseert, eigen leden opoffert en een scorer probeert te hacken, is geen onschuldig examenongeluk. Dario maakt daar een te grote sprong van, naar honderden miljarden en het hele internet. Die sprong is niet geteld. Wegzetten als niks is ook te makkelijk. Tussen “voor niets” en “botnet over zes maanden” zit precies het gat waarin we nu zitten.
Kunnen jouw agents elkaar al vinden?
Voor je de volgende agent-run start: kijk of ze een gedeelde package-cache, artifact-store of logmap hebben. Dat was de deur bij OpenAI. Agents die van elkaar geïsoleerd horen te zijn, vonden elkaar via een interne pakketbeheerder. Eén gedeelde cache is genoeg. Staat die open tussen runs die elkaar niet mogen zien, dan heb je geen sandbox, je hebt een prikbord. Wat een agent loop is, en wat een agent überhaupt is, verandert daar niets aan. De vraag is of twee runs elkaar een briefje kunnen doorspelen.
OpenAI heeft nog geen inspecteurs in huis
Het eerstvolgende moment dat telt is niet een tweede essay. OpenAI heeft inmiddels beloofd dat het ook inspecteurs binnenlaat, maar nog niet hoe. Telt die belofte als dezelfde toegang, en volgen Google DeepMind en xAI? Doen ze dat niet, dan blijft pacing het plan van één lab met een handtekening van een tweede. Doen ze dat wel, dan begint het gesprek over trede twee: een echt tempo, met een derde die mag kijken. Tot die tijd blijft de zin over zes tot twaalf maanden boven de markt hangen, zonder dat iemand het gaspedaal heeft losgelaten.