17 augustus 2026
OpenAI heeft eind juli het team opgeheven dat moest bijhouden hoe gevaarlijk zijn eigen modellen worden. Dat “preparedness team” keek naar risico’s als cyberaanvallen en biologische wapens, en bedacht manieren om die te beperken. De taken zijn nu uitgesmeerd over bestaande teams per onderwerp, meldt Bright op basis van berichtgeving van de Financial Times, die achter een betaalmuur zit.
Het bedrijf zelf zegt daarmee: het werk gaat door, alleen anders georganiseerd. Dat kan waar zijn. Maar als consumentengids kijken wij naar het patroon, en dat patroon is inmiddels lang.
De optelsom
Eerder verdween al het team dat werkte aan de controle over superintelligentie — het zogeheten superalignment-team. Recent vertrokken het hoofd ethiek en het hoofd veiligheid. En nu is dus ook het team weg dat als taak had om vóór een release te meten wat een nieuw model kan aanrichten.
Los van elkaar zijn dat reorganisaties. Bij elkaar is het één beweging: de mensen wier werk het was om “nee, nog niet” te zeggen, zitten niet meer in een eigen team met een eigen naam. Wie taken verdeelt over bestaande teams, verdeelt namelijk ook de bevoegdheid om aan de rem te trekken. Dat is precies het onderdeel dat je juist bij één club wil laten, met een eigen budget en een eigen baas.
Waarom dit voor jou uitmaakt
Je zou denken: interessant voor Silicon Valley, verder niet mijn probleem. Toch wel, om twee redenen.
De eerste is dat de risico’s die dit team bekeek geen sciencefiction meer zijn. We schreven eerder over de vraag of een AI-agent zelf kan hacken, naar aanleiding van een incident bij OpenAI en Hugging Face. Dat is exact de categorie waar zo’n team op zat te letten. Modellen worden op dit moment sneller zelfstandiger dan de meeste bedrijven hun beveiliging aanpassen.
De tweede reden is praktischer, en typisch iets waar wij op letten: veiligheidsclaims zijn straks moeilijker te controleren. Zolang er één team is met één rapportagelijn, kun je als buitenstaander vragen: wie heeft dit model getest, en op welke drempel? Als dat werk verdeeld is over “cyber” en “bio” en “bestaande teams”, is er niemand meer die je die vraag als geheel kunt stellen. Voor een gebruiker die wil weten of een model veilig genoeg is om klantgegevens door te halen, is dat een echt verschil.
Wat je hier zelf mee kunt
Niets aan de organisatie van OpenAI, wél aan je eigen aannames. Drie dingen die wij aanraden:
- Ga er niet van uit dat “de maker heeft het getest” nog iets garandeert. Test zelf wat een model met jouw data doet voordat je het aan een proces koppelt waar je aan vastzit.
- Geef een AI-agent nooit meer rechten dan een stagiair op zijn eerste dag. Leesrechten waar het kan, schrijfrechten alleen waar het moet, en niets wat geld verplaatst zonder dat een mens kijkt. Wat zo’n agent precies is en wat hij zelfstandig doet, leggen we uit in wat zijn AI-agents.
- Kijk naar gedrag, niet naar beloftes. Een bedrijf dat zijn veiligheidsteam opheft terwijl het modellen sneller uitbrengt, vertelt je meer met die keuze dan met zijn blogpost over verantwoordelijkheid.
Wat ons opvalt
De timing. Dit gebeurde eind juli, en het nieuws komt pas half augustus naar buiten via een krant. Er lag geen aankondiging, geen blogpost, geen uitleg over wie het werk nu doet. Voor een bedrijf dat zijn releases tot op de minuut regisseert, is dat een opvallend stille reorganisatie.
Dat hoeft niets kwaads te betekenen. Maar het is wel het soort stilte waar wij bij een webshop of energiecontract ook op zouden letten: als de goede berichten met trompetgeschal komen en de rest via de achterdeur, weet je genoeg over hoe het bedrijf zijn nieuws sorteert. Wij houden bij welke modellen wanneer verschijnen en wat er over hun tests bekend is — daar staat dit vanaf nu bij. Hoe zo’n risico er in de praktijk uitziet — en hoe snel de kop erover doorslaat — lieten we zien toen een AI een zwakte in encryptie vond.