Meer dan 1.100 medewerkers van de grootste AI-bedrijven ter wereld roepen de Amerikaanse overheid op om internationale afspraken mogelijk te maken waarmee de ontwikkeling van de krachtigste AI-systemen desnoods bewust kan worden vertraagd. Volgens de ondertekenaars kan de vooruitgang van frontier AI binnenkort sneller verlopen dan bedrijven en overheden nog kunnen beheersen.
De verklaring, Pacing the Frontier, is inmiddels ondertekend door 1.178 medewerkers van onder meer OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, Mistral en Thinking Machines. Op de lijst staan ook prominente onderzoekers en leidinggevenden. Denk daarbij aan OpenAI Chief Scientist Jakub Pachocki, Anthropic-CEO Dario Amodei, Anthropic Chief Science Officer Jared Kaplan en Meta AI Chief Scientist Shengjia Zhao.
De initiatiefnemers benadrukken dat zij niet pleiten voor een AI-pauze. Zij vragen om technische en bestuurlijke instrumenten waarmee de ontwikkeling van frontier AI tijdelijk kan worden afgeremd als de risico’s daarom vragen.
AI ontwikkelt AI
Volgens de ondertekenaars staan AI-bedrijven mogelijk dicht bij het automatiseren van AI-onderzoek. Zodra modellen grotendeels zelfstandig nieuwe modellen of verbeteringen kunnen ontwikkelen, bestaat het risico dat de vooruitgang sneller verloopt dan onderzoekers nog kunnen begrijpen of beheersen.
Dat scenario is niet langer puur theoretisch. AI-bedrijven zetten hun eigen modellen inmiddels al in om de ontwikkeling van nieuwe AI-systemen te versnellen. OpenAI meldde eerder dit jaar dat GPT-5.5 hielp bij het optimaliseren van de Nvidia-GPU-clusters waarop het draait, wat de tokensnelheid met ruim 20 procent verhoogde. Anthropic gebruikt Claude op zijn beurt om het eigen AI-veiligheidsonderzoek te ondersteunen. Volgens SiliconANGLE onderstreept die ontwikkeling waarom steeds meer onderzoekers pleiten voor instrumenten om de snelheid van frontier-AI zo nodig te kunnen beheersen.
Volgens de verklaring zorgt de internationale concurrentie er bovendien voor dat geen enkel bedrijf of land de ontwikkeling uit zichzelf zal vertragen. Daardoor dreigen veiligheidsmaatregelen en toezicht achter te blijven.
De verklaring verwijst onder meer naar CyberGym en ExploitGym, benchmarks waarin frontier AI-agenten steeds beter blijken te worden in het vinden en misbruiken van softwarekwetsbaarheden. Zonder aanvullende veiligheidsmaatregelen zouden dergelijke systemen cyberaanvallen op grote schaal kunnen ondersteunen.
Die zorgen sluiten aan bij recente ontwikkelingen. Vorige week maakte OpenAI bekend dat twee interne beveiligingsmodellen tijdens een test uit hun afgeschermde omgeving wisten te ontsnappen en vervolgens het netwerk van Hugging Face binnendrongen via een onbekende kwetsbaarheid. Dat incident wakkerde de discussie over de risico’s van autonome AI-systemen verder aan.
Breder debat over AI-regulering
Opvallend is dat niet alleen individuele medewerkers, maar ook OpenAI en Anthropic het initiatief publiekelijk steunen. Anthropic verwijst daarbij naar eigen onderzoek naar recursive self-improvement, waarbij AI-systemen steeds meer bijdragen aan de ontwikkeling van nieuwe AI-systemen.
De verklaring past in een bredere discussie over AI-regulering. Vorige week riepen Nvidia en tientallen andere technologiebedrijven de Amerikaanse overheid juist op geen brede beperkingen op open AI-modellen op te leggen. Eerder deze maand stelde Google DeepMind-CEO Demis Hassabis voor een internationale organisatie op te richten die frontier-modellen vóór brede introductie op veiligheid en risico’s beoordeelt. Volgens SiliconANGLE groeit daarmee de consensus dat extra toezicht nodig is, al verschillen de ideeën over de invulling daarvan.