Terwijl de CEO’s van de Amerikaanse AI-reuzen het erover eens zijn dat AI-modellen op lagere snelheid moeten verbeteren, legt China de achilleshiel bloot. Vanwaar de oproep om de escalatie van sterkere LLM’s te stoppen? En waarom is het plan gedoemd om te falen?
Toen de Amerikaanse regering kort na de release van Anthropics Claude Fable 5 het model terugfloot uit zorgen omtrent nationale veiligheid, had men kunnen raden dat het slechts een druppel op een gloeiende plaat was. De tijdelijke pauze, ingelast via exportrestricties, was chaotisch. Het was verre van de blauwdruk om AI-ontwikkeling goed te begeleiden. Het frappante is dat juist Anthropic-aartsrivaal OpenAI modellen uit de eigen sandbox liet ontsnappen en meermaals onbewust hoster was van agentic hackers.
Andere discussie
Maanden na de blokkade en vrijstelling van Fable 5 zijn we murw geslagen door nieuwe AI-modellen. Tussen Claude Fable 5 in juni en OpenAI’s tegenhanger GPT-6 Astra begin deze maand zagen we meerdere releases van onder andere SpaceXAI’s Grok, Meta Muse Spark, DeepSeek en Google Gemini. Telkens is er sprake van net iets betere (of soms veel betere) benchmarks, voordelige ’tokenomics’ en meer agentic daadkracht. Zoals ook de 27-jarige klokkenluider en ex-Anthropic-onderzoeker Jacob Coxon concludeert: geen van deze AI-modellen is een direct risico voor de mensheid. Desondanks trok zijn reeks aan X-posts meer dan honderd miljoen lezers, waarin hij alarm sloeg over de AI-progressie.
De retoriek is verre van nieuw, doch zo ongeveer de meest radicale voorstelling van zaken die we ooit rondom AI hebben gezien. Specifieker: Coxon stelt dat Anthropic zich uiterst bewust is van alle gevaren rondom autonome AI-systemen die zichzelf verbeteren en menselijke controle overstijgen, maar, helaas, OpenAI zou die zorgen niet evengoed geïnternaliseerd hebben.
Dit riedeltje kennen we ook. Anthropic, klaarblijkelijk en expliciet ontevreden over uitblijvende AI-wetgeving die verder reikt dan lukrake exportcontroles, is al langer voorstander van grotere voorzichtigheid. Het bedrijf heeft daarom een volwaardige taxonomie van gevaarsklassen, reikend van ASL-1 (niet gevaarlijk, kleinere modellen) tot ASL-4+, dat nog altijd ‘speculatief’ is. Aangezien ASL-3 (“significant hogere risico’s” dan de modellen die in 2023 bestonden, toen Anthropic deze risicoschalen publiceerde) al lang en breed bereikt is, mag er enige kritiek zijn over het feit dat ASL-4 nog steeds geen definitie heeft. Voor wat context: ASL-3 kent “hogere risico’s” die al bij Opus 4 medio 2025 golden. Iedereen die LLM-releases enigszins volgt, weet dat het verschil in vaardigheden en risico’s significant is tussen Opus 4 en Fable 5.1 – of de OpenAI-modellen die IT-omgevingen hackten.
Eigen regels zijn niet goed genoeg
Zowel OpenAI als Google kozen in navolging van de Claude-maker voor zelf opgelegde frameworks om AI-veiligheid te waarborgen. Toch hebben praktisch alle AI-bedrijven hun teams aan ethici opgedoekt en hooguit voor extra veiligheidsmaatregelen gekozen als reactie op cybergevaren. De opstelling blijft: we kiezen voor snelheid boven veiligheid. 1.386 (eerder nog 1.178) medewerkers van deze AI-bedrijven hadden dit ook door en willen verandering. Inmiddels hebben cyberincidenten en vertrekkende medewerkers met ethische zorgen ertoe geleid dat zowel Anthropic-CEO Dario Amodei als OpenAI-CEO Sam Altman expliciet oproepen om AI-modellen rustiger uit te rollen.
De eigen regels zijn echter niet goed genoeg. Met name Anthropic pleit voor overheidsregels vanuit de Amerikaanse overheid of wereldwijd geldende regels, waar ook China aan mee zou moeten doen. Dat is het grote probleem helaas: het Chinese ministerie van Buitenlandse Zaken roept de alarmistische praat angstzaaierij. Minister van Staatsveiligheid Chen Yixin sprak wel over de noodzaak om AI-technologie op “gezonde en geordende” wijze te ontwikkelen.
Dat effect hebben de Chinese AI-spelers niet. DeepSeek-R1 leidde tot een enorme koersduik begin 2025, terwijl ook de GLM-modellen van Z.ai en Kimi van Moonshot AI de Amerikaanse spelers tarten. Aantijgingen van IP-diefstal terzijde (via destillatie, ofwel het tactisch ontfutselen van informatie uit LLM’s via prompts), het probleem voor Anthropic, OpenAI en andere Amerikaanse partijen is dat hun Chinese concurrentie geen overeenkomst gaan ondertekenen of dezelfde jurisdictie zal accepteren. En omdat de modellen veelal in open-weight vorm gratis te downloaden zijn en te draaien op eigen hardware, is ook het verbannen van de LLM’s een hels karwei. Het opzetten van een omgekeerde “Great Firewall” zou vereist zijn om Chinese AI in China te houden.
China en hardware zullen snelheid erin houden
Wat de westerse AI-bedrijven ook doen, China’s ontwikkeling valt niet te stoppen via regelgeving. Evenmin zorgen exportrestricties niet voor een kentering, nu bedrijven als DeepSeek zich concentreren op Huawei-chips in plaats van Nvidia-GPU’s. Het vertraagt de ontwikkeling van AI enigszins door op inferieure hardware te werken, maar op de langere termijn helpt de integratie tussen vendoren uit hetzelfde land om de achterstand weg te werken.
Een verdere lastpost is de uitrol van AI-hardware, die geenszins wordt vertraagd. Meer hardwarebeschikbaarheid leidt onherroepelijk tot meer AI-alomtegenwoordigheid, aangezien er nog steeds aanzienlijk meer vraag naar rekenkracht is dan aanbod. Dat is deels voor AI-trainingsdoeleinden, maar inferencing op schaal kan net zo goed exact dezelfde chips (of goedkopere, die op grotere schaal te produceren zijn) gebruiken.
We verwachten dat de AI-race niet zal vertragen. Wel zal de uitrol van de nieuwste frontier-modellen op een voorspelbare manier plaatsvinden. Dit hebben we zelfs al gezien. Anthropic, bewust van de risico’s die het eigen nieuwe Mythos-model begin dit jaar kende voor cybersecurity, koos voor een zeer beperkte uitrol. Pas eind juni was Fable, hetzelfde onderhuidse model als Mythos maar met veel meer beperkingen opgelegd, beschikbaar. OpenAI lijkt voornemens een vergelijkbare tactiek te gebruiken.
Als de Chinese concurrentie weer te dichtbij komt qua vaardigheden, is het aan deze twee partijen om weer een stapje naar voren te nemen. Dus in zekere zin is de snelheid van AI-ontwikkeling al tijden kunstmatig beperkt, nu komt er alleen extra alarmistische taal bij.
Conclusie: er verandert (nu) weinig
Op de langere termijn zijn de zorgen substantieel. Schattingen van de kans dat de mensheid door AI wordt uitgeroeid zouden idealiter afgerond 0 procent moeten zijn, maar twee OpenAI-onderzoekers stellen dat AI 70 (!) procent kans heeft ons uit te roeien. Evan Hubinger van Anthropic gaat voor een “conservatieve” 10 procent binnen het komende decennium.
Eerst hoorden we vooral aankondigingen van Amodei en anderen dat AI binnen een bepaald aantal maanden tot massale ontslagen zou leiden. Deze voorspellingen zijn, voor zover wij weten, niet uitgekomen. Ontslagrondes zijn er zeker geweest en ook volgens persberichten doordat AI taken overneemt, maar niet omdat die AI-systemen daadwerkelijk dezelfde baan zijn gaan uitvoeren. Dat is nog steeds toekomstmuziek. Amodei zat er het dichtst bij met de voorspelling dat coderen grotendeels AI-gedreven zou zijn. Maar verder moeten we voorspellingen, zoals overigens vrijwel altijd geldt, niet extreem serieus nemen.
Wel is het overduidelijk dat regelgeving op nationaal of internationaal niveau gewenst is, zelfs als het niet optimaal is. Frappant is dat de EU AI Act, de meest substantiële rem op AI-modellen dankzij gegroepeerde regels op basis van de vaardigheid van deze systemen, continu kritiek krijgt van AI-spelers als Google en Meta, met voornamelijk klachten over de vertraagde uitrol die de wetgeving teweegbrengt voor EU-bewoners. Net als bij de Fable 5-blokkade door Washington in juni lijkt het erop dat wanneer de wet daadwerkelijk tegen hen wordt gebruikt, de AI-spelers toch liever hun eigen beleid willen kiezen.
Het zal daarom niemand hoeven te verbazen dat METR, een nonprofit voor het evalueren van AI-systemen, de favoriet is om als “onafhankelijke” tester op te treden volgens AI-bedrijven. Laat die partij nou net opgericht zijn door een voormalig OpenAI-onderzoeker. Niet zo gek dat Cohere spreekt van een vormend AI-kartel. Dat AI regulering nodig heeft is één ding. Wie dit mag doen en of dit werkelijk AI-ontwikkeling stremt, zijn belangrijkere kwesties.