OpenAI roept op tot internationale technische standaarden voor geavanceerde AI. Die moeten vooral duidelijkheid scheppen over systemen die steeds autonomer AI-onderzoek uitvoeren en kunnen bijdragen aan volgende generaties modellen. De Verenigde Staten zouden daarbij het voortouw moeten nemen.
Centraal staat recursive self-improvement (RSI), ofwel recursieve zelfverbetering. Daarbij worden AI-systemen ingezet om nieuwe en betere AI-systemen te ontwikkelen. Naarmate mensen minder stappen in dat onderzoeksproces zelf uitvoeren, kan de ontwikkeling volgens OpenAI sterk versnellen.
Volledig autonome RSI bestaat volgens OpenAI nog niet en moet niet worden nagestreefd zolang niet duidelijk is dat dit veilig kan. Zonder voldoende toezicht kunnen mensen de praktische controle over AI-ontwikkeling verliezen, bijvoorbeeld doordat onderzoeksprocessen te complex worden om nog te begrijpen of beoordelen.
Verschillende regels per land
OpenAI ziet internationale standaarden als een manier om dergelijke risico’s te beperken. Verschillende definities, evaluatiemethoden en rapportageverplichtingen per land maken het lastiger om AI-systemen te vergelijken en grensoverschrijdende risico’s gezamenlijk aan te pakken. De standaarden zouden voor zowel open als gesloten modellen moeten gelden.
Het bedrijf pleit niet voor een internationaal vergunningenstelsel. De afspraken moeten een gemeenschappelijke basis vormen voor het meten van capaciteiten, beoordelen van risico’s en toetsen van veiligheidsmaatregelen. Nationale overheden bepalen zelf of en hoe zij de standaarden in wetgeving opnemen.
Daarbij kan worden voortgebouwd op het internationale netwerk van AI-veiligheidsinstituten. Ook organisaties en samenwerkingsverbanden als ISO, het Frontier Model Forum en de Open Secure AI Alliance kunnen een rol spelen.
Menselijk toezicht vastleggen
De afspraken moeten onder meer bepalen hoe de voortgang richting zelfverbeterende AI wordt gemeten en wanneer geautomatiseerd AI-onderzoek onmiddellijk door mensen moet worden beoordeeld.
Daarnaast wil OpenAI gezamenlijke regels voor het classificeren, registreren en melden van incidenten. Beheerders van kritieke infrastructuur en overheden zouden beveiligde communicatiekanalen moeten opzetten om informatie over kwetsbaarheden, dreigingen en veiligheidsmaatregelen uit te wisselen. Samenwerking tussen de Verenigde Staten en China noemt OpenAI daarbij expliciet wenselijk.
Het voorstel verschijnt op een moment dat AI-veiligheid hoog op de internationale politieke agenda staat. Altman spreekt woensdag de VN-Veiligheidsraad toe over AI en internationale veiligheid. Tegelijk wijst de regering-Trump oproepen om de ontwikkeling van AI af te remmen af, onder meer uit vrees dat China daarvan zou profiteren, meldt Reuters.
VS moeten voortouw nemen
OpenAI ziet voor de Verenigde Staten een leidende rol vanwege de sterke Amerikaanse AI-industrie en de positie van het land binnen internationale netwerken voor onder meer technologie, handel, financiën en defensie.
Volgens OpenAI gaat de internationale concurrentie daardoor niet alleen over wie de krachtigste modellen ontwikkelt. Ook het opstellen van breed geaccepteerde technische regels en het organiseren van internationale samenwerking kan bepalen hoe AI wereldwijd wordt toegepast.