Grote AI-bedrijven hebben met de Amerikaanse president Donald Trump vrijwillige afspraken gemaakt over AI-veiligheid. Onafhankelijke auditors gaan controleren of AI-systemen doen wat hun makers bedoelen. En er moeten interne teams komen die garanderen dat “alle beheersmaatregelen, monitoring- en detectiesystemen werken zoals bedoeld”.
Trump toonde het akkoord dinsdag na een lunch met techbestuurders in het Witte Huis. Aan tafel zaten onder meer Greg Brockman (OpenAI), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Sundar Pichai (Google) en Jensen Huang (Nvidia).
De bedrijven laten onafhankelijke auditors nagaan of hun AI-systemen functioneren zoals bedoeld. Ook moeten ze voorkomen dat AI-tools op onbedoelde wijze technische systemen hacken of binnendringen. Zuckerberg had het over stevige interne controles. Daarnaast komt binnen de raden van bestuur een commissie die de auditrapporten beoordeelt.
Trump zelf was stellig. “Het is in zekere zin bijna een grondwet”, zei hij. “De grootste mensen ter wereld hebben het ondertekend, en ik heb het als president ondertekend.”
“Op termijn kan het zinvol zijn om deze stappen vast te leggen in wet- of regelgeving. Ongeacht of dit van bedrijven wordt vereist, zijn wij ervan overtuigd dat de implementatie van deze beheersmaatregelen en audits cruciaal is voor een veilige toekomst voor iedereen; al onze bedrijven zetten zich hier dan ook voor in”, spreken de techbedrijven uit in het akkoord. “De deelnemende bedrijven zullen regelmatig bijeenkomen om standaarden en best practices vast te stellen die de veiligheid van hun systemen verbeteren.”
Ontspoorde AI-agents
Het akkoord volgt op meldingen van OpenAI en Anthropic dat hun AI-agents op eigen houtje systemen van andere bedrijven hadden gehackt. Dat zette de regering onder druk.
Trump overweegt ook een tienkoppige raad die toezicht houdt op de veiligheid van AI-tools. Namen noemde hij niet. Ook benoemt hij binnenkort een nieuwe functionaris die het AI-beleid van het Witte Huis gaat leiden.
Tip: Heeft OpenAI wel iets geleerd van de Hugging Face-hack?