3min Security

Gouverneur Californië zet streep door wetsvoorstel dat AI aan banden legt

AI Safety Bill zou wereldwijd invloed hebben gehad

Gouverneur Californië zet streep door wetsvoorstel dat AI aan banden legt

De gouverneur van de Amerikaanse staat Californië, Gavin Newsom, heeft zijn veto uitgesproken over een wetsvoorstel dat strenge veiligheidseisen zou stellen aan de ontwikkelaars van AI-modellen. Californië is de thuisbasis van veel techbedrijven en dat is voor AI niet anders. Het wetsvoorstel zou dus veel invloed gehad kunnen hebben op het wereldwijde gebruik van AI.

Het wetsvoorstel met de naam SB 1047 zou ontwikkelaars verplichten om hun AI-modellen te onderwerpen aan strenge veiligheidstests, met name als ze meer dan 100 miljoen dollar kosten om te ontwikkelen (wat bijna altijd zo is) of bijzonder veel rekenkracht vereisen (wat in het geval van de grote LLM’s ook bijna altijd zo is). Zo zouden de ontwikkelaars moeten kunnen garanderen dat hun modellen niet bruikbaar zijn voor het ontwikkelen van bijvoorbeeld biologische wapens.

‘Iedereen nu onveiliger’

Volgens de gouverneur van Californië was de zogeheten ‘AI Safety Bill’ in zijn huidige vorm echter veel te streng en zou het innovatie beknotten. De stringente veiligheidsmaatregelen zouden gelden voor élke soort toepassing, dus ook wanneer de gebruiker een spreekwoordelijk koekjesrecept wil hebben van de AI. Volgens Newsom zouden de voorgestelde beperkingen alleen moeten gelden voor AI-modellen in risicovolle situaties of werkgebieden, of wanneer ze moeten omgaan met zeer gevoelige of kritieke data.

De indiener van het wetsvoorstel is senator Scott Wiener, net als gouverneur Newsom lid van de Democratische partij. Volgens hem is het een ‘gemiste kans’ dat het voorstel door zijn partijgenoot uit de lucht is geschoten en daarmee ‘iedereen onveiliger maakt’. De Amerikaanse staat is het middelpunt van een ideologische strijd om AI, waar voorstanders van (vrijwel) ongebreidelde inzet van AI zoals OpenAI-topman Sam Altman zich aan de ene kant van de scheidslijn bevinden en critici als miljardair Elon Musk, die een voorzichtiger aanpak bepleiten, aan de andere kant.

Gavin Newsom zal in elk geval flink zijn belobbyd de afgelopen tijd. Veel Silicon Valley-ondernemers staan een maximalistische aanpak voor van AI, net als veel kopstukken uit de Democratische Partij. Newsom sloot eerder dit jaar een overeenkomst met Nvidia, hofleverancier van de GPU’s waarop AI’s worden getraind, voor het ontsluiten van AI-toepassingen in het onderwijs.

Voormalig voorzitter van het Huis van Afgevaardigden Nanci Pelosi die eveneens Californië als thuisbasis heeft, bedankte Newsom op X (ironisch genoeg het platform van tegenstander Musk) voor zijn veto. Pelosi, tevens kopstuk van de Democratische partij, voegde daaraan toe: “Bij het bepalen van de beste weg voorwaarts voor onze geweldige staat, moet Californië een voorbeeld zijn voor het land als het gaat om het beschermen van consumenten, het respecteren van intellectueel eigendom en het prioriteit geven aan innovatie en ondernemerschap.”

Uitdagingen voor lokale energienet

Los van zijn veto van het wetsvoorstel, heeft Newsom wél afzonderlijk wetgeving ondertekend die het bestuur van zijn staat verplicht te onderzoeken welke uitdagingen AI meebrengt voor de lokale (energie)infrastructuur. De staat heeft sowieso al geregeld te maken met ‘rolling blackouts’, ofwel gecontroleerde stroomuitval om overbelasting van het overvraagde energienet te voorkomen.

Newsom is ook niet in álle gevallen toeschietelijk richting AI-bedrijven. Nadat beroemdheden klaagden over het (mogelijk) stelen van hun gelijkenis of stemgeluid door AI-toepassingen, ondertekende hij wetsvoorstellen die dat verbieden. Het maakt daarbij niet uit of de acteurs nu levend zijn of dood.

Lees ook: OpenAI staat vooraan om AI-beleid te vormen, en dat gaat ook Europa aan