Amazon-topman Andy Jassy (foto) heeft volgens Reuters bij de Amerikaanse overheid zijn zorgen geuit over de veiligheidsrisico’s van de nieuwste AI-modellen van Anthropic. Die gesprekken vonden plaats kort voordat de regering-Trump ingreep en het gebruik van de modellen wereldwijd aan banden liet leggen.
Anthropic maakte vrijdag bekend de toegang tot zijn modellen Fable 5 en Mythos 5 wereldwijd uit te schakelen. Aanleiding was een bevel van de Amerikaanse overheid, die vreest dat de beveiligingsmaatregelen rond de modellen kunnen worden omzeild. Daardoor zouden de systemen mogelijk gebruikt kunnen worden om softwarekwetsbaarheden op te sporen.
De maatregel is opmerkelijk omdat zij niet alleen geldt voor landen die door de Verenigde Staten als strategische tegenstanders worden beschouwd, maar voor alle buitenlandse gebruikers. Volgens Anthropic moest het bedrijf daarom de modellen wereldwijd offline halen.
Amazon betrokken bij gesprekken
Volgens een bron van Reuters behoorde Amazon-CEO Andy Jassy tot een groep technologieleiders die deze week met vertegenwoordigers van de regering spraken over de mogelijke risico’s van geavanceerde AI-modellen. Amazon wilde niet bevestigen of dergelijke gesprekken daadwerkelijk hebben plaatsgevonden.
Wel stelde een woordvoerder dat overheden regelmatig advies vragen aan grote cloudleveranciers over potentiële veiligheidskwesties. Het bedrijf geeft naar eigen zeggen geen informatie vrij over dergelijke contacten.
De betrokkenheid van Amazon is opvallend omdat het concern een van de belangrijkste investeerders en cloudpartners van Anthropic is. De AI-startup draait een groot deel van zijn infrastructuur op AWS en ontving eerder miljarden dollars aan investeringen van Amazon.
Beveiligingszorgen rond Fable 5
Anthropic bracht vorige week Fable 5 uit, een publieke versie van zijn geavanceerde Mythos-model. Daarbij stelde het bedrijf dat extra beveiligingsmaatregelen waren ingebouwd om misbruik voor cyberaanvallen te voorkomen.
Volgens Anthropic heeft de Amerikaanse overheid echter gewezen op een methode waarmee die bescherming kan worden omzeild. Het bedrijf erkent het bestaan van zo’n techniek, maar benadrukt dat daarmee slechts beperkte kwetsbaarheden kunnen worden gevonden en dat vergelijkbare mogelijkheden ook aanwezig zijn in andere publiek beschikbare AI-modellen.
De Amerikaanse overheid zag dat kennelijk anders. Volgens Anthropic kreeg het bedrijf de opdracht om buitenlandse gebruikers geen toegang meer te geven tot Fable 5 en Mythos 5. Daarop besloot het de beschikbaarheid van beide modellen volledig stop te zetten.
Discussie over exportregels
De beperkingen zijn opgelegd via exportcontrolemaatregelen. David Sacks, adviseur van president Trump op het gebied van technologie en wetenschap, liet weten dat de overheid deze stap pas zette nadat Anthropic volgens haar onvoldoende maatregelen had genomen om het beveiligingsprobleem op te lossen.
Sacks sprak de verwachting uit dat de beperkingen kunnen worden opgeheven zodra Anthropic aanvullende beveiligingsmaatregelen doorvoert.
Niet iedereen begrijpt de gekozen aanpak. Diverse experts die doorgaans voorstander zijn van exportcontroles op geavanceerde AI-technologie noemen de maatregel buitengewoon breed. Zij wijzen erop dat ook onderzoekers en medewerkers uit bevriende landen zoals Canada en het Verenigd Koninkrijk door de beperkingen worden geraakt.