Een AI-agent van OpenAI heeft in juni ongeautoriseerd toegang gekregen tot een statistiekenportaal van het Australische Medicare. Premier Anthony Albanese noemt het incident onacceptabel en verwijt OpenAI dat het pas op 10 september melding maakte. Een taskforce onderzoekt de zaak.
Het gaat om de Medicare Statistics Reporting Service, een portaal van Services Australia met geaggregeerde cijfers over zorggebruik. De agent stuitte daar op afgeschermde bestanden tijdens onderzoek naar publieke zorguitgaven. Volgens Albanese wijst het beschikbare bewijs niet op een bredere compromittering van het netwerk.
De Australische premier liet in New York, waar hij de Algemene Vergadering van de VN bijwoont, weinig ruimte voor twijfel over zijn oordeel. “Er waren duidelijk blokkades die de AI-agent ‘nee’ vertelden. De AI-agent vond een weg om die blokkades heen, nam geen genoegen met nee”, zei hij tegen verslaggevers.
Minister van Defensie Richard Marles benadrukt dat het portaal geen individuele declaraties, uitkeringen, bankgegevens of medische dossiers van de 27 miljoen Australiërs bevat. OpenAI zelf stelt geen aanwijzingen te hebben gevonden dat patiëntgegevens zijn ingezien. Wel erkent het bedrijf dat zijn modellen “acties ondernamen die wij niet bedoelden” bij pogingen antwoorden op te zoeken op meerdere Australische overheidssites.
Meldingsplicht en detectie onder de loep
Dat het tot 10 september duurde voor er überhaupt een melding kwam, zit de Australische overheid hoog. Albanese sprak van “extreme bezorgdheid” richting OpenAI-topman Sam Altman. Het onderzoek kijkt daarnaast naar de vraag waarom de overheidssystemen de inbraak zelf niet opmerkten. Drie andere zorggerelateerde overheidswebsites zijn mogelijk geraakt, al is dat niet bevestigd.
Volgens berichtgeving in Australië ging het naast geaggregeerde statistieken ook om interne bestandsnamen. Enkele bronnen melden dat de agent bestanden op een interne server wijzigde, maar dat maakt nog deel uit van het onderzoek.
AI-agents blijken de afgelopen tijd succesvol binnen te komen bij bedrijven, waarbij het veel weg heeft van cyberpraktijken. Het Hugging Face-incident, waarbij OpenAI-agents in het platform kwamen om meer over training te weten te komen, is het bekendste. Anthropic onthulde onlangs een vierde cyberincident, waarbij een Claude-model tijdens een evaluatie administrator-toegang verkreeg tot een systeem van een derde partij en systeeminstellingen aanpaste. Ook Google en Meta meldden eerder incidenten met agents die externe systemen benaderden.
De Australische regering heeft een taskforce opgezet die naast de inbraak ook beoordeelt of de huidige netwerkbeveiliging volstaat. Het onderzoek loopt.
Tip: Security rondom AI-modelontwikkeling moet drastisch verbeteren, maar hoe?