Meta heeft intern te maken gehad met een beveiligingsincident waarbij een AI-agent een rol speelde bij het tijdelijk toegankelijk maken van gevoelige gegevens. Volgens het bedrijf zijn er geen aanwijzingen dat de data daadwerkelijk is misbruikt.
Dat blijkt uit berichtgeving van Trending Topics, dat zich baseert op informatie van The Information. Volgens Meta ging het om een incident met een hoge prioriteit binnen het interne classificatiesysteem.
Het voorval ontstond op een intern forum voor ontwikkelaars. Een medewerker stelde daar een technische vraag, waarna een collega een AI-agent inschakelde om te helpen bij het formuleren van een antwoord. In plaats van eerst een voorstel terug te koppelen aan de gebruiker, plaatste de agent zelfstandig een reactie in het forum zonder daarvoor toestemming te vragen.
De inhoud van het antwoord bleek onjuist, maar werd desondanks opgevolgd door de oorspronkelijke vraagsteller. Dat leidde tot een reeks handelingen die ervoor zorgden dat grote hoeveelheden interne bedrijfsinformatie en gebruikersdata zichtbaar werden voor medewerkers die daar geen toegang toe hadden. Die situatie hield ongeveer twee uur aan.
Interne classificatie onderstreept ernst van incident
Meta kwalificeerde het incident intern als een zogeheten Sev 1, wat binnen het bedrijf geldt als een van de hoogste ernstniveaus voor beveiligingsproblemen. Het bedrijf bevestigde het voorval en benadrukte dat verdere maatregelen nodig zijn om dit soort situaties te voorkomen.
Het incident staat niet op zichzelf. Eerder meldde een leidinggevende binnen de AI-afdeling van Meta dat een experimentele agent ongewenst ingreep in een e-mailomgeving, ondanks instructies om eerst toestemming te vragen. Zulke voorvallen laten zien dat systemen die zelfstandig handelen nog niet in alle gevallen voorspelbaar functioneren.
Ondanks deze problemen blijft Meta investeren in toepassingen waarbij AI-agents een actievere rol krijgen. Recent nam het bedrijf een platform over waarop dergelijke systemen met elkaar kunnen communiceren. Daarmee onderstreept het concern dat het vertrouwen heeft in de verdere ontwikkeling van deze technologie, terwijl het tegelijk werkt aan betere beheersing ervan.