Een unified data platform dat bepaalt welke informatie AI kan zien en wie daar toegang tot heeft, is essentieel om betrouwbare AI mogelijk te maken en voorbereid te zijn op de EU AI Act.
Stel dat toezichthouders morgen aankloppen met vragen over het gebruik van AI. Hoe goed zijn organisaties en senior executives daarop voorbereid? Kunnen bestuurders aantonen dat verantwoordelijkheden, controles en toezicht goed zijn ingericht? Of blijkt al snel dat de AI-ambities sneller zijn gegroeid dan de governance eromheen?
Uit onderzoek van Grant Thornton onder bijna 1.000 senior business leaders begin 2026 blijkt dat ruim driekwart van de respondenten, 78 procent, er niet volledig op vertrouwt dat hun organisatie een onafhankelijke AI-governance-audit zou doorstaan. Tegelijkertijd heeft 75 procent van de raden van bestuur grote AI-investeringen goedgekeurd, terwijl bijna de helft, 48 procent, nog geen duidelijke governance-verwachtingen voor AI-technologie heeft vastgesteld.
Gebrekkige governance kan grote gevolgen hebben voor organisaties die onder de EU AI Act vallen. De wet geldt niet alleen voor organisaties binnen de EU, maar ook voor bedrijven daarbuiten die AI-systemen aan Europese klanten verkopen of AI inzetten op een manier die gevolgen heeft voor inwoners van de EU. Niet-naleving kan leiden tot boetes van maximaal 35 miljoen euro of 7 procent van de jaaromzet, afhankelijk van welk bedrag hoger is.
Recente wijzigingen hebben enkele termijnen en vereisten aangepast. Het risicogebaseerde raamwerk en de nadruk op transparantie zijn echter grotendeels ongewijzigd gebleven.
Hoe de handhaving er precies uitziet, kan per land verschillen. Eén uitgangspunt blijft daarbij overeind: wanneer AI wordt gebruikt om een beslissing te nemen of een actie uit te voeren, moet het ‘waarom’ achter dat proces transparant, controleerbaar en verbeterbaar zijn.
Verantwoordelijkheid nemen
De meeste organisaties willen AI die veilig toegang heeft tot vertrouwelijke bedrijfsdata en die data ook begrijpt. Het rechtstreeks koppelen van LLM’s aan ruwe data in bronsystemen is echter technisch complex en brengt risico’s met zich mee. Organisaties verwachten bovendien antwoorden die kloppen en te herleiden zijn, terwijl AI in de praktijk nog regelmatig fouten maakt of informatie volledig verzint.
De oplossing ligt in een aanpak die steeds vaker responsible AI wordt genoemd. Daarbij moeten beslissingen en acties die door AI worden ondersteund ethisch, traceerbaar en transparant zijn. Responsible AI vraagt bovendien om een andere kijk op de technologische architectuur die eraan ten grondslag ligt.
Unified data, RAG en RBAC
Een unified data platform vormt de basis van responsible AI en fungeert als centrale toegangspoort voor data die aan AI-systemen beschikbaar wordt gesteld. Door de toegang tot data uit back-end-systemen via één platform te bundelen en de onderliggende diversiteit aan systemen en databases af te schermen, hoeven organisaties hun data niet te verplaatsen of LLMs rechtstreeks aan ruwe bedrijfsdata te koppelen. Het platform maakt in plaats daarvan relevante en actuele data beschikbaar voor AI.
Met retrieval-augmented generation, of RAG, kunnen modellen naast hun oorspronkelijke trainingsdata ook gebruikmaken van betrouwbare externe bronnen en de eigen databronnen van een organisatie. Daardoor worden de resultaten actueler, nauwkeuriger en relevanter.
RAG maakt het bovendien mogelijk om te herleiden welke databronnen zijn gebruikt. Zo ontstaat een audit trail die laat zien hoe een AI-antwoord tot stand is gekomen en op welke bronnen het is gebaseerd.
Daarnaast moet een unified data platform role-based access control en index-level permissions afdwingen. Zo krijgen gebruikers via een LLM alleen informatie te zien waarvoor zij daadwerkelijk bevoegd zijn.
Om AI verantwoord en op grote schaal in te zetten en tegelijk aan steeds strengere regelgeving te voldoen, moeten organisaties aantoonbaar verantwoordelijker met AI omgaan. De benodigde technologie bestaat al. De grootste uitdaging is niet de beschikbaarheid van technologie, maar de consequente toepassing ervan.
Dit is een ingezonden bijdrage van Elastic. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.