We bevinden ons onmiskenbaar in een nieuw tijdperk van AI. Maar om dit volledig tot zijn recht te laten komen, moeten bedrijven niet alleen weten hoe ze AI veilig kunnen implementeren, maar ook hoe ze het vertrouwen in AI kunnen overbrengen aan partners, klanten en regelgevende instanties.
Het nieuwe tijdperk voor Artificial Intelligence (AI) creëert een behoefte aan richtlijnen, zoals de EU AI Act, waaraan bedrijven zich moeten houden. Ondanks de ontwikkeling van internationale wetgeving om verantwoord gebruik van AI te begeleiden, bestaan er nog steeds zorgen over het kwaadaardige of ongepaste gebruik van AI voor doeleinden zoals cyberaanvallen of deepfakes. AI heeft dan ook de potentie om de manier waarop we leven, werken en communiceren ingrijpend te veranderen, door innovatieve oplossingen te bieden voor zakelijke uitdagingen en waarde te creëren voor klanten. Voor bedrijven is het cruciaal om niet alleen te begrijpen hoe ze AI veilig kunnen toepassen, maar ook om vertrouwen op te bouwen in hun AI-strategie en dit vertrouwen effectief te communiceren naar werknemers, partners, klanten en toezichthouders.
Een basis voor betrouwbare AI
Een integrale aanpak is noodzakelijk om vertrouwen te waarborgen naarmate bedrijven AI dieper in hun processen, functies en bedrijfsmodellen integreren. Digitaal vertrouwen is hierbij van cruciaal belang. Dit kan worden bereikt door klantgegevens te beveiligen, robuuste cyberbeveiliging te implementeren, transparantie te bieden over het gebruik van AI en data, en verantwoorde producten en diensten aan te bieden. Door deze strategieën te hanteren, kunnen bedrijven de loyaliteit van klanten versterken, het vertrouwen van investeerders vergroten en innovatie, groei en veerkracht bevorderen.
Als we hierover nadenken, kunnen we vijf hoofdprincipes formuleren die in grote lijnen laten zien hoe ‘betrouwbare AI’ eruit zou moeten zien. De eerste is verantwoordelijkheid. AI-systemen zouden ‘door mensen gevormd’ moeten worden, met menselijk toezicht in elke fase. Personen die verantwoordelijk zijn voor de verschillende stadia in de levenscyclus van het AI-systeem moeten identificeerbaar zijn en aansprakelijk kunnen worden gesteld voor de uitkomsten. Transparantie is de tweede pijler: AI-systemen moeten volgens een glass box’ benadering werken. Het gebruik van data moet begrijpelijk en uitlegbaar zijn voor klanten en stakeholders. Anders ontstaan er vragen over de herkomst en het doel van de data. Privacy is eveneens essentieel: AI-systemen moeten ontworpen zijn om individuele privacy en de vertrouwelijkheid van persoonlijke en bedrijfsgegevens te beschermen. AI-systemen zouden daarnaast eerlijk, onbevooroordeeld en veerkrachtig moeten zijn. Ze moeten gebouwd zijn om bestand te zijn tegen fouten en aanvallen, met representativiteit, veiligheid en veerkracht als centrale uitgangspunten, zelfs bij onbedoelde fouten of kwaadaardige aanvallen.
Sectorspecifieke benadering
Er zijn specifieke principes die belangrijk zijn voor verschillende sectoren in de context van digitale veerkracht. AI moet domeinspecifiek zijn, wat betekent dat het ontwikkeld en aangepast moet worden aan de unieke behoeften van elke sector. In plaats van de mens volledig te vervangen, moet AI functioneren als een geautomatiseerde co-pilot die snel feiten presenteert, gebeurtenissen samenvat en belangrijke waarschuwingen benadrukt.
Bovendien is het cruciaal dat AI open en uitbreidbaar is, zodat klanten en partners de mogelijkheid hebben om AI-modellen uit te breiden of eigen modellen te integreren, afgestemd op hun beleid en risicotolerantie. Dit betekent dat AI-modellen in de financiële sector andere risico drempels hanteren dan die in de retailsector. Transparantie is ook van groot belang. Het is essentieel dat duidelijk is hoe AI binnen de organisatie wordt ingezet. Elk intern gebruik van AI, of het nu gaat om productontwikkeling of het bijhouden van notulen, moet voldoen aan strenge richtlijnen en onder toezicht staan van een interne AI-commissie.
Verantwoord en veilig handelen
Het integreren van AI in een bedrijf is een kwestie van evenwicht. Het is goed om de positieve energie die de hype heeft gebracht te benutten, omdat medewerkers hierdoor sneller enthousiast en betrokken raken. Tegelijkertijd moet het proces voorzichtig, gecontroleerd en consistent met de kernwaarden van het bedrijf worden uitgevoerd.
De kernprincipes voor betrouwbaar gebruik van AI zijn niet nieuw. Ze liggen al aan de basis van elk bedrijf. Klantvertrouwen is altijd het meest waardevolle bezit geweest en wordt opgebouwd door een consistente, analytische aanpak. Alleen door transparantie en het toepassen van regelgevende kaders kunnen bedrijven AI op een verantwoorde en betrouwbare manier implementeren. Het gaat daarbij niet alleen om de resultaten, maar ook om het kunnen uitleggen van de processen die daaraan ten grondslag liggen.
De toekomst van AI ziet er veelbelovend uit, maar de veilige en verantwoorde toepassing ervan zal bepalend zijn voor de digitale vertrouwensrelaties van bedrijven wereldwijd.
Dit is een ingezonden bijdrage van Splunk. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.