AI is een van de technologieën die enorme kansen biedt, maar waar tegelijkertijd grote zorgen over zijn. Vaak spreekt men over Trustworthy AI, als het aankomt op het vertrouwen in de technologie. Dit betekent dat een model of AI-toepassing rekening houdt met veiligheid, betrouwbaarheid en ethiek. We spraken met Reggie Townsend, Vice President of the Data Ethics Practice bij SAS, over de weg naar Trustworthy AI.
In een eerder artikel dat we onlangs over SAS publiceerden, bespraken we de drie kritieke kwaliteiten die volgens het bedrijf centraal staan bij AI. Naast performance en productiviteit gaat het om vertrouwen, precies het onderwerp waar we Townsend over spreken. Hij is, naast zijn werk bij SAS, ook actief binnen de National Artificial Intelligence Advisory Committee, dat de Amerikaanse president adviseert rond AI.
Trustworthy AI is met name een groot onderwerp door de aanzienlijke progressie van kunstmatige intelligentie. Als gevolg van de ontwikkeling zien burgers, overheden en organisaties de technologie als een nieuwe innovatie. Door dat imago maken zij zich zorgen over de risico’s. Townsend snapt die gedachtegang, maar denkt vooral dat het een kwestie van tijd is tot we AI meer gaan vertrouwen en uitgegroeid is tot iets wat we als gemeengoed beschouwen.
Hij trekt hierbij de vergelijking met stroom. Tegenwoordig gebruiken we voor heel veel toepassingen elektriciteit, zonder er ook maar bij na te denken. Je stopt bijvoorbeeld je stekker in een stopcontact om je laptop op te laden, omdat je alle vertrouwen hebt in de goede intenties. In de eerste jaren dat mensen elektriciteit gingen gebruiken, riep dit angst op. Simpelweg omdat menig mens zo in elkaar zit dat ze de nadelige gevolgen van het nieuwe vrezen.
Wat hebben we nodig voor vertrouwen in AI?
Townsend trekt deze blik door op globale vertrouwenskwesties die momenteel spelen. “In het leven is het na het winnen van vertrouwen veel gemakkelijker om het te behouden, dan het opnieuw proberen te winnen”, aldus Townsend. Volgens onderzoeken die Townsend presenteerde, wantrouwen mensen de overheid en media meer dan bedrijven. Bedrijven twijfelen minder over hun ethisch handelen en competenties, stelt Townsend. Volgens hem ligt hier voor bedrijven een kans voor verantwoordelijke innovatie.
Tegelijkertijd wijst Townsend op de komst van wetgeving, zowel vanuit de VS als de EU. Met name de EU wordt momenteel nauwlettend gevolgd met betrekking tot regulering, zoals bij de AI Act. Tegenstanders vrezen dat dergelijke regulering innovatie afremt, waardoor Europa mogelijk zijn concurrentiepositie op het spel zet. Townsend ziet het echter als een omvangrijke kans om het socio-technische karakter aan te pakken. AI beïnvloedt mensen, processen en technologie – goede wetgeving zorgt voor consistentie en stelt grenzen om mensen te beschermen, maar laat ook ruimte voor innovatie, aldus Townsend.
Het kan bijdragen aan het vertrouwen van de mens, met als hoop dat meer mensen gaan inzien dat AI er is om de mens beter te maken. Townsend spreekt daarbij ook wel over human-centric AI, oftewel kunstmatige intelligentie die de mens versterkt.
Basis voor en met technologie
Uiteraard speelt SAS ook een grote rol op dit gebied, omdat het met zijn platform een basis biedt om AI te bouwen. “Trustworthy AI moet beginnen ruim voor de eerste coderegel wordt geschreven”, zegt Townsend, om vervolgens de functies van het SAS-platform aan te halen. In de onderstaande afbeelding krijg je een idee van wat er allemaal wordt geboden, maar om niet te veel af te dwalen naar verschillende functies, zullen wij meer de visie en stappen erachter behandelen.
SAS spreekt over het algemeen ook wel over de activering van Trustworthy AI, waarbij rekening wordt gehouden met de fundamentele principes voor vertrouwen. In de ogen van Townsend hanteer je daar vier principes voor: toezicht, operaties, compliance en cultuur.
Toezicht gaat in dit geval vooral over het samenbrengen van verantwoordelijken binnen bedrijven en overheidsinstellingen en hen laten omgaan met dilemma’s. Laat hen de AI beoordelen wanneer de organisatie deze aankoopt, in bedrijfsprocessen gebruikt of al in productie heeft. Ze kunnen gezamenlijk bepalen of de AI geen schade toebrengt aan mensen. “Daarnaast hebben we controle-opties, waarbij we ons richten op risicobeheer en harmonisatie van alle regulerende instanties”, voegt Townsend toe, “om ervoor te zorgen dat we er vanuit een gezamenlijk belang naar kijken. En om ervoor te zorgen dat we aandachtspunten meenemen en integreren in de technologie.”
Tot slot is ook het aspect van cultuur belangrijk, waarbij mensen handelen volgens gangbare principes. Als medewerkers binnen de organisatie rekening houden met normen en waarden bij het bouwen en omgaan met AI, dan ontstaat er ruimte voor modellen en systemen waarop we kunnen vertrouwen. Dit alles leidt volgens Townsend tot technologie die de wereld verbetert en tegelijkertijd geld oplevert. Met dat streven gaan we volgens Townsend een mooie toekomst tegemoet met veel AI.
1 dag geleden
Expert bijdrage
