IBM rolt nieuw platform uit om vooroordelen in AI te voorkomen

IBM probeert het probleem van vooroordelen in kunstmatige intelligentie (AI) gebaseerde tools om beslissingen te maken te verminderen. Dat doet het met een nieuw platform dat mensen kan informeren over hoe AI-modellen tot hun conclusies komen, meldt Silicon Angle.

Volgens het bedrijf is het platform, AI OpenScale, nodig omdat een significant deel van de bedrijven AI niet genoeg vertrouwd als het gaat om het maken van de belangrijkste beslissingen. Het grootste probleem is dat bedrijven niet weten of hun AI-modellen vooroordelen hebben. Daarnaast willen bedrijven beter begrijpen hoe AI tot zijn conclusies komt en hoe het zijn logica opstelt, aldus IBM.

Vooroordelen zijn een bijproduct van de niet-transparante natuur van AI-applicaties. De apps tonen niet altijd wat de logica achter een beslissing is. Vooroordelen kunnen ontstaan via training-data, maar ook via logica van machine learning. Het verwijderen van die vooroordelen kan een lastige oefening zijn.

AI OpenScale

Jeff Welser, vice-president en lab-directeur bij het Almaden Research Center van IBM Research, stelt dat vooroordelen niet altijd gemakkelijk te herkennen zijn. “Als je hele grote datasets hebt, realiseer je je mogelijk niet eens dat de data een kleine voorkeur hebben voor een geslacht of wat je dan ook aan het analyseren bent.”

Het AI OpenScale-platform is ontworpen om het probleem op te lossen via algoritmes die vooroordelen en voorkeuren kunnen detecteren en corrigeren in het volledige spectrum van AI-applicaties. Het werkt door de apps constant te monitoren en een “automated de-biasing technology” toe te passen om vooroordelen te rapporteren. De software logt iedere voorspelling, model-versie en alle trainingsdata om bedrijven te helpen begrijpen hoe AI-apps beslissingen maken via uitleg in normaal Engels.

“Nu hebben we dus systemen die datasets analyseren en kijken of ze teveel gerepresenteerd worden in specifieke sets aan karakteristieken”, aldus Welser “Het kan zo zijn dat je het model teveel getraind hebt op die karakteristieken.”

Andere functies

Daarnaast helpt AI OpenScale het eenvoudiger maken om AI-modellen te deployen, door applicaties die gemaakt zijn met een open source machine learning- of deep learning-model te laten draaien op iedere gangbare omgeving. Het gaat onder meer om de Watson- en PowerAI-platformen van IBM zelf, de Seldon open source-framework, SageMaker van AWS en AzureML van Microsoft.

Het platform komt verder met de Neural Network Synthesis Engine, dat volgens IBM bedrijven in staat stelt om snel en automatisch neurale netwerken te bouwen om de AI te draaien.