IBM doneert AI-toolkits aan de Linux Foundation

Abonneer je gratis op Techzine!

IBM doneert drie open source-toolkits voor AI-ontwikkeling aan de Linux Foundation. Specifiek komt de toolkits onder LF AI te vallen, het onderdeel van de Linux Foundation dat AI- en machine learning-projecten ondersteunt.

Elk van de drie toolkits dient een ander doel. Eén ervan is ontworpen om vooroordelen uit AI-projecten te verwijderen, en de andere twee richten zich op neural network security en het begrijpen van beslissingen die het AI-model neemt.

Toolkits

De AI Fairness 360 Toolkit bevat elf algoritmes om vooroordelen in de ontwikkeling van machine learning-projecten aan te pakken. Deze algoritmes kunnen de vooroordelen, de voorspellingen die de AI genereert en het AI-model zelf repareren. IBM heeft aanvullende evaluatiestatistieken voor het beoordelen van trainingsdatasets die gebruikt worden om de capaciteiten van een neural network tijdens de ontwikkelingsfase te verfijnen.

De tweede tool heet de Adversarial Robustness 360 Toolbox. Hiermee kunnen ontwikkelaars de AI-modellen veerkrachtig maken tegen adversarial attacks, een cyberaanval waarbij een hacker kwaadaardige code invoert in een neural network om een fout te veroorzaken. In de toolbox zitten ook voorverpakte aanvallen die ontwikkelaars kunnen gebruiken om de veerkracht van hun neural network te testen.

De derde toolkit is de AI Explainability 360 Toolkit. Deze toolkit is handig omdat het vaak moeilijk te verklaren is waarom een AI-model bepaalde beslissingen neemt door de complexiteit van een neural network.

IBM stelt dat het uiteindelijke doel is om AI te bouwen die begrijpelijk, betrouwbaar en controleerbaar is.