What-If Tool van Google visualiseert impact van wijzigingen in AI

Google heeft de What-If Tool gepresenteerd. De tool kan de impact van wijzigingen in kunstmatige intelligentie visualiseren, binnenin TensorBoard. Gebruikers hoeven hier alleen een model en een dataset voor toe te voegen.

Op dit moment moeten dit soort scenario’s vaak gemaakt worden door aparte code te schrijven om een specifiek model te analyzeren, meldt Venturebeat.

“Niet alleen is dit een inefficiënt proces, maar het maakt het ook moeilijker voor mensen die niet programmeren om mee te doen aan het proces om machine learning-modellen te maken en te verbeteren”, aldus James Wexler, AI software engineer bij Google.

What-If Tool

In de tool wordt weergegeven wat de impact is van wijzigingen in algoritmes. De informatie wordt real-time weergegeven. Ook is het mogelijk om plots te genereren die tonen hoe de voorspellingen van een model overeenkomen met een functie. Hierbij wordt ook gekeken naar tegenstrijdige verklaringen en analyses van hoe eerlijk het algoritme is.

De tool kan een vergelijking tonen tussen een datapunt en het dichtstbijzijnde datapunt waar het model een ander resultaat voorspelt. Ook is het mogelijk om de effecten van verschillende drempels voor classificaties te tonen.

Naar eigen zeggen heeft Google de tool intern gebruikt om functies van een dataset te detecteren die eerder genegeerd werden. Ook wordt de tool gebruikt om verschillende patronen in outputs te ontdekken die bijdragen aan verbeterde modellen. Vanaf vandaag is de tool open source beschikbaar.