Google ontwikkelt open source tool voor inzicht in gedrag AI-modellen

Abonneer je gratis op Techzine!

Techgigant Google heeft de open source softwarebibliotheek Neural Tangents beschikbaar gemaakt die moet helpen om tegelijkertijd meerdere modellen voor kunstmatige intelligentie (AI) te kunnen bouwen. Daarnaast moet de softwarebibliotheek helpen meer inzicht te krijgen in hoe AI-modellen zich gedragen.

Volgens de blogpost van specialisten van de techgigant moet de tool gaan helpen om AI-modellen op basis van neurale netwerken -vooral die voor high-performance machine learning– wat meer standaard gedrag te laten krijgen. Dit moet gebeuren door gelijktijdig modellen met een variabele ‘breedte’ te bouwen. Doordat de modellen dan een standaard gedrag vertonen, moeten de modellen beter te begrijpen zijn in hoe ze precies werken en tot hun uitkomsten komen.

Binnen alle neurale netwerkmodellen zijn neuronen of wiskundige functies in onderling verbonden lagen gerangschikt. Deze lagen verzenden vervolgens weer signalen uit invoergegevens en passen daarbij langzaam de synaptische sterkte (gewichten) van elke verbinding aan. Dit is de methode die de AI-modellen gebruiken om functies te extraheren en leren om voorspellingen te kunnen doen.

Wanneer deze AI-modellen oneindig breed mogen worden, dan hebben zij de neiging om samen te vallen met andere eenvoudiger AI-modellen, de zogeheten Gauss-processen. Binnen deze oneindige limiet komen ingewikkelde verschijnselen neer op eenvoudige lineaire wiskundige vergelijkingen.

Veel expertise nodig

Deze wiskundige vergelijkingen kunnen vervolgens worden gebruikt om het AI-gedrag te bestuderen. Het afleiden van de oneindige breedtelimiet heeft echter veel wiskundige expertise nodig en moet voor iedere architectuur afzonderlijk worden uitgewerkt. En zodra het oneindige breedtemodel is afgeleid, is het bedenken van een efficiënte en schaalbare implementatie van de resultaten een zeer technisch vaardigheid. Dit kan in principe maanden duren.

Meer inzicht in AI-processen

Met de nu uitgebrachte tool Neural Tangents valt dit laatste proces nu te versnellen, zo betogen de specialisten van Google. De tool maakt het mogelijk om ‘paren’ van oneindig brede neurale netwerken in één keer te bouwen met slechts vijf regels code.

Deze netwerken kunnen vervolgens worden gebruikt voor iedere opdracht waar normaal een bestaand AI-model zou worden gebruikt. Het voordeel is echter dat de processen binnen deze via Neural Tangents gecreëerde processen constant kunnen worden gevolgd en zo een goed inzicht geven in hoe zij werken.

De tool Neural Tangents voor machine learning volgt op de recente uitbreiding van Google’s TensorFlow AI-model op basis van quantum computing.