AWS lanceert open source-tool Neo-AI voor het tunen van machine learning-modellen

Amazon Web Services (AWS) heeft de lancering van Neo-AI aangekondigd. Neo-AI is een open source-project onder de Apache Software License. Met de tool wordt een deel van de technologieën die het bedrijf ontwikkelde en gebruikte voor zijn SageMaker Neo machine learning-dienst (terug) naar het open source-ecosysteem gebracht.

Het doel is om het eenvoudiger te maken om modellen te optimaliseren voor deployments op meerdere platformen, meldt TechCrunch. In de context van AWS gaat het met name om machines die deze modellen aan de rand van het netwerk gaan draaien.

Optimalisatie

“Normaal gesproken is het moeilijk om een machine learning-model te optimaliseren voor meerdere hardware-platformen, omdat ontwikkelaars de modellen handmatig moeten afstemmen voor de hardware-  en software-configuratie van ieder platform”, aldus Sukwon Kim en Vin Sharma van AWS. “Dit is vooral een uitdaging bij edge-apparaten, die vaak beperkingen hebben in compute-kracht en opslag.”

Neo-AI kan modellen van TensorFlow, MXNet, PyTorch, ONNX en XGBoost pakken en ze optimaliseren. Volgens AWS zelf kan de tool deze modellen vaak versnellen naar twee keer de originele snelheid, zonder een verlies aan accuraatheid. Qua hardware ondersteunen de tools Intel-, Nvidia- en ARM-chips. Ondersteuning voor Xilinx, Cadence en Qualcomm volgt binnenkort. Al deze bedrijven, behalve Nvidia, dragen ook bij aan het project.

Intel legt uit dat deep learning-modellen net zo eenvoudig in datacentra, in de cloud en in apparaten op de edge gedeployed moeten kunnen worden om waarde te halen uit AI. Het bedrijf stelt in een statement enthousiast te zijn het initiatief dat met nGraph startte uit te breiden door bij te dragen aan Neo-AI. “Door Neo te gebruiken kunnen fabrikanten en systeemverkopers betere prestaties voor modellen ontwikkeld in vrijwel ieder framework krijgen op platformen gebaseerd op alle Intel compute-platformen.”