2min

Hewlett Packard Enterprise (HPE) heeft het gebruik van containers mogelijk gemaakt voor de ontwikkeling en deployment van machine learning-modellen. Dit gebeurt met de oplossing HPE ML Ops.

Het idee is dat data science-teams processen kunnen inzetten die vergelijkbaar zijn met de processen die in DevOps gebruikt worden, schrijft SiliconAngle. Het gaat dan om de snelle techniek voor het bouwen van applicaties, waarbij code regelmatig gereleased wordt en constant verbeterd wordt.

HPE ML Ops maakt het dan ook mogelijk om snel machine learning-workloads uit te rollen op zowel on premise-, public cloud- en hybrid cloud-omgevingen. Door de technieken in te zetten, moeten deployment-tijden van modellen teruggebracht worden van maanden naar slechts dagen.

Waarom containers?

HPE wil met zijn oplossing een veelvoorkomend probleem aanpakken. Machine learning-projecten hebben regelmatig te weinig resources en operationele processen om ze te deployen. Volgens Gartner faalt de helft van dergelijke projecten wegens te weinig operationele ondersteuning. Een deel van het probleem is dat machine learning-modellen complex kunnen zijn en grote hoeveelheden aan data en rekenkracht vereisen. Daardoor is het duur en kost het veel tijd om ze van alles te voorzien.

Volgens HPE kunnen containers daar dus bij helpen. ML Ops is gebouwd bovenop het Epic-softwareplatform dat het in handen kreeg bij de overname van BlueData Software. Epic bevat onder meer vooraf geconfigureerde versies van populaire AI- en analytics-applicaties, die verpakt zijn in software-containers die opgeslagen kunnen worden in een library en snel in gebruik kunnen worden genomen.

Volledige levenscyclus

Volgens HPE omvat ML Ops de volledige levenscyclus van machine learning-ontwikkeling. Het gaat dan dus om het bouwen van het model, het trainen van het model, de deployment, monitoring en samenwerking tussen teams.

Ontwikkelaars krijgen daarbij toegang tot self-service ‘sandbox’-omgevingen voor tools en data science notebooks. Afgeronde modellen kunnen bovendien gereproduceerd en opnieuw gebruikt worden.

ML Ops werkt met diverse open source machine learning- en deep learning-frameworks, waaronder Keras, MXNet, PyTorch en TensorFlow. Ook ondersteunt het commerciële machine learning-applicaties van ecosysteempartners als Dataiku en H2O.ai.