AWS geeft machine learning-engine SageMaker vleugels met nieuwe innovaties

Vorig jaar kwam Amazon Web Services (AWS) met Amazon SageMaker. Een platform waarmee ontwikkelaars op een eenvoudige manier machine learning kunnen toepassen op datasets via standaard gebouwde modellen. Dit jaar gaat AWS een paar stappen verder. Met het uitbreiden van SageMaker, maar ook met de introductie van SageMaker RL.

Elke ontwikkelaar die een webapplicatie kan bouwen, kan ook machine learning inzetten middels Amazon SageMaker om zijn applicatie veel meer waarde te geven of veel krachtiger te maken. Het enige wat daarvoor nodig is, is een betrouwbare dataset die geanalyseerd kan worden met een van de 13 standaard algoritmes die AWS op dit moment beschikbaar heeft in SageMaker.

Met een dataset en het juiste algoritme kan er een model getraind worden dat vervolgens kan worden gebruikt om nieuwe data te analyseren middels machine learning. Het kan hierbij bijvoorbeeld gaan om tekstherkenning, fotoherkenning, objectherkenning of het classificeren van objecten.

Dit was vorig jaar een mooie eerste stap en enorm veel bedrijven zijn op de machine learning wagen gesprongen. Het bedrijf heeft echt enorm veel partners aan zich weten te binden die gebruikmaken van SageMaker. Een groot succes en een van de, zo niet de, meest besproken feature van AWS op dit moment. Tijd dus om SageMaker te voorzien van de nodige upates om het product nog beter te maken.

Amazon SageMaker Neo

Met Amazon SageMaker Neo wordt er vooral werk uit handen genomen van de ontwikkelaar, maar bovenal worden de prestaties verbeterd van het model op de endpoint of de edge. Met SageMaker Neo kunnen modellen worden getraind die direct worden geoptimaliseerd voor vrijwel elk hardware-platform, voorheen moesten ontwikkelaars hun modellen fine tunen per hardware platform. Dat hoeft niet meer, SageMaker Neo kan geoptimaliseerde modellen leveren voor Nvidia-, Intel-, Xilinx-, Cadence- en ARM-platformen. Daarnaast biedt het ondersteuning voor frameworks als Tensorflow, Apache MXNet en PyTorch.

De modellen kunnen vervolgens op elk platform worden uitgerold. Volgens AWS zal dit voor sommige ontwikkelaars een flinke verbetering opleveren, omdat sommige ontwikkelaars simpelweg de tijd niet hadden voor alle optimalisaties. Hierdoor kan een model in sommige gevallen tot wel twee keer zo snel worden.

Amazon SageMaker Ground Truth

Het trainen van een model kan een hoop werk zijn, zeker om een model te creëren dat enorm nauwkeurig is. Daar komt in sommige gevallen veel handmatig werk bij kijken. Een simpel voorbeeld. Stel dat je uit allemaal dierenfoto’s wil kunnen herkennen wat een kat is en wat niet, dan moet je enorm veel foto’s gaan analyseren waarop katten staan om het model te verbeteren.

Het kan echter zijn dat je op een gegevens moment een database hebt waar enorm veel dieren in zitten, waaronder katten, maar ook wat honden, kamelen, tijgers en leeuwen. Met Amazon SageMaker Ground Truth kan je nu alle foto’s waarvan het model voor 70 of 80 procent zeker is dat er een kat op staat, deze automatisch toevoegen aan het model. De rest laat het open voor handmatige controle. Op die manier kan er automatisch veel data worden toegevoegd om het model te verbeteren. Aan de andere kant worden de lastige datasets gefilterd voor handmatig beoordeling. Dit zal ertoe leiden dat de nauwkeurigheid van het model flink omhoog gaat als er veel lastige datasets met de hand worden toegevoegd.

Het automatisch toevoegen van data waarover het model redelijk zeker is, zorgt er dus voor dat een model veel sneller getraind kan worden. Het percentage is naar wens te configureren, dus als men geen enkel risico wil lopen kan men nog steeds kiezen voor 100 procent menselijke controle, maar ook bijvoorbeeld 95 procent.

Amazon SageMaker Marketplace

De AWS Marketplace waar partners hun producten in kunnen aanbieden wordt verder uitgebreid. Ook SageMaker wordt onderdeel van de Marketplace met machine learning algoritmes. Daardoor kunnen bedrijven of ontwikkelaars die beschikken over goede algoritmes ze aanbieden aan derden. Dit kan kosteloos maar ook tegen betaling. Hierdoor kunnen bedrijven die veel geïnvesteerd hebben in het ontwikkelen van algoritmes deze kosten terugverdienen door ze ook aan derden aan te bieden. Concreet betekent dit dat het aantal beschikbare modellen groeit van 13 naar 150, waarmee er dus veel meer machine learning mogelijkheden zijn bijgekomen.

Amazon SageMaker RL

Compleet nieuw is Amazon SageMaker RL, dit staat voor reinforcement learning. In het Nederlands wat lastiger te vertalen, we zouden het verbeterd leren kunnen noemen. Waar het op neer komt is dat de normale SageMaker op basis van machine learning vaststaande feiten achterhalen die eigenlijk altijd hetzelfde zijn. Als iets vandaag een kat is, dan is het dat morgen. De uitkomst bij standaard machine learning is eigenlijk altijd hetzelfde.

Amazon SageMaker RL is een dynamische vorm van machine learning die zich steeds moet aanpassen aan alle omgeving variabelen. Continu moet het leerproces worden verbeterd om er waarde uit te halen. Een voorbeeld dat Amazon hierbij noemt is het spelletje Pacman van vroeger, waarbij je alles moest opeten zonder door de monsters gepakt te worden. Er bestaat bij Pacman echter geen perfecte route die altijd werkt, want de monsters veranderen steeds van richting en daar zit geen vast patroon in. Pacman moet dus steeds zijn route aanpassen om de monsters te omzeilen. Dit is een vorm van reinforment learning.

AWS DeepRacer

Een ander voorbeeld heeft Amazon nu op een ludieke manier beschikbaar gemaakt met AWS DeepRacer. Amazon heeft een virtuele racebaan gecreëerd waarop je SageMaker RL kan toepassen met een eigen Python algoritme waarin je aangeeft welk gedrag beloond moet worden. Bij PacMan zou het zijn dat hij alles op moet eten behalve de monsters. In het geval van de AWS DeepRacer is het zaak om vooral op de racebaan te blijven, maar misschien ook dicht bij de middellijn. Of juist een ideale lijn te rijden of af te remmen voor bochten. Zo kunnen we nog wel even doorgaan.

Met AWS DeepRacer kunnen ontwikkelaars programmeren wat goed en slecht gedrag is en dit door het algoritme heen halen en vervolgens de DeepRacer virtueel trainen. Hoe langer en uitgebreider er getraind wordt hoe beter de DeepRacer zal rijden. Uiteindelijk kan het model worden gedownload naar een fysieke raceauto die te koop is bij Amazon voor 399 dollar (tijdelijk 249 dollar). Waarmee je thuis of op kantoor een zelfrijdende raceauto kan hebben.

Amazon heeft de DeepRacer in het geheim al op kantoor getest en daar begon het personeel ineens teams te vormen en tegen elkaar te racen. Dit heeft Amazon doen besluiten een raceklasse op te zetten. Tijdens elk AWS-event kan men hun model inzetten en racen. De winnaars van elk event mogen volgend jaar op re:Invent tegen elkaar strijden voor de cup.

Het is een eerste stap naar een veel intelligentere manier van machine learning, waar zelfrijdende auto’s en robots ook een grotere rol gaan spelen.

AWS RoboMaker

Het woord robots is gevallen en daar is AWS RoboMaker. Een nieuwe dienst van AWS waarmee het mogelijk is om applicaties voor robots te ontwikkelen, simuleren en uit te rollen. RoboMaker is gebaseerd op het meest gebruikte open source robotics software framework; Robot Operating System (ROS). Door RoboMaker binnen AWS beschikbaar te maken beschikt het Robot Operating System ineens over een cloudconnectie en kan het gecombineerd worden met andere AWS-oplossingen zoals machine learning, maar ook analytics, monitoring en testing.

RoboMaker beschikt over allemaal simulatiemodellen van 3D-werelden, kamers, winkels tot aan racebanen. Deze modellen kunnen naar wens worden aangepast en op die manier kan een nieuwe applicatie grondig worden getest en geanalyseerd alvorens die wordt uitgerold naar de werkelijke machines. Op die manier kan bijvoorbeeld een productiemachine worden verbeterd. Deze kan wellicht sneller of efficiënter werken.

Machine learning innovatie versnellen

Het mag duidelijk zijn dat met deze extreme verbreding van het SageMaker-portfolio, AWS de innovatie rond machine learning wil versnellen. De eerste versie van SageMaker is al extreem omarmt door alle ontwikkelaars, die zijn allemaal erg enthousiast over de aankondigingen tijdens deze re:Invent. De mogelijkheden worden niet meer gelimiteerd tot 13 algoritmes, nu is elke denkbare oplossing mogelijk met machine learning. We zijn benieuwd wat dit het komende jaren gaat betekenen voor alle applicaties die op AWS gebaseerd zijn.