Amazon brengt AWS machine learning-technologie naar de Edge voor IoT

Services
Amazon brengt AWS machine learning-technologie naar de Edge voor IoT

Tijdens AWS Re:Invent hadden we een interview met Michael Garcia, Senior Technical Program Manager bij Amazon voor AWS IoT. Met hem spraken we over de ontwikkelingen op het gebied van IoT. Amazon heeft tijdens Re:Invent dit jaar enkele nieuwe features gepresenteerd die enkele grote obstakels wegnemen voor IoT-sensoren, maar belangrijker nog, ontwikkelingen als  smart cities gaan versnellen.

Amazon hanteert de strategie dat alles uiteindelijk in de cloud zal draaien. Tot op zekere hoogte is dat ook mogelijk en daarom richt het bedrijf zich vrijwel niet op on premise-oplossingen. Op het gebied van IoT (Internet of Things) is dat echter onmogelijk. Als we kijken naar IoT-apparaten dan zijn daarin een aantal oplossingen die eisen hebben, waar de cloud niet aan kan voldoen. Een zelfrijdende auto vol met sensoren, moet direct kunnen reageren zonder enige vertraging (latency). Daarvoor moet de technologie die de data verwerkt (machine learning) op de plek van de sensoren aanwezig zijn (on the Edge). Ook als je kijkt naar het analyseren van videobeelden van bijvoorbeeld bewakingscamera’s, met tien camera’s kan je dat nog in de cloud doen, heb je echter 10.000 camera’s zoals de stad New York, dan is dat niet meer mogelijk. Dat kost veel te veel bandbreedte om al die videobeelden naar de cloud te brengen. Deze data moet dus “on the Edge” worden geanalyseerd.

AWS Greengrass

AWS Greengrass werd vorig jaar al geïntroduceerd tijdens AWS Re:Invent. Het maakt het mogelijk om AWS-technologie lokaal te gebruiken op IoT-apparaten. Je kan workloads verplaatsen naar een on premise oplossing om daar data te verwerken of berichten te versturen. Ook als er (tijdelijk) geen internetverbinding is. Bedrijven die all-in zijn op AWS kunnen op deze manier ook IoT-toepassingen ontwikkelen zonder dat ze over moeten stappen op een compleet nieuw platform. Zeker met de verwachte groei van het Internet of Things was dit vorig jaar al een zeer belangrijke stap van Amazon. De mogelijkheden die AWS Greengrass biedt zijn dit jaar tijdens Re:Invent flink uitgebreid, waarbij SageMaker het echte verschil gaat maken. Naast het draaien van compute en messaging diensten komt daar nu machine learning bij.

Amazon SageMaker

Tijdens Re:Invent 2017 presenteerde Amazon zijn nieuwste product met de naam Amazon SageMaker. Dit product moet machine learning in een stroomversnelling gaan brengen. Alle ontwikkelaars binnen het AWS-platform kunnen nu aan de slag met machine learning. Als je zelf machine learning algoritmes wil ontwikkelen, inclusief alle code en rekenmodellen die erbij komen kijken, moet je extreem goed zijn in het doorrekenen van wiskundige modellen. Machine learning is daardoor normaliter niet voor iedereen weggelegd, want het is gewoon zeer specialistisch en complex werk. Met Amazon SageMaker kan iedereen aan de slag met machine learning, omdat AWS het grootste gedeelte van dit complexe werk uit handen neemt. Met SageMaker, kan je data importeren en daar vervolgens een aantal standaard algoritmes die AWS levert op los laten. Op die manier kan je allerlei soorten data analyseren en hier voorspellingen of aanbevelingen op los laten.

Als voorbeeld toonde Amazon tijdens AWS Re:Invent het laden van een muziek playlist om vervolgens andere relevante nummers aan te bevelen. Dat is echter slechts een van de vele toepassingen, zo kan er ook gezichtsherkenning worden toegepast in bijvoorbeeld foto’s en video’s.  In totaal biedt Amazon tien verschillende zeer populaire algoritmes voor machine learning. De data waarop de machine learning moet worden toegepast, kan worden geïmporteerd vanuit onder andere S3, Amazon RDS, Amazon DynamoDB en Amazon Redshift. Vervolgens kan je AWS rekenkracht inzetten om het machine learning model te genereren, op basis van je data en gekozen algoritme. Afhankelijk van de complexiteit van de data en het algoritme moet hiervoor rekenkracht worden ingekocht bij Amazon. Vervolgens kan je als het model af is dit nog verder fine tunen, om een zo goed mogelijk resultaat te krijgen. Ook kan je meerdere modellen tegelijk toepassen die wisselend van elkaar worden gebruikt om in de praktijk te ervaren welk model het beste werkt.

Machine Learning in IoT

Wat Amazon SageMaker zo revolutionair maakt voor de IoT-markt is dat nadat je een machine learning model hebt gegenereerd in AWS, je deze kan uitrollen (deployen) naar je IoT-apparaten “on the Edge”. Concreet betekent dit dat Amazon zijn geavanceerde machine learning-technologie on premise beschikbaar maakt. Hiermee kan je dus bijvoorbeeld gezichtsherkenning toepassen in camera’s, dat kan op 10 camera’s maar ook op 10.000 camera’s en allemaal zeer betaalbaar. Het model hoeft overigens niet uitgerold te worden naar de camera’s, maar kan ook worden uitgerold naar bijvoorbeeld een server die direct verbonden is met één of meerdere camera’s en waarmee de videobeelden vervolgens zijn te analyseren. Zeker voor het verwerken van videobeelden is SageMaker redelijk revolutionair omdat je tot voor kort afhankelijk was van camerafabrikanten en diens partners.

Naast het analyseren van videobeelden kan je natuurlijk ook sensordata uit een groot aantal sensoren analyseren. Op basis van historische gegevens kan je een model trainen, dat vervolgens op basis van realtime data acties kan uitvoeren of kan waarschuwen. Dit moet je echt heel erg breed zien, want dit soort IoT-data kan op brede schaal worden toegepast. Bijvoorbeeld in de industrie om slijtage van bepaalde onderdelen bij te houden en te waarschuwen wanneer onderhoud noodzakelijk is. Of zoals eerder vermeld foto of camerabeelden.

We lieten het woord betaalbaar al vallen. AWS Greengrass is verkrijgbaar vanaf 0,16 dollar per maand, oplopend tot 0,22 dollar per maand. Als je direct uitrolt naar IoT-apparaten betaal je dus 1,92 dollar tot 2,64 dollar per jaar per IoT-apparaat. Daarbovenop komen nog wel de kosten voor Amazon SageMaker, de prijs hiervan is iets lastiger te bepalen, dit is afhankelijk van de hoeveelheid data en de zwaarte van de algoritmes die worden gebruikt. Als je gezichtsherkenning wil doen met 10 foto’s, 10.000 foto’s of 100.000 foto’s maakt een groot verschil. Bij SageMaker betaal je in principe alleen voor het bouwen en het trainen van het model. Zodra het model wordt uitgerold op je IoT-apparaat heb je SageMaker niet meer nodig en hoef je dus niet te betalen, wel als je vervolgens het model wil bijwerken met nieuwe foto’s. De kosten van SageMaker liggen daarmee tussen een paar dollar en honderden tot duizenden dollars per maand, afhankelijk van de grootte van de database.