5min

Amazon heeft zich tot op heden afzijdig gehouden in de generative AI-discussie. Natuurlijk was het wachten op een antwoord uit de koker van AWS. Vandaag introduceert AWS met Amazon Bedrock een nieuwe tool die ontwikkelaars toegang geeft tot meerdere generative AI-modellen. Het toepassen van generative AI binnen applicaties is met Amazon Bedrock eenvoudig te realiseren.

Amazon stelt zelf dat het zich al twintig jaar bezighoudt met AI en machine learning. Daarmee is het ondenkbaar dat Amazon zich niet zou gaan mengen in de wereld van generative AI. AWS kiest echter voor een andere route dan Microsoft en Google. Die bedrijven zijn vooral druk met het toevoegen van generative AI aan bestaande applicaties, om die innovatiever en beter te maken.

AWS voorziet ontwikkelaars van tools om generative AI toe te passen in eigen applicaties

AWS kiest ervoor om ontwikkelaars te voorzien van tools om zelf generative AI features toe te voegen aan hun eigen applicaties. Dit is op zich geen verrassende keuze, aangezien AWS al jarenlang allerlei AI en machine learning (ML) mogelijkheden biedt aan ontwikkelaars. Of het nou gaat om het bouwen en trainen van eigen machine learning-modellen met Amazon Sagemaker, of het analyseren van afbeeldingen, het omzetten van spraak naar tekst of tekst naar spraak. Dit zijn allemaal AI gebaseerde oplossingen die AWS al jarenlang aanbiedt. Nu komen daar de tools bij om generative AI toe te voegen aan de applicaties die ontwikkelaars aan het bouwen zijn. AWS leunt hiervoor echter op meerdere modellen.

De foundation models

Met generative AI kan je nieuwe content creëren, of het nou gaat om tekst, afbeeldingen, video’s, muziek of zelfs programmeercode. Om die nieuwe content te creëren en om het ook ergens op te laten lijken zijn zeer geavanceerde ML-modellen nodig. Als er een tekst of een afbeelding over een fiets moet worden gecreëerd, moet het model wel een idee hebben wat een fiets is, wat een fiets kan en hoe die eruit ziet. Dat soort broninformatie moet het ML-model leveren. Die modellen worden dan ook getraind met extreem grote hoeveelheden data. Ze modellen dragen daarom ook de naam Foundation model (FM). Het is het fundament van alle content die je ermee kan creëren. In 2019 bestond het grootste FM uit 330 miljoen parameters, nu zijn we de grens van 500 miljard parameters gepaseerd, dat is 1600x groter in vier jaar tijd.

Door deze toename in omvang zijn de modellen ook een stuk beter geworden en kunnen ze tekst genereren of afbeeldingen genereren. Ze kunnen zeer complexe taken uitvoeren die voorheen ondenkbaar waren. De manier waarop je bijvoorbeeld ChatGPT nu al kan gebruiken is al redelijk krachtig, er is echter een eenvoudige manier om het nog veel krachtiger te maken. Dat is namelijk als je bedrijfsspecifieke informatie kan toevoegen aan het model en het model zo kan trainen dat het daar gebruik van kan maken. Dit zagen we al bij Einstein GPT, waarbij Salesforce de data uit de sales, service en marketing-oplossingen kan combineren met ChatGPT. Hierdoor kan een klantenservice medewerker heel snel antwoord geven op een gerichte klantvraag. Met specifieke informatie uit de Salesforce kennisbank en in de schrijfstijl van de organisatie.

Amazon Bedrock geeft ontwikkelaars toegang tot meerdere foundation models

Met de introductie van Amazon Bedrock biedt AWS ontwikkelaars direct toegang tot de API’s van diverse foundation models. Onder meer de modellen van AI21 Labs, Antropic, Stability AI en diverse eigen Amazon foundation modellen.

Bij AI21 focussen zich vooral op het lezen en schrijven van tekst, zodat het large language model (LLM) beter tekst kan begrijpen en daarmee ook betere teksten kan schrijven. Met het Jurassic 2 model dat Amazon Bedrock biedt kan je teksten genereren in het Engels, Spaans, Frans, Duits, Portugees, Italiaans en het Nederlands.

Antropic ontwikkelt een AI die goed is in converseren en het uitvoeren van taken. Dit kan in de vorm van een persoonlijke assistent, maar ook een chatbot waar klanten hun vragen bij kwijt kunnen. Of een chatbot die bijvoorbeeld een compleet retourproces begeleidt.

Stability AI legt de focus op het creëren van afbeeldingen op basis van tekst of op basis van een foto. Stel dat je het interieur van je woonkamer wilt vernieuwen, dan kan je een foto aanbieden van je huidige stijl en op basis daarvan komt het model van Stability AI met soortgelijke foto’s waarin die stijl verder is geperfectioneerd en die je inspiratie kan bieden om je woonkamer te vernieuwen of op te frissen. Je kan ook gewoon vragen, creëer een afbeelding van een landelijke, moderne of industriële woonkamer.

De modellen aanpassen met Amazon Bedrock

Waar Amazon Bedrock in uitblinkt is de aanpasbaarheid van een foundation of large language model. Volgens Amazon is het een kwestie van gelabelde datasets in een S3 bucket plaatsen en die koppelen aan Bedrock. Bedrock kan het model dan eenvoudig combineren met de aangeleverde data in die gekoppelde datasets. Het model hoeft hiervoor niet te worden getraind.

Een voorbeeld dat Amazon zelf geeft is bijvoorbeeld een dataset met ongeveer 20 items. Bijvoorbeeld een marketing medewerker die een overzicht heeft gemaakt van de beste slogans van de marketingcampagnes in de afgelopen jaren. Gecombineerd met een lijst met nieuwe producten, productomschrijvingen en productfoto’s. Bedrock kan vervolgens op basis van deze informatie een compleet nieuwe marketingcampagne genereren met social media posts, online banners, artikelen voor op de blog, reclame folders.

Uiteindelijk maakt Bedrock gebruik van de klantdata en de beschikbare modellen. Die blijven echter wel gescheiden, de data wordt nooit onderdeel van het model. Dat zou veel te veel training kosten. Daarnaast betreft het hier klantdata en die is in de basis altijd vertrouwelijk. AWS stelt ook dat de klantdata altijd in de klantomgeving blijft.

Amazon Bedrock is beschikbaar als gelimiteerde preview

AWS heeft Amazon Bedrock nu gepresenteerd, maar de echt brede beschikbaarheid laat nog even op zich wachten. Een aantal geselecteerde klanten zijn ermee aan de slag gegaan. Op basis van hun ervaringen wordt het product nog verder doorontwikkeld en waar nodig verbeterd. Zeker met generative AI is het goed zaken vooraf te testen en soms wat limitaties toe te voegen, om ervoor te zorgen dat de AI zich naar wens gedraagt. We hebben bij Bing en Google al wat onwenselijk gedrag waargenomen.

Tip: GitHub Copilot X: hulp of bedreiging voor ontwikkelaars?