Google lijkt de aanval te hebben geopend op DeepSeek met de introductie van zijn Gemma 3-portfolio van lichte LLM’s. Deze nieuwe LLM’s van de techgigant draaien ook op een enkele GPU, zodat meer devices AI-functionaliteit kunnen gebruiken.
De Gemma 3 LLM’s van Google, de nieuwe iteratie in zijn al bestaande portfolio van lichtgewicht Gemma LLM’s, komen in vier varianten: 1 miljard parameters, 4 miljard parameters, 12 miljard parameters en 27 miljard parameters. Met deze LLM’s, zo geeft Google aan, kunnen AI-ontwikkelaars het beste model kiezen voor hun beschikbare hardware en prestaties bij het ontwikkelen van AI-applicaties.
De Gemma 3 LLM’s zijn zo ontworpen dat ze snel en direct op devices kunnen draaien, van workstations tot laptops en smartphones. Bijvoorbeeld: voor het draaien van een Gemma 3 LLM op een device met een GPU of een TensorFlow-processor kan een groter model worden gebruikt dan voor een smartphoneprocessor. Deze laatste gebruikt dan een kleiner model.
Onder de motorkap maken de nieuwe lichte LLM’s van Google gebruik van hetzelfde onderzoekswerk als de Google Gemini LLM’s, inclusief de Gemini AI-chatbotfeature.
Prestaties
De prestaties van de nieuwe Gemma 3 LLM’s zijn volgens de techgigant zeer hoog en overtreffen volgens benchmarks die van Llama-40B, DeepSeek-V3 en o3-mini van OpenAI. Alleen moeten zij nog wel DeepSeek R1 voor zich laten gaan.
Technische eigenschappen waarover de nieuwe lichte LLM’s onder meer beschikken, zijn begrip van meer dan 140 talen, het maken van AI-applicaties met behulp van multimodale mogelijkheden zoals geavanceerde tekst- en visuele reasoning, en een context window van 128.000 tokens. Met dit context window kunnen grote hoeveelheden data worden verwerkt.
Verder beschikken de LLM’s over function calling en andere tooling voor het maken van workflows en AI-agents.
Daarnaast is er ook veel werk gestoken in het veilig maken van de Gemma 3 LLM’s door uitgebreide data governance en het voldoen aan de veiligheidsregels van Google via fine-tuning en robuuste benchmarkevaluaties.
Toevoeging van ShieldGemma 2
Naast de lichte Gemma 3-modellen biedt Google nu ook ShieldGemma 2. Dit is een LLM van 4 miljard parameters voor het controleren van beelden op veiligheid. Het model kan beelden ook markeren als ze niet aan veiligheidsregels voldoen. Hiermee kunnen ontwikkelaars applicaties bouwen die geüploade beelden checken op mogelijk schadelijke content.
ShieldGemma 2 kan zonder problemen samen met de nieuwe Gemma 3 LLM’s worden gebruikt.
Google geeft ook nog aan dat zijn bestaande Gemma-ecosysteem, Gemmaverse, inmiddels meer dan 60.000 door de community gemaakte Gemma-varianten biedt. Denk hierbij aan varianten die vergelijkbaar zijn met de GPT’s van OpenAI.
Lees ook: Google helpt ontwikkelaars het beste Gemini- of Gemma-model te kiezen