Microsoft heeft een team gevormd om kleinere AI-modellen te ontwikkelen. Daarmee wil het AI een stuk goedkoper dan tegenwoordig maken. Tegelijkertijd zou het bedrijf een stuk minder afhankelijk van OpenAI kunnen worden.
Volgens The Information zal het nieuwe team geleidt worden door Misha Bilenko, CVP Azure AI Cognitive Services bij Microsoft. De groep zal rapporteren naar Microsoft-CTO Kevin Scott. De beoogde Small Language Models (SLM’s) dienen een stuk minder rekenkracht te kosten om te draaien dan de huidige modellen. Momenteel draaien nagenoeg alle AI-diensten van Microsoft (grotendeels) op OpenAI-modellen, zoals GPT-3, GPT-4 en GPT-4-Turbo.
Deze LLM’s vreten stroom en water: elke 40 outputs van ChatGPT zou bijvoorbeeld een liter water kosten. Peperdure Nvidia H100-GPU’s zijn nodig om dergelijke modellen zo snel mogelijk te draaien. Andere techreuzen als Google, AWS en Meta vechten met OpenAI en Microsoft om honderdduizenden van deze chips te bemachtigen. Er is dus zeker een voordeel aan het bouwen van lichtere modellen, die niet alleen veel minder stroom kosten maar ook op minder imposante hardware te draaien zijn.
SLM’s: niet nieuw, wel veelbelovend
De doelstelling van het Microsoft-team is om SLM’s te produceren die alsnog kunnen wedijveren met OpenAI’s modellen. Eind vorig jaar presenteerde men al Phi-2, dat getraind was op hoogwaardige data en ‘slechts’ 2,7 miljard parameters telt. Destijds toonden verschillende tests dat het relatief kleine model competitief was met veel grotere concurrenten zoals Llama 2-7B van Meta of Google’s aanbod.
Deze ontwikkeling komt dus niet geheel uit de lucht vallen. Wel blijkt de afhankelijkheid van OpenAI een pijnpunt voor Microsoft. Na ophef rondom het bestuur van OpenAI leek het er even op dat CEO Sam Altman de stap naar Redmond zou maken, maar inmiddels is dat teruggedraaid. Daarnaast moest Microsoft het doen met een bijrol in het bestuur, waarin het ondanks een miljardeninvestering geen stemrecht heeft.
AI-aanbod niet zonder problemen
Rechtszaken tegen OpenAI en Microsoft kunnen eveneens laatstgenoemde hebben aangespoord om onafhankelijker te opereren. Met eigen modellen, getraind op gelicenseerde of gratis data, zou Microsoft ervoor kunnen zorgen dat de berg aan Copilots en andere AI-diensten voort kan bestaan als OpenAI’s GPT-modellen door de rechter worden verboden. Een dergelijk besluit is weliswaar niet op korte termijn waarschijnlijk, maar Microsoft kan dit niet zomaar afwachten.
Lees ook: Valse start Microsoft Copilot Pro: trage outputs en lange laadtijden
23 uur geleden
Expert bijdrage
