Meta presenteert Muse Spark Open. Dit is een AI-model met 816 miljard parameters dat lokaal kan draaien op twee Apple Mac Studio-computers. Meta geeft aan dat Muse Spark Open is ontworpen voor softwareontwikkeling en autonome AI-agents. Volgens de organisatie is het nieuwe model op dit moment het krachtigste Amerikaanse open-weight-model.
Muse Spark Open is gebaseerd op Muse Spark 1.2, dat in augustus werd uitgebracht. Het maakt gebruik van een mixture-of-experts-architectuur. Hierbij worden per token slechts 42 miljard parameters geactiveerd. Dankzij het contextvenster van één miljoen tokens kan het uitgebreide codebases, documenten en complexe instructies verwerken.
Meta stelt zelf dat het model goed presteert bij het uitvoeren van agentische taken. Op de JobBench-benchmark scoorde het 61,8, vergeleken met 31,1 voor Inkling van Thinking Machines Lab. Muse Spark Open kwam ook als beste uit de strijd in de MCP-Atlas-benchmark voor het gebruik van tools, met een score van 89,2.
Ondanks deze resultaten blijven Chinese modellen toch voorop lopen. Kimi K3 scoorde 85 op Terminal-Bench 2.1, vergeleken met 76,4 voor het model van Meta. Deze resultaten zijn gebaseerd op Meta’s eigen evaluaties.
AI-agents draaien lokaal
Een opvallend kenmerk is de optimalisatie van het model voor Apple Silicon. Met behulp van het MLX-framework van Apple kan Muse Spark Open draaien op twee Mac Studio-systemen als die zijn uitgerust met M5 Ultra-processors. Elke machine ondersteunt tot 512 GB aan unified memory. Dit levert voldoende gecombineerde capaciteit op om het hele model te laten draaien.
Meta demonstreerde de opstelling met zijn Muse Code-agent, die een open-source iOS-applicatie aanpaste, bugs verhielp en nieuwe functies implementeerde. Een andere demonstratie toonde hoe het model DaVinci Resolve aanstuurde om videobeelden te analyseren en te bewerken.
Lokale uitvoering kan voordelig zijn voor organisaties die gevoelige gegevens en broncode buiten externe clouddiensten willen houden. De benodigde hardware vergt echter een aanzienlijke investering.
Hugging Face, Amazon SageMaker, Google Cloud en Microsoft Foundry bieden het nieuwe model aan. Ontwikkelaars kunnen het model ook benaderen via verschillende API-aanbieders.