Microsoft heeft de komst van zogenoemde Copilot+ AI-pc’s aangekondigd die onder meer LLM’s on-device kunnen draaien. Daarnaast introduceert de techgigant ook de nieuwe Copilot GenAI-functionaliteit Recall. Daarmee kunnen gebruikers alles wat zij op hun pc’s doen terughalen.
Microsoft kondigt aan dat het een aantal eigen AI-pc’s op de markt brengt die LLM’s lokaal on-device kunnen draaien in plaats van een cloudomgeving. Hiermee kunnen eindgebruikers profiteren van snellere en meer energie-efficiënte AI-functionaliteit en de GenAI-mogelijkheden van Copilot in het bijzonder.
Processors van Qualcomm en NPU’s belangrijk
Opvallend is dat Microsoft voor deze Copilot+ AI-devices, zoals de eigen Surface-toestellen en -pc’s, maar ook modellen van partners als Dell, Lenovo, HP, Samsung, Asus en Acer, hoge eisen stelt aan de hardware. Deze moeten minimaal over 16 GB aan RAM-geheugen en een minimumstoragecapaciteit van 256 GB beschikken.
Daarnaast draaien de nu aangekondigde Copilot+ AI-pc’s volledig op de (nog niet geïntroduceerde) Snapdragon X Plus en -Elite-processors van Qualcomm. Deze zijn op de Arm-processorarchitectuur gebaseerd. Intel en AMD worden in eerste instantie overgeslagen, hoewel de techgigant aangeeft dat het in de toekomst mogelijk ook processors van deze fabrikanten gaat gebruiken. De keuze voor Qualcomm zou vooral liggen in het feit dat Intel en AMD de noodzakelijke processors nog aan het ontwikkelen zijn.
Belangrijker dan de processors, zijn de voor AI-workloads noodzakelijke Neural Processing Units (NPU’s). Microsoft vereist voor zijn Copilot+ AI-pc’s NPU’s die meer dan 40 biljoen operaties per seconde (TOPS) mogelijk maken. De nu geselecteerde processors van Qualcomm zouden over NPU’s beschikken die 45 TOPS leveren.
Arm-processors
De keuze voor de op Arm gebaseerde Qualcomm-processors, die de chipfabrikant heeft ontwikkeld dankzij de overname van Nuvia, is volgens Microsoft een gevolg van het feit dat er steeds meer applicaties komen die deze processorarchitectuur ondersteunen.
Voor de zekerheid levert het bedrijf met zijn nieuwe Copilot+ AI-pc’s wel een nieuwe emulatielaag met de naam Prism, die ervoor zorgt dat nog niet voor Arm-processors geschikte applicaties ook op de nieuwe devices draaien.
Recall-functionaliteit
De nieuwe Copilot+ AI-pc’s zijn vanzelfsprekend uitgerust met verschillende nieuwe Copilot GenAI-features. Hiervan springt de nieuwe functionaliteit Recall er uit. Recall is een collectie van AI-eigenschappen die gebruikers nuttige suggesties geven door alles wat zij op hun pc hebben gedaan bij te houden: van vergadersessies en het openen van bestanden tot het uitvoeren van zoekopdrachten op het internet.
Hiervoor maakt de tool constant snapshots van wat er precies op een Copilot+ AI-pc gebeurt, zodat gebruikers dit in een soort timeline altijd terug kunnen vinden. De snapshots worden alleen lokaal opgeslagen -wat natuurlijk een grote onboard storagecapaciteit vereist- en blijven daardoor veilig en privacybewust alleen op het gebruikte device, zo belooft Microsoft. Ook kunnen gebruikers bepalen wat wel en wat niet wordt geregistreerd. Al deze werkzaamheden worden uiteindelijk door de on-board NPU afgehandeld.
De eerste Copilot AI+-pc’s zouden medio juni op de markt moetne komen.
In onze podcast-serie Techzine Talks bespraken we al eerder de opkomst van zogenoemde AI-pc’s. Luister hier de aflevering: