3min

Tags in dit artikel

, , ,

Productaankondigingen besteden dit jaar vrijwel altijd aandacht aan AI-functies. Nagenoeg elke nieuwe laptop wordt ermee uitgerust, hoewel ze onderling significant kunnen verschillen. Het ziet ernaar uit dat de vraag naar AI voor grootschalige verandering zorgen als het gaat om hardware.

AI draait veelal in de cloud, zeker bekende applicaties als ChatGPT, Stable Diffusion en Windows Copilot. Echter willen veel partijen de overstap maken naar client AI, zoals Intel het noemt. De eindgebruiker zou eigenlijk niet van de cloud afhankelijk moeten zijn om een AI-geaccelereerd besturingssysteem te draaien. Er is namelijk op termijn helemaal geen ruimte voor miljarden consumenten die datacenters aanspreken om AI te draaien.

Tip: Een pc-revolutie door AI: Dell en Intel zien het, AMD nog niet

De oplossing ligt bij efficiënte processoren die specifiek geschikt zijn voor AI-taken. Die zijn inmiddels al te vinden in allerlei smartphones, desktops en laptops. Dit najaar is de trend naar AI-gerichte hardware goed te zien bij nieuwe laptops, al dan niet in de vorm van een specifieke coprocessor. Dit zou voor betere latency moeten zorgen, meer privacy voor de gebruiker en minder stroomverbruik.

Mondjesmaat AI: webcams opschonen, afbeeldingen bewerken

Een voorbeeld van AI-functies is te vinden bij de nieuwe lijn aan HP-laptops. Bij de HP ENVY van dit jaar wordt een Intel Movidius VPU AI-Accelerator geleverd. In de marketing legt men met name de focus op zaken als het verbeteren van zaken rondom videoconferencing, zoals het in het frame houden van een gezicht, het beter filteren van de achtergrond of het dynamisch opschonen van de audiokwaliteit. Ook bij de aankondiging van de AI-functies in de Chromebook Plus ligt de lat niet al te hoog: Magic Eraser verwijdert op een slimme manier personen of objecten uit foto’s en File Sync houdt bij welke bestanden een gebruiker snel wil zien verschijnen. Ook de Surface Laptop Studio 2 is uitgerust met een specifieke AI-accelerator om dergelijke features soepeler te kunnen draaien dan voorheen.

Met andere woorden: aanvankelijk klinken de AI-vaardigheden van nieuwe laptops niet baanbrekend. Immers is een Google-feature als Magic Eraser al langer te vinden in Pixel-smartphones. De meer betekenisvolle features zoals ze in bijvoorbeeld Windows Copilot te vinden zijn, moeten nog altijd van de cloud gebruik maken. Gaat daar verandering in komen?

De volgende stap: Meteor Lake, NPU’s en lokale inferencing

VP & GM Client AI bij Intel John Rayfield gelooft dat er nog meer stappen te zetten zijn. In december arriveren de eerste laptops die uitgerust zijn met Meteor Lake-processors, de nieuwste Intel-chips en de eerste generatie die NPU’s in het ontwerp bevat. In tegenstelling tot de Movidius-chip gaat het hier om een geïntegreerd component binnen de processor, die veel vaardiger zou moeten zijn. Deze “inference accelerator” is ontworpen om inferencing, het draaien van een AI-model om een nieuwe output te genereren, te versnellen. Cruciaal hierbij is dat een dergelijk proces efficiënt verloopt, zodat ook een laptop het kan inzetten terwijl het op de accu draait.

Dit is een stap voorbij wat nu al mogelijk is: het offloaden van AI-taken naar de GPU of ze simpelweg draaien op de CPU. Rayfield legt uit dat AI voor 75 procent een softwareprobleem is, de laatste kwart draait om optimalisering en versnelling. Zo zijn er standaarden als ONNX voor AI-modellen, API’s als DirectML en WebNN voor webapplicaties. Deze zorgen ervoor dat developers dynamisch gebruik kunnen maken van wat een eindgebruiker in huis heeft: een nieuwe laptop met AI-acceleratie zal dus automatisch de geschikte hardware-resources inzetten bij een specifieke taak. Wel is er volgens hem voor de echt zware AI-taken tien tot vijftig keer de computerkracht nodig ten opzichte van eerdere applicaties.

Dat wapenfeit verklaart waarom de AI-mogelijkheden van laptops anno 2023 niet direct tot de verbeelding spreken. Een LLM lokaal op een thin-and-light draaien gaat nog niet praktisch worden op korte termijn. Echter zijn de bouwstenen gelegd om dit ooit wel te kunnen, zodra de hardware de nodige verbeteringen heeft gemaakt. In de tussentijd zullen laptops, pc’s en smartphones geleidelijk steeds meer AI-features kunnen overnemen van de cloud.