De AI-modellen die medio 2025 nog uitsluitend in datacenters konden draaien, worden tegenwoordig overtroffen door lokale, open LLM’s. De hardware die daarvoor nodig is, past inmiddels achter een monitor. In dit artikel werpen we een blik op de ASUS NUC 16 Pro en wat er met deze AI-hardware zakelijk mogelijk is.
Lokale AI heeft naast rekenkracht ook veel geheugencapaciteit nodig. De ASUS NUC 16 Pro is daarom uit te rusten met maximaal 128 GB aan DDR5-geheugen. Daarmee zijn LLM’s als Gemma 4 of Qwen 3 Coder Next met meer dan genoeg geheugencapaciteit te draaien; afhankelijk van je wensen volstaat ook aanzienlijk minder dan 128 GB. Deze modellen zijn niet alleen capabel voor allerlei AI-workloads, maar lenen zich ook voor compliance-gedreven scenario’s: er is namelijk helemaal geen internetverbinding vereist.
Eigen AI, eigen data
Bedrijven hadden lange tijd een dataprobleem als ze AI wilden gebruiken. Waardevolle interne informatie, idealiter altijd afgeschermd, moet je nog altijd over een API naar OpenAI of Anthropic sturen als je hun LLM’s wilt benutten. Bij die providers is er niets veranderd. Maar het dataprobleem is met een hardware-oplossing als de ASUS NUC 16 Pro verleden tijd.
Een groot voordeel van de ASUS NUC 16 Pro voor AI-workloads is de flexibiliteit. Wat je doelstelling ook is, vrijwel elke taak is met AI te versnellen. Denk aan het doorzoeken van bedrijfsdata, het versnellen van softwareontwikkeling of het genereren van designs en concepten voor gevoelige projecten. Compliance is geen sta-in-de-weg meer als je de hardware zelf in huis hebt.
Belangrijke vereisten
Flexibiliteit betekent ook dat er genoeg features aan boord moeten zijn. De NUC 16 Pro beschikt over Intel Wi-Fi 7, dubbele 2,5-gigabit-Ethernet-controllers, Bluetooth 6.0 en in totaal zeven USB-poorten, waarvan twee met Thunderbolt 4-connectiviteit. De ASUS NUC 16 Pro is te configureren met Intel Core Ultra 5-, 7-, X7- of X9-chips, met geïntegreerde graphics. Dit houdt in dat er, zoals ideaal is voor lokale AI, één gedeelde geheugenpool is. Er is geen vaste, kleine bank aan videogeheugen naast het systeemgeheugen, zoals geldt voor menig desktop en laptop. In plaats daarvan is vrijwel de volledige capaciteit voor AI te gebruiken.
Dat is een cruciaal verschil met zelfs behoorlijk krachtige workstations, die veelal niet meer dan 32 GB aan videogeheugen hebben. Dat is veel in de context van een grafische kaart, maar voor AI-doeleinden doorgaans niet toereikend. Wie Gemma 4 31B van Google optimaal wil benutten, heeft al zo’n 70 GB nodig voor de gewichten van de LLM. Voeg daar de KV-cache aan toe, ofwel het kortetermijngeheugen van een AI-model, en je gaat ver voorbij de capaciteit van gebruikelijke systemen.
Compact gebruik
Een veelvoorkomend beeld van AI-gebruik is dat er een watergekoelde server voor nodig is. Niets is minder waar. De ASUS NUC 16 Pro is nog geen 15 cm breed (14,4 cm), 11,7 cm diep en slechts 4,2 cm hoog. Ook qua gewicht valt de AI-rekenkracht erg mee: zo’n 730 gram. Een schril contrast met de bakbeesten die in AI-datacenters LLM’s voor gebruikers op afstand massaal draaien.
Voor zakelijk gebruik is de ASUS NUC 16 Pro eveneens op afstand te beheren, onder meer via ASUS Control Center. Binnen een grotere server fleet zou deze NUC niet eens zo opvallen, aangezien het systeem ook Red Hat Enterprise Linux ondersteunt. Voor onderhoud of upgrades is er gekozen voor een toolless design en een minimalistische opbouw. Het is bovenal beheerbaar en gericht op maximale prestaties.
Werkelijke use case
Hoe ziet dat er in de praktijk uit? Neem een middelgroot advocaten- of accountantskantoor. Op de NUC 16 Pro draait via open-source software als Ollama of vLLM een lokaal model met een OpenAI-compatibele API. Medewerkers krijgen daarmee een vertrouwde chat-assistent die contracten samenvat, jaarstukken doorzoekt en conceptteksten opstelt, gevoed door de eigen documentenbank via retrieval-augmented generation (RAG). Het verschil met een clouddienst: geen enkel document verlaat het pand. Wat de AVG, NIS2 of een geheimhoudingsplicht ook voorschrijft, je houdt de volledige controle. De data blijft namelijk veilig binnen de eigen organisatie.
Hetzelfde geldt voor ontwikkelteams. Een model als Qwen 3 Coder Next fungeert als codeassistent die rechtstreeks aan de IDE’s van het team te koppelen is. Eén NUC bedient zo meerdere ontwikkelaars tegelijk, zonder dat de eigen broncode ooit naar een externe server gaat. Dankzij quantisatie, waarbij modelgewichten compacter worden opgeslagen met minimaal kwaliteitsverlies, past een model van ruim 30 miljard parameters bovendien in enkele tientallen gigabytes. Zo blijft er ruimschoots geheugen over voor lange context: hele codebases of dossiers samengepakt in één prompt.
Groeit de vraag, dan groeit de oplossing mee. Meerdere NUC’s zijn dankzij de dubbele Ethernet-aansluitingen en het centrale beheer via ASUS Control Center eenvoudig als compacte AI-vloot in te richten, per afdeling of per vestiging. Wat begint als experiment op een bureauhoek, schaalt zo door naar een volwaardige interne AI-dienst.
Conclusie
Lokale AI is in korte tijd volwassen geworden. Open modellen doen niet meer onder voor wat vorig jaar nog exclusief uit het datacenter kwam, en de benodigde hardware is gekrompen tot een kastje van nog geen kilo. De ASUS NUC 16 Pro combineert die rekenkracht met de geheugencapaciteit, connectiviteit en beheermogelijkheden die zakelijk gebruik vereist. Voor organisaties waar datasoevereiniteit en compliance topprioriteit zijn, is dit de meest directe route naar productieve AI: eigen hardware, eigen data, eigen AI.