Perplexity brengt een lokale versie van zijn AI-agent Computer uit. Portable Computer kan bestanden analyseren en workflows uitvoeren zonder gegevens naar de cloud te sturen. Voor taken die meer rekenkracht of actuele informatie vereisen, kan het systeem alsnog clouddiensten inschakelen.
De nieuwe variant draait in eerste instantie op de Nvidia DGX Spark en komt later ook beschikbaar voor pc’s met Nvidia RTX-GPU’s. Perplexity kiest daarmee voor een hybride opzet waarbij lokale verwerking het uitgangspunt is, in plaats van de cloud.
Gevoelige data blijven lokaal
Portable Computer is bedoeld voor werkzaamheden waarbij data niet zonder meer naar een externe AI-dienst kan worden gestuurd. Het systeem kan lokale bestanden en code doorzoeken, informatie uit verschillende documenten combineren en acties op de computer uitvoeren. Ook onderdelen als de planner, toolrouter, scheduler en zoekindex draaien lokaal.
Gebruikers kunnen kiezen tussen Qwen 3.8 27B en PPLX 27B, een door Perplexity voor de DGX Spark aangepaste variant. Die laatste gebruikt multi-token prediction om de verwerking te versnellen, schrijft SiliconANGLE.
Perplexity probeert daarnaast een praktische beperking van Qwen op te vangen. Het model heeft een contextvenster van 256.000 tokens, maar zou moeite krijgen met prompts van meer dan ongeveer 100.000 tokens. Portable Computer gebruikt daarom context compaction: lange context wordt samengevat om de hoeveelheid informatie die het model tegelijk moet verwerken te beperken.
De software bevat daarnaast vooraf ingerichte skills voor onder meer online onderzoek, data science en programmeren. Ook is er een mechanisme dat de betrouwbaarheid van antwoorden moet controleren. Lokaal uitgevoerde taken verbruiken geen Perplexity-credits.
Cloud blijft beschikbaar
Volledig lokaal werken kent beperkingen, vooral wanneer actuele informatie of krachtigere modellen nodig zijn. Portable Computer kan daarom delen van een taak naar de cloud doorzetten. Dat kan bijvoorbeeld voor webonderzoek, browsergebruik, gekoppelde applicaties of complexere redeneertaken.
Volgens Perplexity zijn daarvoor meer dan vijftien cloudmodellen beschikbaar. Het bedrijf stelt dat gevoelige gegevens lokaal kunnen blijven terwijl alleen het noodzakelijke deel van een opdracht extern wordt verwerkt. Wanneer informatie daadwerkelijk vanaf de computer naar een clouddienst moet worden verstuurd, moet de gebruiker daar eerst toestemming voor geven.
Ook koppelingen met Google Drive, Gmail, Slack en GitHub zijn mogelijk. Daarmee kan de agent informatie uit verschillende bedrijfsapplicaties combineren en vervolgens lokaal acties voorbereiden of uitvoeren.
Lokale spraakverwerking
Naast bestanden en code kan Portable Computer spraak lokaal verwerken. Daarvoor wordt Nvidia Nemotron 3.5 ASR gebruikt. Zowel de transcriptie als daaropvolgende bewerkingen van bestanden kunnen op het apparaat blijven plaatsvinden.
Code en tools worden uitgevoerd in afgeschermde sandboxomgevingen. Die beperken welke delen van het besturingssysteem modellen en tools kunnen benaderen. Portable Computer blokkeert daarnaast ongeautoriseerde netwerkverbindingen. Externe diensten krijgen geen rechtstreekse toegang tot lokale bestanden.
Portable Computer is voorlopig beschikbaar voor Pro- en Max-abonnees die over een Nvidia DGX Spark beschikken. Die compacte AI-machine combineert een 20-core Arm-processor met een Nvidia-GPU en 128 GB gedeeld geheugen. De eerste versie van de software draait op Linux. Windows-ondersteuning en ondersteuning voor RTX-pc’s moeten later volgen. Ook Nvidia’s open Nemotron 3.5 Lightning-model met 30 miljard parameters moet beschikbaar komen.