Deepgram optimaliseert zijn Nova-3 speech-to-text model voor de Hexagon NPU in Qualcomms Snapdragon X-platform. Daarmee draait enterprise-spraakherkenning voortaan lokaal op het apparaat, zonder cloudverbinding. Ontwikkelaars en fabrikanten kunnen zo realtime voice-toepassingen bouwen.
Veel voice-AI leunt van oudsher op een cloudarchitectuur. Elke interactie vereist dat audio het apparaat verlaat, naar de cloud reist, elders wordt verwerkt en weer terugkeert. Die route introduceert vertraging en roept privacyvragen op. Precies dat model wil Deepgram doorbreken door de spraakherkenning direct op het toestel te laten plaatsvinden.
De samenwerking richt zich op de Snapdragon X Series, het platform waarmee Qualcomm inzet op AI-pc’s. Door Nova-3 te optimaliseren voor de Qualcomm Hexagon NPU belooft Deepgram snellere, betrouwbaardere voice-ervaringen die ook werken waar connectiviteit niet gegarandeerd is. Denk aan een auto, een fabrieksvloer of een XR-headset.
De eerste Snapdragon X-chips haalden zo’n 45 TOPS, ruim boven de 40 TOPS die Microsoft als minimum stelt voor een Copilot+ PC. De nieuwere Snapdragon X2-generatie verdubbelt dat richting circa 80 TOPS.
Die rekenkracht maakt het mogelijk om zwaardere ASR-modellen lokaal te draaien in plaats van alleen lichte edge-varianten. Qualcomm noemt realtime transcriptie, vertaling en voice isolation al langer als kerntaken voor de NPU. Deepgram sluit daar nu op aan met een model dat specifiek op enterprise-gebruik mikt.
Wat Nova-3 kan
Nova-3 is volgens Deepgram het eerste voice-AI model met realtime meertalige transcriptie. Het bedrijf claimt een word error rate van 6,89 procent op productie-audio, wat neerkomt op een 24,7 procent lagere foutmarge dan de op een na beste concurrent. Ook kunnen gebruikers zelf vocabulaire aanpassen zonder het model opnieuw te trainen.
Qualcomm ziet in de combinatie kansen voor uiteenlopende sectoren. “De ingebouwde AI-mogelijkheden van Snapdragon-processors in combinatie met Deepgrams spraakgestuurde AI van enterprise-klasse brengen deze vereisten op unieke wijze samen en openen zo nieuwe mogelijkheden”, stelt Upendra Kulkarni, Vice President Product Management bij Qualcomm. Het initiatief moet volgens beide bedrijven de weg vrijmaken voor voice in automotive, mobiel, industrieel edge, IoT en wearables.
Tip: IBM integreert Deepgram spraak-AI in watsonx Orchestrate