Microsoft wil overal een Copilot, ook in Windows 11

Tijdens de jaarlijkse Build developer-conferentie in Seattle komt Microsoft met een reeks aankondigingen. Een aanzienlijk gedeelte hiervan betreft copilots, AI-aangestuurde assistenten voor allerlei toepassingen. De sterspeler: Windows Copilot, de eerste AI-rechterhand op OS-niveau. Het maakt hierbij gebruik van AI-hardware in zowel de cloud als in het lokale systeem, waar mogelijk. De techgigant uit Redmond is echter niet alleen van plan om zelf copilots te bouwen voor de eigen software-suite. Nu is het ook aan externe developers om AI-bots toe te voegen, zo stelt het bedrijf, en daar is een framework voor nodig.

Wie aan het woord ‘copilot’ denkt, komt al gauw terecht bij GitHub Copilot, dat twee jaar geleden tevoorschijn kwam. Het gaat hier om een AI-assistent die programmeurs helpt met het schrijven van code. Niet al te lang geleden onthulde GitHub een aanzienlijke uitbreiding van de mogelijkheden binnen het Copilot-aanbod: Copilot X. Toch zal men in Redmond graag willen dat we met z’n allen ruimer over het concept van een ‘copilot’ denken. Het definieert het als een “applicatie die moderne AI en large language models gebruikt om je te assisteren met een complexe cognitieve taak”.

De GPT-4-technologie die het dankzij investeringen in OpenAI mag inzetten, belandt tegenwoordig overal binnen de MS-suite. Nadat het alle Microsoft 365-applicaties uitrustte met de AI-tool, is het nu de beurt aan het paradepaard van de techgigant: Windows zelf. Het kondigt tijdens Build eveneens nieuwe Copilot-functionaliteiten aan in Microsoft Edge.

Geruchten omtrent de AI-gefocuste aard van Windows 12 doen al tijden de ronde. Echter gaat Microsoft niet wachten op de lancering daarvan (vermoedelijk 2024) om AI op OS-niveau aan te bieden. Op basis van OpenAI-technologie komt het met het eerste PC-platform dat “gecentraliseerde AI-assistentie” aanbiedt.

Windows Copilot: van simpele tot complexe taken

Copilot voor Windows 11 kent twee kanten: voor eenvoudig gebruik en ten behoeve van complexere taken. Het wordt in juni geïntroduceerd. De tool is op te roepen via een centrale knop op de taakbalk, een indicatie van het belang dat Microsoft aan de copilot hecht. Eenmaal opgeroepen blijft Copilot als sidebar beschikbaar op alle apps, programma’s en vensters. Bekende Windows-acties zoals copy/paste kunnen met hulp van Copilot leiden tot menselijk overkomende samenvattingen, aanvullingen en correcties. Plugins van Bing Chat en ChatGPT zijn van nut voor gebruikers, maar dit is waar Microsoft de kans aanstipt voor developers om de nieuwe mogelijkheden te benutten.

Microsoft wil de ontwikkeling van AI democratiseren. Het doet dit onder andere door het eenvoudiger te maken om AI-toepassingen te draaien op de eigen platformen. ONNX Runtime staat het voor developers toe om zowel op lokale systemen als in de cloud AI-modellen te draaien. Dit werkt dynamisch en kan in hybride vorm plaatsvinden. Dat wil zeggen dat er Azure-resources klaar staan om AI te accelereren, hoewel Microsoft zelf aan stipt dat er steeds meer hardware in ontwikkeling is die voor lokale AI-workloads geschikt zijn. Voor developers zou het slechts met een paar lijntjes programmeercode mogelijk zijn om AI-acceleratie door de ONNX Runtime te laten regelen.

Het bedrijf verwijst naar wat het NPU’s noemt: Neural Processing Units. Deze bevinden zich al in het Qualcomm Snapdragon 8xc Gen3-platform, maar andere chipreuzen als Intel en AMD zijn druk bezig om ook AI-acceleratie in te bakken. Hoognodig als de AI-visie van Microsoft een realiteit wordt. Dit aangezien de cloud niet alle AI-toepassingen van Windows-gebruikers tegelijkertijd zal kunnen voeden.

Specificering

Met de wetenschap dat Copilot al op OS-niveau beschikbaar gaat zijn, is het belangrijk om te melden dat Microsoft hiermee niet alle aspecten ervan centraliseert. Uit de uitleg van de techgigant zelf blijkt al gauw dat men voortborduurt op een eerder concept: Copilot X. Voor GitHub-gebruikers betekent de ‘X’ hierbij dat de AI-assistent tot van alles in staat zou zijn. Het ging hier alleen telkens om een specifieke toepassing. Dit heeft ook een goede reden: een AI-toepassing werkt namelijk veel beter als het toegespitst is op één taak. Wie ooit ChatGPT heeft willen inzetten voor hulp bij coderen, zal snel erkennen dat GitHub Copilot een veel betere assistent is die ook echt nuttige informatie verschaft. In feite krijgt de AI-chatbot een set instructies voordat de gebruiker het gesprek start, zodat het bij het gespreksonderwerp in kwestie blijft. Zo krijg je geen informatie over slangen als je een vraag over Python stelt. Althans, dat is het idee.

Om die reden zien we telkens weer een nieuwe Copilot-toepassing uit de hoge hoed van Microsoft verschijnen. Nu introduceert het ook Copilot in Power BI, Power Pages en het nieuw gelanceerde dataplatform Microsoft Fabric. Hiernaast komt het met plugins die copilots nuttiger moeten maken als het gaat om externe software. Op die manier zou de AI-assistentie niet alleen op OS-niveau en in MS-apps moeten verschijnen, maar ook bij third-party software.

AI-plugins en het Copilot-ecosysteem

Het is duidelijk dat Microsoft een aanstormend probleem van incompatibiliteit wil voorkomen. Ook al heeft het een uitvoerige alliantie met OpenAI, het kwam afzonderlijk van die partij met een eigen plugin voor Bing die losstond van de ChatGPT-plugins. Vrij onhandig, aangezien zowel Bing Chat als ChatGPT op OpenAI-modellen draaien en daarom veel overeenkomsten hebben. Het heeft nu bekendgemaakt dat het gebruik zal maken van dezelfde plugin-standaard als OpenAI.

Deze plugins zijn in potentie erg nuttig. Microsoft wil graag dat men ze ziet als een brug tussen grote AI-modellen en de privégegevens van een bedrijf. Vrij logisch dat daar niet meteen een verbinding tussen moet zitten. Denk aan het lekken van gevoelige data door Samsung-medewerkers die deze data losbandig in een ChatGPT-venster gooiden. Dat is niet de bedoeling, en plugins moeten ervoor zorgen dat het AI-model alleen toegang krijgt tot relevante data als het een specifieke vraag erover krijgt. De chatbot verzamelt de data dus in real-time. Microsoft-CTO Kevin Scott verwoordt het als volgt: “Een plugin gaat erom hoe jij, de copilot-developer, je copilot of AI-systeem de capaciteiten geeft die het nog niet heeft getoond. Het gaat om het verbinden met jouw data en de systemen die jij bouwt. Ik denk dat er uiteindelijk een ongelofelijk rijk ecosysteem aan plugins komt.”

Microsoft wil ook externe plugins toelaten in de eigen software-suite. Het komt met een aantal mogelijkheden binnen Visual Studio Code, GitHub Copilot en GitHub Codespaces om nieuwe plugins te bouwen, te testen en in te zetten. Dit alles kan draaien op Azure AI-hardware in de cloud. Microsoft belooft dat dit framework zorgt voor de brede inzetbaarheid van plugins in de MS-suite.

Iedereen een copilot?

Hoe uitgebreid de suite van Microsoft ook is, zal het voor veel use cases belangrijk zijn om een copilot onafhankelijk van deze diensten te kunnen inzetten. Scott ziet de ontwikkeling van nieuwe copilot-gerelateerde ervaringen als reusachtig. Hij vergelijkt het met de komst van smartphones, een uitvinding waarvan we kunnen stellen dat het de wereld aanzienlijk heeft veranderd.

Nu belanden we bij een punt dat de aard van ‘copilots’ verduidelijkt. Althans, hoe Microsoft ernaar kijkt. Tot nu toe is het concept een toepassing van generatieve AI geweest dat gedefinieerd werd door het veld waarin het zich begaf. Zo kun je GitHub Copilot zien als een toegespitste chatbot voor programmeercode zoals ook een Office Copilot hulp biedt bij Word, Excel of PowerPoint. Oftewel: een ‘copilot’ is een chatbot met een baan. Het geeft gelijk ook weer waarom we niet kunnen verwachten dat ChatGPT op basis van GPT-5, GPT-6 of GPT-19 opeens alle taken zal uitvoeren. Er zullen namelijk altijd developers nodig zijn om de AI om te scholen tot copilot, of ze nu voor Microsoft werken of niet.

Lees ook: Generatieve AI: Hoe kan GPT-4 het bedrijfsleven veranderen?