Zoom introduceert ZoomMate, een AI-agent die na een vergadering automatisch taken uitvoert in systemen als Salesforce, Jira en ServiceNow, zonder dat daar nog een mens aan te pas komt. Op SXSW London stelden verschillende sessies onafhankelijk van elkaar dezelfde vraag: als agents autonoom handelen, wie bewaakt dan wat ze doen?
Zoom noemt zichzelf al een tijdje geen videoconferencingbedrijf meer. De nieuwe positionering is “system of action”: een platform dat niet alleen gesprekken faciliteert, maar ook de opvolging ervan regelt. “Zoom zit precies daar waar werkbeslissingen worden genomen,” zegt Russell Dicker, chief product officer bij Zoom.
ZoomMate is de volgende stap in die positionering. Na een vergadering zoekt de agent zelfstandig relevante informatie op uit verbonden bedrijfssystemen, maakt follow-uptaken aan, werkt klantdossiers bij en plant vervolgafspraken in. Gebruikers hoeven niet meer zelf te schakelen tussen tools. De agent doet dat voor ze. Het product is vanaf 1 juni beschikbaar in Noord-Amerika voor twintig dollar per gebruiker per maand. Uitrol naar Europa staat gepland voor later dit jaar.
Maar op het moment dat een AI-agent zelfstandig inlogt op Salesforce en daar gegevens aanpast op basis van wat er in een vergadering is gezegd, verdwijnt de mens uit een deel van het werkproces. De taak wordt nog steeds gedaan, alleen zonder menselijke tussenkomst. Dat is precies de beweging waarover tijdens het tech-festival SXSW London uitgebreid werd gediscussieerd, in sessies die onafhankelijk van elkaar dezelfde zorg uitspraken, elk vanuit een andere invalshoek.
Trainingsdata als blinde vlek
Zo stond er een sessie op het programma met als titel: ‘Who Controls the AI Stack?’ Jason McEwen, chief scientist bij het Britse Alan Turing Institute, het nationale instituut voor AI en data science in Groot-Brittannië, legde daar uit waarom die vraag relevant is voor elke organisatie die AI-agents inzet. De meeste bedrijven gebruiken de grote commerciële modellen van Amerikaanse techbedrijven, en dat is voor veel toepassingen geen probleem. Maar zodra agents zelfstandig handelen in kritieke bedrijfsprocessen, wordt het urgent om te weten hoe die agents zich gedragen, op basis van welke data ze getraind zijn, en wat er gebeurt als die toegang wegvalt. “Het gaat er niet om AI-infrastructuur zelf in handen te hebben”, zegt McEwen, “maar om er niet volledig van afhankelijk te worden.”
Voor McEwen zit de grootste blinde vlek in de trainingsdata van AI-modellen. Veel organisaties vertrouwen op de guardrails die fabrikanten achteraf aan een model toevoegen, maar die bieden geen echte zekerheid. Academisch onderzoek toont aan dat zo’n beveiligingslaag breekbaar is, soms door gerichte jailbreaking, maar ook onbedoeld, bijvoorbeeld bij het fine-tunen van een model voor een specifieke toepassing. De enige manier om echt te weten wat een model doet en laat, is inzicht in de data waarop het getraind is. Bij de meeste commerciële modellen ontbreekt dat inzicht volledig. Kwaadwillenden spelen daar actief op in: ze creëren nepsites met data die ze hopen in trainingssets te krijgen, inclusief verborgen instructies die pas geactiveerd worden in heel specifieke scenario’s.
David DeSanto, CEO van Anaconda, het open-source AI-platform, herkent dat probleem. Met een achtergrond in cybersecurity en twintig jaar ervaring in de enterprise-wereld kijkt hij anders naar AI-risico’s dan de gemiddelde technologiemanager. Toen het Chinese AI-model DeepSeek R1 vorig jaar verscheen als een van de sterkste codemodellen op de markt, was de eerste reactie van veel enterprise-klanten enthousiasme. “Ik benader AI-modellen zoals beveiligingsrisico’s,” zegt DeSanto. “Dus ik vraag me af: wie is de provider, waar draait het model, welke data is gebruikt voor de training, kan ik het natrainen, en wat zijn mijn comfortniveaus?” De meeste organisaties stellen die vragen niet, constateert hij, terwijl het precies die vragen zijn die ook relevant zijn voor elke organisatie die overweegt een autonome AI-agent toegang te geven tot haar bedrijfssystemen.
Macht, narratief en infrastructuur
Een niveau hoger speelt een ander mechanisme. Tijdens de sessie ‘Building Human-Centered Futures with AI’ wees Madhumita Murgia, AI-editor van de Financial Times, op een opvallend patroon: techbedrijven verspreiden actief negatieve toekomstbeelden over AI. Uitspraken over massaal baanverlies, existentiële risico’s en zelfs uitsterving van het menselijk ras komen niet alleen van critici, maar ook van de bedrijven die deze technologie bouwen en verkopen. Haar verklaring: het creëert een mystiek die macht concentreert. “Ze creëren daarmee het gevoel dat wanneer een technologie zo complex en gevaarlijk is dat zelfs de makers het vrezen, je het dan maar beter kunt overlaten aan de experts,” zegt Murgia. “Dat geeft een kleine groep experts de ruimte om te bepalen hoe overheden reageren, welke regulering acceptabel is, en waarom je je data maar beter aan hen kunt toevertrouwen.”
Kunstenaar en filmmaker Liam Young, wiens expositie World Machine momenteel te zien is in het Barbican in Londen, voegt daar een fysieke dimensie aan toe. Toekomstbeelden over AI zijn volgens hem niet onschuldig. Ze worden door techbedrijven bewust ingezet om investeerders te overtuigen en kapitaal op te halen, soms zonder dat de technologie die beloftes al waarmaakt. “Toekomstvisies zijn verworden tot wapen,” zegt Young. “Ze worden gebruikt om biljoenendollar-beursgangen te rechtvaardigen, puur op basis van narratief.”
Maar achter die verhalen schuilt een concrete fysieke werkelijkheid: de infrastructuur die AI-systemen draaiende houdt, hyperscale datacenters met een energieverbruik op industriële schaal, wordt gebouwd op plekken en in gemeenschappen die nauwelijks inspraak hebben. “Die bedrijven kopen feitelijk de afwezigheid van regulering,” stelt Young. “Ze bouwen datacenters op grote schaal zonder enig kader voor milieuaansprakelijkheid.” Dat techbedrijven tegelijkertijd ook utopische toekomstbeelden verspreiden, zoals Anthropic-CEO Dario Amodei deed in zijn essay Machines of Loving Grace, verandert daar weinig aan. Beide narratieven dienen volgens Young en Murgia uiteindelijk hetzelfde doel: de beslissingsmacht bij een kleine groep bedrijven houden. Voor organisaties die overwegen AI-agents in hun bedrijfsprocessen te verweven, is dat geen onbelangrijke observatie.
Driedaagse werkweek
Wat betekent dat concreet voor ZoomMate? Zoom stelt in de productdocumentatie dat de agent “enterprise access controls, permissions en governance respecteert” bij het uitvoeren van acties in verbonden systemen. ZoomMate krijgt toegang tot Salesforce, Jira, ServiceNow, Workday, Google Drive en SharePoint, en handelt daar zelfstandig in. Voor Europese organisaties speelt daarbij nog een bijkomende overweging: de modellen, de infrastructuur en de governance zijn Amerikaans. McEwen gaf de zaal op SXSW London stof tot nadenken mee: wat als de Verenigde Staten de toegang tot de grote AI-modellen morgen zouden intrekken? Niet als vergezocht scenario, maar als praktisch risicomanagement voor organisaties die vandaag beslissingen nemen over welke systemen ze in hun infrastructuur verweven.
Eric Yuan, die vanuit Californië via Zoom inbelde voor zijn sessie ‘Human Connection: A System of Action for Modern Work’, ziet dat anders. De Zoom-oprichter vergelijkt het vertrouwen in AI-agents met het vroege wantrouwen tegenover het internet. In 1995 en 1996 vertrouwde niemand het internet, herinnert hij zich. “En kijk hoe dat is uitgepakt.” Maar zijn overtuiging gaat verder: Henry Ford bracht in 1926 de werkweek terug van zes naar vijf dagen, puur door de manier van werken te herorganiseren. “Maar nu, honderd jaar later, na talloze technologische revoluties, werken mensen nog steeds vijf dagen per week”, stelt Yuan. “Dat is een gemiste kans.” AI biedt volgens hem nu de mogelijkheid om opnieuw de stap naar een kortere werkweek te zetten. Digitale agents werken zeven dagen per week, vierentwintig uur per dag, klagen nooit en raken niet vermoeid. Een vierdaagse, of zelfs driedaagse werkweek is voor Yuan geen utopie maar een logische volgende stap. “Geef het tijd,” zegt hij. “AI-agents kunnen werkelijk leveren wat we van ze vragen.”