BrainCreators waarschuwt voor pseudo-AI als volgende tech-trend

BrainCreators laat aan Techzine weten steeds meer ‘pseudo-AI’ waar te nemen. Bij deze ontwikkeling claimen bedrijven dat ze gebruikmaken van kunstmatige intelligentie (AI), terwijl in feite mensen het werk uitvoeren.

Het bedrijf, dat zelf AI-expertise biedt om businesses te helpen, laat merken het niet in pseudo-AI te zien zitten. Zo wordt het gebruik van een mens in plaats van machine in AI-toepassingen een nieuwe versie van ‘De tovenaar van Oz’ genoemd. Er wordt een beeld geschetst van wat technisch mogelijk is maar uiteindelijk zit een mens achter de knoppen.

BrainCreatores vraagt zich af of het ethisch wel gerechtvaardigd is om mensen zo te bedriegen. Personen blijken bijvoorbeeld meer informatie te delen wanneer ze denken te praten met een virtuele therapeut in plaats van met een mens, toont onderzoek aan. Dit soort technologie kan in de verkeerde handen dan ook leiden tot kwalijke situaties. Ook is dit gedrag in strijd met enkele vorm van transparantie die men van elke organisatie mag verwachten.

Voorbeelden

Met een aantal voorbeelden toont BrainCreators wat er daadwerkelijk met pseudo-AI bedoeld wordt. Zo blijkt uit onderzoek van Wall Street Journal dat honderden apps via Google toegang hebben tot de mailboxen van mensen. Een bedrijf kreeg op deze manier toegang tot de mailbox van mensen om met AI een ‘slim antwoord-functie’ te optimaliseren. Gebruikers wisten echter niet da de analyse van de persoonlijke e-mails uitgevoerd werd door mensen in plaats van een machine.

Ook bij chatbots komt pseudo-AI voor. Sommige chatbot-diensten claimen dat ze op basis van een gesprek de agenda van de gebruiker inplannen. In werkelijkheid doen mensen zich in dit geval twaalf uur per dag voor als zo’n chatbot.

Verwarring

BrainCreators noemt pseudo-AI dan ook het meest recente voorbeeld van de verwarring rond AI. De discussie omtrent de technologie wordt aan de ene kant gedomineerd door te hoge verwachtingen in de mogelijkheden en aan de andere kant de overdreven angsten voor de gevolgen.