2min

Tags in dit artikel

, ,

De European Consumer Organisation (BEUC) dringt er bij EU-agentschappen voor consumentenbescherming op aan de mogelijke schade te onderzoeken die generatieve AI-chatbots zoals ChatGPT aan personen kunnen toebrengen.

De groep is van mening dat hallucinaties, die deze generatieve AI-bots kunnen hebben, het publiek kunnen misleiden. Hallucinaties verwijzen naar inhoud die chatbots vrijgeven die waar lijkt te zijn, maar gevaarlijke aannames bevat of feitelijk onjuist is. Dit soort inhoud wordt meestal door de bot verzonnen en is niet gebaseerd op de training van de bot.

Misleidende reclame

BEUC is bezorgd dat deze hallucinaties consumenten kunnen misleiden en resulteren in “overeenkomstige risico’s van misleiding, fraude en desinformatie”. De groep is vooral bezorgd over het jongere publiek. Zij merkt op dat zij wellicht nog vatbaarder zijn voor valse informatie of misleidende advertenties.

In een brief dringt adjunct-directeur-generaal Ursula Pachl er namens BEUC bij de EC op aan om “met spoed de risico’s van deze AI-systemen voor consumenten te onderzoeken”. Ze dringt erop aan de aanwezigheid van AI-chatbots op consumentenmarkten in kaart te brengen. Verder roept ze op om te onderzoeken “welke corrigerende maatregelen moeten worden genomen om schade voor de consument te voorkomen.”

BEUC bestaat uit 46 lidorganisaties uit 32 landen. De koepelgroep uitte haar zorgen eerder deze maand in afzonderlijke brieven aan het netwerk van consumentenveiligheidsautoriteiten (CSN-netwerk) en het netwerk van consumentenbeschermingsautoriteiten (CPC-netwerk).

Stem van bezorgdheid

De bekendste toepassing van generatieve AI is ChatGPT, een chatbot die het door Microsoft gesteunde OpenAI eind vorig jaar deelde. De bot werd beroemd door zijn vermogen om een tekstvraag op te nemen en vervolgens een mensachtige reactie te geven. Bedrijven als Google, Amazon en Meta zijn sindsdien van de zijlijn afgestapt. In een poging niet te ver achterop te raken, hebben deze giganten soortgelijke tools aangekondigd.

Hoewel generatieve AI-initiatieven de afgelopen maanden tot op zekere hoogte een warm onthaal hebben gekregen, hebben velen een kritische blik. Sommige industrietitanen staan erop dat AI-laboratoria onmiddellijk stoppen met het trainen van AI-systemen die krachtiger zijn dan GPT-4 voor ten minste de komende zes maanden.

Tip: Dolly 2.0: een transparant AI-alternatief voor GPT-4

Volgens een open brief “zijn AI-laboratoria de afgelopen maanden verwikkeld geraakt in een uit de hand gelopen race om steeds krachtigere digitale breinen te ontwikkelen en in te zetten die niemand – zelfs hun makers niet – kan begrijpen, voorspellen of betrouwbaar controleren.”

Ondanks dat hij OpenAI in 2015 mede heeft opgericht (voordat hij in 2018 uit het bestuur stapte), is Tesla CEO Elon Musk een van de duizenden ondertekenaars van de open brief.