AI Act: een wetgeving die altijd moet bijbenen met een nieuwe werkelijkheid

Het veld van AI is volop in ontwikkeling en momenteel nog met een vrij grote vrijheid voor de ontwikkelaars. De EU brengt daar binnen zes maanden verandering in met wetgeving rondom de nieuwe technologie.

De aankomende wetgeving van de Europese Unie voor AI, heeft al voor aardig wat gespreksstof gezorgd. De een beweert dat regulering de Europese economie een halt toeroept, terwijl de ander voordelen ziet wat betreft de veiligheid van AI-tools. Hoe dan ook is aan de voorlopig goedgekeurde wettekst al een lange weg voorafgegaan en ook het laatste woord is nog niet over de definitieve tekst gesproken. Hoe is de wet al tot de vorm waarin we hem nu kennen gekomen en welke hindernissen liggen er nog op de loer?

Lees ook: EU stemt over AI Act-ontwerp: moet ChatGPT veranderen?

Schrijven en herschrijven

Een eerste versie van de AI-wet sprak zich al helemaal anders uit tegenover generatieve AI-tools dan de voorlopige wettekst die een stemming in het Europees Parlement overleefde. Over die eerste versies van de tekst, stuurden verschillende bedrijven hun advies naar de Europese Commissie en Raad. Het advies van OpenAI analyseerden we eerder al uitgebreid en trok voornamelijk ten strijde tegen de categorie ‘hoog risico’. Door de eerder definitie van deze categorie, zouden generatieve AI-tools zoals Bard en Bing Chat verbannen worden in Europa.

Een bedrijf als OpenAI heeft met zijn generatieve AI-tool ChatGPT er heel wat baat bij om tegen dergelijke redeneringen in te gaan. Workday bezit zelf geen foundation models, maar verweefde AI in de kern van zijn technologieplatform voor personeelsbeheer en finance. Het bedrijf nam toch ook het eerste wetsvoorstel al onder de loep en bracht een eigen advies uit, waarin het zich verenigde met het advies van OpenAI over de categorie ‘high risk’.

Volgens Jens-Henrik Jeppesen, senior director van publiek beleid bij Workday en verantwoordelijke voor het advies van Workday aan de Europese Commissie, toont de evolutie van het wetsvoorstel mooi aan in welke wilde zee Europa koers probeert te zetten: “De categorie hoog risico-producten werd eigenlijk al in het leven geroepen nog voordat grote AI-tools zoals ChatGPT lanceerden.”

OpenAI en andere significante spelers in het veld van generatieve AI, zoals Microsoft en Google, beargumenteerden al dat hun producten geen hoog risico bevatten. Ze redeneren dat producten alleen van deze categorie deel moeten uitmaken als ze een high risk use-case dienen. Jeppesen gaat akkoord: “Aangezien ChatGPT geen beoogd doel heeft, maar voor meerdere doeleinden kan worden gebruikt, valt het daarom niet automatisch in de categorie met een hoog risico.”

Nieuwe kritiek

Jeppesen wil niet zeggen dat foundation models onder alle regulering uit moeten vallen: “Het is onvermijdelijk dat er uiteindelijk regels zullen zijn voor deze producten, maar de regulering moest wel zachter worden dan het eerste voorstel formuleerde.” Het bedrijf voorziet in de context van het huidige wetsvoorstel geen grote hindernissen voor foundation models. De uiteindelijke wettekst kan natuurlijk nog steeds afwijken van het wetsvoorstel, dus het gaat hier louter om een voorspelling.

Lees ook: Onderzoek: ‘Foundation models voldoen grotendeels nog niet aan AI Act’

Met die redenering zijn ze een stuk milder voor de uiteindelijke wettekst dan enkele van hun klanten zijn. Onder andere Airbus en Siemens tekenden na de onthulling van de voorlopige AI-wet een open brief aan de Europese Commissie met de mogelijke gevaren van de AI Act voor de Europese economie. Europese bedrijven zijn bezorgd dat de strenge regulering AI-ontwikkelaars zal ontmoedigen om hun product beschikbaar te maken voor de EU. Om in orde te zijn met de regulering moeten deze bedrijven namelijk veel tijd en middelen vrijmaken, wat voor een hindernis kan zorgen.

‘Wetgeving om vertrouwen te winnen’

Op dit moment ziet Jeppesen twee problemen met nieuwe AI-producten. Voor het eerste moeten we de hand in eigen boezem steken. De overheersend negatieve berichtgeving over AI-producten, schrikt bedrijven volgens Jeppesen af om met de nieuwe technologie te experimenteren. In de media hoor je regelmatig verhalen over auteursrechten-schending door AI en tot welke slechte zaken AI kan bijdragen (denk bijvoorbeeld aan hacken).

Bovendien is er op dit moment een enorme race in het uitbrengen van AI-producten, merkt ook Jeppesen. Iedereen wil zo snel mogelijk zijn producten op de markt hebben en dit heeft enorme risico’s voor de veiligheid van deze producten. Regulering kan dit probleem oplossen door lijnen uit te zetten waarin ontwikkeling van dergelijke technologieën kan plaatsvinden.

“Door nu te pleiten voor regulering leggen we de lat hoger voor AI-tools en de regels zullen bedrijven die al deze negatieve zaken over AI lezen ook geruststellen. Door de regels kunnen Europese bedrijven met meer vertrouwen nieuwe technologieën in huis halen. De regels zullen voor ons dus voornamelijk zorgen dat er meer vertrouwen is in de AI-markt.”

Bedrijven die zich ondanks deze problemen toch al waagden aan AI, kunnen op het tempo van de EU de interne regulering voor de technologie aanscherpen. Voor Workday is dat in ieder geval de gang van zaken. “Bij Workday werken we al lange tijd met ethische principes voor het gebruik van AI. We zorgen ervoor dat onze AI governance mee-evolueert met de Europese regels. Voor ons zal het dus geen probleem vormen om in orde te zijn met de AI Act.”

Uitkomst (deels) verzekeren

Het is moeilijk voor de EU en interessant tegelijk dat de AI Act een wetgeving is die wordt opgebouwd terwijl nieuwe AI-producten volop in de maak zijn. Het is goed mogelijk dat er bijvoorbeeld in december een AI-product lanceert dat eigenlijk in het voorstel voor de AI Act nog niet is opgenomen en in geen enkele categorie past. Wetgevers zullen daar rekening mee moeten houden en moeten de wetgeving snel kunnen schakelen.

Het uiteindelijke effect van de AI Act is daardoor moeilijk voorspelbaar en zorgt nog voor aardig wat onrust in de AI-markt. De komende zes maanden sleutelt Europa nog verder aan de wettekst. Dat zal in samenspraak met de industrie gebeuren en Workday toont zich alvast paraat: “We willen helpen met het definiëren van de concepten in de wetgeving, zodat deze duidelijk zijn voor de bedrijven die aan de slag gaan met AI-technologie, maar ook zodat de regels het doel dienen dat de EU voor ogen had en geen ongewenst effect hebben.”

Tip: In de podcast van 19 juni 2023 formuleerden we onze kijk op de aankomende AI-wet. Je luistert het hieronder.