2min

Tags in dit artikel

, , , , ,

De AI Text Classifier is gebouwd bovenop GPT en gebruikt de technologie om te voorspellen of tekst door een AI is gegenereert. Deze ontwikkeling is een logisch gevolg op de kritiek die volgde na de introductie van ChatGPT. Verschillende scholen en universiteiten hebben ChatGPT direct verboden vanwege de mogelijkheid om huiswerkopdrachten van studenten te maken.

De nieuwe AI Text Classifier is overigens nog minder overtuigend dan gehoopt. Bij tests op door mensen gemaakte tekst kon hij vaak correct vaststellen dat deze niet door een AI was gegenereert. Maar de resultaten waren niet zo nauwkeurig bij het bepalen of de tekst was gegenereerd door AI-tools zoals ChatGPT of de AI-chatbot van You.com.

Bij evaluaties vertoont de classificator hiaten

Bij de uitgevoerde tests identificeerde de classificator slechts 26% van de door AI gegenereerde tekst als waarschijnlijk door AI gegenereerd, terwijl de door mensen geschreven tekst in 9% van de gevallen ten onrechte als door AI geschreven werd bestempeld. Desondanks heeft OpenAI gewaarschuwd dat de AI Text Classifier niet moet worden gebruikt als het enige bewijs bij het vaststellen van academische oneerlijkheid.

Het bedrijf stelt dat de betrouwbaarheid van de classificator doorgaans beter is naarmate de lengte van de ingevoerde tekst toeneemt, maar dat het op dit moment nog steeds geen volledig betrouwbaar hulpmiddel is.

OpenAI verklaarde ook dat het succes van de classificator na verloop van tijd waarschijnlijk zal verbeteren naarmate de trainingsdata van het model zal toenemen.

AI-technologie is nog volop in ontwikkeling

De AI Text Classifier is slechts één voorbeeld van het gebruik van AI in tekst. Maar naarmate de AI voortschrijdt, zullen er waarschijnlijk soortgelijke hulpmiddelen komen om vast te stellen of tekst door een AI is gegenereerd.

Dit zal waarschijnlijk gevolgen hebben voor verschillende sectoren, waaronder het onderwijs, waar het zou kunnen worden gebruikt om spieken of plagiaat op te sporen. De AI Text Classifier is een stap voorwaarts in het detecteren van door AI gegenereerde tekst, maar het is nog geen perfect hulpmiddel. Het bedrijf gelooft dat het succes van de classificator mettertijd zal toenemen naarmate hij verder wordt getraind met meer gegevens.

Luister ook naar onze podcast over ChatGPT: AI weer stap verder, gaat ChatGPT de wereld veranderen?