OpenAI maakt een bijgewerkte versie van chatbot ChatGPT, die gebruikers kunnen aanpassen aan hun behoeften. De stap komt in het licht van de aanhoudende bezorgdheid over vooroordelen in AI.
Het bedrijf stelt in een blogpost dat het werkt aan het verminderen van politieke en andere vooroordelen, maar dat het er ook voor wil zorgen dat er rekening wordt gehouden met meer uiteenlopende standpunten. Om dit te bereiken, zal het gebruikers meer aanpassingsmogelijkheden bieden, hoewel het bedrijf erkende dat er altijd enkele grenzen zullen zijn aan het gedrag van het systeem.
ChatGPT, uitgebracht in november 2022, heeft aanzienlijke belangstelling gewekt voor de generatieve AI-technologie die wordt gebruikt om antwoorden te produceren die menselijke spraak simuleren.
ChatGPT-technologie nog niet klaar voor prime time
De aankondiging komt als de door Microsoft aangedreven Bing zoekmachine, die ook OpenAI gebruikt, is bekritiseerd voor het geven van potentieel gevaarlijke antwoorden, wat aangeeft dat de technologie misschien nog niet klaar is voor mainstream gebruik.
Aangezien technologiebedrijven in de generatieve AI-sector hun producten blijven ontwikkelen, is het vinden van manieren om voorzorgsmaatregelen te treffen voor opkomende technologie een belangrijk aandachtspunt geworden.
In een blogpost legt OpenAI uit dat de antwoorden van ChatGPT worden getraind op grote tekstdatasets voordat ze door mensen worden beoordeeld. Deze beoordelaars krijgen richtlijnen om de AI te laten reageren op bepaalde vragen en waarschuwen om niet te reageren op volwassen, gewelddadige of haatdragende taal.
Microsoft blijft de chatbot verbeteren
Bij vragen over controversiële onderwerpen kan de AI antwoorden, maar moet hij standpunten beschrijven in plaats van een definitief standpunt in te nemen. De richtlijnen van Microsoft voorkomen dat de AI een onjuist standpunt inneemt over complexe onderwerpen.
Microsoft heeft ook geprobeerd zijn AI-chatbot te verbeteren met behulp van feedback van gebruikers, waaruit bleek dat het systeem tot onbedoelde antwoorden kon worden aangezet.
Deze laatste stap van OpenAI toont aan dat het bedrijf de bezorgdheid over vooroordelen in AI wil aanpakken. Terwijl bedrijven in de sector van generatieve AI hun technologie blijven verbeteren, moeten ze er ook voor zorgen dat er voorzorgsmaatregelen worden genomen om het soort negatieve publiciteit te voorkomen dat het vertrouwen in AI kan ondermijnen.
1 uur geleden
