Twitter bestudeert eigen algoritmes om vooroordelen te voorkomen

Abonneer je gratis op Techzine!

Twitter Inc. heeft aangekondigd zijn machinelearning-algoritmes onder de loep te nemen. Dit in een poging om te bepalen of hun algoritmes onbewust discriminerende beslissingen maken op het platform.

Als onderdeel van Twitters “Responsible Learning Initiative” zal het bedrijf onderzoeken of er met betrekking tot hun algoritmes sprake is van racisme of vooroordelen gebaseerd op sekse.

Racisme bijsnijden foto’s

Vorig jaar kwam Twitter onder vuur te staan, omdat hun algoritmes voor het bijsnijden van foto’s gezichten met een lichtere huidskleur leken te prefereren. De feature wordt gebruikt om onbelangrijke delen van foto’s eraf te snijden, zodat er meer ruimte is op het platform. Verschillende algoritmes moeten ervoor zorgen dat gezichten en tekst na het bijsnijden nog zichtbaar zijn. Experimenten van gebruikers lieten echter zien dat de feature niet helemaal onbevooroordeeld is. Het algoritme zou een voorkeur hebben voor gezichten met een lichtere huidskleur en mensen met een donkere huidskleur vaker wegsnijden. Twitter liet hierop weten de algoritmes te hebben getest op vooroordelen. Er zou echter duidelijk meer onderzoek en analyse nodig zijn.

Twitter algoritmes

Vandaag liet het bedrijf in een blog post weten hun algoritmes intern te gaan analyseren. Hiervoor zullen ingenieurs, researchers en datawetenschappers binnen het bedrijf ingezet worden. Deze zijn toegewijd zijn aan machine learning, ethiek, transparantie en verantwoording. Het team zal de focus leggen op drie gebieden. Ten eerste zal gekeken worden naar vooroordelen met betrekking tot ras en sekse wanneer het gaat om het bijsnijden van foto’s. Daarnaast is er ook aandacht voor de eerlijkheid met betrekking tot raciale subgroepen en aanbevolen tweets op de timeline. Als derde wordt er gekeken naar aanbevelingen voor politieke ideologieën in zeven verschillende landen.

Twitter geeft aan dat wanneer er na de analyses vooroordelen blijken te zijn, algoritmes verwijderd zouden kunnen worden. Twitter zou ook kunnen gaan voor iets wat het bedrijf “algorithmic choice” noemt. Hierbij hebben gebruikers de mogelijkheid om aanpassingen te maken aan wat ze op het platform zien. Het bedrijf zegt dit laatste aan het onderzoeken te zijn en binnenkort hier meer over te delen.

Tip: Sociaal netwerk Twitter gaat mogelijk volledig op de schop