Google onderzoekt gedrag van AI-topspecialiste

Abonneer je gratis op Techzine!

Google onderzoekt het gedrag van één van zijn topspecialisten op het gebied van het ethisch gebruiken van AI-oplossingen en -toepassingen, Margaret Mitchell. Aanleiding voor het onderzoek is het opstappen van één van de andere ethische AI-specialisten waarbij de onderzochte specialist nu zou zijn betrokken.

Concreet zou, volgens nieuwssite Axios, Google nu het gedrag onderzoeken van zijn specialist op het gebied van ethisch AI-gebruik Margaret Mitchell. Deze specialist zou geautomatiseerde scripts hebben gebruikt om in berichten voorbeelden te vinden van discriminatie van een recent bij Google opgestapte andere ethische AI-specialist. Google heeft nu het account van Mitchell afgesloten. Zij is echter nog niet ontslagen.

Zaak Gebru

Mitchell onderzocht de gang van zaken rondom het opstappen van de ethische AI-specialist Timnit Gebru. Zij nam ontslag bij Google door in een dispuut rondom een publicatie van de ethische AI-specialist. Google checkt systematisch publicaties van medewerkers op inhoud.

Deze publicatie zou door de techgigant zijn afgekeurd, waarop Gebru Google beschuldigde van censuur. Dit vanwege mogelijke informatie die Google niet welgevallig was. Gebru dreigde de publicatie alsnog te publiceren of anders op te stappen. Google accepteerde vervolgens dat zij ontslag nam. Op social media beschuldigde Gebru de techgigant echter van discriminatie. In een reactie geeft Google nog steeds aan dat de paper van Gebru niet aan de standaarden voldeed en dat zij daarvoor was gewaarschuwd.

Automatisch handelen van Google

Wat betreft het onderzoek naar Margeret Mitchell geeft Google aan dat zijn systemen automatisch accounts blokkeren als zij verdacht gedrag detecteren. In dit geval werd ontdekt dat duizenden bestanden waren gedownload en met externe accounts waren gedeeld. Hierop werd het account afgesloten en werd Mitchell ingelicht. Margeret Mitchell beschuldigt op haar beurt Google van het ‘systematisch buitensluiten van vrouwen met een andere huidskleur’. Wordt ongetwijfeld vervolgd.