Wetenschappers zeer succesvol in misleiden beeldherkennings-AI

Abonneer je gratis op Techzine!

Het menselijk oog kan eenvoudig onderscheid maken tussen verschillende beelden. Zo weten we heus wel wanneer een beeld van een kat een echte foto betreft, en wanneer er sprake is van een psychedelische en bewerkte versie. Voor kunstmatige intelligentie blijkt dat niet altijd even eenvoudig te zijn.

Tijdens de Conference on Computer Vision and Pattern Recognition in Salt Lake City demonstreerden onderzoekers van UnifyID een manier om IBM’s Watson te misleiden. De objectherkenning die ten grondslag ligt aan de kunstmatige intelligentie kon in maar liefst 97,5 procent van de pogingen misleid worden.

Beeldherkenning gaat mis

De onderzoekers maakten gebruik van een neuraal netwerk – in dit geval Magneta, een open source TensorFlow-onderzoeksproject dat door een Google Brain-team ontwikkeld is en liedjes, afbeeldingen en tekeningen genereert. Dat werd vervolgens gebruikt om foto’s van katten te transformeren tot kubistische, Picasso-achtige creaties.

In eerste instantie had de computer er geen enkele moeite mee om katten te herkennen. Aan de hand van onder meer de kleuren van een kat en de lengte van de vacht, kon de AI bepalen om wat voor ras het ging. Maar naarmate de onderzoekers Magenta steeds verder lieten gaan, wist de AI steeds minder zeker wat het nou eigenlijk zag. Waar de AI eerst dacht dat het om een kat ging, werd er op steeds meer andere dingen ingezet, van carnivoor tot cellofaan, tot mot en ongewervelde.

Onderzoek stimuleren

In een grootschaligere test, werden tweehonderd willekeurig gekozen foto’s van katten genomen en veranderd via de Magenta-generator. Daarna werd de Watson Visual Recognition API ingeschakeld, die vooral dacht dat het om ‘gek naaiwerk’, ‘camouflage’ of ‘mozaïeken’ ging.

In een statement laten onderzoekers weten dat ze vooral aandacht wilden trekken naar het feit dat de definitie van afbeeldingen aan de hand van tags, soms nog tot fouten kan leiden. Het is vooral de hoop dat dit soort onderzoeken helpen de technologie aan te scherpen en verbeteren.