YouTube bestempelt schaaktermen ‘zwart’ en ‘wit’ als haatspraak

YouTube haalde een schaakkanaal offline, omdat de artificiële intelligentie van het videoplatform de woorden ‘zwart’ en ‘wit’ interpreteerde als haatspraak.

Vorig jaar werd het schaakkanaal van de Kroatische YouTuber Antonio Radic, die met het pseudoniem ‘Agadmator’ een miljoenenpubliek heeft, een tijdlang door YouTube verwijderd. Het videoplatform gaf nooit een uitleg voor de ban. Zelf speculeerde Radic dat een schaaksessie met schaakgrootmeester Hikaru Nakamura – meer bepaald het gebruik van de term “zwart tegen wit” – de aanleiding voor de ban vormde.

YouTube bestempelt reacties vaker onterecht als racistisch

Ashiqur R. KhudaBukhsh, een computerwetenschapper aan het Carnegie Melon’s Language Technologies Institute, vermoedde dat Radic gelijk had. “We weten niet welke hulpmiddelen YouTube gebruikt, maar als ze vertrouwen op artificiële intelligentie om racistische taal te detecteren, kunnen dit soort ongelukken gebeuren”, zegt KhudaBukhsh.

Samen met zijn collega-onderzoeker Rupak Sarkar onderzocht hij meer dan 680.000 reacties van vijf populaire schaakkanalen op YouTube. Daarmee ontdekten de onderzoekers dat 82 procent van de reacties die als racistisch werden aangeduid, onterecht als dusdanig werden bestempeld.

Volgens de onderzoekers activeerden woorden als ‘zwart’, ‘wit’, ‘aanval’ en ‘bedreiging’ het AI-algoritme van YouTube. Zij suggereren aan sociale mediaplatform om rekening te houden met schaaktermen bij ontwikkelen van hun algoritmes.