Technologie zou het leven van mensen moeten verbeteren. Maar vaak gebeurt het omgekeerde: mensenlevens vormen zich naar de beschikbare techniek, zo zegt ontwerper Richard Vijgen.

Het algoritme denkt in Rutger Bregman een 'evil person' te zien. Een kip wordt gerekend tot de categorie 'katten' en de categorie 'desserts' blijft helemaal leeg. Het leidt toch gelach bij het publiek.

Zij zijn aanwezig bij de opening van de nieuwe interactieve installatie van ontwerper Richard Vijgen in Het Nieuwe Instituut in Rotterdam. Door op een categorie te klikken tonen zich beelden waarvan een algoritme denkt dat ze bij deze categorie horen. 

De beelden zijn afkomstig uit meer dan vijfhonderd uitzendingen van VPRO Tegenlicht. Het algoritme werd speciaal ontwerpen om de uitzendingen op nieuwe manieren beschikbaar en doorzoekbaar te maken, onder andere via beeld-, spraakherkenning en tekstanalyse. Gebruikers kunnen zelf zoeken naar specifieke fragmenten, citaten en zelfs losse shots. 

Het algoritme heeft moeite met de Nederlandse rijtjeshuizen, een type woning die in de Verenigde Staten amper voorkomt.

Blinde vlekken

Een deel van de foutieve inschattingen van het algoritme kan worden verklaard door de overwegend Amerikaanse database waarmee het is getraind. Als de categorie ‘huis’ wordt geselecteerd, komen slechts een paar beelden tevoorschijn. En dat terwijl er heus meer huizen in beeld zijn geweest in de meer dan vijfhonderd Tegenlicht-afleveringen. Het algoritme heeft moeite met de Nederlandse rijtjeshuizen, een type woning dat in de Verenigde Staten amper voorkomt.

Richard Vijgen praat er over met bezoekers van de installatie. Stel dat er een internationaal archief komt van architectuur, zegt hij, dan moeten instituties zoals Het Nieuwe Instituut goed nadenken over de gevolgen van deze blinde vlek. Het zou zomaar kunnen dat Nederlandse architectuur niet wordt herkend door zo’n algoritme en daardoor niet in zo’n archief terecht komt.

Meet het algoritme uiteindelijk wat wij belangrijk vinden, of wordt datgene dat het algoritme kan meten belangrijk?

Aanpassen aan het algoritme

In eerste instantie denken we misschien dat we het algoritme dan beter zullen moeten trainen - de bias verwijderen. Maar het zou ook zomaar kunnen dat we ons zelf gaan aanpassen aan het algoritme, denkt Vijgen.

Makers van websites denken aan digitale vindbaarheid en passen hun website erop aan. Met de snelle voortgang van ‘slimme’ archieven en andere algoritmisch gestuurde databases zou het zomaar kunnen dat we bij steeds meer artefacten rekening zullen houden met herkenbaarheid door digitale systemen.

Sterker nog, dat doen we al. Op allerlei vlakken passen we onszelf en onze omgeving aan zodat het past binnen de logica van computers. Wat we niet kwantitatief kunnen uitdrukken, lijkt steeds minder gezien te worden.

Vijgen wil met zijn installatie aanzetten tot denken over hoe wij onszelf trainen en aanpassen aan het algoritme, zo zegt hij. Meet het algoritme uiteindelijk wat wij belangrijk vinden, of wordt datgene wat het algoritme kan meten uiteindelijk ook belangrijk?