Wat als algoritmes gaan besluiten of je in de cel moet zitten of niet? In de Verenigde Staten gebeurt dat al.

Dat het algoritme je hele leven in de war kan schoppen, komt goed naar voren in de aflevering Verslaafd aan het algoritme (2018). Techno-optimisten laten zich er graag op voorstaan dat een algoritme objectief en neutraal is.

Toch zijn het mensen die de data erin stoppen, en dat brengt een bias - vooroordelen - met zich mee. Dat kan verregaande gevolgen hebben. In de Verenigde Staten worden al algoritmes gebruikt om besluiten te nemen die vroeger door rechters werden genomen. Zo bepaalde een algoritmisch model dat gevangene Glenn Rodriguez langer vast moet zitten in plaats van vervroegde vrijlating. 

kijk de video over de robotrechter ↓

het radicale alternatief

Algoritmes worden dus steeds vaker toegepast. Op strafrechtelijk terrein, maar ook om ons koopgedrag te sturen, te bepalen naar welke video’s we kijken en wat we te zien krijgen op Facebook.

Volgens Roland, die eerder een uitzending maakte over de klus-en klik- en platformeconomie, is er nog een andere reden waarom algoritmes steeds vaker de overhand krijgen: algoritmes zijn vaak kostenbesparingen om de mens uit het dure werkproces te halen. Pakjes- en maaltijdbezorgers verdienen meer geld naarmate ze harder fietsen. Vrij nemen is er vaak niet bij, want dan verlies je je plek in het algoritme.