De overheid gebruikt algoritmes om te voorspellen of iemand misschien fraudeert. Dat dit mis kan gaan weten we inmiddels van de Toeslagenaffaire: er bleek sprake van discriminatie van mensen met een tweede nationaliteit en vooral mensen met lage inkomens werden op de korrel genomen.

Maar ondanks dit schandaal is er niet veel bekend over dit soort systemen. De overheid wil burgers meestal niet wijzer maken, omdat ze anders controles zouden kunnen ontlopen door hun gedrag aan te passen.

Maar in Rotterdam is de gemeente er wél open over. Er is inmiddels flinke, democratische discussie over een algoritme om bijstandsfraude op te sporen. 

Argos neemt in deze uitzending dit Rotterdamse systeem ook onder de loep, en diende met onderzoekscollectief Lighthouse Reports een Wob-verzoek in. Kenmerken als leeftijd, geslacht, woonwijk, taal en zelfs aanwijzingen voor psychische, medische en financiële problemen blijken een voorspellende waarde te hebben. 

Zaterdag 18 december, 14 uur, NPO Radio 1

Abonneer je op Argos-podcast

De wekelijkse radio-uitzending van Argos is ook te beluisteren als podcast via ►Spotify ►ApplePodcasts ►Stitcher ►RSS-feed. Meer weten? Klik hier.

sprekers

Kenneth Soeleman

kaderlid FNV

Aart van Zevenbergen

gemeenteraadslid in Rotterdam van de SP

Maxim Februari

filosoof en publicist

 

Cynthia Liem

wetenschapper aan TU Delft. Gespecialiseerd in Kunstmatige Intelligentie

 

Jacqueline Nieuwstraten

advocaat bij Advokatencollectief Rotterdam. Gespecialiseerd in bijstandszaken

Ludo Hekman

onderzoeksjournalist Lighthouse Reports 

Gerwin van Schie

wetenschapper aan de Universiteit Utrecht 

achtergrondverhalen

‘Badmeester wat weet u van mij?’

Het wordt steeds makkelijker om gegevens op te slaan en te delen. Onze medische geschiedenis, onze locatiegegevens, informatie over ons leesgedrag, ons koopgedrag, onze vrienden, ons liefdesleven. Het is allemaal opgeslagen op servers in binnen- en buitenland. 

Datahonger te lijf met de AVG. Werkt dat?

Datahonger te lijf met de AVG Werkt dat? Instellingen en bedrijven verzamelen steeds meer data van burgers en consumenten. Sinds 25 mei 2018 is Europese wetgeving van kracht die allerlei voorwaarden en beperkingen stelt aan die datahonger, de Algemene Verordening Gegevensbescherming (AVG). Dit om Big Brother-achtige toestanden te voorkomen.