Dat is de gedachte achter de fraudescorekaart, een inmiddels omstreden methode die jaren is gebruikt in 158 gemeentes om bijstandsfraude aan te pakken. In 2020 riep het ministerie van Sociale Zaken de gemeentes op om te stoppen met het gebruik ervan. Het systeem bleek ‘in strijd met de AVG en in het algemeen in het denken over kunstmatige intelligentie.’ Argos ontdekte dat nog minstens vier gemeentes het systeem toch zijn blijven gebruiken.
Samen met onderzoekscollectief Lighthouse Reports kreeg Argos de fraudescorekaart in handen en spitte door alle variabelen en formules. Voor het eerst is zichtbaar op basis van welke variabelen burgers door de overheid worden beoordeeld. Een reconstructie van een systeem dat honderdduizenden mensen profileerde. Kamerlid Pieter Omtzigt: ‘Nog een keer profilering, zoals we dat bij de toeslagenaffaire gezien hebben.’
Bent u kapper, bouwvakker of heeft u een schoonmaakbedrijf gehad? Bent u alleenstaand, laag opgeleid en woont u in een mindere buurt? Grote kans dat u verdacht wordt van bijstandsfraude, mocht u een uitkering willen aanvragen.
Abonneer je op Argos-podcast
De wekelijkse radio-uitzending van Argos is ook te beluisteren als podcast via ►Spotify ►ApplePodcasts ►Stitcher ►RSS-feed. Meer weten? Klik hier.
sprekers
Sennay Ghebreab
Universitair hoofddocent Kunstmatige Intelligentie aan de Universiteit van Amsterdam.
Cynthia Liem
Hoofddocent Multimedia Computing Group en computerwetenschapper Intelligent Systems van de TU Delft.
Tamara
Heeft enkele jaren beroep gedaan op de bijstand.
Wim Roelofs
Mede-ontwikkelaar van de Fraudescorekaart voor Stichting Stimulansz, in opdracht van het Ministerie van Sociale Zaken en Werkgelegenheid.
Bernard de Leest
Advocaat sociaal zekerheidsrecht, hoofdredacteur Nederlandse Documentatie Sociale Zekerheid.
Reinier Tromp
Datajournalist van Argos.
achtergrondverhalen
In het vizier van het algoritme
Argos neemt in deze uitzending een Rotterdamse systeem onder de loep, en diende met onderzoekscollectief Lighthouse Reports een Wob-verzoek in. Kenmerken als leeftijd, geslacht, woonwijk, taal en zelfs aanwijzingen voor psychische, medische en financiële problemen blijken een voorspellende waarde te hebben in de fraudebestrijding.
Het geautomatiseerde wantrouwen van de overheid
Jarenlang blijkt bij de IND een systeem te hebben gedraaid om het frauderisico in te schatten van bedrijven die kennismigranten naar Nederland willen halen. In dit systeem, zo ontdekten wij, werd ook afkomst van de bedrijfsbesturen geregistreerd: Nederlands, westers en niet-westers. Hoe zit dat? Beluister hier de aflevering.