Living Labs #3

Onderzoeker vs wethouder

Living Labs #3

Onderzoeker vs wethouder

In het Living Lab in Stratumseind hangen overal sensoren en andere technische snufjes om de straat veiliger te maken. Maar moeten we dit wel willen?

Met: Christopher Geelen (Vinotion), Bart van der Sloot (Ethicus en techniekfilosoof aan de Universiteit van Tilburg) en Staf Depla (wethouder werk en economie Eindhoven).

Transcriptie

MUZIEK

CHRISTOPHER GEELEN: Ik pak even de microfoon erbij, waar zijn we nu? We zijn hier in het software gedeelte van Vinotion, waar alle programmeurs zitten, alle medewerkers…

VOICE OVER TESSA: Ik ben bij Vinotion, een van de bedrijven waarmee de gemeente Eindhoven samenwerkt in het Living Lab. Nog even kort: met het Living Lab bedoel ik Stratumseind, die kroegenstraat waar superveel sensoren hangen die van alles meten over bezoekers. Ik krijg een rondleiding van Christopher Geelen, de productmanager.

CHRISTOPHER GEELEN: Je ziet hier aan de muur verschillende posters hangen van de verschillende onderzoeksprojecten die we draaien. En daar doen we projecten naar hoek kan je het beste objecten detecteren. Hoe kan je ze het beste volgens door het beeld. Wat voor karakteristieken kan je er uithalen.

VOICE OVER TESSA: Met ‘objecten’ bedoelt Christopher trouwens mensen. Voor het Living Lab in Eindhoven ontwikkelt Vinotion een algoritme waarmee je agressie kunt detecteren. Hier wil ik meer van weten.

CHRISTOPHER GEELEN: Wat je je moet voorstellen, er hangt een camera hoog op een gebouw en die filmt een heel groot stuk van de straat. En wat onze software doet, die heeft aangeleerd hoe personen eruitzien. Als je zelf naar een persoon kijkt dan ziet ieder persoon hetzelfde eruit, hoofd, schouders en lichaam eronder. Onze software werkt hetzelfde, die kan op straat die contouren herkennen. En die contouren probeert hij te volgen zodat ie weet hoe personen door het beeld heen lopen.

VOICE OVER TESSA: Christopher legt uit dat dat de software de camerabeelden direct omzet in een soort Google Maps met stipjes die bewegen. Die stipjes zijn personen, die niet herleidbaar zijn naar jou of mij. Maar, waar je wel bepaalde dingen aan kan zien.

CHRISTOPHER GEELEN: Dus met die camera's kan je eigenlijk groepsdynamiek volgen. Dat kan je zien hoe hard de mensen lopen, waar ze naartoe lopen, hoeveel mensen er zijn, en dan kan je detecteren of het te druk wordt in de straat, of dat er heel veel mensen rennen en dat er paniek uitbreekt. Dat soort gegevens kunnen wij eruit halen.

VOICE OVER TESSA: En met al die gegevens kunnen ze dus meten of er ergens hommeles is.

CHRISTOPHER GEELEN: Ja, dus op dit moment kunnen we ook agressie detecteren, maar agressie moet je dus ook zien als groepen mensen die op elkaar af rennen. We maken geen gebruik van gezichtsherkenning. Daar is de resolutie van onze camera ook te laag voor. Wij gebruiken precies dat soort kenmerken die kunnen aantonen dat er agressie optreedt. En wat zijn die kenmerken precies? Bijvoorbeeld dat de geluidscamera een klap detecteert, kan of een dichtslaande deur of klap aan een ander. Twee mensen op elkaar afstormen en dan een klap volgt. Dan kan je die info eruit halen.

VOICE OVER TESSA: Vinotion heeft nu vier typen ‘hints’ voor agressie: een groep mensen die plots weg stuift, twee groepen mensen die op elkaar af rennen, iemand die zich uit een groep losrukt en dus de zogenaamde loners. Mensen die in hun eentje buiten een beetje hangen.

CHRISTOPHER GEELEN: En wie bepaald dan dat dit afwijkend gedrag is, zijn jullie dat? Nou wij hebben deze hints bepaald in samenwerking met de observatiekamers. Die hebben wij verwerkt en dan bepalen zij of dit nuttige informatie is. De observatiekamer is... Ja dus in dit geval het kamertje van Tinus. Dus de gemeente Eindhoven? Ja, precies.

VOICE OVER TESSA: De software van Vinotion wordt constant getest en de hints komen binnen op het kamertje van Tinus Kanters, de observatiekamer.

CHRISTOPHER GEELEN: En daarbij zeggen we tegen observant: in dit gebied iets aan de hand. En wat er dan gebeurt dat er of een beveiligingscamera bij wordt gepakt, die al ter beschikking staat in de observatiekamer. Of er wordt ter plekke een politieagent daar naartoe gestuurd om de situatie te controleren. Mag je dit gewoon doen? Wat wij in essentie doen is wij gebruiken de video zelf niet om mensen te detecteren. Het systeem is alleen maar geblurred aanwezig en het enige wat naderhand over is dat zijn de stipjes op de Google Maps. En de Autoriteit Persoonsgegevens heeft aangegeven: je kan daar geen persoonsgegevens uit onttrekken, want je weet alleen maar dat er een persoon was op een bepaalde plek. Ehm en daarom zou dit mogen via de privacywet. Dus dit is anoniem? Dit is allemaal anoniem. Honderd procent? Honderd procent.

VOICE OVER TESSA: Dat klopt. Het is nu nog anoniem, alle data wordt versleuteld en samengevoegd zodat het niet meer te herleiden is tot een individu. De software wordt nu nog getest en verbeterd en de plannen zijn om de hints direct naar de politie te sturen zodat ze meteen kunnen ingrijpen.

SETNOISE BART VAN DER SLOOT

VOICE OVER TESSA: Dit is Bart van der Sloot, specialist op het gebied van privacy en big data, en verbonden aan de Universiteit van Tilburg. Hij heeft onder andere onderzoek gedaan naar het Living Lab in Eindhoven. Ik leg hem de werkwijze van Vinotion voor.

BART VAN DER SLOOT: Nou, ehm. Als het argument is: het is efficiënter om camera's op te hangen, gegevens te verzamelen, standaardprofielen te maken, algoritmes te trainen om afwijkend gedrag op vier knooppunten te analyseren, dat dan door te geven aan een meldkamer, die meldkamer dat door te geven aan de politieagent die dan dat wordt geseind. Ik moet het nog zien of dat echt efficiënter is, ik geloof dat niet zo. Ik denk dat het juist veel omslachtiger is. En al deze kosten denk ik, zou je ook kunnen investeren in nog een extra politieagent als dat probleem is.

VOICE OVER TESSA: We zitten buiten, vlakbij zijn huis in de Bijlmer in Amsterdam en zoals je hoort is Bart erg kritisch over het Living Lab. Maar dit is niet zijn enige punt.

BART VAN DER SLOOT: Wat ons in Eindhoven trof is een aantal dingen: dus er worden heel veel data verzameld, dat geeft al een ongemakkelijk gevoel, omdat de publieke ruimte eigenlijk een openbaar toegankelijke ruimte moet zijn voor iedereen waar je niet per se gemonitord wordt, tenzij daar reden voor is. Tweede was de samenwerking tussen privaat-publiek, wat je in heel veel van dit soort initiatieven ziet. Wat betekent dat ook de straat, openbare ruimte, deels in handen komt - ik zal het maar een beetje dramatisch zeggen - van bedrijven, die daar tests doen, die daar experimenteren. En wat uiteindelijk daarmee gebeurde is proberen het gedrag te beïnvloeden.

VOICE OVER TESSA: De mantra die die ik bij iedereen hoor in het Living Lab: het zijn geen persoonsgegevens, we schenden je privacy niet. Daarom mogen we dit doen. Dat vertelde Vodafone me in mijn vorige reportage ook al. Maar als er op basis van deze gegevens gehandeld wordt, dan kan het je wel degelijk raken, zegt Bart.

BART VAN DER SLOOT: Alles wat je doet, je gedraging, hoe snel je loopt, met wie je staat en dat soort dingen wordt in kaart gebracht. Ze weten niet altijd daar een naam aan te koppelen maar toch is dat data die ze over alle burgers verzamelen. Daarvan worden profielen gemaakt die ook weer consequenties kunnen hebben voor jou als individu, omdat daar op basis wordt gezegd: dit is normaal gedrag, dit is verdacht gedrag. Ook dat raakt al aan jouw vrijheidsrechten als individu. En als dat wordt toegepast natuurlijk helemaal. Als jij steeds wordt uitgekozen omdat jij bijvoorbeeld als eenling heel graag in de kroeg staat of op straat staat, en dat niet normaal gedrag is in een kroeg, dan heb je daar ontzettend veel last van. Sommige mensen vinden het gewoon heerlijk om zelf even een biertje te drinken in de straat. Privacy wordt ook vaak geformuleerd als het recht om alleen gelaten te worden, om gewoon jezelf te kunnen zijn zonder beïnvloeding. En ik denk dat dat een kern is wat vroeger heel prominent aanwezig was, als je nog steeds denk ik iemand op straat vraagt: wat is je inkomen, of hoe ziet je seksleven eruit, dat je eerst een beetje verbaasd vraagt: waarom wil je dat weten. En dat is een beetje de kernvraag die speelt op individueel niveau, maar nu ook steeds meer op groepsniveau.

VOICE OVER TESSA: We moeten het recht op privacy volgens Bart dus niet beperken tot een individu, tot een persoonsgegeven. Privacy is meer dan dat. Het is het recht om in de publieke ruimte alleen gelaten te worden. Je moet afwijkend gedrag kunnen vertonen, zonder je te moeten aanpassen aan een eenheidsworst die bepaald is door een algoritme.

SETNOISE STADHUISPLEIN EINDHOVEN

VOICE OVER TESSA: Tijd om dit de gemeente Eindhoven voor te leggen, zij zijn verantwoordelijk voor het Living Lab. Ik had een afspraak om negen uur stipt en ontmoet woordvoerder Elly Reijnen die mij naar de wethouder brengt.

STAF DEPLA: Waar zijn we nu? We zitten hier in Eindhoven en ik ben wethouder werk en economie van de stad. En dit is een innovatieve stad waar de technologie in dienst van de mensen staat en daarin willen we vooroplopen. En hoe heet je? Oh sorry [LACHT] ik heet Staf Depla.

VOICE OVER TESSA: Staf is erg trots op zn stad, zoals je hoort. Hij legt me uit dat alle experimenten in het Living Lab in Eindhoven getoetst worden aan vier principes. Een, technologie moet in dienst staan van de mensen. Twee: het moet veilig ingezet worden. Drie: het verzamelen van data in de publieke ruimte moet geen verdienmodel op zich worden.

STAF DEPLA: En vier, is gewoon dat de privacy van mensen gegarandeerd is. En die vier principes zijn de leidraad om al dit soort experimenten te toetsen. En als ze hier niet aan voldoen dan doen we er niet aan mee. En dan stellen we onze ruimtes ook niet beschikbaar. Punt.

VOICE OVER TESSA: Staf neemt z’n verantwoordelijkheid. Ik vraag door en leg hem de knelpunten van Bart voor.

STAF DEPLA: Algoritmes zijn min of meer de analyses die je maakt op basis waarvan je gegevens hebt en dan daar, conclusies aan verbindt. Wat ik heel erg belangrijk vind, zeker als het om veiligheid gaat, dat die algoritmes altijd bij de overheid bekend moeten zijn, want wij zijn verantwoordelijk voor de veiligheid, en wij moeten aanspreekbaar zijn om welke algoritmes we gebruiken, en niet dat we kunnen zeggen van 'ja, we hebben een bedrijf ingehuurd dat die dan bedacht heeft dat alle Helmonders gevaarlijk zijn, daar zijn wij niet verantwoordelijk voor'. Daar zijn wij verantwoordelijk voor. Maar hoe pakken jullie dit dan aan in het LL in Eindhoven. Je zegt net wij stellen die voorwaarden, wat is dan agressie voor Eindhoven. Volgens de gemeente? Poeh, dat is een goeie vraag. Dat weet ik niet zo. Kijk wij zitten nu nog in als ze daar vandaan komen dan gaan we meer politie inzetten. Tot nu toe is het heel erg om achteraf te kunnen analyseren, welke groepen zijn er geweest en wat kunnen we daarvan leren, het gaat nu veel meer op basis van geluid en anderszins. En het gedrag van mensen in groepen en niet waar ze vandaan komen. Kijk het is interessant te weten wat voor soort evenementen, wat voor groepen mensen waar vandaag komen. Dus ja, dat weet ik niet precies, maar het is wel zo dat... Volgens mij is de essentie van al die vragen die jij stelt, dat is iets waar juist, waar je niet aan de voorkant de eisen kan stellen in deze fase. Ja het is eigenlijk gewoon een soort zoektocht, en daarom een LL dat je dat gecontroleerd doet, met wetenschappers en met anderen. Elke keer dit soort vragen stelt van ja hoe doen we dat hier en is het wel goed geborgd.

VOICE OVER TESSA: En daar hebben we de mantra weer: we verzamelen geen persoonsgegevens, alleen anonieme data. En als we data inkopen bij anderen, zoals bij Vodafone, dan is die data geanonimiseerd en ook nog eens samengevoegd tot een groep. We schenden je privacy dus niet. Staf begint over gebieden waar dit recht niet goed gewaarborgd is. Die kant moeten we niet opgaan.

STAF DEPLA: Je ziet het toch gebeuren. In China moet ik data inleveren voor vrijheid, nou dat is heel erg tegenstrijdig. In Amerika zie je dat Amazon, de Googles van deze wereld, die verzamelen zoveel data dat ze ons manipuleren in ons gedrag, en dat is wat wij niet moeten willen. Maar wat voor samenleving krijg je dan. En wat betekent dat voor de machtsconcentratie of bij overheden of bij bedrijven. En dit Living Lab is daar niet een voorbode van? Nee volgens mij is dit LL gecontroleerd over nadenken en proberen juist deze principes te verbinden met die nieuwe technologie. Want als je dit alleen. Als ik dit niet mag doen, en je zegt ik ben ertegen dus gebeurt er niks, dan weet ik zeker dat het Chinese en Amerikaanse model met deze technologie verder ontwikkelt. En wil je Europese tegenbeweging krijgen. Dan moet je juist investeren in kennis en ideeën en de praktijk hierover om het niet alleen een idee te laten zijn, maar ook een aantrekkelijk alternatief wat wel aan die veiligheids- en die privacy- en die samenlevings-eisen voldoet.

VOICE OVER TESSA: Terug naar Bart.

BART VAN DER SLOOT: In Eindhoven, en dat zie je bij heel veel projecten van de overheid, die weten verdomd goed dat er problemen zijn maar die noemen het dan bijvoorbeeld een experiment, en bij een experiment mogen ze klaarblijkelijk rechtsregels aan hun laars lappen. Dan zeggen ze ja privacy is nog een issue en daar kijken we naar. Bijvoorbeeld een van de spreuken die ook bij living lab Eindhoven wordt gebruikt. Dat kan natuurlijk niet als de overheid weet dat er problemen met privacy zijn, met de mensenrechten als zodanig, met burgerlijke vrijheden, om dan te zeggen: ja, maar het is maar een experiment en we weten nog niet of we over twee jaar wel doorgaan, dat je dan ondertussen maar de mensenrechten gaat schenden.

VOICE OVER TESSA: Staf denkt er anders over. Je moet experimenteren, anders gaan we de kant van China of Amerika op.

STAF DEPLA: We willen gewoon iets bereiken. En iedereen die zich druk maakt over privacy wil ook iets bereiken. En het gaat erom, in je eentje kan je daar heel boos over zijn, maar dan kan je ergens alleen in een hoekje gaan zitten. Maar juist als collectief in dit geval de gemeente, of meerdere gemeenten, dat op te pakken samen met bedrijven en kennisinstellingen dan kan je een vuist maken en de wereld veranderen.

MUZIEK

VOICE OVER TESSA: Oke, Bart van der Sloot zegt dus… hartstikke leuk zo'n experiment maar organiseer het beter en denk ook wat beter na over de ethische knelpunten van een Living Lab. Je kan niet alles onder het mom van experimenteren maar doen. Wethouder Staf zegt: we moeten eerst experimenteren om te weten waar we tegenaan lopen, en als we dan knelpunten tegenkomen, dan gaan we ermee aan de slag. En als wij het dit niet gaan doen, dan gaan grote bedrijven er met deze data vandoor. Wat vind jij hier nu van? Ben je het eens met Bart of de wethouder? Laat het me weten in de app. En ook waarom!

Download de app

Trees is een journalistieke zoektocht, waarbij journalisten Meike, Volkan en Tessa met jou uitzoeken wat jij wilt weten. Reageer op de vragen en verhalen van de makers en draag actief bij aan lopende onderzoeken via de app. Trees luistert naar je.



Get it on Google Play
advertentie