Lieve CEO

Tijmen Schep (Gr1p) en Sandor Gaastra (MinEZ)

Lieve CEO

Tijmen Schep (Gr1p) en Sandor Gaastra (MinEZ)

"In een wereld waarin de druk om perfect te zijn toeneemt, beschrijf ik privacy als het recht om imperfect te zijn." [TS]

Voor Lieve CEO koppelde Stichting Gr1p op verzoek van het VPRO Medialab enkele van de meest prominente denkers van het moment aan vertegenwoordigers van bedrijven en de overheid om te debatteren over wearables en media. Samen zoeken zij in een briefwisseling de ruwe randen op van wearable technologie en leggen de meest prangende controverses bloot.

Het is aan u, als lezer, om op basis van deze betogen uw positie ten opzichte van wearable technologie in te nemen.

in deze conversatie

Sandor Gaastra, directeur-generaal voor Energie, Telecom en Mededinging bij het Ministerie van Economische Zaken.

Tijmen Schep schrijft als lid van het netwerk van Stichting Gr1p en is technologiecriticus, privacy designer en publiek spreker die inzicht biedt in hedendaagse vraagstukken rondom Big Data.  

Sandor Gaastra

Brief 1

Beste Tijmen,

Als we het toch over privacy gaan hebben, kan ik net zo goed iets over mezelf vertellen. Ik ben directeur-generaal voor Energie, Telecom en Mededinging bij Economische Zaken. Ik ben ambtenaar: ik neem geen politieke besluiten. Ik bereid ze voor, voer ze uit en regel dat er toezicht op wordt gehouden.

Eh… vervang ‘ik’ maar door ‘mijn mensen’. En laat ‘mijn’ bij nader inzien weg, want ik ben echt niet de eigenaar van iedereen die werkt aan bij voorbeeld toegankelijke en betaalbare verbindingen voor elektronische communicatie, die bijdragen aan innovatie en economische groei.

Voordat ik verdwijn achter beleidstaal: ooit was ik politiedirecteur, en ik ben nog steeds vader, fietser, lezer en vakantieganger, onder meer. Ik vind technologie, beleid en bestuur leuk en belangrijk, maar mensen nog veel meer. En – toeval of niet – privacy bevindt zich op het grensvlak van technologie, informatie en mens.

Ooit was privacy best overzichtelijk: je mocht niet gluren bij de buren, vertrouwelijke foto’s publiceren of brieven openmaken die niet voor jou waren bedoeld. Dat is wettelijk keurig afgetimmerd met termen als ‘bescherming van de persoonlijke levenssfeer’ en ‘briefgeheim’.

Maar tijden veranderen en door de digitalisering is er ineens veel werk aan de winkel. De grondrechten bleven hetzelfde, maar ze moesten worden uitgebreid naar het digitale terrein. Zo is afgelopen jaar het briefgeheim ook uitgebreid naar digitale communicatie.

Half Nederland ‘betaalt’ voor digitale diensten door privé-informatie te delen. Social media vangen die informatie op en verkopen hem ‘aan de achterkant’ door aan de hoogste bieder. Wie dat is? Geen idee. Het gebeurt in fracties van seconden. In de datasystemen van zowel de platforms als hun afnemers vormen zich steeds gedetailleerdere persoonsprofielen.

Alles wat je koopt, kijkt, liket, roept en fotografeert zit daarin. Waar je bent, waar en bij wie je overnacht en waar je naartoe gaat. Of je ziek bent (‘koopt keeltabletten en paracetamol’), happy (‘bestelt twee witbier op terras’) of in hoger sferen (‘luistert Matthäus Passion’).

Mogelijke gevolgen: je betaalt te veel voor concerttickets, loopt een aanbieding voor een goedkopere zorgverzekering mis, of je wordt gepest of gechanteerd met Facebook-foto’s. Een moeilijk probleem, onder meer omdat je er weinig of niets van merkt. Totdat het mis gaat.

Als er weer eens op grote schaal persoonlijke data op straat liggen, roepen mensen al snel om wetgeving, privacy-politie of strengere straffen. Begrijpelijk dat burgers naar de overheid kijken, en natuurlijk mag het grondrecht privacy niet worden aangetast. Maar we moeten geen nodeloze drempels opwerpen voor een vrij dataverkeer, of belemmeringen voor bedrijven die willen innoveren.

Dus leggen we een wettelijk fundament neer waarmee we iedereen dwingen zorgvuldig met persoonlijke data om te gaan. Vervolgens kijken we wat we kunnen bereiken met lichtere middelen, zoals voorlichting, gedragsbeïnvloeding, en prikkels voor marktpartijen om transparant te zijn over hun omgang met onze gegevens. Of dat genoeg is? Wat denk jij?

Vriendelijke groet,

Sandor,

P.s. Privacy is persoonlijk. Als ik je tegenkom op de fiets groet ik je vriendelijk, maar een foto van mij in fietskleding op een publieke website, daar heb ik moeite mee. Is jouw privacy-grens ooit overschreden?

 

Half Nederland ‘betaalt’ voor digitale diensten door privé-informatie te delen.

Sandor Gaastra

Tijmen Schep

Brief 1

 

Hey Sandor,

Leuke brief!

Voor ik er op in ga: tof dat je deze briefwisseling met me wil doen. Bij de uitnodiging sprongen de romantische beelden op in mijn hoofd. Ik moest meteen denken aan de briefwisselingen die mensen als Darwin en andere denkers vroeger hadden. Mensen die een peperdure portretschilder moesten inhuren als ze een selfie wilden maken. Ik besef me ineens dat onze musea eigenlijk volhangen met selfies.

Bij een conferentie over privacy-vriendelijke slimme apparaten hoorde ik deze week een mooi verhaal over Socrates. Hij vond dat denken iets is dat je alleen met z'n tweeën kon doen, dat denken altijd een uitwisseling was. Een boek lezen, vond hij, dat is geen denken. De beste man heeft dan ook nooit een letter op papier gezet, omdat hij woorden een niet te vertrouwen nieuwe technologie vond. Doordat we niks meer hoefden te onthouden zou ons brein lui worden.

Het wantrouwen van nieuwe technologie is van alle tijden. Evenals tomeloos optimisme natuurlijk. De uitdaging is om ergens in een nuchter midden uit te komen. Het poldermodel van het technologiebeleid, wie weet komen we daar samen op uit.

Ik vind het mooi hoe je je brief begint. Grappig: juist doordat we privacy hebben, kan het doorbreken daarvan een band scheppen. Ik hou ook erg van fietsen en lees ook heel graag (sorry Socrates). Ik zit in een wandelclub en ben weerloos tegen zompige hotelcake.

Ik noem mezelf technologie-criticus en privacy designer - een soort digitale mythbuster eigenlijk. Ik ben één van de oprichters van medialab SETUP, een culturele organisatie die humor gebruikt om data-vraagstukken inzichtelijk te maken voor een breder publiek. Mijn levensvraag is: hoe help ik mensen technologievraagstukken genuanceerd te bekijken?

Doordat ik de data-industrie zo lang heb onderzocht, ben ik me zo enorm bewust van de manieren waarop iets moois als deze briefwisseling - twee mensen die rustig de tijd nemen om samen na te denken - tegelijkertijd door algoritmes zal worden opgepeuzeld. Hoe meer moeilijke woorden ik foutloos gebruik, hoe hoger enkele daarin gespecialiseerde algoritmes mijn IQ zullen inschatten. Gebruik ik het woord ‘ik’ teveel? Dan gaat mijn teamplayer score wellicht omlaag.

Ik weet het niet precies, en dat is - zoals je zelf al zegt - het ding: algoritmes die miljoenen mensen vergelijken kunnen patronen zien die we niet kunnen vermoeden. Stel: 10.000 mensen die een 'gratis' suikerziekte app hebben geïnstalleerd, blijken tegelijkertijd relatief vaak Snoop Dogg en boetseren te hebben geliked op facebook. Als ik vervolgens op Facebook ook Snoop Dogg en boetseren like, dan is de conclusie: risico op suikerziekte + 3%.

Die gok wordt als kennis verkocht, en zo worden die 'gratis' diensten uiteindelijk door bijvoorbeeld je zorgverzekeraar betaald (en daarmee uiteindelijk door jezelf).

Kun je op zoiets anticiperen als je op die ‘I Agree’ knop van Facebook klikt? Ik denk dat het voor de gemiddelde burger niet te overzien is. Wat mij betreft is het tijd voor zwaarder geschut.

Ik stel me voor hoe ik in 2023 bij Philips solliciteer omdat ik daar privacy-vriendelijke slimme thermostaten wil maken. Maar een algoritmisch HR bedrijf houdt de wacht en geeft een negatief advies. Een andere kandidaat uit een beter postcodegebied had volgens het algoritme net een wat emotioneel stabieler taalgebruik, en een net wat beter in de bedrijfscultuur passende verzameling Facebook-likes. Misschien dat ik in 2023 een bedrijf begin in Facebook like-transplantaties.

Om je vraag te beantwoorden: mijn privacy grens wordt voor mijn gevoel eigenlijk non-stop overschreden. Klinkt dat gek? Ik weet denk ik iets te veel van deze markt, van de technologie, en vooral van het maar al te menselijke verlangen om risico’s te beheersen dat dit alles aanjaagt. Voel je wel eens soortgelijke druk? Of herken je het bij de mensen om je heen? En hoe zou jij je eigen vraag beantwoorden?

 

Algoritmes die miljoenen mensen vergelijken kunnen patronen zien die we niet kunnen vermoeden.

Tijmen Schep

Sandor Gaastra

Brief 2

Hallo Tijmen,

Dat heb ik weer: over complexe begrippen als privacy communiceren met een zompige- hotelcakejunkie… Maar ik stap over mijn weerstand heen, omdat je met dat ‘privacy doorbreken’ een goed punt aansnijdt. Het uitwisselen van persoonlijke informatie, liefst over licht belachelijke kleinigheden, schept een band. En roddelen is een universeel menselijke behoefte, essentieel voor het vormen van vriend- en vijandschappen en het onderhouden van de sociale orde in gemeenschappen. Zoiets als het vlooien van apen, zeggen gedragsdeskundigen.

Rond 1875 dachten ze zelfs bij Bell Labs dat de telefoon nooit bij iedereen in huis zou hangen (laat staan in iedere jaszak zou zitten): wat zouden mensen elkaar te melden hebben? Veel, weten we nu. En het meeste is geklets over kittens, de afwas of de file, of geroddel over rare gewoontes van de buren of de scheiding van BN-ers. Hetzelfde met het internet. Van militair netwerk ontwikkelde het zich tot communicatienetwerk voor wetenschappers, er werden wat gebruiksvriendelijke toepassingen aan toegevoegd en voilà! Nu pict, vlogt en tweet ongeveer iedere puber zich de dag door. Opdat er over je gesproken wordt, of om zelf te kunnen roddelen of kletsen. En omdat ‘schriftelijk’ roddelen raar aanvoelt, werden de emojis uitgevonden, die iedereen tegenwoordig door zijn elektronische communicatie strooit.

Al die online self-exposure lijkt leuk, aardig en meestal weinig wereldschokkend. Maar het is vooral ook een diep menselijke behoefte. En daardoor kan het link worden, of pijnlijk: cyberpesten, privé-foto’s en filmpjes die de hele wereld over gaan, sexting, afpersing, enzovoorts. Dat zijn taaie problemen. Twee harde lessen die we als overheid hebben geleerd: gedragsverandering kun je niet afdwingen. Mensen blijven slordig met wachtwoorden, met wat ze posten en met wie ze hun data delen.

En digitale kwaadwillenden (van pestende pubers tot serieuze criminelen) zijn heel lastig op te sporen en te vervolgen, onder meer omdat ze anoniem kunnen blijven of heel ver weg zitten. Dus proberen we niet alleen de daders aan te pakken, maar ook de potentiële slachtoffers weerbaar te maken. Met campagnes en voorlichting maken we mensen bewuster. Spotjes op tv, lespakketten, websites, advertentiecampagnes enzovoorts. Dat helpt, maar het is helaas maar een deel van de problemenverzameling die digitale privacy heet.

Ik denk dat het onder meer zo’n taai probleem is, omdat mensen onderschatten hoe snel digitale vernieuwingen gaan, niet snappen hoe veranderlijk de digitale wereld is of gewoon niet meer kunnen volgen wat er aan de achterkant van hun apps gebeurt.  Je merkt nauwelijks dat je privégegevens weggeeft, want je bent niet direct iets kwijt. Het gaat sneller dan je zelf bedenken kan. Of makkelijker, zeker als het gratis is. Plots deel je je gegevens met de halve wereld, zonder die te kennen. Misschien dat een beter begrip van dergelijke mechanismen mensen helpt bewuster met data en digitale diensten om te gaan? Of dat het helpt voorkomen dat de digitale omgeving voor nare verrassingen zorgt? Je maakt me nieuwsgierig met wat je vertelt over SETUP en over de inzet van humor om data-vraagstukken inzichtelijk te maken voor een breder publiek. Zou dat kunnen helpen?

We zijn nu bezig met het invoeren van van de algemene verordening gegevensbescherming van de Europese Commissie, die ingaat op 25 mei 2018. Met die AVG wordt het huidige EU kader uit de vorige eeuw gemoderniseerd en geschikter gemaakt voor het digitale domein.

Data-verwerkende bedrijven (zeg maar: zo goed als alle bedrijven) moeten een heldere privacyverklaring hebben, duidelijk maken wat ze doen met je data en niet meer data van je vragen dan nodig is voor hun diensten. Bedrijven moeten verantwoording afleggen over hun omgang met data (en daar dus data over bijhouden) en iedereen moet zijn eigen data makkelijk mee kunnen nemen naar een ander bedrijf.

De overheid (vooral de Autoriteit Persoonsgegevens) krijgt een zwaardere toezichthoudende taak. Al met al een majeure operatie, zoals we dat hier in Den Haag zeggen.  Als die operatie achter de rug is, hebben we een stevige lijn uitgezet voor het gebruik van persoonsgebonden data, inclusief het doorverkopen daarvan. Maar ik zei het al: het gaat ook om gewoonten en gedrag. Met regels alleen komen we er niet. Want het achterliggende probleem is natuurlijk dat veel er zelf mee instemmen dat hun gegevens in handen van derden komen, bijvoorbeeld door gebruiksvoorwaarden te accepteren en daar verder niet bij na te denken.

Kortom: wetgeving is belangrijk, maar er meer is nodig. Bewuste burgers, ethisch handelende bedrijven, en economische prikkels om op zoek te gaan naar privacy-vriendelijke oplossingen. Bedrijven zitten in een overgangsfase. Ze zien privacyvriendelijk ondernemen steeds minder als iets dat moet, en vaker als iets waarmee je je kunt onderscheiden.

Over jouw sollicitatie in 2023 gesproken: in Amerika is al een bedrijf actief dat aanvragen van leningen beoordeelt met kunstmatige intelligentie en zelflerende machines. Ze verwerken 70.000 signalen per aanvraag (je leest het goed), waaronder de datum waarop je laatste bankrekening is aangevraagd en het taalgebruik in je Facebook updates. Kortom: it’s there and it’s alive. Dit vraagstuk reikt veel verder dan privacy en roept voor de overheid nieuwe vragen op.

Algoritmen beslissen straks over jouw geschiktheid voor een baan of een hypotheek, maar ook over de behandeling van je ziekte. Die beslissingen zijn beter (in theorie dan), maar het voelt niet goed. Want je neemt ze niet zelf. Je ziet ze niet. Dus liggen onzekerheid en wantrouwen op de loer. In de praktijk loopt het in Nederland zo’n vaart niet, overigens: zo is het uitsluiten van verzekerden op grond van data niet toegestaan en ook niet aan de orde.

Over het overschrijden van mijn privacygrens moest ik even nadenken. Ik had zin om te schrijven: ik leid zo’n braaf leven en doe zo weinig met sociale media dat ik daar weinig last van heb. Maar jij doelt op iets anders, iets dat klinkt als aantasting van je autonomie en je recht op zelfbeschikking. Of zie ik dat verkeerd?

De juristen Moerel en Prins zeggen in ‘Privacy voor de homo digitalis’ dat privacy ‘een voorportaal is voor andere fundamentele rechten en vrijheden van het individu die gezamenlijk weer instrumenteel zijn voor het goed functioneren van onze democratische rechtsstaat.’ Bedoel je zoiets? Hoe dan ook: daar kom ik op terug.

Het verrast me wel als jij zegt dat jouw privacy-grens constant wordt overschreden. Ik lees links en rechts dat jongeren privacy-bewuster zijn, maar er ook meer ontspannen mee omgaan. Ben jij een uitzondering of hebben de rapporten het mis? Ik hoor het graag.

Tot snel!

Sandor

Privacy biedt ruimte om anders te denken, iets dat essentieel is als je écht wilt innoveren, en niet alleen Silicon Valley's ‘hoe meer data, hoe beter’-model wilt kopiëren.

Tijmen Schep

Tijmen Schep

Brief 2

Hey Sandor,

Ik ben het helemaal met je eens: we zijn talige, sociale wezens die de wereld begrijpen door er verhalen over te vertellen. Wat is er mooier dan een sappig verhaal? Als er binnen mijn vriendengroep weer eens schromelijk werd overdreven over avonturen in de liefde, werd er altijd geroepen ‘mooiste verhaal telt!’.

Ik denk dat de positie van jongeren een moeilijke is. Zij zitten vooraan in de golf van technologiegebruik, maar hebben tegelijkertijd weinig anders dan 'streetsmarts' (zoals Danah Boyd uitlegt) om er mee om te gaan. De echte issues rondom dataverzameling en het verlies van vrijheden, die doorzien ze niet. Maar ze voelen wel allemaal de druk om erbij te horen.

Ik denk dat we inderdaad nieuwe woorden nodig hebben om de schaduwkant van al dat geklets te begrijpen. Met name door die opkomende sociale druk ontstonden op het schoolplein termen als ‘normcore’ en ‘basic bitch’. Allebei beschrijven ze de trend om je zo normaal en onopvallend mogelijk te kleden.

In één van zijn laatste publieke lezingen stelde filosoof Zygmunt Bauman: ‘Fear of exclusion is the dominant fear of our time. We are not rebelling against the overbearing state, we are rebelling today against being ignored, against being neglected, against being unseen’. Filosofen als Bauman, maar ook Foucault en Deleuze, beschreven hoe de angst om er niet bij te horen, om niet normaal te zijn, één van de sterkste menselijke drijfveren is.

De gigantische kracht ervan werd mooi blootgelegd door enkele VPRO filmmakers, die drie weken lang hun hele leven online wilden streamen. Ze stopten vroegtijdig met het onderzoek: de psychologische druk van het 'de hele tijd de beste versie van jezelf moeten zijn’ werd te groot.

Tegelijkertijd probeert China die kracht bewust in te zetten. Waarschijnlijk heb je al gehoord van het ‘social credit’ systeem, dat alle Chinese burgers vanaf 2020 een ‘braafheidsscore’ zal geven. Als je een lage score hebt omdat je te Westers denkt of consumeert, dan kun je binnenkort een overheidsbaan, lening of visum wel vergeten.

Diezelfde effecten zie ik ook in het Westen ontstaan, maar bij ons ontstaan ze als bijwerking van de markt. We doorzien dat niet, verblind als we zijn door de 'mooie verhalen' uit Silicon Valley. Ik voorzie dat ze ook hier tot zeer sterke sterke chilling effects op de maatschappij kunnen leiden. Ik heb er een term voor bedacht: social cooling - de data-versie van global warming.

Misschien herken je dit: je zit op Facebook en je komt een linkje tegen, maar je twijfelt of je erop zult klikken, omdat je denkt: ‘Dat bezoek wordt vast geregistreerd, en dat zou er later wel eens gek uit kunnen zien’. Wanneer ik op conferenties spreek herkent intussen zo'n tweederde van de mensen dit voorbeeld. Onderzoek wijst op de opkomst van zelfcensuur.

Zo werden Wikipedia-pagina’s over terrorisme minder vaak bezocht na de onthullingen van Edward Snowden. Mensen waren bang dat de NSA hun bezoek zou registreren. Vorige maand zagen we hoe Donald Trump de data opeiste van mensen die tegen zijn beleid hadden geprotesteerd. Zou je dan nog even op je gemak gaan demonstreren?

Leven in een reputatie-economie heeft niet alleen gevolgen voor onze democratische processen, maar ook een serieuze impact op ons innovatie vermogen. Het stimuleert naast zelfcensuur ook een cultuur van risicomijding. Een voorbeeld: toen chirurgen in New York scores kregen voor hun werk, kregen artsen die het risico namen om moeilijke operaties uit te voeren lagere scores - er overleden namelijk meer mensen onder hun mes.

De artsen die geen poot uitstaken hadden hoge scores, ook al werden de levens van hun patiënten geen van allen verlengd. De artsen die wel het risico durfden te nemen, voelden druk om 'gemiddeld' te presteren. Wat het effect van dergelijke systemen is op ondernemerschap en innovatie laat zich raden. Dat is voor mij de paradox: op de lange termijn vermindert de creatieve industrie ons creatief vermogen.

Zo kom ik terug bij je analyse dat ik privacy en autonomie als één ding zie. Dat klopt. Ik zie die dingen als fundamenteel met elkaar verbonden. In een sociale wereld is privacy het recht je aan sociale druk en conformisme te onttrekken, je eigen ideeën te vormen, en aan mainstream en populisme te ontsnappen.

In een wereld waarin de druk om perfect te zijn toeneemt, beschrijf ik privacy als het recht om imperfect te zijn. En daarmee eigenlijk het recht om mens te zijn. Privacy biedt ruimte om anders te denken, iets dat essentieel is als je écht wilt innoveren, en niet alleen Silicon Valley's ‘hoe meer data, hoe beter’-model wilt kopiëren.  

Nieuwe begrippen als social cooling helpen dat inzicht hopelijk te verspreiden. Maar ook nieuwe wetten helpen enorm. De GDPR is wat dat betreft een verademing, omdat die de deur open zet voor de zoektocht naar ethische businessmodellen.

Tot slot denk ik dat we goede voorbeelden nodig hebben die de problemen tastbaar en inzichtelijk maken. SETUP ontwikkelt inderdaad humoristische voorbeelden voor een breed publiek. Zo stond er vorig jaar op de Dutch Design Week een koffiezetapparaat, dat je goede of slechte koffie gaf op basis van je postcode. Hoe lager de 'statusscore' van de wijk waarin je woont, hoe wateriger de bak. Het maakte tastbaar dat data steeds concretere gevolgen gaan krijgen in je leven.

Ik denk al met al dat ik geen uitzondering ben, maar gewoon iets voorloop omdat ik de werking en invloed van de data-industrie wat beter doorzie dan de gemiddelde Nederlander. Gelukkig zie ik steeds meer kritische vragen bij het brede publiek ontstaan, zoals nu met de roep om een referendum over de sleepwet.

Ik denk dat we de schaduwkanten van data eerder kunnen herkennen, en hoop er met mijn werk voor te zorgen dat we ‘boem is ho’-beleid kunnen voorkomen. Ik wil daarom eindigen met deze vraag: wat is er volgens jou nodig om in een vroeger stadium het kind en het badwater van elkaar te kunnen onderscheiden?

Zwaai,

Hotelcake junkie

PS: ik heb dat Amerikaanse bedrijf met zijn 70.000 signalen toegevoegd aan creepycompanies.com, een website die ik vorig weekend lanceerde om - wederom - het bredere publiek voorbeelden te bieden van deze schaduwkant van data. Dank voor de tip :-)

Sandor Gaastra

Brief 3

Hallo Tijmen,

Dank voor je brief. Echt. Ik vind dat je werkelijk prachtig uiteenzet waarom privacy belangrijk is. Niet alleen vanwege de last die je er mee kunt krijgen, maar omdat je het nodig hebt om jezelf te zijn, om te voorkomen dat je alleen nog wordt bepaald door wat de buitenwereld, al dan niet voorgeprogrammeerd, van je vindt. Ik moest denken aan ‘De cirkel’ van Dave Eggers. Het meest onheilspellende van dat boek vond ik nog dat big brother daar binnensluipt in een wolk van goede bedoelingen, warme gevoelens en nobele ideeën. Het resultaat daarvan is echter een benauwende wereld, waarin conformisme zaken als authenticiteit, creativiteit en innovatievermogen verdringt.

Ik begon te verlangen naar het rommelinterieur - met rendiergewei-lamp - van de ouders van hoofdpersoon Mae Holland. Hoewel ik toch echt meer van helderheid en strak design houd. Eggers beschrijft een wereld waarin social cooling een epidemie dreigt te worden, begrijp ik nu. Ik zie het maar als een teken van geestelijke gezondheid dat ik daar zo heftig op reageerde. Daar moesten we misschien bij een kop koffie eens over doorpraten (nadat ik de postcode van het Noordeinde heb ingetikt in je koffie-apparaat :-)).

Ook wat je over Silicon Valley zei  zette mij aan het denken: Economische Zaken is het ministerie van het stimuleren van economische groei en innovatie, en van de bescherming van consumenten, inclusief hun privacy (en daarnaast van veel meer, van agro tot voedselveiligheid). Onze missie is om Nederland en de Nederlandersnog innovatiever en ondernemender te maken. En dat lijkt te lukken, gezien de bloeiende creatieve industrie, de groeiende startup-cultuur, de innovatieve financiële en technologiesector en de landbouw (we zijn wereldkampioen precisielandbouw, vertelde mijn collega van ‘agro’). Ook jij wijst erop dat alle digitalisering en datagedreven innovatie het ‘echte innovatievermogen’ juist beperkt. Dat lijkt me niet goed, niet voor de economie, maar ook niet voor de mensen zelf.  Het lijkt me bovendien een ontwikkeling die maatschappelijke weerstanden oproept.

Ik las laatst toevallig een krantenstuk over norm core. Twee bijna identiek geklede meisjes waren stomverbaasd toen ze te horen kregen dat ze zich zo conformistisch kleedden. Ze hadden allebei zwart-witte sportschoenen aan, maar die van het ene meisje hadden ronde neuzen en dat zou de ander nou bij voorbeeld nooit dragen.  Jongeren conformeren zich, maar blijven zichzelf toch volstrekt uniek en authentiek vinden. Misschien ontdekken jongeren in dat ene paar schoenen, als je het juist interpreteert, een hele microkosmos aan mogelijkheden. Misschien verplaats of muteert zelfexpressie zich alleen.

Je waarschuwt in je brief dat zich een reputatie- of censuureconomie aan het ontwikkelen is. Dat moet een mens al snel aan China denken, waar privacy niet, zoals in Westerse landen, in de grondwet is opgenomen.  Voer voor nadenken: terwijl China sociale kredietpunten inzet om brave burgers te kweken, zetten wij vergelijkbare mechanismen (waaronder zelfregulering) in om providers die veel illegale content zoals kinderporno en haatzaaierij doorlaten tot beter gedrag te bewegen. Dat is veel efficiënter dan meer wetten en regels maken, die handhaving vereisen en mogelijk grote inspanningen voor , opsporing en vervolging. Het werkt alleen als de providers meewerken. Dat doen ze gelukkig. 

En jij houdt de burger scherp met creepycompanies.com. Mooi! Overigens: er zijn genoeg mensen die denken dat zo’n AI-en big data-gedreven kredietbeoordelaar juist een voorbode is van een prachtige toekomst waarin kredieten goedkoper zijn (want lagere beoordelingskosten en grotere markt) en dus breder beschikbaar voor iedereen. Ik begrijp hun punt, maar het blijft creepy dat door derden verzamelde en gecombineerde data op die manier voor of tegen mij gebruikt kunnen worden. 

Het kersverse regeerakkoord geeft aardig aan welke richting de regering op wil met zijn privacy beleid. Mensen moeten bij voorbeeld ook per gewone post met de overheid kunnen blijven communiceren. De overheid bewaakt de vertrouwelijkheid van haar burgergegevens: data in basisadministraties en andere privacygevoelige informatie wordt altijd versleuteld opgeslagen en de DigiD wordt veiliger gemaakt.

Mensen krijgen meer zelf de regie in handen over hun eigen persoonsgegevens. Zo kunnen ze maatschappelijk relevante instanties en organisaties aanwijzen waaraan automatisch een beperkt aantal persoonsgegevens mag worden verstrekt. Kortom: de overheid zoekt het evenwicht tussen privacy en gebruiksgemak als het gaat om de data die zij van haar burgers in beheer heeft.

Een andere afweging uit het regeerakkoord is nog veel gevoeliger. Namelijk terrorismebestrijding. Als het op straf of inperkingen van vrijheden aan komt moet “telkens kritisch afgewogen worden in welke mate de privacy en overige vrijheden worden ingeperkt”, zegt het regeerakkoord. Dat wordt spitsroeden lopen voor de komende jaren, denk ik. Die afwegingen moeten we maken veel in samenspraak met bedrijfsleven maken (niet alleen de ‘grote jongens en meisjes’, maar ook innovatieve startups met briljante ideeën).

Mensen die weten hoe  je smartphones, slimme thermostaten, of discriminerende koffie-apparaten privacyproof krijgt. Al doende leren we die kind en badwaterles, al doende zwemmen we meer en betere baantjes. Al schuwen we zwaarder geschut niet. Als het nodig is regelen we de aansprakelijkheden, maken we ook nieuwe wettten of passen we ze aan, organiseren we dat ze worden gehandhaafd en dat eventuele sancties stevig genoeg zijn en worden uitgevoerd.  Maar dat noemde ik al.

Ik heb zin om nog een heel verhaal te houden over de nieuwe Europese e-pricvacy-richtlijn, die samen met de door jou geprezen GDPR (in het Nederlands Algemene Verordening Gegevensbescherming of AVG) het privacy-beleidskader vormt voor elektronische communicatie. Dat doe ik niet. Je moet oppassen je medemens niet te overvoeren met beleidskaders, want dat is nog veel zwaardere kost dan zompige hotelcake. En we spreken elkaar misschien binnenkort in Eindhoven, in de Effenaar. Toch?

Ik kijk er naar uit. Groet!

Sandor

P.S.

Nog even over de paradox tussen het privacyverantwoord handelen van mensen en bedrijven en hoe dat innovatie en verandering in de weg lijkt te staan. 

Zou je die tegenstelling ook met innovatieve technologie kunnen opheffen? Hoe zie jij dat?  Of is dat ‘technology fix’-denken? 

 

Tijmen Schep

Brief 3

Hallo Sandor,

Hey Sandor,

Thanks man! Ik vind het ook fascinerend om de werking van de overheid beter te leren begrijpen. Zoals Bauman over mijn generatie schreef: ook ik heb veel vertrouwen in de overheid. Ik twijfel geen seconde aan de goede intenties. Kom maar op met die beleidskaders!

Ik denk dat het verhaal weer rond is door te kijken naar die 'consent' vraag. Onze samenleving rust op het idee dat we in staat zijn om de situatie te overzien, en dan een nuchtere afweging te maken. Wat de overheid in theorie zo bijzonder maakt, is dat je er over lange-termijnvragen mag nadenken, en dat je daar zoveel mogelijk stakeholders bij mag betrekken. Maar als ik eerlijk ben zie ik veel signalen dat overheden daar wat technologie betreft niet optimaal toe in staat zijn.

Een schrijver die me de laatste tijd fascineert is C.P. Snow. Hij schreef een berucht artikel over de 'two cultures'. De meeste problemen in de maatschappij kunnen we niet goed overzien, stelt hij, omdat de beta-wetenschappen en de menswetenschappen zo uit elkaar zijn gegroeid. Dat is waar mijn vraag over het kind en het badwater vandaan kwam: toen ik studeerde viel het me op hoezeer in de menswetenschappen de problemen met technologie al lang werden doorzien, maar dat hun inzichten ook relatief weinig bereik hadden. Het "TEDx McOptimisme" gaat er bij iedereen in als cake, terwijl het verhaal van de menswetenschappen - het is complex en er zijn geen simpele oplossingen - meer als een wortel met hummus is. Ook lekker, maar niet zo smakelijk als hotelcake.

Beleidsmakers denken vaak dat ze meer over de werking van technologie moeten leren om het te kunnen doorzien. Dat is een optie, maar er is een alternatieve route. We kunnen ook beter worden in het begrijpen van menselijke verlangens en dromen, en zien hoe nieuwe technologieën altijd op die verlangens inspelen. Het handige van deze route is dat technologie snel verandert, maar dat die verlangens al eeuwen hartstikke stabiel zijn. Professor Rein de Wilde benoemde bijvoorbeeld de droom van 'luilekkerland' (zie het internet of things), en Imar de Vries benoemde de droom van 'engelencommunicatie': het verlangen om elkaar perfect te begrijpen, en zo misverstanden te voorkomen.

Etnograaf Grant McCracken beschrijft hoe we onze hoop op een betere wereld altijd ergens veiligstellen, ver buiten de rommelige realiteit van het hier en nu. We doen dat vooral in de toekomst - later wordt alles beter - en hij noemt dat de 'verwachtingshorizon'. Heel kort door de bocht: in het verleden boden God (middeleeuwen), de politiek (verlichting) en (tot 2008) de 'onzichtbare hand van de economie' ons een plek waar we onze hoop durfden te stallen. Vandaag de dag lijkt het vooral technologie die ons die parkeerplek biedt.

Het lastige van mijn werk is dat ik aan iets heel dieps in mensen kom: hun hoop op een betere wereld. Technologie bekritiseren is lastig omdat we eigenlijk niet willen dat de sokkel wankelt - we willen graag blijven geloven in technologie. Ik zie bijvoorbeeld hoe ze buiten de rommelige mensenwereld wordt gehouden door haar voor te stellen als 'neutraal' (algoritmes) en als een soort onvermijdelijke natuurkracht die van buitenaf ‘impact op de maatschappij’ heeft.

Mijn punt is niet dat goede bedoelingen altijd klappen of dat hoop irreëel is, verre van. Mijn punt is dat goede bedoelingen moeten worden gecombineerd met nuchter lange-termijndenken. We moeten van 'mooiste verhaal telt' naar 'meest holistische verhaal telt'. Misschien kunnen we het 'duurzaam optimisme' noemen. Het mooie is dat het niet alleen gezonder is, maar ook krachtiger. Ik kan de toekomst niet voorspellen, maar dankzij mijn mens-wetenschappelijke bagage kan ik je wel vertellen welke toekomstvoorspellingen stiekem vooral uitingen van ideologie zijn.

Neem bijvoorbeeld de blockchain. Dat is echt een technologie waarbij al mijn alarmbellen afgaan. Je hoort de technologen al denken: ‘Oh shit, het internet bleek een surveillance-machine. Maar versie 2.0, de blockchain, daarin wordt het beter, die is niet te corrumperen.’ Maar doordat er nog steeds te weinig kritisch besef is bouwen ze een technologie met alleen maar meer autoritair potentieel (uitleg hierover staat op technologiebeleid.nl, een site die ik heb gemaakt om beleidsmakers toegang te geven tot de beste inzichten uit de menswetenschappen).

En zo kom ik bij je vraag. Zouden we een markt kunnen maken voor producten die onze menselijke waardigheid respecteren? Jazeker. Maar om daar te komen zullen we die kloof tussen de 'two cultures' moeten overbruggen, en de menswetenschappers betrekken: ethici, etnografen, sociologen. Dan pas zal de startup-scene eindelijk volwassen worden in haar denken over de mens, en hopelijk ophouden met het rondzingen van simplistische verhalen, die immers vooral bedacht zijn om investeerders van hun geld te scheiden, en die soms een haast religieus tintje krijgen (singularity).

Ik zie de eerste plantjes al opkomen, en ook grote partijen als Apple - altijd al beter in het doorzien van onze verlangens - zien privacy nu als een feature. Ik hoop heel erg dat Economische Zaken deze markt gaat stimuleren. Ik zie zeker mogelijkheden, en denk dat er veel te leren is van de manier waarop biologisch eten een gigantische markt werd (daar weet je collega bij Agro meer over).

Ik twijfel er niet aan dat die markt er komt. Privacy (lees: autonomie) is ook zo'n een fundamenteel menselijk verlangen. De komende tien jaar gaan mensen doorkrijgen hoe hun data hun kansen verregaand beïnvloeden. Die data-gebaseerde krediet beoordelaar gaat ook mensen afwijzen op hun data, maar dat deel van het verhaal vertellen ze liever niet. We blijven Hollanders: pas wanneer we de nadelen van data in de portemonnee voelen stappen we over op de slimme thermostaat, stad, deurbel, messenger of browser waarbij 'slim' ook ethisch betekent.

De vraag die me rest is: gaat Nederland hierin voorop lopen?

Dat lijkt me voer voor bij de koffie in Eindhoven. Hopelijk is er ook cake :-)

We blijven Hollanders: pas wanneer we de nadelen van data in de portemonnee voelen stappen we over op de slimme thermostaat, stad, deurbel, messenger of browser waarbij 'slim' ook ethisch betekent.

Tijmen Schep

andere conversaties

Benieuwd wat de andere duo's hebben geschreven? Bekijk de vier 'Lieve CEO' conversaties hier.

De schrijvers zetten hun gesprek live voort tijdens de 'We Know How You Feel Tonight' debatavond, die plaatsvindt op woensdag 25 oktober 2017 in De Effenaar in Eindhoven.