Zondag 24-09-2017 15:15

 

Dit is een nieuwe vorm voor mij, dus ik hoop dat we een manier kunnen vinden om onze argumenten in zo’n korte tijd diepgaand te bespreken, via het onhandige medium dat e-mail is.

Ik ben geschoold in de kunsten. Ik heb ook compterwetenschappen gestudeerd en werk al enkele jaren als ingenieur. Misschien moet ik wat uitgebreider vertellen over mijn relatie met het bestuderen van het menselijk lichaam met behulp van sensors. In mijn artistieke werk gebruik ik biomedische apparatuur die direct met het lichaam communiceert, dus ik heb een zekere vertrouwdheid met het registreren van lichaamssignalen en het gebruik daarvan voor uiteenlopende doeleinden.

Ik maakte deel uit van BALTAN Labs-programma "Hacking the Body" en ik liep stage bij Philips Research, waar ik experimenten voor biosynchronisch onderzoek bedacht, aan de hand van methodes uit de electrofysiologie. Buiten die meer praktische ervaring ben ik ook privacy-activist en leraar. Al mijn bezigheden voeden elkaar natuurlijk, en hoewel ik een gretig gebruiker van technologie ben, vind ik het moeilijk om niet kritisch te worden als ik een bepaalde tech-ontwikkeling eenmaal in een kader heb weten te plaatsen.

Ik begrijp dat de context van onze mailwisseling wordt geleverd door de titel ‘We Know How You Feel’, en dat de vraagstellling draait om een kunstwerk dat Nick Verstand samen met TNO heeft gemaakt, waarbij EEG-techniek wordt ingezet om gemoedstoestanden af te leiden. De VPRO legt een scenario voor waarin vergelijkbare technologie wordt toegepast in marktonderzoek, zodat media hun content veel gerichter kunnen inzetten. Als ik het goed begrijp is dat scenario het uitgangspunt voor onze conversatie.

Wat me in dat voorgelegde scenario misschien wel het meest opvalt, is het totale gebrek aan voorstellingsvermogen, omdat het is samengesteld uit zaken die allemaal al bestaan. Je hebt geen enorm voorstellingsvermogen nodig om je in te denken hoe fysiologische data zouden kunnen worden opgenomen in de data-pool die nu al wordt gebruikt om mediaconsumenten te profileren, in elk geval door online media.

Het zogenaamde ‘surveillance-kapitalisme’ is het economische model van de meeste mediaplatforms op internet. In één enkele technologische generatie zijn onze televisies veranderd van omvangrijke analoge apparaten, die maar net iets meer konden dan een radio, in uitgebreide computers. Die staan in onze woonkamers en bevatten een schat aan sensoren die zelf ook heel goed data kunnen verzamelen.

In het voorgelelegde VPRO-scenario wordt het economische model van het internet geëxtrapoleerd naar televisie, met toevoeging van een aantal bronnen, namelijk fysiologische data. Dat gebeurt allemaal al, in elk geval in afzonderliijke informatiestromen in diverse bedrijfstakken. Het afleiden van informatie, zoals het VPRO-project voorstelt, is dan ook zeer plausibel en ligt ruim binnen het bereik van de mogelijkheden. Daarom vind ik het de moeite om het diepgaander te verkennen.

Er bestaat al een economische sector die neuromarketing heet, en die past precies toe wat de VPRO in dit scenario schetst: technische middelen inzetten waarmee marketeers producten precies kunnen richten op individuen, gebaseerd op hun onbewuste biofysische activiteit. Antonio Damasio formuleerde een hypothese over somatische indicatoren, die stelt dat ons lichaam continu signalen over onze gemoedstoestand voortbrengt en verwerkt, en daardoor dingen lijkt te ‘weten’ vóór we ze zelf bewust ervaren. Neuromarketing richt zich op de exploitatie van die ruimte tussen bewustzijn en het onstaan van verlangen.

Is er een plaats voor deze technieken in onze mediaconsumptie? Zijn ze ook toe te passen voor iets anders dan ‘meer spullen verkopen’? Wat heeft de individuele mediaconsument aan dit scenario? Ik veronderstel dat Gr1p deel uitmaakt van deze conversatie om tegenwicht te bieden aan dit maar al te plausibele scenario, en om de ethische impicaties van zo’n ontwikkeling te bevragen.

De enorme hoeveelheid data die sommige bedrijven bezitten over ons, internetgebruikers, is omvangrijker dat de meesten van ons vermoeden, en geeft hen reeds inzicht in processen waar wij onszelf als individu niet bewust van zijn. Facebook bijvoorbeeld past al iets toe dat het ‘afgeleide kwalificaties’ noemt, zoals ‘waarschijnlijkheid van verslaafd raken’, waarmee de kans wordt ingeschat dat iemand aan verslaving ten prooi valt. Die afgeleide indicatoren worden opgesteld door het combineren van diverse andere gegevens die Facebook rechtstreeks kan kwantificeren, en de ‘kwalificaties’ worden gebruikt om advertenties en content nauwkeuriger op ons af te stemmen.

Facebook kan dat al doen zonder toegang tot ons lichaam, en daarom zou ik op dit punt een vraag willen opwerpen: in hoeverre is het nog belangrijk om fysieke toegang tot het lichaam van de consument te hebben om zulke informatie te kunnen afleiden? Hebben de kwantitatieve methodes die Facebook en Google gebruiken die ‘toegang tot het lichaam’ niet al onnodig en achterhaald gemaakt? Wat kan het lichaam ons nog vertellen dat we niet al te kunnen afleiden uit expliciete gewoontes en gedragingen die kunnen worden waargenomen met andere methodes dan elektrofysiologie?

Er zijn natuurlijk nog veel meer dingen te bespeken, maar ik hoop dat dit een vruchtbaar begin is en dat we van hieruit verder kunnen gaan. Ik kijk uit naar je antwoord.

Salud,

Luis

 

Vrijdag 29-09-2017 13:31

 

Om je vraag te beantwoorden: alvorens die beslissing te nemen zou ik iets meer moeten weten over die hypothetische chip. Wat doet die precies, waar in het lichaam bevindt hij zich, wat zijn de effecten op het kind en van wie is het implantaat? Is de chip verbonden met een netwerk of niet? Verzamelt hij op de een of andere manier data of worden de gegevens nooit opgeslagen? Welke eerdere tests zijn er gedaan met het implantaat in mensen? Wie maakt de chip? Is het ontwerp bedrijfseigendom of open source?

Uiteraard zou ik wat ernstige zorgen hebben voor ik vrolijk een technologisch object in het lichaam van mijn pasgeboren kind zou implanteren, voor de rest van zijn leven. Maar ik zou niet uit principe tegen zijn. Ik geloof dat technologie een rol heeft in het verbeteren van het leven van mensen. Mijn reactie zou niet technofobisch zijn, maar voorzichtig.

De vragen die jij van mensen verwachtte over privacy, bescherming van de gegevens en veiligheid van de techniek zijn trouwens ook ethische vragen. Voor mij is de vraag ‘zou ik dit in mijn kind implanteren?’ niet de enige over de ethische implicaties van het geschetste scenario.

Er zijn vele voorbeelden van slechte bescherming van data of privacy, waardoor een technologie die aanvankelijk onschadelijk leek potentieel als wapen zou kunnen worden ingezet. Een technologische vinding komt nooit alleen op de wereld, maar brengt altijd een stukje van de toekomst met zich mee. Een toekomst die ons heden worden als we die technologie in ons leven toelaten. We kunnen de verdere ontwikkeling onmogelijk voorspellen.

Een chip die vandaag in mijn baby wordt geïmplanteerd, kan over twintig jaar de bron van discriminatie van mijn kind zijn, of overmorgen het doelwit van een vijandige aanval. Het is van belang te beseffen dat deze scenario’s niet slechts denkbeeldig zijn. Als de technologie voorhanden is en er veel op het spel staat, dan zal die technologie als wapen worden gebruikt.

Ik wil je vragen even stil te staan bij de recente onthullingen in de pers over de rol van Facebook en Twitter bij de Russische inmenging in de Amerikaanse verkiezingen. Om te verdienen aan advertenties bieden beide bedrijven verfijnde instrumenten aan waarmee specifieke delen van hun markt kunnen worden benaderd. Die kunnen zó nauwkeurig worden ingezet dat een advertentie slechts op één enkel individu wordt gericht. Nu blijkt dat Amerikaanse kiezers in de aanloop naar de verkiezingen voor 100.000 dollar aan strategische geplaatste posts te zien hebben gekregen.

In een persverklaring toonde Mark Zuckerberg zich vorige week verontwaardigd over de rol die Facebook heeft gespeeld, en gaf hij toe dat er niet genoeg is gedaan om inmenging in het democratische proces door deze krachten te voorkomen. Degenen die invloed uitoefenden hoefden niet eens bij Facebook in te breken, of gebruik te maken van het soort kwetsbaarheden waar hackers zich gewoonlijk van bedienen. De (vermoedelijk) Russische betrokkenen die invloed wilden kopen, deden dat door gebruik te maken van instrumenten die Facebook aanbiedt aan legitieme adverteerders.

Zij zetten deze instrumenten dus in voor een ander doel dan Facebook had bedoeld. Alle technologieën, zonder uitzondering, zullen op onbedoelde manieren worden gebruikt, omdat de maatschappelijke context waarin ze zich bevinden in beweging is. Zoals William Gibson ooit schreef in zijn boek ‘Burning Chrome’: de straat vindt zijn eigen nut voor dingen. Een technologisch object dat met de beste bedoelingen is ontwikkeld, kan en zal zeer waarschijnlijk onbedoelde toepassingen krijgen.

Terugkomend op de ethische vraag die je stelde, ik zou graag in die richting verder gaan en wat wedervragen stellen: gezien je ruime ervaring met het op de markt brengen van technologische producten neem ik aan dat je hebt gewerkt met een breed scala aan technici en ontwerpers. Hoe wordt er in jouw professionele omgeving omgegaan met zulke ethische vragen? Is er een breed bewustzijn over deze kwesties? Welke rol spelen deze ethische vragen in de ontwikkelingscyclus van een product? Heb je in je lange carrière gemerkt of de opvattingen hierover veranderen?

Salud,

Luis