Waarschuwingen voor de gevaren van Kunstmatige Intelligentie monden al snel uit in schrikbeelden van losgeslagen terminators. Een potsierlijke denkfout, wat Roland Duong betreft.

Deze week is in mijn podcast Haroon Sheikh te gast. Hij is auteur en coördinator van het rapport 'Opgave AI' van de wetenschappelijke raad voor regeringsbeleid (WRR).

In dit rapport, dat afgelopen november uitkwam, waarschuwt Sheikh met name voor de digitale surveillance die steeds verder oprukt in onze levens. Dan gaat het niet om een camera meer of minder in de straat. Het gaat om permanente persoonsherkenning in de publieke ruimte en privésfeer. Het gaat om het toekennen van toeslagen, hypotheken banen en verzekeringen.

Onzichtbare surveillance

'Overal waar we met elkaar zeggen dat we slimme steden aan het bouwen zijn, moeten we ook zeggen dat we meer surveillance aan het inbouwen zijn,’ aldus Sheikh. Dat is namelijk wat 'slim' betekent: dat iets gemonitord wordt.

Duizenden onzichtbare algoritmes zijn nu al bezig jou te identificeren, te classificeren en te profileren. Er moet een einde komen aan de onzichtbaarheid van deze systemen. Anders kan je wachten op debacles als de toeslagenaffaire: niet heel hoogstaande AI die al bijna niet te stoppen was, maar van een hele andere orde dan de op hol geslagen terminator. De toeslagenaffaire legt de echte risico's bloot van onverantwoord AI gebruik.

De toeslagenaffaire legt de echte risico's bloot van onverantwoord AI-gebruik.

Dat gaat gepaard met een toenemende tweedeling in de samenleving. Aan de ene kant heb je mensen met een uitmuntend digitaal profiel. Die krijgen de hypotheken en mooie baantjes. Aan de andere kant is er het ‘digitale proletariaat’: mensen die door onbekende algoritmes zo laag scoren dat ze allerlei kansen mislopen in de maatschappij.

Hoog tijd dat AI onderwerp wordt van het politieke debat. Want in hoeverre staan we toe dat technologie onze privacy kaapt in ruil voor gevoelens van gemak en veiligheid? Moeten sommige systemen, zoals gezichtsherkenning, in de publieke ruimte niet gewoon verboden worden omdat het publieke leven anders steeds meer verandert in een openbare gevangenis?

Datasoevereiniteit

Daarbij komen meer en meer van onze privédata in buitenlandse handen. Als we nog wat te zeggen willen hebben over AI-systemen die in toenemende mate onze levens gaan beïnvloeden, moeten we nu stappen zetten. Meer Nederlandse datasoevereiniteit is een must. Onze patiëntgegevens worden nu al opgeslokt in de Google Cloud. Onze scholieren met die verdacht goedkope Chromebooks pompen hun complete leer- en levensloopdata richting Californië. Om over de dataroof op sociale media maar te zwijgen.

Gelukkig is er volgens Sheikh in Nederland voldoende capaciteit om zelf AI-systemen te ontwikkelen. Zeker op het gebied van lokaal bestuur, onderwijs en zorg. Maar het is de hoogste tijd om dat volwaardig te doen. Zodat we de data van vitale sectoren zoals zorg en onderwijs uit de grijpgrage Cloud van Amazon en Google kunnen houden. 

Mij bevreemdt het bijvoorbeeld enorm dat Google en Apple als enige bepalen welke corona-apps wereldwijd gebruikt mogen worden. Dat is in mijn ogen een macht die democratische controle vereist. Ik begrijp niet dat onze nationalistische soevereiniteitsridders daar geen punt van maken. Want als ergens de Nederlandse autonomie niet of nauwelijks wordt verdedigd, is het wel in cyberspace. En laten de zaken die zich op het internet ontwikkelen nou net een enorme impact hebben op de Nederlandse maatschappij.

Als ergens de Nederlandse autonomie niet of nauwelijks wordt verdedigd, is het wel in cyberspace

Paperclips en kopjes koffie

Dan nu even over AI als potentieel vernietiger der mensheid. Het was filosoof Nick Bostrom die met zijn boek Superintelligence het gevaar van AI en de paperclip opperde. (Bostroms toekomstvisie is te zien in Tegenlicht Talks van 2013) Als je een superintelligent wezen de opdracht geeft zoveel mogelijk paperclips te maken, dan bestaat het risico dat hij de hele aarde en omgeving omvormt tot een grote paperclip makende machine. Ten koste van ons. 

Dit is een van de grote vraagstukken van de AI-wetenschap die 'value alignment' wordt genoemd. Hoe zorgen we dat de waardes van AI gelijk lopen met onze waardes? In de Tegenlicht-uitzending 'Mens in de Machine' (oktober 2018) zegt AI-wetenschapper Stuart Russel ongeveer hetzelfde: Als je een AI-entiteit vraagt om een kop koffie en het is niet goed geprogrammeerd, dan kan die AI-robot duizend euro betalen voor een kopje koffie en je in een klap failliet maken. Of de AI-machine gaat mensen vermoorden in de Starbucks om jou op tijd je koffie te bezorgen. 

Hoe zorgen we dat AI dezelfde waarden koestert als wij?

Wat is intelligentie?

Bostrom en Russel zijn buitengewoon intelligente bètabreinen met belangrijke inzichten. Onontbeerlijk voor het noodzakelijk debat over technologie. Maar mijn alfabrein denkt wel als eerste bij dit soort rampenscenario’s: als deze risico's bestaan met AI, waar zit dan de 'intelligence'? 

Ik zal dergelijk gedrag nooit als werkelijk intelligent kunnen beschouwen. Waarom noemen we het dan zo? Moeten we het niet een meer nederige benaming geven als 'computerdenken' of zoiets? Dat klinkt misschien minder lekker. Maar AI is ook minder lekker dan de naam suggereert. Dus waarom zouden we het niet een naam geven die beter past bij de verwachtingen? 

Het VOC-algoritme

Filosoof Hans Schnitzler, te beluisteren in de podcast van november, is hier een hartstochtelijk pleitbezorger voor. Maar belangrijker dan naamgeving is de vraag: Gedragen mensen zich al niet eeuwenlang als op hol geslagen AI-terminators? Wij willen toch koste wat het kost koffie en paperclips voor een prikkie waarbij we niet kijken op een mensenleven minder of meer? De hele menselijke geschiedenis is doordrenkt van het VOC-algoritme! 

We weten dat onze koffie, cacao en coltan, onontbeerlijk voor smartphones, voor een groot deel worden geproduceerd op een manier die de meeste Nederlanders als onethisch zouden kwalificeren. En toch kiezen we ervoor die producten te blijven consumeren. We hebben echt geen gewetenloze AI nodig om gewetenloos onze kop koffie te incasseren. Dat doen we zelf wel. 

Als individu zullen de meeste mensen zeker deugen. Maar als groep loopt het al snel aardig uit de hand

De meeste mensen...

Elk individu zal toegeven dat het een 'onwenselijke situatie’ is. Sommige mensen zullen zeggen: ‘ik zou anders willen maar ik kan het systeem niet veranderen.’ Hoe waar ook, we kunnen er ook niet omheen dat er een ook een collectieve verantwoordelijkheid ligt voor deze onethische productie-en consumptiepraktijk. Als individu zullen de meeste mensen zeker deugen. Maar als groep loopt het al snel aardig uit de hand en blijken we keer op keer niet in staat onethisch groepsgedrag uit de maatschappij te 'programmeren'. 

Dus in plaats van me zorgen te maken over een door paperclips geobsedeerde terminator, maak ik me meer zorgen of er wel genoeg menselijkheid onder ons mensen bestaat. Briljante wetenschappers moeten vooral hun profetische boeken blijven schrijven, waakzaamheid blijft altijd geboden. Maar het wordt tijd om de mythe van de almachtige technologie die ons gaat redden of onze ondergang brengt, te ontkrachten. Mensen gaan ons redden. Maar mensen kunnen ook onze ondergang beteken.