Geregeerd door algoritmen

Voorlopig hoeven we niet bang te zijn dat robots en andere kunstmatig intelligente systemen de macht overnemen. Maar zijn ze niet al een heel eind op weg?

Misschien moeten we niet kijken wat deze systemen zonder ons kunnen, maar wat ze met ons doen. Dat is in elk geval hoe de Amerikaanse futuroloog Kevin Kelly (1952) en de Israëlische historicus/futuroloog Yuval Noah Harari (1976) ernaar kijken. Ze komen beiden uitgebreid aan het woord in de komende aflevering van VPRO Tegenlicht, en de toekomstbeelden die zij schetsen zijn mind-blowing – in de zin dat onze breinen razendsnel uitgebreid worden tot iets groters. En vervolgens misschien in rook opgaan.

Kelly is de meest optimistische van de twee – of misschien is minst pessimistische een betere formulering. Hij is ervan overtuigd dat technologie een deel van de natuur is dat de mens overstijgt, een natuurkracht die via ons tot uiting komt. We zijn samen met onze apparatuur nu al veranderd in een soort superorganisme, stelt hij. En daar eindigt het natuurlijk niet. Kelly zegt in de uitzending dat kunstmatige intelligentie elke dag weer nieuwe dingen kan die we tot dan toe als uniek menselijk hadden beschouwd. Dat werpt grote vragen op waarover de mensheid binnenkort besluiten zal moeten nemen. Waartoe zijn wij op aarde? Wat willen we worden? Individueel, en als samenleving? Kelly: ‘Al deze vragen zullen veranderen van esoterische filosofiekwesties in keuzes die we op dagelijkse basis zullen moeten maken. Ik verwacht iedere dag koppen in de media die gaan over de onzekerheid rond de vraag wie we zijn.’

Keuzevrijheid

We staan dus voor fundamentele keuzes, volgens Kelly. Maar Harari ziet juist weinig keuzevrijheid voor ons mensen. ‘De machtigste structuren in de wereld, niet alleen nu, maar al duizenden jaren lang, zijn fictieve entiteiten. Goden, naties en bedrijven: allemaal fictieve entiteiten. Ze bestaan niet echt. Het zijn slechts verhalen die we elkaar vertellen. Maar die verhalen zijn zo krachtig dat ze ons in hun macht hebben.’ En zo zal het ook gaan, misschien nog wel meer, met de algoritmen van Google, Facebook en 
Apple, betoogt de Israëlische denker.

De machtigste structuren in de wereld, niet alleen nu, maar al duizenden jaren lang, zijn fictieve entiteiten. 

Kevin Kelly

Harari: ‘Democratie, de vrije markt, individualisme en liberalisme zijn allemaal gebaseerd op de aanname dat niemand jou beter kent dan jijzelf, en niemand dus 
beslissingen voor jou moet nemen. Dat is altijd waar geweest, maar nu niet meer. Of dat zal binnen tien jaar niet meer zo zijn. Dan heeft Google, of de Chinese overheid, genoeg data van je, en genoeg inzicht in je biologie, en genoeg rekenkracht, om jou beter te begrijpen dan jij dat zelf kan.’ En dat, meent hij, betekent automatisch het einde van het individualisme, de vrije markt en de democratie. Binnen tien jaar dus. Maar eigenlijk is het volgens hem al begonnen.

Volgens Harari zal de overgrote meerderheid van de mensheid niet alleen de controle over zijn leven kwijtraken, maar ook alle politieke macht en economische waarde verliezen. Hij verwacht een extreem ongelijke samenleving waarin een minuscule elite de algoritmen bezit die wereld bestieren. En de rest? Die zal z’n heil zoeken in virtuele werelden en daar misschien wel heel gelukkig zijn. Een schrikbeeld? Ach, relativeert hij. Religies zijn net zo goed virtuele realiteiten, een soort spellen waarin je punten kunt scoren om een level hoger te komen, en daar zijn we al duizenden jaren aan gewend. Maar of homo sapiens over twee eeuwen nog bestaat? Harari betwijfelt het.