Kijk, zonder handen

Tekst bennie mols - illustratie kwennie cheng

De zelfrijdende auto belooft het verkeer veiliger te maken. Toch zien deskundigen nog veel beren op de weg. En dan moet de autonome auto ook nog morele knopen doorhakken.

Om te bewijzen dat je geen robot bent, vragen talloze websites je om negen fotootjes te bekijken: op welk van deze foto’s staat een verkeersbord? Andere keren gaat de vraag over het herkennen van een voertuig, een winkel of een etalage. Waarom dat is? Omdat we zo met ons allen zelfrijdende auto’s trainen om te begrijpen wat ze om zich heen zien.

Dat dit zelfs met de modernste technologie niet altijd goed gaat, bewees het ongeluk met een Tesla Model X in maart 2018 op Highway 101 in Californië. Walter Huang reed met 112 kilometer per uur op de automatische piloot van zijn Tesla toen de auto plots op een betonnen scheiding tussen twee weghelften inreed. Huang kwam om het leven. Ook robotauto’s zijn niet perfect. Soms maken ze fouten die geen mens zou maken.

Toch is hun grootste belofte dat ze het wegverkeer veiliger gaan maken. Wereldwijd vallen er jaarlijks 1,2 miljoen doden door auto-ongelukken. Ruim negentig procent van die ongelukken is te wijten aan menselijke fouten. Zelfrijdende auto’s zouden een groot deel van deze ongelukken kunnen voorkomen. Ze kijken niet op de smartphone, laten zich niet afleiden door medepassagiers, drinken niet en hebben geen last van slaaptekort. En ze zien veel meer dan wij met hun hightechsensoren: infraroodcamera’s, radar, lidar, ultrasone sensor en gps-navigatie. Weg dode hoek, weg mist, weg duisternis. In theorie dan.

Autonomie

Het ideale wegverkeer in het zelfrijdende universum wordt op videowebsite Vimeo prachtig verbeeld in het filmpje ‘Rush Hour’. We zien een druk kruispunt, zonder verkeerslichten. Auto’s, fietsers en voetgangers rijden en lopen in grote aantallen voorbij, rakelings langs elkaar, zonder dat er ook maar een botsing plaatsvindt. Optimale benutting van de weg. In deze utopie zijn auto’s volledig zelfrijdend en communiceren ze ook nog eens elektronisch perfect met elkaar en met andere weggebruikers. Dat zou leiden tot een radicale transformatie van mobiliteit, onderwerp van VPRO Tegenlicht op 7 april.

Maar zo ver is het nog lang niet. Ontwikkelaars van zelfrijdende auto’s onderscheiden vijf niveau’s van autonomie. Op niveau 0 is de menselijke bestuurder de baas. De auto heeft geen enkele automatische functie. Op niveau 1 heeft de auto één of meer automatische functies, zoals cruisecontrol op de snelweg, automatisch remmen in noodgevallen, het vasthouden van de rijbaan, het veranderen van rijbaan of automatisch parkeren. De mens moet echter te allen tijde kunnen ingrijpen. Op niveau 2 kan de auto ook zelf gas geven, remmen en sturen. Ook hier moet de mens blijven opletten en kunnen ingrijpen wanneer nodig. Op niveau 3 mag de menselijke bestuurder de controle op sommige delen van zijn reis (bijvoorbeeld op een voorspelbare snelweg) volledig overlaten aan de zelfrijdende auto. Maar nog steeds moet de mens in noodgevallen de controle kunnen overnemen. Dit is het niveau van een huidige Tesla met alle zelfrijdende opties.

Daarna wordt het pas echt spannend. Op niveau 4 kan de mens de controle volledig aan de zelfrijdende auto overlaten, behalve in uitzonderlijke gevallen,  zoals extreem weer. Niveau 5 is de ultieme ingenieursdroom: een zelfrijdende auto die onder alle omstandigheden altijd alles zelf doet. Als mens geef je aan waar je wilt worden opgehaald en waar je naar toe wilt, en vervolgens rijdt de auto je van A naar B. Een horizontale lift op wielen.

Veiligheid

In het afgelopen decennium hebben diverse auto-fabrikanten de stap van niveau 0 naar niveau 3 gemaakt. Maar bij de ontwikkeling van een zelfrijdende auto zit nou net 95 procent van de problemen in de stap van niveau 3 naar de niveaus 4 en 5. Om die extra stappen te zetten moet een aantal tot nu toe hardnekkige problemen worden opgelost. Hevige sneeuw, regen, mist, zandstormen en andere extreme weersomstandigheden zorgen voor verlies van zicht. Dat moet echter in de toekomst met betere sensoren best op te lossen zijn.

Dan is er nog het probleem van een grote variatie in wegbelijning, stoepranden en dergelijke; het uiterlijk van de weg verschilt vaak per land. Een nog groter probleem is de communicatie met andere weggebruikers. Bedenk maar eens hoe vaak je in het verkeer met een gebaar of een oogwenk aangeeft dat een automobilist, fietser of voetganger best even mag voorgaan. Daar bakken de huidige Tesla’s en Waymo’s niets van.

Daarnaast kunnen zich oneindig veel unieke situaties voordoen die de zelfrijdende auto nog nooit eerder heeft gezien, maar waar hij toch adequaat op moet reageren. Denk aan een agent die op een bepaalde manier met zijn hand beweegt of een ballon die de weg op waait. Mensen begrijpen zulke situaties met hun gezonde verstand, door jarenlange oefening in het omgaan met de wereld om zich heen. Zelfrijdende auto’s mogen dan wel veel zien, maar ze begrijpen nog steeds heel weinig van wat ze zien.

Zelfrijdende auto's mogen dan wel veel zien, maar ze begrijpen nog steeds heel weinig van wat ze zien.

-

Tenslotte is de acceptatie door de consument een obstakel. Volgens een studie van de Society for Risk Analysis gaat de gewone consument pas over op zelfrijdende auto’s wanneer ze aantoonbaar vier- tot vijfmaal zo veilig zijn als menselijke bestuurders. We verwachten kortom veel meer veiligheid van zelfrijdende auto’s dan van menselijke bestuurders.

De meeste experts denken dat het nog minstens enkele decennia duurt voordat zelfrijdende auto’s niveau 5 bereiken. Maar wanneer veiligheid het belangrijkste doel is van zelfrijdende auto’s dan hebben we niveau 5 niet eens nodig. In dat geval volstaan de niveaus 1, 2 en 3. ‘Meer dan de helft van de auto-ongelukken is te vermijden met technologie die nu al beschikbaar is, of op de plank ligt,’ zegt mobiliteitsexpert Carlo van de Weijer van de TU Eindhoven in een uitzending over de zelfrijdende auto van het bnr-radioprogramma De technoloog uit 2018.

Trolleyprobleem

Techniek is nooit perfect, en de buitenwereld is nooit helemaal voorspelbaar. Dat ook de zelfrijdende auto − met welk niveau van autonomie dan ook − brokken gaat maken, staat dus buiten kijf. Moet de zelfrijdende auto in die situatie ook morele keuzes gaan maken? Als de auto op een groepje kinderen af rijdt en een fatale botsing alleen kan voorkomen door met passagier en al een ravijn in te rijden, wat moet die auto dan doen? Dit zogeheten trolleyprobleem wordt steeds tevoorschijn getoverd wanneer het gaat om zelfrijdende auto’s.

Roboticus Rodney Brooks heeft geen goed woord over voor dit dilemma. ‘Hoe vaak heb je als bestuurder moeten besluiten op welke groep mensen je in zou rijden?’ schrijft hij in een essay op zijn website. ‘O, heb je die beslissing nog nooit hoeven nemen? En je vrienden en familie dan? Die hebben hier toch vast wel eens mee te maken gehad?’ Als mensen dit soort situaties niet tegenkomen, dan geldt dat voor zelfrijdende auto’s dus ook. Het is een fictief dilemma, schrijft hij. ‘Het is zuiver mentale zelfbevrediging in een jasje van ethiek.’

Jean-François Bonnefon, onderzoeker van de Toulouse School of Economics, vindt echter dat het wel degelijk nuttig is om te weten hoe mensen het trolleyprobleem oplossen. ‘Trolleyproblemen zijn een onrealistische, discrete versie van een zeer reëel dilemma dat op statistisch niveau tevoorschijn komt,' zegt hij in maart 2019 in de speciale uitgave Machine Ethics van het Institute of Electrical and Electronics Engineers (IEEE). Hij legt uit dat in 2015 in stedelijke omgevingen in de EU circa tienduizend dodelijke slachtoffers vielen bij auto-ongelukken. Daarvan was 61 procent inzittende van een auto, 39 procent was voetganger. Of we die verhouding wel of niet aanvaardbaar vinden, is volgens Bonnefon een statistische variant van het trolleyprobleem.

In noodsituaties hebben mensen meestal geen tijd hebben om een bewuste keuze te maken wie wel of niet slachtoffer moet worden. Maar het zou over enkele decennia goed kunnen dat zelfrijdende auto’s zulke keuzes wel kunnen maken, simpelweg omdat ze veel meer zien en veel sneller weten wat ze zien.

Discriminatie

Bonnefon en zijn collega-onderzoekers hebben talloze varianten van het trolleyprobleem voorgelegd aan miljoenen mensen wereldwijd in het computerspel The Moral Machine Experiment. Spelers staan steeds voor de onvermijdelijke keuze tussen het doden van twee varianten. En die varianten kunnen allerlei combinaties zijn van katten, honden, criminelen, zwervers, dikke mensen, kinderen, volwassenen, bejaarden en zwangere vrouwen. In het wetenschappelijk tijdschrift Nature concludeerde men vorig jaar dat menselijke bestuurders overal ter wereld liever mensen sparen dan dieren, liever jongeren dan ouderen en liever meer levens redden dan minder.

Toch waren er ook verschillen en die bleken samen te vallen met drie geografische en culturele gebieden: westers (onder meer een groot deel van West-Europa en de VS), oosters (Azië en islamitische landen) en zuidelijk (onder meer Zuid-Amerika, maar ook Frankrijk, Marokko, Algerije). In het oosterse cluster heeft leeftijd een kleiner effect dan in het westerse cluster, waarschijnlijk omdat er meer respect bestaat voor oude mensen. Ook telt het aantal mensen hier minder. In het zuidelijke cluster zijn mensen eerder geneigd de levens te sparen van vrouwen, jongeren en mensen met meer status.

Maar weten welke onmogelijke keuzes mensen maken, betekent nog niet dat zelfrijdende auto’s volgens zulke geografisch en cultureel bepaalde voorkeuren geprogrammeerd moeten worden. Duitsland heeft tot nog toe als enige land expliciet ethische richtlijnen opgesteld. Daarin staat onder meer dat zelfrijdende auto’s mensenlevens boven levens van dieren en boven materiële beschadigingen moeten stellen. En als oplossing van het trolleyprobleem kiest Duitsland voor het standpunt dat de zelfrijdende auto niet mag discrimineren op basis van leeftijd, gender, ras, uiterlijk of wat voor onderscheid dan ook tussen potentiële slachtoffers. Voor de zelfrijdende auto zijn alle mensen gelijk, ook al denken de inzittenden er stiekem anders over.