De mens blijft eindverantwoordelijk

Carien Moossdorff

Robotethiek volgens Aimee van Wynsberghe

Raken we onze banen kwijt aan robots? Gaat de ‘cloud’ de mensheid overheersen? In navolging van Nick Bostroms boek Superintelligence vindt het concept singulariteit, het moment waarop techniek ons definitief heeft ingehaald en autonoom verder gaat, een plek in het publieke debat. De centrale vraag: wat gebeurt er als computers slimmer worden dan mensen? En als we dat punt bereikt hebben, hoe zorgen we dan dat de techniek aan onze kant blijft staan?

Ook Aimee van Wynsberghe, gespecialiseerd in robotethiek aan de Universiteit Twente, maakt zich zorgen over de moraliteit van robots. Maar volgens haar liggen de problemen op een heel ander gebied. Robots zijn nog lang niet zo ver dat ze onze plek kunnen innemen, zegt van Wynsberghe, sterker nog: ze kunnen de taken die ze nu hebben maar nauwelijks aan. Het probleem is dat mensen de autonomie van robots eerder overschatten dan onderschatten. Met het risico dat we te veel vertrouwen op de kunstmatige intelligentie van hulpmiddelen.

Van Wynsberghe deed onder andere onderzoek naar de Wee-bot, een hypothetische zorgrobot die urinemonsters verzamelt van patiënten die chemotherapie ondergaan. Verpleegkundigen moeten voor die taak een beschermend pak aantrekken tegen de schadelijke straling, en dat kost veel tijd. De Wee-bot zorgt ervoor dat het verzamelen van de urinemonsters sneller kan. Het is dan verleidelijk om de verpleegkundige in dit scenario helemaal te vervangen door de robot.

Toch blijft de verpleegkundige in de buurt nodig, zegt van Wynsberghe. ‘Want wat als er iets mis gaat met de zorgrobot, is dat dan de schuld van het ziekenhuis? Nee, zij kunnen de situatie niet overzien. Van de verpleegkundige? Die werd juist vervangen door de robot. De ontwikkelaar dan? Ook die kan niet alle situaties voorzien die een robot op de werkvloer gaat tegenkomen. Daarom moet je altijd een mens de eindverantwoordelijkheid geven.’

De oplossing in deze situatie: De verpleegkundige blijft veilig op de gang, logt vanaf daar in op de robot en houdt zo controle over de situatie. De robot krijgt maar één taak: het verzamelen van het monster. Bovendien kan hij die taak niet uitvoeren zonder login en opdracht van de verpleegkundige. De verpleegkundige is verantwoordelijk en handelt de test verder af.

De moraliteit van een robot ligt dus niet alleen in het design, benadrukt van Wynsberghe, maar vooral ook in de toepassing ervan. ‘Een robot een taak geven die met ethiek te maken heeft, geeft hem nog geen morele agency. Sommige dingen kun je gewoon niet programmeren, die horen bij ons mens-zijn. Een robot is geen moreel zelfstandig wezen dus moeten we hem die rol ook niet geven.’

Welke rol je een robot wèl kan geven, is sterk afhankelijk van de situatie. Van Wynsberghe: ‘Die situatie doorgronden, kost veel tijd en energie: elk detail van de toekomstige werkvloer van de robot moet boven tafel komen.’ De robot maakt vrijwel altijd onderdeel uit van een netwerk van andere taken, personen en gebeurtenissen. Daar zomaar een machine tussen plaatsen en hopen dat die zich uit zichzelf aan alle externe factoren zal aanpassen, gaat niet werken, aldus Van Wynsberghe. ‘Je moet van tevoren weten in welke situaties de robot kan komen, zodat je hem daarvoor kan programmeren. Tijdens het proces van bouwen en programmeren, moet er dus continu getest en gereflecteerd worden.’

Niet alle ontwikkelaars zijn daar happig op, merkte Van Wynsberghe. Bang dat hun hele project van tafel moet als er een probleem wordt ontdekt, houden sommige robotlabs liever hun deuren gesloten voor ethici. Van Wynsberghe: ‘Niet nodig. Bewustzijn is een belangrijk deel van de oplossing. Ik merk dat als ontwikkelaars alleen al luisteren naar mijn verhaal over de Wee-Bot, ze zich meer openstellen: ze merken dan dat ethische overwegingen helemaal niet het einde van een project hoeven te zijn, dat kleine stappen al veel vooruitgang kunnen opleveren.’

Het is ontzettend belangrijk om ethici te betrekken bij het maken en implementeren van nieuwe robots, maar het blijft moeilijk om iedereen daarvan te overtuigen, zegt van Wynsberghe. ‘Ik denk dat er straks ethische problemen gaan ontstaan met robots waarmee we ons omringd hebben en dat dan pas de maatschappij wakker gaat worden.’

Eind juni brengt Aimee van Wynsberghe haar boek 'Healthcare robots: ethics, design and implemention' uit.