Robotregels

, Anna Schouten

Menselijke intelligentie wordt naar verwachting voorbijgestreefd door robots en kunstmatige intelligentie. Dat betekent dat de maatschappij er best eens heel anders uit kan komen te zien. Hoog tijd voor regelgeving, zeggen experts. Op welke manieren moet er worden ingegrepen?

Er zal een punt komen waarop autonome robots (in het vervolg afgekort tot robots) zich zelfstandig verder kunnen ontplooien, nu ze steeds slimmer en accurater worden. De mens zal daarbij niet langer nodig zijn. Dit is het moment waarop wij als mens ingehaald worden. Robots zullen niet meer slechts als hulpmiddel dienen, maar worden mogelijk veel machtiger dan dat. Stel je voor: militaire drones die autonoom kunnen bepalen of ze een terrorist mogen 'uitschakelen', op basis van de getrackte telefoon die hij bij zich draagt. Maar wat als hij die telefoon aan zijn kind gegeven heeft? Of dichter bij huis: een zorgrobot die op basis van een sip gezicht zelfstandig de conclusie trekt dat de persoon depressief is, terwijl er misschien niks aan de hand is.

(tekst loopt door onder afbeelding)

Card

Van uitzonderlijke tot alledaagse kwesties: de robot zal op allerlei vlakken binnendringen in ons leven. Hoe belangrijk is het dat er afspraken en regels omtrent robots en kunstmatige intelligentie komen? En wat zijn de mogelijke risico’s als we niet stilstaan bij ethische vraagstukken? VPRO ging in gesprek met vier experts op het gebied van robotica.

(tekst loopt door onder afbeelding)

'Robots zullen nooit beter zijn dan mensen'

Aimee van Wynsberghe

de mens moet de baas blijven

Aimee van Wynsberghe, robotethica en voorzitter van Foundation for Responsible Robotics, benoemt allereerst dat het belangrijk is om een onderscheid te maken. ‘Militaire robots, werkrobots, seksrobots en zorgrobots verschillen enorm van elkaar. Je kunt niet alle soorten robots en de daarbij horende kunstmatige intelligentie over één kam scheren wanneer het gaat over ethische kwesties rondom bijvoorbeeld veiligheid, transparantie of privacy. Zonder een duidelijk onderscheid kunnen er geen concrete regels opgesteld worden over wat een robot wel en niet mag kunnen.’

Van Wynsberghe gaat verder: ‘Wel zijn er enkele basale richtlijnen die voor alle robots zouden moeten gelden. We moeten voorkomen dat robots beslissingen gaan maken in plaats van mensen. De robot mag de mens alleen ondersteunen; de mens mag nooit door de robot vervangen worden. Zo vind ik dat een zorgrobot geen zelfstandige dokter mag zijn: er moet bij een operatie altijd een menselijke arts aanwezig zijn die de baas blijft over de situatie. Op deze manier blijft er ook altijd iemand, een mens, verantwoordelijk op momenten dat het fout gaat. Of het nu in het ziekenhuis is, in het verkeer, of het onderwijs.'

Op deze manier voorkomen we dat robots een te grote machtspositie krijgen. Van Wynsberghe: 'Door te zeggen dat robots beter zijn dan mensen – zoals sommigen menen – gaan we voorbij aan het feit dat er een heleboel menselijke eigenschappen zijn die robots niet kunnen hebben. Emotionele intelligentie, empathie en mededogen ontbreken bij robots. Dit zijn echter belangrijke vaardigheden in de samenleving. Als we een kil en afstandelijk persoon ontmoeten, denken we: wat een robot. Het contact met robots zal ook op zo’n manier verlopen, en dat is geen pretje. Ja, robots zijn stukken slimmer in bijvoorbeeld berekeningen, maar robots zullen nooit beter zijn dan mensen. En daarom mogen we ze niet dezelfde, of zelfs meer, macht geven.'

(tekst loopt door onder afbeelding)

Aimee van Wynsberghe

Card

Hoe kan de macht beperkt blijven? Van Wynsberghe volgt de stappen van de overheden nauwlettend: 'Op Europees niveau zijn de eerste stappen gezet wat betreft de ethische kwesties rondom robotisering. Het Europees Parlement heeft adviezen voor regelgeving rondom robotisering, over onder andere aansprakelijkheid en gedragscodes, doorgespeeld naar de Europese Commissie. De commissie heeft een eerste reactie gegeven, maar verder dan dat is het nog niet gekomen. Op nationaal niveau wordt er nog vrijwel niets ondernomen. Dat betekent dat we nog in een abstracte situatie zitten. Het is belangrijk dat hier vaart achter wordt gezet: over twee jaar kan er al een heleboel zijn veranderd. Als er dan nog altijd geen discussie en debat zijn gevoerd, kunnen we zomaar te laat zijn met passende regelgeving. Zo is het tijd dat beleidsmakers en leiders in de robotindustrie om de tafel gaan met ethici, om de ethische vraagstukken bij deze instanties op de kaart te zetten.'

(tekst loopt door onder afbeelding)

'De mens moet de grenzen stellen'

Robert Went

robots om het menselijk leven beter te maken

Robert Went is econoom bij Wetenschappelijke Raad voor het Regeringsbeleid (WRR) en co-auteur van boek De robot de baas. Naast de mogelijke gevaren van de robots boven de mens, noemt hij een andere reden voor machtsbeperking: ‘Door eisen te stellen aan robots, laten we ze in ons voordeel werken. Waar hebben we robots voor? Om het menselijk leven en welzijn beter te maken, door bijvoorbeeld fysiek zware en repetitieve werktaken over te nemen of het verkeer soepeler te laten verlopen. Daarom moet de mens de grenzen stellen. Zo gaan we niet uit van mens tégen de machine, zoals past bij rampscenario’s waarin robots de wereld overnemen, maar van mens mét de robot.'

Volgens Went maken verschillende partijen een deel uit: ‘Niet alleen techneuten moeten bepalen, ook sociologen en psychologen kunnen een rol spelen. Er zijn een heleboel keuzes die we moeten maken, waarbij het van belang is dat we er allemaal beter van worden – niet alleen de ontwerpers, investeerders en producenten van robots en de eigenaars van de bedrijven die ze inzetten. Als we die keuzes niet zelf maken, en overheden ook niet met regelgeving, grenzen en eisen komen, dan gaan de ontwikkelaars van de algoritmen of robots voor ons bepalen hoe de toekomst eruit ziet. Dat moeten we niet willen.'

Hoe staat het met die regelgeving bij de overheid? Went: ‘Bij verschillende ministeries komt inmiddels wel meer aandacht voor het vaststellen van de regelgeving; de kwestie staat op de agenda. Dat komt mede door publicaties en adviezen vanuit het WRR. Ook het Rathenau Instituut draagt bij aan het op de kaart zetten van de discussie: het rapport Werken aan de robotsamenleving werd in opdracht van de Tweede Kamer geschreven, en Human rights in the robot age in opdracht van het Parlement van de Raad van Europa. Maar het mag wel een tandje sneller gaan wat betreft concrete vorderingen. Het is namelijk heel fundamenteel wat er staat te gebeuren.'

(tekst loopt door onder afbeelding)

Robert Went

'Er moet vertrouwen komen in abstractie'

Rob van den Hoven van Genderen

bekijk robotisering op een positieve manier

Directeur van het Center for Law and Internet Rob van den Hoven van Genderen deelt de mening dat we robots een beperkte macht moeten opleggen juist niet: 'We kunnen het juist beter op een positieve manier bekijken. Om wat voorbeelden te noemen op het gebied van werkrobots, van de landbouw tot het ziekenhuis: ze hebben geen slaap en vakantie nodig, zijn preciezer dan mensen en kunnen meer informatie verwerken. Dat zorgt er in de zorg bijvoorbeeld voor dat er voor verzorgers meer tijd vrijkomt voor echt menselijk contact met patiënten, en dat operaties mede door robots beter uitgevoerd kunnen worden.'

Het is volgens Van den Hoven van Genderen van belang om robots een geaccepteerde plek in de samenleving te geven, zodat ze bovenstaande verwachtingen waar kunnen maken: 'Gezien de grote hoeveelheid positieve gevolgen van robotisering moet de wetgeving omtrent robots daarom niet alleen gaan om het opleggen van beperkingen, maar juist ook om het creëren van mogelijkheden voor de autonome systemen. We moeten de systemen niet alleen als instrument voor ons laten werken, maar ook een eigen plaats geven. Ik denk dan ook dat het in de toekomst verstandig is om autonome robots een bepaalde rechtspositie te geven als zij zowel rationeel als sociaal en emotioneel vaardig zijn, zodat ze bevoegdheden kunnen krijgen voor het functioneren en handelen in de maatschappij. Zo kunnen robots bijvoorbeeld overeenkomsten sluiten of een eigen bedrijf beginnen: hun eigen verantwoordelijkheden.'

Van den Hoven van Genderen vervolgt: 'Om dat te verwezenlijken moet de mens de controle loslaten. Maar dat is moeilijk, omdat hij last heeft van zware zelfoverschatting wat betreft zijn eigen sociale en emotionele intelligentie. Denk bijvoorbeeld aan de automatische piloot in het vliegtuig. 95% van de vlucht wordt geregeld door de computer en als er iets misgaat, is dat meestal vanwege een menselijke fout of stoornis. Hetzelfde geldt voor autonome auto’s: er is aangetoond dat door het gebruik van autonome auto’s 90% minder verkeersongelukken zullen plaatsvinden, aangezien de mens niet meer achter het stuur zit. Het is een cruciale fout om te denken dat controle door de mens altijd beter is. Er moet vertrouwen komen in abstractie.'

(tekst loopt door onder afbeelding)

Rob van den Hoven van Genderen

'Is een robotvriendelijke omgeving nog wel mensvriendelijk?'

Rinie van Est

behoefte aan een sociale connectie

We moeten rekening houden met de veranderingen in de omgeving, noemt Rinie van Est, onderzoeker bij het Rathenau Instituut en auteur van Werken aan de robotsamenleving en Mensenrechten in het robottijdperk. 'Er is een cruciale vraag die we moeten stellen: hoe ver willen we gaan met de invloed van robots in de samenleving? Om de robot in te zetten moet je de omgeving robotvriendelijk maken. Maar is die omgeving nog wel mensvriendelijk? Dat is maar net hoe je het inricht. In hoeverre willen we ziekenhuizen, winkels en restaurants aanpassen voor robots? Het is fijn als robots de zorg voor een deel op zich kunnen nemen. Maar als er nooit meer een verpleger of dokter in menselijke vorm naast het bed staat, is er sprake van een gedehumaniseerde zorg. En soms is het prima om in een restaurant door een robot te worden geholpen, als het gaat om een snelle hap. Ergens is dat vergelijkbaar met de kroket die we nu uit de muur trekken in de snackbar: dat gaat ook zonder menselijk contact. Maar als je eens een avond uitgebreid uit eten gaat, heb je toch behoefte aan de sociale connectie met een ober.'

In tegenstelling tot Van Wynsberghe en Went noemt Van Est dat we nog voldoende tijd hebben om de uitwerking van de robotsamenleving te beïnvloeden: 'Het is een mythe dat de ethische reguleringsdiscussie altijd achterloopt en zich slechts op een abstract niveau bevindt. Sociale robots hebben nog niet de overhand in de zorg en huizen, en ook zelfrijdende auto’s zijn nog lang niet massaal op de weg te vinden, maar over de wetten en regels wordt al nagedacht. Op dat gebied lopen we dus niet achter de feiten aan, maar lopen we juist vooruit. We zijn er zelf bij, om de robotisering van de samenleving op eigen manier vorm te geven. Maar dat moeten we dus ook echt doen.'

Rinie van Est

thema van de toekomst

De meningen lopen uiteen over ethische kwesties rondom robotisering. Natuurlijk kan niemand precies weten wat er voor ons in het verschiet ligt, maar één ding is duidelijk: de ingewikkelde discussie over dit belangrijke thema van de toekomst kunnen we niet aan ons voorbij laten gaan.