Robot voor de rechter

Anne Posthuma ,

In Nederland kunnen machines nergens aansprakelijk voor worden gehouden, tenzij ons idee over zelfdenkende apparaten verandert. En de wetgeving.

Je zelfrijdende auto rijdt de oprit af en stopt niet op tijd voor het kind dat de straat op rent. De zelfdenkende koffieautomaat serveert de hete dranken veel te heet en veroorzaakt brandwonden. Wie is er verantwoordelijk als apparaten een fout maken? Hoe slim ze ook zijn. Net als de kranen en karren in de slimme Rotterdamse haven zijn auto's, smartphones en koffie-apparaten binnenkort allemaal aangesloten op het internet der dingen. Al deze machines staan met elkaar in verbinding en kunnen zonder jouw bemoeienis onderling beslissingen nemen. Maar als er iets misgaat, wie is dan verantwoordelijk? Jijzelf, de verkoper, de producent of de software-programmeur? 

Advocaat Menno Weij schreef zijn scriptie over de juridische aspecten van electronic data interchange en werkt bij SOLV, een advocatenkantoor dat zich heeft gespecialiseerd op het gebied van technologie, media en communicatie. Wat Weij betreft verandert er juridisch gezien niet zoveel: "Je krijgt een nieuwe dimensie met de komst van nieuwe technologieën en software, maar als havenbedrijf moet je nu ook al van tevoren nadenken over aansprakelijkheid. Wat als je een hijskraan koopt en dat ding breekt?" 

Persoon vs. apparaat

"In de huidige Nederlandse en Europese wet is vastgelegd dat alleen een persoon of bedrijf een rechtshandeling kan verrichten", legt Weij uit. Alleen individuen of bedrijven worden verantwoordelijk gehouden voor een misstap bij een transactie. Bijvoorbeeld als een kraanproducent adverteert met de robuustheid van een kraan, een bedrijf schaft deze aan, maar er breekt binnen de kortste keren toch iets af. 

"Bij business-to-business afspraken kunnen dit soort dingen allemaal contractueel worden vastgelegd." Of de haven een producent voor de rechter kan slepen, ligt aan de onderlinge afspraken die via contracten zijn gemaakt. "De leverancier zou zeggen: 'Ja, ho eens even, ik heb een voorbehoud in mijn contract gezet dat je die robot wel goed moet bedienen.' Op het moment dat partijen disclaimers opnemen: 'tot hier ben ik aansprakelijk en niet verder', dan kan het wettelijke regime er niet zoveel van zeggen." 

Met de komst van autonome machines blijft het alleen niet bij mechanische gebreken of gebruiksfouten. In de software van een apparaat kunnen namelijk ook fouten zitten, waardoor het op cruciale momenten een verkeerde actie uitvoert. De software-programmeur moet zich voortaan indekken met disclaimers. Bovendien komen er robots die gedragingen leren. Een fout kan dan een kwestie van verkeerde "opvoeding" zijn. Of een denkfout van de robot zelf. Hoe meer apparaten zelfdenkend worden, hoe logischer de denkstap dat zij in de toekomst ter verantwoording worden geroepen. 

Robot als ZZP'er

"Op dit moment kan software of de robot nooit aansprakelijk worden gehouden, tenzij de wetgeving verandert," vertelt Menno Weij over de stand van zaken. Het zit er nu nog niet in, maar er zit volgens Weij zeker een interessant juridisch vraagstuk aan: "Kan een robot aansprakelijk zijn? Als het antwoord 'ja' is omdat de robot steeds vergelijkbaarder is met de mens, dan zit er in feite dezelfde systematiek aan. Dan kan de robot zelfstandig zijn, een ZZP'er, of bijvoorbeeld in dienst gaan." 

Zelf wordt Weij nog niet blij van het idee binnen een aantal jaren door robot-chirurgen geholpen te worden in het ziekenhuis. "Een aantal maanden geleden was ik bij een lezing. Iemand vertelde over de toekomst van ICT en big data en de komst van robot-chirurgen. Toen dacht ik, ik wil nooit naar het ziekenhuis! Maar ja, het gaat gebeuren. Nu is het een systeem dat door de mens wordt bediend, binnenkort een zelfdenkend systeem. Maar het blijft bijvoorbeeld Philips die dat levert. En Philips die je daarop aanspreekt, als die robot iets doet wat niet zo leuk is voor een patiënt." 

De robot als mens

Met nieuwe technologie wordt er een extra dimensie aan contracten toegevoegd, die ervoor zorgt dat aansprakelijkheid abstracter wordt en bureaucratie toeneemt. Alleen nieuwe wetgeving kan ervoor zorgen dat robots aansprakelijk worden in de toekomst, maar dan zal ons mensbeeld van robots eerst moeten veranderen. In de laatste aflevering van VPRO Tegenlicht van dit seizoen, 'De robot als mens', zie je hoe deze beweging in Japan al is ingezet.