I, Robot; over de juridische positie van de robot Kessels blogt:

I robot

foto: homecinemachoice.com

Kent u de film I, Robot? De sci-fi film uit 2004 met onder meer Will Smit speelt zich af in het Chicago van 2035. Robots hebben een grote, ondersteunende rol gekregen in de maatschappij. De robots worden aangestuurd door een supercomputer. Als de professor, die aan de basis ligt van het gebruik van robots en de geldende robotwetten heeft gemaakt overlijdt, ontstaat er onrust.
Is de professor vermoord door een robot die autonoom is gaan handelen? De supercomputer interpreteert op dat moment de drie geldende robotwetten op een andere manier, waardoor de robots in opstand komen tegen de mensheid. Je moet ervan houden, maar het is een aardige film.

Een film is niet echt”, werd mij vroeger altijd verteld. Toch hebben robots een steeds grotere rol in onze samenleving. Je zou zelfs kunnen zeggen dat de digitalisering en de toenemende rol van robots hierin een nieuwe industriële revolutie in hebben geluid. Het vraagstuk welke plaats de robot moet krijgen in het juridische speelveld, gaat al even terug. Sciencefictionauteur Isaac Asimov ontwikkelde meer dan zeventig jaar geleden al de drie wetten, robotwetten. Na wat latere aanpassingen door wetenschappers zijn dit de “Drie Wetten voor Verantwoordelijke Robotica”:

1.Een mens mag geen robot inzetten wanneer dat dit werk met de robot niet voldoet aan de hoogste wettelijke en professionele normen van veiligheid en ethiek;
2. Een robot moet afhankelijk van zijn functie mensen voldoende kunnen beantwoorde;
3. Een robot moet worden begiftigd met genoeg toereikende autonomie om zijn eigen bestaan te kunnen beschermen, zolang hij hierdoor gemakkelijk te bedienen blijft en zijn autonomie niet in strijd is met de Eerste en de Tweede Wet.

De film I, Robot lijkt dus geïnspireerd te zijn op het gedachtengoed van Asimov. Maar wat betekent dit nu in de praktijk? Bovenstaande wetten zijn niet opgenomen in onze Europese– en nationale wetgeving. Als we kijken naar de huidige stand van de techniek, worden robots nog veelal gezien als gebruikersvoorwerp. Net als bijvoorbeeld zelfrijdende auto’s of drones. Een robot wordt geprogrammeerd om een bepaalde handeling te verrichten. Maar wat als dat verkeerd gaat? Is dan de fabrikant aansprakelijk of de gebruiker van bijvoorbeeld de robot? Dat is een vraag van productaansprakelijkheid en dan wordt de robot dus gezien als een product.

Maar de kans is groot dat robots in de nabije toekomst nog belangrijker worden. En ook dat ze steeds meer zelf lerend worden. Ik denk dat ook in de advocatuur uiteindelijk robots een grote rol zullen spelen. Zo bestaat de ROSS Robot al, een robot die alle jurisprudentie, boeken en wetten kent. ROSS is altijd beschikbaar om bijvoorbeeld jurisprudentie te zoeken. Ook ROSS is zelf lerend, wat betekent dat hij leert van de zoekopdrachten die worden ingevoerd. Maar hoe slim kan ROSS uiteindelijk worden en wat betekent dat voor zijn juridische status? Wat als ROSS een belangrijke uitspraak over het hoofd ziet waardoor een cliënt veel geld moet betalen aan de wederpartij?

Het is goed denkbaar dat een robot uiteindelijk op basis van diverse algoritmes in staat is om keuzes te maken die een grote impact kunnen hebben op onze levens. Ik denk dan bijvoorbeeld aan verkeerssituaties. Wat als de plaatselijke klaar-over wordt vervangen door een robot, die vervolgens een inschattingsfout maakt waardoor een kind letsel oploopt? Als de robot op een punt komt dat “hij of zij” zulke ingrijpende beslissingen kan nemen, is het dan niet tijd om de mogelijkheid om de robot zelf aansprakelijk te stellen te introduceren? Als de robot zelf rechtshandelingen verricht, moet hij daar dan niet zelf de consequenties van dragen? Als een robot een rechtspersoon wordt, kan hij juridisch eigenaar zijn van bepaalde zaken, maar bijvoorbeeld ook het auteursrecht hebben op werk dat hij creëert. Een misschien nog wel veel belangrijkere vraag is wie dat gaat betalen. Want als de robot schadevergoeding moet betalen, moet hij dan ook in staat zijn om geld te hebben? Of moet de overheid inspringen? Deze invulling lijkt mij één van de grootste obstakels.

Dat lijkt wellicht toekomstmuziek en alleen een interessante juridische discussie. Rob van den Hoven van Genderen, universitair docent, schreef een artikel hierover waarin hij noemt dat Zuid-Korea bijvoorbeeld al een stuk verder is in deze juridische discussie. Het tijdstip waarop robots het punt bereiken dat ze echt schade kunnen aanrichten, lijkt helemaal niet zo ver weg. Maar op welke manier de juridische status van de robot dan wordt ingevuld, dat is nog even afwachten.

Wilt u robots gaan gebruiken in uw bedrijf, op welke manier dan ook? Ik wissel graag met u van gedachten welke juridische consequenties dit voor u heeft.

Simone Dirven

Comments are closed.