In mijn eerste blog over dit onderwerp besprak ik de tafelrede van Berber Brouwer, die op passende en pakkende wijze de donkere wolken van AI boven het auteursrecht schetste, In mijn blogs (2) en (3) ga ik wat dieper in op het onderwerp IE en AI. In blog (2) mede aan de hand van twee scripties en een onderzoekspaper en een oratie. Deze blog (3) geeft een (nog) breder perspectief komt van een ISVW cursus, het januari-nummer 2020 van Filosofie Magazine (De Robots komen) en de oprichting van de NVAIR.
TLG volgt alle discussies en ontwikkelingen, zowel de juridische, als de meer algemene. Wij verbinden AI met IE als één van onze expertises.
Wie krijgt het IE-recht (if anybody or anything) en wie is er aansprakelijk als het “mis gaat”?
We kennen al “fictieve makers” en “bestuurdersaansprakelijkheid”. Daar gaan we – ook hier – een heel eind mee komen. Alle IE-rechten waarin een “persoon” wordt aangewezen als bron van de prestatie (zoals “maker” in het auteursrecht en “uitvinder” in het octrooirecht) kennen al rechtspersonen als rechthebbende. Rechthebbende – na bijv. overdracht – niet zijnde de menselijke maker of uitvinder (die trouwens ook na overdracht zekere “eigen rechten” blijft houden). Elk IE-recht kan uiteindelijk eigendom zijn van een rechtspersoon. Het is een moot question voor hoeveel IE-recht dat in de praktijk geldt (meer dan 50% zeker; meer dan 90%). Dan is de stap naar een AI-persoon niet meer zo groot.
Rechtspersonen waren lange tijd ook “lastig” in het recht. In de Common Law kwamen ze bijvoorbeeld in het “equity-recht” terecht, waar de natuurlijke personen in de “common law” mochten blijven. Het zijn abstracties, en daar hebben juristen het altijd lastig mee (gehad …?!).
Als menselijke correctie-mechanisme hebben we bij rechtspersonen de zgn. bestuurdersaansprakelijkheid toegevoegd. Er moet uiteindelijk toch een mens aanspreekbaar zijn?! Dat kan bij een AI-persoon natuurlijk ook altijd zo worden ingericht. Hub Dohmen en de Belgisch Vereniging voor Auteursrecht presenteren een aantal mogelijke kandidaten: de bedenker, de ontwerper, de investeerder, de gebruiker, de intermediair, de exploitant, de toezichthouder. Er zijn dan tal van analogieën, parallellen en aanknopingspunten mogelijk met andere juridische normeringen. Ik noem alleen maar de ons bekende aansprakelijkheden voor besturen, toezicht houden, hulp-personen en –zaken e.d.
Hub Dohmen merkt daarover in een blog op:
Daarom hebben we de bestuurdersaansprakelijkheid uitgevonden. Als jou een ernstig verwijt kan gemaakt worden als ‘handelende persoon’, kun je toch persoonlijk aansprakelijk worden gesteld. Bij een aanspreekbaar algoritme kunnen we ook zo’n vangnet voorzien. De mensen die betrokken zijn bij de opvoeding van het algoritme moeten bijvoorbeeld aangesproken kunnen worden op hun bijdrage aan wat zo’n systeem uiteindelijk doet. De bedenker mag zich niet volledig achter het algoritme kunnen verschuilen.
Een kwestie van Rousseau’s Émile nog eens herlezen: als je gaat opvoeden gaat het gewoonlijk (altijd) mis met je eindproduct. Hoewel – “op het einde kon Émile zijn plichten vervullen tegenover de maatschappij en een voorbeeld zijn voor zijn mede-persoon” (vrije weergave, RWH). Émile was ook een fictief personage. AI is niets fictiefs vreemd.
Cursus bij de ISVW en Filosofie Magazine van januari 2020
De vragen die opdoemen rondom AI hebben natuurlijk veel en veel bredere contexten dan IE of dan “recht”. “Echte liefhebbers” verdiepen zich daar dan ook in. Hub Dohmen schreef over een week bij de ISVW (Internationale School van Wijsbegeerte, in Leusden) over Robot en ik. Ik verwijs naar zijn verslag daarover. Filosofie Magazine januari 2020 heeft als titel “De robots komen”, met als ondertitel: remedies tegen techniekpaniek. Want “techniek” vervreemdt, verbreedt, beangstigt, vernauwt en bevrijdt allemaal op een eigen wijze. Techniekfilosoof Peter-Paul Verbeek komt er ook aan het woord (blz. 28-33).
Voor juridisch denken (Blok hierboven) is zijn analyse interessant over het vervagen van de object/subject grens waarbij hij problemen thematiseert van een te rigide vasthouden aan de subject-object relatie: “de mens” versus “de dingen”. Onder verwijzing naar Foucault wijst hij op het belang van het ontwikkelen van een grenshouding als een emancipatoire ambitie: stilstaan bij de vraag met welke begrippen wij denken, en zijn die ook niet het product van de structuren, de maatschappij, de technologie waarbinnen wij leven. “Technologie is ons noodlot. Wij moeten de technologische conditie van ons bestaan aanvaarden. Mens en technologie staan niet tegenover elkaar, maar in wisselwerking – mens en techniek gaan voortdurend relaties met elkaar aan.”
Deontologische theorieën zijn, zoals vrijwel alle morele theorieën, antropocentrisch. Ze stellen in het algemeen de mens centraal en funderen daarom slechts rechten voor mensen. Net zo goed als we de onbetaalde fysieke arbeid van robots in fabrieken niet afkeuren als slavernij, doen we niets verkeerds als we slimme systemen niet belonen voor hun intellectuele arbeid.
Nederlandse Vereniging voor AI en robotrecht
Ruim 50 deelnemers beleefden op 16 mei 2019 in het Amsterdamse Ondernemershuis een enthousiaste eerste ledenbijeenkomst van de nieuwe Nederlandse Vereniging voor Artificiële Intelligentie en Robotrecht (NVAIR). Ook inhoudelijk leverde de bijeenkomst in het Amsterdamse Ondernemershuis belangwekkende impulsen op. Voor de nieuwe vereniging geldt dat AI en Robotica positieve ontwikkelingen in zich dragen en dat de aandacht vooral uitgaat naar een maatschappelijk verantwoord ontwerp en toepassing. De aanwezigen hechten zeer aan een multidisciplinaire benadering binnen de NVAIR. Twee themagroepen – een over visie & missie , een ander over ethische vraagstukken – gingen van start om het beleid van de NVAIR nader in te kleuren.
De inleidingen van de sprekers van 16 mei beschikbaar via de nieuw gelanceerde website www.robotrechtnvair.nl. Gastspreker Peter Werkhoven (hoogleraar UU/TNO) bracht in zijn verkenning van AI naar voren dat AI machines inclusief robots doelgeoriënteerd zouden moeten worden ontworpen. Is het doel bekend dan kunnen binnen dat kader ook de juridische, sociale en ethische aspecten een uitwerking krijgen. Rob van den Hoven van Genderen, voorzitter en VU-onderzoeker, verkende de noodzaak van een eigen rechtssubjectiviteit voor slimme machines en riep de leden op vooral met eigen suggesties en ideeën over de betekenis van het recht voor de nieuwe NVAIR te komen. Hub Dohmen, penningmeester en advocaat, gaf aan dat het van belang is dat alle advocaten beschikken over voldoende technologische kennis om binnen de alom aanwezige digitale omgeving professioneel te kunnen functioneren. Hij noemde het voorbeeld uit Amerika waar advocaten verplicht deze kennis zich moeten eigen maken.
De website van de vereniging geeft naast nieuws ook tal van interessante blogs en relevante downloads.
Nog verder denken – voorbij AI?
Reflectie op het zgn. dataIsme” kan ons tot het inzicht brengen dat de term “kunstmatige intelligentie” helemaal niet klopt. “Kunstmatige slimmigheid” is dan beter, omdat AI geen begrip heeft. Aldus Roger Penrose in deVPRO uitzending Tegenlicht: Technologie als religie van afgelopen zondag 24 januari 2021. Regisseur Hans Busstra gaat in Technologie als religie op zoek naar zingeving in de wereld van de moderne technologie, en stuit daarbij op het dataïsme. De belofte is een paradijs, waarin artificiële intelligentie ons eeuwig leven en geluk schenkt. Een zoektocht naar zingeving in het techtijdperk. Tot voor kort hadden religies het alleenrecht op de hemel. Maar godsdienst heeft een nieuwe concurrent: het dataïsme, de overtuiging dat uiteindelijk alles, ook het leven zelf, niets meer is dan data. De belofte is een programmeerbaar paradijs, waarin artificiële intelligentie ons eeuwig leven, geluk en schoonheid schenkt.
Penrose laat dat in de uitzending zien met het voorbeeld van een schaakcomputer. Zo’n computer kan razendsnel heel veel ervaring opdoen, maar heeft zelf geen begrip zoals wij dat wel hebben. Als je hem dan verrast met een schaakopstelling die hij niet kent, kan hij daar niets mee – terwijl de mens dat wel kan. Dus als je intelligentie definieert als “: begrip” is het inderdaad geen goed gekozen term.
Hoe we in het (IE) recht kunnen dan wel moeten omgaan met AI – dat blijft een uitdaging voor de toekomst. Bij TLG zijn we er op voorbereid.
Bronnen:
- Bennie Mols, Hee gezellig. Mijn co-auteur is een robot. NRC 26 april 2019
- Hub Dohmen, Ik, Robot. Cursus van het ISVW over robotica, AI, filosofie en ethiek
- Hub Dohmen, Techniekfilosofie en AI
- Hub Dohmen, Artificial Intelligence: wat is een persoon?
- Oprichting Nederlandse Vereniging voor AI en Robotrecht, Amsterdam 16 mei 2019
- Website Nederlandse Vereniging voor AI en Robotrecht
- VPRO uitzending Tegenlicht zondag 24 jan 22:10 (Seizoen 2021, aflevering 3): Technologie als religie (kijk terug)
Voorafgaande blogs: