Is nieuwe wet- of regelgeving nodig voor AI?
Het toepassen van Artificial Intelligence (‘AI’) leidt soms tot vragen waar juridisch niet meteen een antwoord op te geven is. Bij AI worden modellen met datasets getraind zodat het model bij nieuwe data een analyse geeft. Bijvoorbeeld het herkennen van verdachte vlekjes (mogelijk kanker) of COVID 19 op röntgenfoto’s. Wanneer het model maar goed getraind is, dan kan het model betrouwbare analyses uitvoeren van nieuw ingevoerde foto’s.
De Europese Commissie (‘EC’) en het Europees Parlement (‘EP’) zijn al lange tijd bezig met de vraag onder welke voorwaarden AI toegepast kan worden. Daarbij onderscheidt men drie aspecten:
A. Ethische normen voor het gebruik van AI
In een document uit februari 2020 en 8 oktober 2020 geeft het EP aan dat de EC met een voorstel voor nieuwe regelgeving moet komen. Daarin moeten de ethische normen en juridische verplichtingen voor het ontwikkelen en gebruiken van AI worden vastgelegd. Dit omvat ook software, algoritmes en data.
Bij nieuwe regelgeving zouden principes gevolgd moeten worden zoals een op de mens gerichte en door de mens gemaakte AI, transparantie en verantwoording, bescherming tegen vooringenomenheid (‘bias’) en discriminatie, het recht om de uitkomst aan te vechten en respect voor privacy bescherming. Dit speelt met name bij ‘high risk AI’ zoals ‘zelflerende AI’ (Deep learning). Daar zou een mens altijd het overzicht moeten houden.
B. Aansprakelijkheid wanneer AI schade veroorzaakt
Op 20 oktober 2020 heeft het EP een resolutie aangenomen met aanbevelingen voor civielrechtelijke regelgeving voor AI. Het document bevat aanbevelingen zoals aansprakelijkheid voor ‘high risk AI’ wanneer dat tot schade lijdt. Wij schreven hier al eerder een artikel over. Heldere regelgeving op dit vlak ontbreekt nu. Met heldere regelgeving zouden bedrijven en burger eerder bereid zijn om AI-technologie te vertrouwen. De regels zouden moeten gelden voor AI activiteiten die schade toe kunnen brengen aan gezondheid, leven, lichamelijke integriteit en bezit. Daarnaast zou het ook van toepassing moeten zijn op immateriële schade wanneer deze aantoonbaar is. Verder zou deze schade ook verzekerbaar moeten zijn.
C. Intellectuele Eigendomsrechten en AI
In een rapport van 8 oktober 2020 geeft het EP aan dat er een IE (Intellectual Property Rights system) systeem moet komen. Dit moet de innovatieve ontwikkelaars beschermen (onder meer met octrooien) zonder dat dit afbreuk doet aan de rechten van menselijke schepping en van ethische normen. Het EP benadrukt het verschil tussen scheppingen van mensen waarbij AI ondersteunend was (‘AI-assisted human creations’) en scheppingen door AI (‘AI-generated creations’). AI mag geen rechtspersoonlijkheid hebben, volgens het EP. IE rechten mogen alleen aan mensen toegekend worden, niet aan AI (computers, robots).
Wat betekent dit voor de praktijk.
- AI/data roept juridische/ethische vragen op die soms wel en soms niet beantwoord kunnen worden met
de huidige regelgeving. - Dit betekent dat, met de huidige wet- en regelgeving, de contracten van groot belang zijn.
- Dat zijn contracten tussen (i) degene die een AI-dienst ontwikkelt en uitvoert en de opdrachtgever en (ii) partijen die in een
consortium samenwerkenwaar AI wordt ontwikkeld en toegepast. - Voor al dit soort contracten (opstellen en reviewen) kunt u bij ons terecht.
- Meer informatie over dit onderwerp ontwikkelen wij het kennisplatform over juridisch/ethische aspecten van AI (nl).
Voor meer informatie over dit onderwerp kunt u contact opnemen met Jos van der Wijst.
