De AI Act (AI verordening) en medische apparaten: een moeilijke relatie
Het Ministerie van VWS heeft onderzoek laten doen naar het effect van het voorstel van de AI Act (AI verordening) op medische apparaten. Dit onderzoek is begin dit jaar afgerond en geeft een kritische analyse van de knelpunten. In dit artikel geven we een overzicht van de belangrijkste conclusies van het onderzoek. Hierbij kijken we alleen naar software en niet naar systemen die monsters analyseren.
De Medical Devices Regulation
De EU heeft al regels voor medische apparaten, de Medical Devices Regulation (MDR). Een AI-systeem valt onder de MDR als het systeem geclassificeerd kan worden als:
- een medical device in de zin van Art. 2(1) van de MDR;
- een onderdeel van een medical device; of
- een product uit Annex XVI van de MDR.
Als het eenmaal duidelijk is dat er sprake is van een medical device, dan is de tweede vraag in welke risicoklasse het systeem dan terechtkomt. De klassen zijn I, IIa, IIb en III en hoe hoger, hoe meer eisen er aan een device worden gesteld. Daarvoor bevat Annex VIII van de MDR een aantal regels.
Regel 11 van Annex VIII van de MDR
Software die gebruikt wordt om beslissingen te nemen over diagnoses of behandelingen valt onder klasse IIa, behalve als die beslissingen:
- Tot dood of onomkeerbare verslechtering van de gezondheid kunnen leiden. Dan valt de software in klasse III; of
- Een serieuze verslechtering van de gezondheid kunnen leiden. Dan valt de software in klasse IIb.
Monitoringssoftware die fysieke processen meet valt onder klasse IIa, behalve als die processen vitaal zijn en een gebrek aan monitoring gevaarlijk is voor een patiënt. Dan valt de software in klasse IIb.
Alle andere software valt in klasse I.
Conflicten tussen de AI Act (AI verordening) en de MDR
Voor de MDR is AI gewoon een manier om digitale systemen te maken. Als de MDR wordt gecombineerd met de AI Act (AI verordening) ontstaan er echter een aantal problemen:
Ten eerste worden alle AI-systemen die onder de MDR vallen worden op basis van Artikel 6 van de AI Act (AI verordening) als hoog-risico aangemerkt. Hierdoor moet een ontwikkelaar dus voldoen aan zowel de eisen van een hoog-risico AI-systeem als aan de eisen van de MDR. Door de brede definitie van AI uit de AI Act (AI verordening) kan dit ervoor zorgen dan systemen die nu al gebruikt worden en goed werken, opeens aan de High Risk eisen van de AI Act (AI verordening) onderworpen gaan worden.
Ten tweede zijn de definities van kerntermen zoals User niet hetzelfde in de MDR en de AI Act (AI verordening). Dit kan tot onduidelijkheid leiden bij het implementeren van de eisen van beide wetten en ook tot dubbel werk.
Tot slot zijn de eisen aan het Quality Management System niet hetzelfde binnen de MDR en de AI Act (AI verordening). Hierdoor kan het zijn dat een systeem wat gemaakt is met de eisen van de MDR in het achterhoofd vervolgens opnieuw gemaakt moet worden voor de AI Act (AI verordening).
Conclusie van het rapport
De onderzoekers komen tot de conclusie dat er eigenlijk geen behoefte is aan nieuwe wetgeving voor het gebruik van AI in de gezondheidszorg in Nederland. De extra eisen kunnen ervoor zorgen dat AI voor de gezondheidszorg onaantrekkelijk wordt. De eisen kunnen er zelfs voor een beperkingen van de autonomie van patiënten en de discretie van de hulpverleners zorgen.
Daarnaast concluderen de onderzoekers dat het huidige voorstel van de AI Act (AI verordening) vooral tot meer juridische eisen en compliance last leidt. Alle medical device software met AI moet dan behandeld worden als een hoog-risico AI-toepassing.
Conclusie
De eisen van de MDR en de AI Act (AI verordening) sluiten niet soepel op elkaar aan. Het lijkt er op dat alle systemen met AI erin die onder de MDR vallen ook als hoog-risico AI systemen moeten worden geclassificeerd. Daarom is het van belang om nu al vooruit te kijken bij het ontwerpen van software die onder de MDR valt. Door nu al de eisen van de AI Act (AI verordening) mee te nemen bij het ontwikkelen van software kan dit in de toekomst tot makkelijke naleving leiden als de AI Act (AI verordening) in werking treedt.
Met vragen over de Medical Devices Regulation en het voorstel van de AI Act (AI verordening) kunt u contact opnemen met Jos van der Wijst.
