De AI Act (AI verordening) en medische apparaten: een moeilijke relatie

17 jun 2022

Het Ministerie van VWS heeft onderzoek laten doen naar het effect van het voorstel van de AI Act (AI verordening) op medische apparaten. Dit onderzoek is begin dit jaar afgerond en geeft een kritische analyse van de knelpunten. In dit artikel geven we een overzicht van de belangrijkste conclusies van het onderzoek. Hierbij kijken we alleen naar software en niet naar systemen die monsters analyseren.

De Medical Devices Regulation

De EU heeft al regels voor medische apparaten, de Medical Devices Regulation (MDR). Een AI-systeem valt onder de MDR als het systeem geclassificeerd kan worden als:

  • een medical device in de zin van Art. 2(1) van de MDR;
  • een onderdeel van een medical device; of
  • een product uit Annex XVI van de MDR.

Als het eenmaal duidelijk is dat er sprake is van een medical device, dan is de tweede vraag in welke risicoklasse het systeem dan terechtkomt. De klassen zijn I, IIa, IIb en III en hoe hoger, hoe meer eisen er aan een device worden gesteld. Daarvoor bevat Annex VIII van de MDR een aantal regels.

Regel 11 van Annex VIII van de MDR

Software die gebruikt wordt om beslissingen te nemen over diagnoses of behandelingen valt onder klasse IIa, behalve als die beslissingen:

  • Tot dood of onomkeerbare verslechtering van de gezondheid kunnen leiden. Dan valt de software in klasse III; of
  • Een serieuze verslechtering van de gezondheid kunnen leiden. Dan valt de software in klasse IIb.

Monitoringssoftware die fysieke processen meet valt onder klasse IIa, behalve als die processen vitaal zijn en een gebrek aan monitoring gevaarlijk is voor een patiënt. Dan valt de software in klasse IIb.

Alle andere software valt in klasse I.

Fact AI Act 1

Conflicten tussen de AI Act (AI verordening) en de MDR

Voor de MDR is AI gewoon een manier om digitale systemen te maken. Als de MDR wordt gecombineerd met de AI Act (AI verordening) ontstaan er echter een aantal problemen:

Ten eerste worden alle AI-systemen die onder de MDR vallen worden op basis van Artikel 6 van de AI Act (AI verordening) als hoog-risico aangemerkt. Hierdoor moet een ontwikkelaar dus voldoen aan zowel de eisen van een hoog-risico AI-systeem als aan de eisen van de MDR. Door de brede definitie van AI uit de AI Act (AI verordening) kan dit ervoor zorgen dan systemen die nu al gebruikt worden en goed werken, opeens aan de High Risk eisen van de AI Act (AI verordening) onderworpen gaan worden.

Ten tweede zijn de definities van kerntermen zoals User niet hetzelfde in de MDR en de AI Act (AI verordening). Dit kan tot onduidelijkheid leiden bij het implementeren van de eisen van beide wetten en ook tot dubbel werk.

Tot slot zijn de eisen aan het Quality Management System niet hetzelfde binnen de MDR en de AI Act (AI verordening). Hierdoor kan het zijn dat een systeem wat gemaakt is met de eisen van de MDR in het achterhoofd vervolgens opnieuw gemaakt moet worden voor de AI Act (AI verordening).

Conclusie van het rapport

De onderzoekers komen tot de conclusie dat er eigenlijk geen behoefte is aan nieuwe wetgeving voor het gebruik van AI in de gezondheidszorg in Nederland. De extra eisen kunnen ervoor zorgen dat AI voor de gezondheidszorg onaantrekkelijk wordt. De eisen kunnen er zelfs voor een beperkingen van de autonomie van patiënten en de discretie van de hulpverleners zorgen.

Daarnaast concluderen de onderzoekers dat het huidige voorstel van de AI Act (AI verordening) vooral tot meer juridische eisen en compliance last leidt. Alle medical device software met AI moet dan behandeld worden als een hoog-risico AI-toepassing.

Conclusie

De eisen van de MDR en de AI Act (AI verordening) sluiten niet soepel op elkaar aan. Het lijkt er op dat alle systemen met AI erin die onder de MDR vallen ook als hoog-risico AI systemen moeten worden geclassificeerd. Daarom is het van belang om nu al vooruit te kijken bij het ontwerpen van software die onder de MDR valt. Door nu al de eisen van de AI Act (AI verordening) mee te nemen bij het ontwikkelen van software kan dit in de toekomst tot makkelijke naleving leiden als de AI Act (AI verordening) in werking treedt.

Met vragen over de Medical Devices Regulation en het voorstel van de AI Act (AI verordening) kunt u contact opnemen met:

Frederick Droppert

Frederick Droppert 1

    Werk aan de winkel voor auteursrechthebbenden – de rechter wil meer bewijs zien
    Lees meer
    Laat je creativiteit niet onbenut gaan met het BG.legal Marketinghulplijn abonnement!
    Lees meer
    Het belang van intellectuele eigendomsrechten voor start-ups: bescherming en groei
    Lees meer
    Architecten, let op je (auteurs)rechten!
    Lees meer
    Wat zijn de regels voor duurzaamheidsclaims in reclame?
    Lees meer
    Bescherm softwareontwikkeling met solide overeenkomsten
    Lees meer
    Geen merkinbreuk door gebruik als metatag
    Lees meer
    Niet altijd recht op schadevergoeding bij schending van de AVG
    Lees meer
    Gepseudonimiseerde en geanonimiseerde gegevens
    Lees meer
    Wet elektronische gegevensuitwisseling in de zorg (Wegiz): Wat regelt de wet?
    Lees meer
    Fake facturen
    Lees meer
    Eigendom op data
    Lees meer
    Nieuwe regelgeving voor producenten in de textielsector in Nederland
    Lees meer
    26 april: World Intellectual Property Day
    Lees meer
    Architectenrecht: Juridische hulp voor de architect
    Lees meer
    BG.legal team is geselecteerd als eerste reserve voor Grand Challenge AI
    Lees meer
    Samen een creatief werk gemaakt? Dan zijn afspraken over auteursrecht belangrijk!
    Lees meer
    Modellenrecht
    Lees meer
    Merken
    Lees meer
    Projecten
    Lees meer
    Nike vecht het merk ‘MAX 1’ van Mavic aan
    Lees meer
    Bescherming van slogans
    Lees meer
    AI, kunst & auteursrecht
    Lees meer
    AIVD publiceert principes voor veilige ontwikkeling van AI-systemen
    Lees meer
    Bank mag onbewerkte persoonsgegevens bewaren
    Lees meer
    Merkinbreuk en misleidende/ongeoorloofde reclame
    Lees meer
    Picnic schendt portretrecht van (ex-)werknemer
    Lees meer
    AI, kunst en auteursrecht
    Lees meer
    Een geluidsfragment als merk registreren: kan dat?
    Lees meer
    De auteursrechtelijke implicaties van ChatGPT
    Lees meer
    Kortingsactie merk- en modelregistratie 2023
    Lees meer
    Tegenslag voor Rolex
    Lees meer
    Auteursrecht vergoeding verschuldigd voor afspelen muziek in zorglocatie
    Lees meer
    Een kwestie over schoenen: namaak Louboutin advertenties op Amazon
    Lees meer
    Een portret als merk
    Lees meer
    De Nederlandse rechter onbevoegd in geschil over reisdagboek
    Lees meer
    Nieuwe compromistekst van AI Act (AI-verordening) maakt IAMA verplicht voor high-risk toepassingen
    Lees meer
    De komst van de hernieuwde Nederlandse Corporate Governance Code
    Lees meer
    Auteursrechtinbreuk, schadevergoeding en proceskosten
    Lees meer
    Algoritmeregister van de Nederlandse overheid
    Lees meer
    AI compliance check
    Lees meer
    Onderzoek naar gebruik algoritmes door overheden
    Lees meer
    Werknemer die datasets heeft gedownload kon op staande voet worden ontslagen
    Lees meer
    Moet Mollie informatie over algoritme verstrekken?
    Lees meer
    Een nieuwe ontwikkeling op het gebied van AI: ChatGPT
    Lees meer
    Nietigverklaring van een merk
    Lees meer
    Doelbinding bij tests en het herstellen van fouten
    Lees meer
    Wanneer mag je software decompileren?
    Lees meer
    Raad van de Europese Unie stemt in met tekst van AI Act (AI-verordening)
    Lees meer
    Startdatum van Unified Patent Court (UPC) verzet
    Lees meer
    De intocht van sinterklaas en het auteursrecht
    Lees meer
    SaaS-Overeenkomst
    Lees meer
    Nederland stemt in met tekst voorstel AI Act (AI verordening)
    Lees meer
    Het Europees Hof schrapt het openbare UBO-register
    Lees meer
    Franchisegever beroept zich met succes op concurrentiebeding
    Lees meer
    De uitwerking van een concept kan worden beschermd
    Lees meer
    Gebruik van overeenstemmende domeinnaam
    Lees meer
    De bescherming van kleurmerken en het relevante publiek
    Lees meer
    Inbreuk op IE-recht? Let op bestuurdersaansprakelijkheid
    Lees meer
    President Biden ondertekent executive order over gegevensuitwisseling tussen de EU en VS
    Lees meer
    Denkt u na over internationaal ondernemen?
    Lees meer
    Product design als merk, eerder uitzondering dan regel
    Lees meer
    AI Aansprakelijkheid richtlijn
    Lees meer
    ACM: Misleidende duurzaamheidsclaims van Decathlon & H&M
    Lees meer
    Recht op inzage in een medisch advies van een beoordelend arts na een aansprakelijkheidsclaim?
    Lees meer
    Doorverkoop van Formule 1-tickets wordt niet verboden
    Lees meer
    Concurrentie op Bol.com: EAN-nummers en merkinbreuken
    Lees meer
    Gebruik van TM, ® en © tekens
    Lees meer
    De overwinningspose als merk
    Lees meer
    Vijf tips voor het sluiten van SaaS-Overeenkomsten
    Lees meer
    Aangepast voorstel AI Verordening
    Lees meer
    Zakelijke e-mail en privacy: wanneer mag je de mailbox van een werknemer controleren?
    Lees meer
    Alles over detachering en uitlenen van zelfstandigen (zzp’ers) en opdrachtnemers
    Lees meer
    Wat is trademark squatting?
    Lees meer
    Alles over detachering en uitlenen van werknemers
    Lees meer
    Handelsnaamgeschillen: Kunnen we het nog volgen?
    Lees meer
    Digitale nieuwsbrieven en privacy: wat kan wel en niet?
    Lees meer
    ABRvS stelt AP in het ongelijk: boete VoetbalTV van tafel
    Lees meer
    Oorsprongsbenamingen op producten voor derde landen ook verboden
    Lees meer
    Merkhouder aansprakelijk voor schade ook wanneer hij niet betrokken is bij productie van het product
    Lees meer
    Gemeenschappelijk auteursrecht op software, wie heeft aanspraak op welk deel?
    Lees meer
    Maakt de handelsnaam Mr. Jobs inbreuk op de handelsnaam Mister Jobs?
    Lees meer
    DUO lanceert synthetische dataset
    Lees meer
    Nietigverklaring modelaanvraag, wat nu?
    Lees meer
    Het belang van merkbewaking
    Lees meer
    Het belang van een merkonderzoek
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes (IAMA)
    Lees meer
    AI Risk Assessment
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes
    Lees meer
    Ingrijpende wijziging regels voor distributieovereenkomsten per 1 juni 2022
    Lees meer
    Geen auteursrechtelijke bescherming op ontwerp
    Lees meer
    Zorg om inzet AI in de zorg
    Lees meer
    Zijn beschrijvende handelsnamen beschermd?
    Lees meer
    Handelsnaam niet beschermd
    Lees meer
    Wat is het verschil tussen een merk en een handelsnaam?
    Lees meer
    Is mijn gekozen bedrijfsnaam beschikbaar?
    Lees meer
    Merkbewaking
    Lees meer
    Uitgebreid Merkonderzoek
    Lees meer
    Modelregistratie
    Lees meer
    Merkregistratie
    Lees meer
    Moet ik mijn bedrijfsnaam vastleggen?
    Lees meer
    Afwijkende prijzen in Google Shopping: is dat misleidende reclame?
    Lees meer
    Boete voor Italiaanse Deliveroo vanwege slechte gegevensbescherming
    Lees meer
    BG.legal Marketing Brainstormsessies
    Lees meer
    BG.legal Marketinghulplijn
    Lees meer
    Cybersecurity as a Service (CaaS)
    Lees meer
    Cybersecurity checks
    Lees meer
    AVG-compliance check
    Lees meer
    Belang van een modelregistratie
    Lees meer
    AVG-startpakket
    Lees meer
    Strengere regels voor invloedrijke influencers
    Lees meer
    De strijd om de beschrijvende handelsnamen: Trainingskampen.nl en Trainingskamp.nl
    Lees meer
    Rechter roept dance-programmering van Q-music halt toe: hoe zit het?
    Lees meer
    Modelrecht op friet
    Lees meer
    Nederlandse woningcorporaties getroffen door datalek
    Lees meer
    Advocaat Jos van der Wijst over Mensgerichte AI
    Lees meer
    Bescherming merken in de virtuele wereld
    Lees meer
    EU en VS bereiken principeakkoord over het uitwisselen van data
    Lees meer
    Foto's van gezichten verzamelen
    Lees meer
    Wanneer is een ICT-leverancier verantwoordelijk voor adequate back-ups?
    Lees meer
    Student-stagiair(e) IE/IT/Privacy
    Lees meer
    AI regulatory sandboxes en data
    Lees meer
    Is de vormgeving van een website auteursrechtelijk beschermd?
    Lees meer
    Juridische aspecten van Artificial Intelligence
    Lees meer
    Europese Commissie komt met voorstel nieuwe dataregels
    Lees meer
    Korting advocaatkosten voor MKB-ondernemers bij juridisch advies in 2022
    Lees meer
    Gebruik Google Analytics mogelijk in strijd met de AVG
    Lees meer
    European Data Protection Day: wat te doen bij een datalek?
    Lees meer
    Wie heeft auteursrecht op software/vormgeving app/website?
    Lees meer
    Champagne en het intellectueel eigendomsrecht
    Lees meer
    AI: Toezicht en Toolbox
    Lees meer
    Wie is aansprakelijk voor de schade na een ransomware-aanval?
    Lees meer
    Cybersecurity en datalekken
    Lees meer
    Silhouet sinterklaas: auteursrechtinbreuk met inpakpapier
    Lees meer
    Financiële tegemoetkoming voor Juridisch advies
    Lees meer
    (Senior) Medewerker IE/IT/Privacy
    Lees meer
    Keuzes bij cloud services
    Lees meer
    Er zijn al regels voor AI toepassingen
    Lees meer
    Restvoorraad bij einde distributieovereenkomst
    Lees meer
    Model moet nieuw zijn bij aanvraag modelregistratie
    Lees meer
    Inbreuk beschrijvende handelsnaam tóch mogelijk
    Lees meer
    Fake factuur na een merk- of modelregistratie, pas op!
    Lees meer
    Legal AIR
    Lees meer
    Het decoderen van producten kan onrechtmatig zijn
    Lees meer
    Wanneer een schadevergoeding na een datalek?
    Lees meer
    Uber-chauffeurs nu ook werknemers
    Lees meer
    Merken op verzenddozen: mag dat wel?
    Lees meer
    Kortingsperiode op merk- en modelregistraties verlengd
    Lees meer
    Nieuwsbrief voor datascience ondernemingen
    Lees meer
    Kun je een auteursrecht krijgen op een algoritme?
    Lees meer
    Financiële mogelijkheden voor groei van een onderneming
    Lees meer
    Wie is aansprakelijk bij een ransomaanval?
    Lees meer
    Paralympier aangereden door zelfrijdende bus
    Lees meer
    Wapenen tegen copycats? Registreer je merk!
    Lees meer
    Recept en foto’s gekopieerd door Sonja Bakker: plagiaat of auteursrechtinbreuk?
    Lees meer
    Inwerkingtreding van EU Open Data richtlijn
    Lees meer
    Risico check voor AI toepassingen
    Lees meer
    AI-systeem als uitvinder?
    Lees meer
    Een AI-systeem als baas?
    Lees meer
    IE in de holding
    Lees meer
    Ook het verwerken van voertuigdata is begrensd
    Lees meer
    Online oplichting en zakelijke identiteitsfraude: wat te doen?
    Lees meer
    Succesvol webinar Fashion & Law deel 2
    Lees meer
    Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
    Lees meer
    EK-gekte losgebarsten: KNVB vs. Jumbo
    Lees meer
    Belangrijke wijzigingen auteursrecht: makers en exploitanten
    Lees meer
    Jouw eigen gezicht als merkregistratie: kan dat?
    Lees meer
    De Juridische Afdeling: Legal as-a-Service
    Lees meer
    Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
    Lees meer
    Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
    Lees meer
    Er is ruimte voor onderhandeling bij Arbitvoorwaarden
    Lees meer
    Succesvol webinar legal voor AI startups/scale-ups
    Lees meer
    Schadevergoeding na hack persoonsgegevens?
    Lees meer
    Software as a Service: grip op data
    Lees meer
    Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
    Lees meer
    Nieuwe Europese regels voor artificial intelligence
    Lees meer
    Successful webinar NDA, secrecy and cooperation
    Lees meer
    Het delen van data en vertrouwelijkheid
    Lees meer
    Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
    Lees meer
    Intellectueel eigendom en Tech: waar moet je op letten?
    Lees meer
    Reclame maken voor corona zelftesten
    Lees meer
    Wilt u weten of uw merk nog vrij is?
    Lees meer
    Het gebruik van (framed) hyperlinks vs. het auteursrecht
    Lees meer
    Nieuwsgierig en creatief meedenken, Jos van der Wijst
    Lees meer
    Succesvol webinar beschermingsmogelijkheden van AI
    Lees meer
    Exclusiviteitsafspraak in een samenwerkingsovereenkomst
    Lees meer
    Succesvol webinar Fashion & Law deel 1
    Lees meer
    Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
    Lees meer
    SyRI wetgeving in strijd met EVRM
    Lees meer
    Google verwijdert (onterechte?) negatieve recensie niet
    Lees meer
    Succesvol webinar AI in de Zorg
    Lees meer
    Hoezo kan ik geen eigenaar zijn van (zorg)data?
    Lees meer
    Functie van cosmetische producten verplicht op verpakking
    Lees meer
    Modelrecht en auteursrecht op inwerpzuil
    Lees meer
    Merkonderzoek: Hoe voorkom je merkinbreuk?
    Lees meer
    Doorhaling van een merkregistratie
    Lees meer
    Een webshop: mag alles zomaar of gelden er regels?
    Lees meer
    Een merk moet ook daadwerkelijk gebruikt worden
    Lees meer
    Mag je foto's van werknemers gebruiken?
    Lees meer
    Sinterklaas is toch gewoon sinterklaas?
    Lees meer
    Aanbevelingen aansprakelijkheid bij AI
    Lees meer
    Het nieuwe algoritmeregister van de gemeente Amsterdam
    Lees meer
    Algoritme via Detachering
    Lees meer
    Algoritme als Software
    Lees meer
    Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
    Lees meer
    Auteursrechten & Artificial Intelligence
    Lees meer
    Is nieuwe wet- of regelgeving nodig voor AI?
    Lees meer
    Positiemerk: kan je dat beschermen?
    Lees meer
    Algoritme als een Dienst
    Lees meer
    Van wie is het model?
    Lees meer
    Beperkingen in licentieovereenkomst door mededingingsrecht
    Lees meer
    Is een registratiedossier beschermd door auteursrecht?
    Lees meer
    Wees de copycats voor!
    Lees meer
    Wie is verantwoordelijk voor de analyse door een algoritme?
    Lees meer
    Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
    Lees meer
    Mag ik een zelftest voor corona verkopen?
    Lees meer
    Inspiratie in de fashion industrie: wat zijn de grenzen?
    Lees meer
    Wanneer heeft een IT leverancier aan zijn inspanningsverplichting voldaan?
    Lees meer
    Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
    Lees meer
    Er komt een nieuwe rechtsvorm: de maatschappelijke BV
    Lees meer
    Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
    Lees meer
    Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
    Lees meer
    Merkgebruik bij import producten en doorverkoop
    Lees meer
    BG.legal ontvangt subsidie voor AI kennisplatform
    Lees meer
    Voor wiens rekening komt trage werking softwaresysteem; klant of leverancier?
    Lees meer
    Software / data overeenkomsten
    Lees meer
    Bescherming merkrecht: hoe ver gaat dat?
    Lees meer
    Vernietiging van een ingeschreven merk: hoe dan?
    Lees meer
    Nakoming verplichtingen uit een pilotcontract software
    Lees meer
    Nieuwsbrief Tech - meld je aan
    Lees meer
    NL Digital voorwaarden 2020: verbetering positie IT leverancier
    Lees meer
    Een kritische blik op de Corona-apps van de overheid
    Lees meer
    De roep om het vrijgeven van voertuigdata
    Lees meer
    Domeinnamen
    Lees meer
    Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
    Lees meer
    Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
    Lees meer
    Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
    Lees meer
    Wanneer kan een IT overeenkomst worden ontbonden?
    Lees meer
    De octrooigemachtigde en het faillissement (deel 3)
    Lees meer
    Wie heeft recht op de domeinnaam?
    Lees meer
    De octrooigemachtigde en het faillissement (Deel 2)
    Lees meer
    Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
    Lees meer
    Seminar 19 november: Investeren en financieren 2.0
    Lees meer
    De octrooigemachtigde en het faillissement (deel 1)
    Lees meer
    Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
    Lees meer
    Den Bosch Data Week: Practical experiences Blockchain and Food
    Lees meer
    Productomschrijving op een website. Auteursrecht mogelijk?
    Lees meer
    Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
    Lees meer
    Tips voor het verkrijgen van auteursrechten
    Lees meer
    Auteursrecht op website(teksten)
    Lees meer
    Het beëindigen van de onderneming bij een inbreuk op IE-rechten
    Lees meer
    Is de vormgeving van een industrieel product beschermd?
    Lees meer
    Doordacht samenwerken geeft meer macht
    Lees meer
    Hoever mag je gaan bij het nabootsen van een stijl/concept?
    Lees meer
    Adidas merk onderuit door nieuwe uitspraak
    Lees meer
    Aanvraag Tommy Hilfiger bescherming auteursrechten afgewezen
    Lees meer
    Domeinnamen en merken: het wil nog wel eens botsen
    Lees meer
    Hoe bescherm ik mijn intellectuele eigendom bij een faillissement?
    Lees meer
    Software
    Lees meer
    BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
    Lees meer
    Uitleg begrip operationeel in ICT-aanbesteding
    Lees meer
    Wat is schade bij illegaal gebruik software?
    Lees meer
    Werkgever aansprakelijk voor door werknemer illegaal gekopieerde software?
    Lees meer
    Een medewerker downloadt illegaal, werkgever betaalt de rekening
    Lees meer
    BG.tech
    Lees meer
    Vacatures
    Lees meer