Het wil nog niet echt lukken met een grootschalige inzet van AI in de Nederlandse zorg. In de kamerbrief van 9 mei 2022
[1] schetst de minister de structurele belemmeringen die er zijn. Hij noemt daar onder meer:
- oplossingen worden met enige terughoudendheid bekeken door beoogde gebruikers of bestuurders en beleidsmakers;
- onzekerheid over wat wel en niet mag door overlap en ruimte in het wettelijk kader. Dit leidt tot handelingsverlegenheid in het veld.
Vanuit het veld is in 2021 de ‘Leidraad kwaliteit AI in de zorg
[2]’ ontwikkeld. Deze leidraad is een hulpmiddel om de kwaliteit van aangeboden AI toepassingen te beoordelen en het helpt ontwikkelaars van AI toepassingen om kwalitatieve, betrouwbare Ai te ontwikkelen.
Dit zou gebruikers/bestuurders in de zorg minder terughoudend moeten maken.
Juridisch kader
Nu nog meer duidelijkheid over het juridisch kader: wat mag wel en wat mag niet.
Er is een AI verordening in de maak. Deze regelt het juridisch kader voor betrouwbare, mensgerichte AI toepassingen. Deze verordening regelt aspecten zoals:
- Menselijke controle en toezicht
- Technische robuustheid en veiligheid
- Privacy en datagovernance
- Transparantie
- Diversiteit, non-discriminatie en rechtvaardigheid
- Maatschappelijk en milieubewustzijn
- Aansprakelijkheid
Maar ook nu is er al wet- en regelgeving die van toepassing is op
AI toepassingen in de zorg. Zoals:
- (product) aansprakelijkheidsregeling in het Burgerlijk Wetboek
- Medical Device regelgeving; een AI toepassing zal snel als een ‘medisch hulpmiddel’ kwalificeren.
- IP: de AI toepassing zal beschermde intellectuele eigendomsrechten bevatten
- Wet geneeskundige behandelingsovereenkomst: de AI toepassing kan ingezet worden in het kader van een geneeskundige behandeling.
Op ons
kennisplatform LegalAIR staat meer informatie over dit onderwerp.
Overeenkomst
Kortom, ook nu weten we al waar we in een overeenkomst die ziet op het inzetten van een AI toepassing aandacht aan moeten besteden. Aspecten zoals aansprakelijkheid, IP, shared risk, etc. kunnen we daarin op een goede manier regelen.
Voor vragen over contracten voor de inzet van AI toepassingen in de zorg, kunt u contact opnemen met
Jos van der Wijst.
[1] https://open.overheid.nl/repository/ronl-ae65754d3c9e764a66bf1e843be8a6315441cad2/1/pdf/kamerbrief-over-waardevolle-ai-voor-gezondheid.pdf
[2] https://www.datavoorgezondheid.nl/actueel/nieuws/2021/12/21/leidraad-kwaliteit-ai-in-de-zorg-opgeleverd-door-en-voor-het-veld
