AI transcriptie tool = klasse IIb MDR = hoog-risico AI systeem

De Zweedse geneesmiddelenautoriteit (Läkemedelsverket) heeft onlangs een richtinggevende uitspraak gedaan die de zorgsector wakker zou moeten schudden. AI-transcriptietools die in de klinische praktijk worden gebruikt, denk aan tools die arts-patiëntgesprekken omzetten in klinische notities, vallen niet onder MDR klasse I, maar onder klasse IIb. Een classificatie die verstrekkende juridische gevolgen heeft, ook onder de EU AI Act.

Waarom klasse IIb?

MDR klasse I is bedoeld voor laag-risico hulpmiddelen zonder significante invloed op klinische beslissingen. De Zweedse toezichthouder oordeelde dat AI-transcriptietools die automatisch klinische documentatie genereren en daarmee direct of indirect de medische besluitvorming beïnvloeden niet als laag-risico kunnen worden aangemerkt.

Klasse IIb geldt voor hulpmiddelen die een hoog risico met zich meebrengen, zoals hulpmiddelen die therapeutische of diagnostische functies vervullen of die van invloed zijn op klinische beslissingen. Wanneer een AI-tool een anamnese samenvat, symptomen labelt of behandelplannen structureert op basis van een gesprek, draagt die tool actief bij aan het zorgproces. Fouten in die output kunnen directe patiëntschade veroorzaken. Dat rechtvaardigt de hogere classificatie.

Gevolg: hoog-risico AI-systeem onder de EU AI Act

De MDR-classificatie heeft directe implicaties voor de EU AI Act. Bijlage III van de EU AI Act kwalificeert AI-systemen die worden ingezet als medisch hulpmiddel in de zin van de MDR, als hoog-risico AI-systeem. Een klasse IIb MDR-classificatie leidt dus automatisch tot de hoog-risico kwalificatie onder de EU AI Act met alle bijbehorende verplichtingen van dien.

Verplichtingen voor aanbieders

Voor aanbieders van deze AI-systemen (de "providers" onder de EU AI Act) zijn de eisen substantieel. Zij zijn verplicht een robuust risicobeheerssysteem op te zetten en te onderhouden gedurende de gehele levenscyclus van het systeem. Daarnaast moeten zij zorgen voor hoogwaardige trainingsdata, technische documentatie, logging van systeemgedrag en een systeem voor post-market monitoring.

Cruciaal is ook de conformiteitsbeoordeling: voor hoog-risico AI-systemen moet worden aangetoond dat het systeem voldoet aan de eisen van de AI Act voordat het op de markt wordt gebracht. Dit vereist doorgaans betrokkenheid van een aangemelde instantie (notified body) zeker nu de MDR klasse IIb al een conformiteitsbeoordeling door een notified body vereist. Transparantie richting gebruikers over de mogelijkheden én beperkingen van het systeem is eveneens verplicht.

Verplichtingen voor gebruikers (deployers)

Zorginstellingen en zorgverleners die deze tools inzetten zijn onder de EU AI Act deployers van een hoog-risico AI-systeem. Dat betekent concrete verplichtingen. Zij moeten het systeem inzetten conform de instructies van de aanbieder, menselijk toezicht waarborgen en medewerkers die met het systeem werken voldoende trainen en informeren.

Praktisch betekent dit dat een ziekenhuis of huisartsenpraktijk moet documenteren hoe en waarvoor de tool wordt gebruikt, wie verantwoordelijk is voor de output, en hoe wordt geborgd dat een zorgverlener altijd de eindverantwoordelijkheid draagt voor de klinische beslissing. Een AI-transcriptietool mag een handige co-piloot zijn, maar de arts blijft de piloot.

Wat nu?

De uitspraak van de Zweedse toezichthouder is geen geïsoleerd incident; het is een voorbode van hoe Europese toezichthouders AI in de zorg zullen beoordelen. Aanbieders die hun tool nog steeds als klasse I aanbieden, lopen een reëel handhavingsrisico. Gebruikers die niet hebben nagedacht over hun deployer-verplichtingen, staan mogelijk voor onaangename verrassingen bij audits of incidenten.

De boodschap is helder: zorg nú voor compliance, documenteer uw risicobeheer en wees transparant richting toezichthouders én richting patiënten.

De verplichtingen voor bijlage III hoog-risico AI systemen treden op 2 december 2027 in werking. Aanbieders en gebruikers van dergelijke AI systemen moeten hier tijdig op anticiperen.