Met de
definitieve versie van de AI Act kan de volgende cruciale stap worden genomen, namelijk het toezicht op de naleving ervan. Voor iedereen die AI ontwikkelt, op de markt brengt of gebruikt is het relevant om te weten wie in Nederland toezicht houdt op AI-toepassingen. Begin 2025 treden de eerste onderdelen van de AI Act in werking. Dit betekent dat er vanaf dat moment daadwerkelijk toezicht zal worden gehouden op de naleving van de bepalingen/verplichtingen uit de AI Act. In Nederland zal dit voornamelijk door de Autoriteit Persoonsgegevens (AP) worden gedaan, die ook verantwoordelijk is voor toezicht op en handhaving van de AVG. De AP zal hierbij samenwerken met andere instanties, waaronder de Rijksinspectie Digitale Infrastructuur (RDI).
In hun recente, gezamenlijke advies aan het kabinet wordt de noodzaak van samenwerking tussen toezichthouders benadrukt. Ze vragen bovendien om voldoende budget en personeel zodat voorlichting en handhaving rondom AI-toepassingen effectief kan worden uitgevoerd. Door de samenwerking tussen de verschillende toezichthouders zullen AI-gebruikers beter geïnformeerd worden over de wettelijke vereisten die gaan gelden. Dit zorgt ervoor dat bedrijven de juiste stappen kunnen nemen om compliant te worden en blijven.
Hoe gaat het toezicht op AI eruitzien in Nederland?
De AP en de RDI adviseren het kabinet om het toezicht op AI-toepassingen zoveel mogelijk te laten aansluiten bij het bestaande toezicht in verschillende sectoren. Voor AI-producten met een hoog risico die al een CE-markering nodig hebben, kan het huidige toezicht volgens hen gehandhaafd blijven. Dit betekent bijvoorbeeld dat de Nederlandse Voedsel- en Warenautoriteit (NVWA) speelgoed zal blijven keuren, ook als er AI in verwerkt zit, en dat de Inspectie Gezondheidszorg en Jeugd (IGJ) zal toezien op AI in medische apparaten.
Voor AI-toepassingen met een hoog risico waarvoor momenteel nog geen CE-markering verplicht is, zal het toezicht grotendeels bij de AP komen te liggen. Ongeacht de sector waarin deze systemen worden ingezet, fungeert de AP dan als algemene markttoezichthouder. Deze rol omvat het toezien op onder andere het trainen van AI, transparantie en menselijke controle.
Er zijn echter uitzonderingen op deze algemene toezichtstructuur. Voor de financiële sector zullen de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) het markttoezicht uitvoeren. Voor kritieke infrastructuur zullen de Inspectie Leefomgeving en Transport (ILT) en de RDI verantwoordelijk zijn. Verder zal het markttoezicht op AI-toepassingen die worden gebruikt in de rechtspraak zo moeten worden vormgegeven dat de onafhankelijkheid van rechterlijke autoriteiten gewaarborgd blijft.
Hieronder zijn twee overzichten uit het advies weergegeven, met de toezichthouders voor hoog-risico en verboden AI-toepassingen.
Overzicht uit het advies van de toezichthouders per categorie van de AI-toepassingen die hoog-risico zijn onder de AI Act.
Overzicht uit het advies van de toezichthouders per categorie van de AI-toepassingen die verboden zijn onder de AI Act.
Wat betekent dit voor bedrijven die AI inzetten?
Van alle landen uit de Europese Unie loopt Nederland momenteel voorop met het gereed maken van het nationale toezicht op AI. Dit onderstreept het belang van de naleving van de AI Act als gebruiker, importeur of producent van een AI-toepassing. Zorg er daarom voor dat het gebruik van AI binnen jouw bedrijf op orde is met een van
onze drie assessmentmethodes:
- AI Category Assessment: Ontdek in welke risicocategorie jouw AI-systeem valt en welke regels voor jou van toepassing zijn met een op maat gemaakt advies.
- AI High Risk Compliance Quickscan: Een praktische tool om snel te controleren of jouw AI-systeem voldoet aan de hoog-risico vereisten van de AI Act.
- AI High Risk Conformity Assessment: Een grondige evaluatie waarbij we samen met jou zorgen dat je AI-systeem aan alle wettelijke eisen voldoet.
De komende maanden zal duidelijk worden hoe het kabinet het AI-toezicht in Nederland concreet vormgeeft. Bedrijven die AI inzetten zullen zich in de tussentijd moeten voorbereiden op de eisen uit de AI Act en zorgen dat hun systemen compliant zijn. Neem contact met ons op en ontdek hoe wij je kunnen helpen om aan de nieuwe regelgeving te voldoen en een veilige, verantwoorde inzet van AI-toepassingen te waarborgen.
