Nederland stemt in met tekst voorstel AI Act (AI verordening)

Op 6 december 2022 vindt in Brussel de Telecomraad plaats. Dat is de bijeenkomst van Europese telecom ministers. Op de agenda staat het eindvoorstel van de tekst van de AI Act (AI verordening) zoals deze er volgens de lidstaten uit zou moeten zien. Dit als reactie op het voorstel tekst van de Europese Commissie van 21 april 2021. Vervolgens gaan de Europese Commissie, de lidstaten en het Europees Parlement onderhandelen over een definitieve tekst. Het Europees Parlement heeft al laten weten ook nog wijzigingsvoorstellen te hebben.

 
Inzet Nederland

Uit de kamerbrief van 23 november 2022 blijkt dat Nederland belangrijk:

• De aangepaste definitie van een AI-systeem
• Het versterken van innovatie
• Meer mogelijkheden voor de regulatory sandbox
• een klachtrecht
• Dat fundamentele rechten worden meegenomen bij de risicoanalyse van hoog-risico AI-systemen.

 
Hoog-risico

Het is niet verwonderlijk dat Nederland erop heeft aangedrongen dat AI-systemen die worden ingezet voor het bepalen wie legitiem toeslagen ontvangt, op de lijst met hoog-risico zijn opgenomen. Dit natuurlijk als reactie op de toeslagenaffaire. Hoog-risico AI systemen moeten gedurende de hele levensduur aantoonbaar voldoen aan vereisten zoals een risicomanagementsysteem, bijhouden hoe het AI-systeem werkt (’logs’), menselijk toezicht en moet het AI-systeem voldoende accuraat, robuust en cyberveilig zijn.

 
Biometrische systemen

In de aangepaste tekst zijn ook aanvullende eisen opgenomen met betrekking tot biometrische categorisatie systemen en emotieherkenningssystemen. Degene die aan dergelijke systemen worden blootgesteld moeten hierover worden geïnformeerd.

 
Impact assessment

Vanuit het Nederlandse parlement was aangedrongen op een verplichte inzet van het Impact Assessment Mensenrechten en Algoritme (IAMA). Zover wil de Nederlandse regering niet gaan. Vanuit het Europees Parlement komt waarschijnlijk wel het voorstel om het IAMA, onder omstandigheden, voor overheden verplicht te stellen. De AI verordening heeft al wel een verplichte conformity assessment voor hoog-risico AI systemen.

 
Update

Wanneer je de hoogte wilt blijven van de ontwikkeling van de AI verordening, dan kun je onze periodieke nieuwsbrief hierover ontvangen. Je kunt je aanmelden via deze link. Meer informatie vind je ook op ons kennisplatform legalAIR.