Het Europees Parlement heeft zich op 14 juni 2023 uitgelaten over het voorstel van de AI-verordening van de Europese Commissie. Dit heeft geresulteerd in een aantal nieuwe, interessante toevoegingen, alvorens het document
officieel door het parlement werd aangenomen. In deze blog lees je meer over enkele belangrijke amendementen.
Waardes en grondrechten
Het parlement heeft op meerdere plekken in de AI-verordening de (kern)waarden van de Europese Unie toegevoegd, teneinde de doelstellingen van de verordening meer concreet te maken. Het doel van de AI-verordening heeft het parlement als volgt omschreven:
“
to promote the uptake of human centric and trustworthy artificial intelligence and to ensure a high level of protection of health, safety, fundamental rights, democracy and rule of law and the environment from harmful effects of artificial intelligence systems in the Union while supporting innovation and improving the functioning of the internal market.”
Ook besteedt het parlement extra aandacht aan de impact van AI systemen op het klimaat en milieu.
Link met de AVG
De commissie was heel voorzichtig in haar voorstel wat betreft de relatie tussen de AI-Verordening en de Algemene Verordening Gegevensbescherming (
AVG). Het parlement wil echter meer interactie tussen de twee verordeningen. Een voorbeeld is de wat meer uitgebreide definitie van het begrip ‘biometrische gegevens’:
“Op biometrie gebaseerde gegevens zijn gegevens die het resultaat zijn van een specifieke technische verwerking in verband met fysieke, fysiologische of gedragssignalen van een natuurlijke persoon, zoals gezichtsuitdrukkingen, bewegingen, polsfrequentie, stem, toetsaanslagen of gang, die al dan niet de unieke identificatie van een natuurlijke persoon mogelijk maken of bevestigen.”
Bescherming van MKB
Het parlement heeft op veel plekken in de verordening aandacht gevraagd voor de positie van het MKB. Zo wil het Parlement dat aanbieders van AI systemen geen misbruik kunnen maken van hun machtspositie door ‘
take-it-or-leave-it’ contracten aan te bieden. Daarnaast komt er een lijst met verboden contractsbepalingen. Verder wil het parlement dat de commissie goed in de gaten zal houden of de kosten voor het voldoen aan de vereisten van de AI Verordening betaalbaar zijn voor het MKB.
Open-source software
Het parlement onderschrijft de waarde van open-source software en heeft daarom enkele uitzonderingen/vrijstellingen aan de verordening toegevoegd voor developers van open-source softwaretoepassingen. Men hoeft bijvoorbeeld alleen aan de verplichtingen uit de AI-verordening te voldoen, wanneer de open-source software wordt ingezet voor een AI-toepassing met een hoog risico. Daarnaast word het ontwikkelen van open-source AI-componenten niet gezien als het op de markt brengen van het AI-systeem.
Verboden toepassingen
Het parlement is wat meer terughoudend met het toestaan van AI-systemen voor biometrische identificatie. Waar de commissie nog enkele ‘
use cases’ toestond, heeft het parlement nog maar één situatie in het voorstel opgenomen waarin het gebruik van biometrische identificatie is toegestaan: het identificeren van verdachten die zware misdrijven hebben gepleegd. Voor het gebruik van de camerabeelden dient men echter eerst toestemming te krijgen van de rechter.
Verschillende types AI systemen
Het parlement heeft twee speciale types van AI-systemen opgenomen in haar voorstel: foundation models en general purpose AI. Een foundation model is al getraind, maar kan verder worden doorontwikkeld voor een specifieke toepassing. Een general purpose AI kan direct worden ingezet voor veel verschillende soorten problemen, zonder dat het systeem daarvoor specifiek is ontwikkeld. Voor deze twee soorten AI-systemen zijn er nieuwe uitzonderingen opgenomen in de meest recente versie van de AI-verordening.
Conclusie
Naast voornoemde wijzigingen, heeft het parlement nog veel meer amendementen aangenomen. Het is echter nog maar de vraag welke amendementen de onderhandelingen met de Raad van de Europese Unie gaan overleven. Naar alle waarschijnlijkheid, weten wij daar meer over in 2024.
Heeft u vragen over de mogelijke gevolgen van de AI-verordening voor uw bedrijf/organisatie? Neem dan gerust contact op.
