Nieuwe compromistekst van AI-verordening maakt IAMA verplicht voor high-risk toepassingen

10 jan 2023

Het Europees Parlement wil een verplichte impact assessment mensenrechten voor high risk AI toepassingen invoeren.

Het Europees Parlement onderhandelt over aanpassingen op het voorstel voor een AI-verordening. In 2021 heeft de Europese Commissie een voorstel hiervoor gedaan. Eind 2022 hebben de Lid-Staten een aangepaste tekst voorgesteld. Nu moet het Europees Parlement met haar voorstel tekst komen. Vervolgens gaan de drie partijen in onderhandeling over een definitieve tekst.

Het Europees Parlement stelt voor om het concept van de Commissie op een aantal punten te wijzigen. In het EP voorstel zijn een aantal extra verplichtingen voor de gebruikers van high-risk AI-systemen opgenomen, waaronder de verplichting om een Impact Assessment Mensenrechten en Algoritmes (IAMA) uit te voeren. Het IAMA is ontwikkeld door de Universiteit Utrecht op verzoek van het ministerie van BZK. In 2022 is een Tweede Kamer motie aangenomen waarin wordt voorgesteld om een IAMA voor bepaalde algoritmes verplicht te stellen.

In deze blog zullen een aantal van de voorgestelde wijzigingen nader worden toegelicht.

Impact Assessment Mensenrechten en Algoritmes (IAMA)

De meest opvallende wijziging ten opzichte van het Commissie voorstel, ziet men terug in de nieuwe bepalingen waarin een Fundamental Rights Impact Assessment (ook wel: Impact Assessment Mensenrechten en Algoritmes, “IAMA”) voor de gebruikers van high-risk toepassingen verplicht wordt gesteld.

Bij het uitvoeren van een IAMA moet de gebruiker van een high-risk systeem (o.a.) de volgende aspecten in acht nemen:

I. het doel waarvoor het systeem wordt gebruikt;
II. de geografische reikwijdte en (tijds)duur van het gebruik;
III. welke (categorieën van) personen negatieve gevolgen kunnen ondervinden door het gebruik, waarbij in het bijzonder aandacht wordt gevraagd voor gemarginaliseerde groepen;
IV. de wijze waarop de negatieve gevolgen voor de grondrechten zullen worden beperkt/gemitigeerd.

Gebruikers moeten bovendien de bevoegde nationale autoriteiten informeren over het feit dat zij een IAMA moeten verrichten. Deze instanties krijgen tenminste zes weken de tijd om een eigen oordeel te vormen en/of input te leveren.

Tot slot, geldt voor overheidsinstanties de verplichting dat zij het resultaat van de IAMA publiceren in een (centraal) algoritmeregister.

Verplichtingen voor gebruikers van high-risk toepassingen

In het EP voorstel voor de tekst van de AI-verordening wordt niet alleen de IAMA verplicht gesteld: er worden ook nog een aantal andere verplichtingen in het leven geroepen voor de gebruikers van high-risk Ai-systemen. Hierna volgt een korte samenvatting van de meest ingrijpende wijzigingen:

I. De gebruikers van high-risk AI-systemen moeten ervoor zorgen dat er adequate cybersecuritymaatregelen zijn getroffen, ten einde de robuustheid van de AI-toepassing te garanderen. Deze maatregelen moeten bovendien periodiek worden geëvalueerd.

II. Voor zover de gebruiker controle kan uitoefenen over de high-risk toepassing, dient deze de mogelijke nadelige gevolgen in kaart te brengen en de risicobeperkende maatregelen te beoordelen.

III. Indien een gebruiker constateert dat een high-risk toepassing eveneens een risico inhoudt voor de gezondheid of veiligheid van mensen, dan wel voor de bescherming van hun grondrechten, dan moet de distributeur/leverancier van de AI-toepassing én de nationale toezichthouder onmiddellijk daarvan op de hoogte worden gebracht.

IV. Gebruikers moeten ervoor zorgen dat – in de gevallen waarin dit door de AI-verordening wordt voorgeschreven – er sprake is van menselijk toezicht. Degene die daarmee zijn belast moeten eveneens over de nodige bekwaamheden beschikken om adequaat toezicht te garanderen.

V. Voordat een high-risk toepassing op de werkvloer mag worden ingevoerd, moeten de gebruikers van het AI-systeem eerst in overleg treden met de werknemers en hun vertegenwoordigers. Deze partijen moeten niet alleen toestemming hebben gegeven voorafgaand aan de invoering van het systeem, maar zij moeten ook adequaat zijn geïnformeerd over het soort AI-systeem dat wordt gebruikt, het beoogde doel van het gebruik en welke beslissingen het systeem zal gaan nemen.

VI. Gelet op de recente ontwikkelingen omtrent ChatGPT, wordt er nu ook een bepaling aan de AI-verordening toegevoegd die ziet op generatieve AI. Deze systemen kunnen output genereren op basis van menselijke input. De gebruikers van dergelijke systemen moeten voortaan vermelden dat de output/tekst is gegenereerd door een AI-systeem, tenzij de output aan menselijke beoordeling is onderworpen en de uitgever (redactionele) aansprakelijkheid aanvaardt.

Wil je op de hoogte blijven van de meest actuele ontwikkelingen op het gebied van de juridische aspecten van AI? Schrijf je dan in voor onze nieuwsbrief over de AI-verordening. Dit kan via het onderstaande contactformulier.

Mocht je al vragen hebben over de juridische aspecten van AI, dan kun je uiteraard contact opnemen met één van onze specialisten: @Jos van der Wijst, @Stan Elsendoorn en @Frederick Droppert.

Stan Elsendoorn nieuw


AI, kunst en auteursrecht
Lees meer
Een geluidsfragment als merk registreren: kan dat?
Lees meer
De auteursrechtelijke implicaties van ChatGPT
Lees meer
Kortingsactie merk- en modelregistratie 2023
Lees meer
Inschrijfformulier datalek DELTA Mobiel en Caiway
Lees meer
Tegenslag voor Rolex
Lees meer
Auteursrecht vergoeding verschuldigd voor afspelen muziek in zorglocatie
Lees meer
Een kwestie over schoenen: namaak Louboutin advertenties op Amazon
Lees meer
Een portret als merk
Lees meer
De Nederlandse rechter onbevoegd in geschil over reisdagboek
Lees meer
De komst van de hernieuwde Nederlandse Corporate Governance Code
Lees meer
Auteursrechtinbreuk, schadevergoeding en proceskosten
Lees meer
Algoritmeregister van de Nederlandse overheid
Lees meer
Regels voor AI in de zorg met therapeutische werking
Lees meer
AI compliance check
Lees meer
Onderzoek naar gebruik algoritmes door overheden
Lees meer
Werknemer die datasets heeft gedownload kon op staande voet worden ontslagen
Lees meer
Moet Mollie informatie over algoritme verstrekken?
Lees meer
Een nieuwe ontwikkeling op het gebied van AI: ChatGPT
Lees meer
Nietigverklaring van een merk
Lees meer
Doelbinding bij tests en het herstellen van fouten
Lees meer
Wanneer mag je software decompileren?
Lees meer
Raad van de Europese Unie stemt in met tekst van AI-verordening
Lees meer
Startdatum van Unified Patent Court (UPC) verzet
Lees meer
De intocht van sinterklaas en het auteursrecht
Lees meer
SaaS-Overeenkomst
Lees meer
Nederland stemt in met tekst voorstel AI verordening
Lees meer
Het Europees Hof schrapt het openbare UBO-register
Lees meer
Franchisegever beroept zich met succes op concurrentiebeding
Lees meer
De uitwerking van een concept kan worden beschermd
Lees meer
Gebruik van overeenstemmende domeinnaam
Lees meer
De bescherming van kleurmerken en het relevante publiek
Lees meer
Inbreuk op IE-recht? Let op bestuurdersaansprakelijkheid
Lees meer
President Biden ondertekent executive order over gegevensuitwisseling tussen de EU en VS
Lees meer
Denkt u na over internationaal ondernemen?
Lees meer
BG.legal gaat intensieve samenwerking aan met Dohmen advocaten
Lees meer
Product design als merk, eerder uitzondering dan regel
Lees meer
AI Aansprakelijkheid richtlijn
Lees meer
ACM: Misleidende duurzaamheidsclaims van Decathlon & H&M
Lees meer
Recht op inzage in een medisch advies van een beoordelend arts na een aansprakelijkheidsclaim?
Lees meer
Doorverkoop van Formule 1-tickets wordt niet verboden
Lees meer
Concurrentie op Bol.com: EAN-nummers en merkinbreuken
Lees meer
Gebruik van TM, ® en © tekens
Lees meer
De overwinningspose als merk
Lees meer
Vijf tips voor het sluiten van SaaS-Overeenkomsten
Lees meer
Aangepast voorstel AI Verordening
Lees meer
Zakelijke e-mail en privacy: wanneer mag je de mailbox van een werknemer controleren?
Lees meer
Alles over detachering en uitlenen van zelfstandigen (zzp’ers) en opdrachtnemers
Lees meer
Wat is trademark squatting?
Lees meer
Alles over detachering en uitlenen van werknemers
Lees meer
Handelsnaamgeschillen: Kunnen we het nog volgen?
Lees meer
Digitale nieuwsbrieven en privacy: wat kan wel en niet?
Lees meer
ABRvS stelt AP in het ongelijk: boete VoetbalTV van tafel
Lees meer
Oorsprongsbenamingen op producten voor derde landen ook verboden
Lees meer
Merkhouder aansprakelijk voor schade ook wanneer hij niet betrokken is bij productie van het product
Lees meer
Gemeenschappelijk auteursrecht op software, wie heeft aanspraak op welk deel?
Lees meer
Maakt de handelsnaam Mr. Jobs inbreuk op de handelsnaam Mister Jobs?
Lees meer
DUO lanceert synthetische dataset
Lees meer
Nietigverklaring modelaanvraag, wat nu?
Lees meer
Het belang van merkbewaking
Lees meer
Het belang van een merkonderzoek
Lees meer
Impact Assessment Mensenrechten en Algoritmes (IAMA)
Lees meer
AI Risk Assessment
Lees meer
Impact Assessment Mensenrechten en Algoritmes
Lees meer
Ingrijpende wijziging regels voor distributieovereenkomsten per 1 juni 2022
Lees meer
Geen auteursrechtelijke bescherming op ontwerp
Lees meer
Zorg om inzet AI in de zorg
Lees meer
Zijn beschrijvende handelsnamen beschermd?
Lees meer
Handelsnaam niet beschermd
Lees meer
De AI Act en medische apparaten: een moeilijke relatie
Lees meer
Wat is het verschil tussen een merk en een handelsnaam?
Lees meer
Is mijn gekozen bedrijfsnaam beschikbaar?
Lees meer
Merkbewaking
Lees meer
Uitgebreid Merkonderzoek
Lees meer
Modelregistratie
Lees meer
Merkregistratie
Lees meer
Moet ik mijn bedrijfsnaam vastleggen?
Lees meer
Afwijkende prijzen in Google Shopping: is dat misleidende reclame?
Lees meer
Boete voor Italiaanse Deliveroo vanwege slechte gegevensbescherming
Lees meer
BG.legal Marketing Brainstormsessies
Lees meer
BG.legal Marketinghulplijn
Lees meer
Cybersecurity as a Service (CaaS)
Lees meer
Cybersecurity checks
Lees meer
AVG-compliance check
Lees meer
Belang van een modelregistratie
Lees meer
AVG-startpakket
Lees meer
Strengere regels voor invloedrijke influencers
Lees meer
De strijd om de beschrijvende handelsnamen: Trainingskampen.nl en Trainingskamp.nl
Lees meer
Rechter roept dance-programmering van Q-music halt toe: hoe zit het?
Lees meer
Modelrecht op friet
Lees meer
Nederlandse woningcorporaties getroffen door datalek
Lees meer
Inschrijfformulier datalekken
Lees meer
Advocaat Jos van der Wijst over Mensgerichte AI
Lees meer
Bescherming merken in de virtuele wereld
Lees meer
EU en VS bereiken principeakkoord over het uitwisselen van data
Lees meer
Foto's van gezichten verzamelen
Lees meer
Wanneer is een ICT-leverancier verantwoordelijk voor adequate back-ups?
Lees meer
Student stagiaire Cybersecurity, Privacy en IT-recht
Lees meer
AI regulatory sandboxes en data
Lees meer
Is de vormgeving van een website auteursrechtelijk beschermd?
Lees meer
Juridische aspecten van Artificial Intelligence
Lees meer
Europese Commissie komt met voorstel nieuwe dataregels
Lees meer
Korting advocaatkosten voor MKB-ondernemers bij juridisch advies in 2022
Lees meer
Gebruik Google Analytics mogelijk in strijd met de AVG
Lees meer
European Data Protection Day: wat te doen bij een datalek?
Lees meer
Wie heeft auteursrecht op software/vormgeving app/website?
Lees meer
Champagne en het intellectueel eigendomsrecht
Lees meer
AI: Toezicht en Toolbox
Lees meer
Wie is aansprakelijk voor de schade na een ransomware-aanval?
Lees meer
Cybersecurity en datalekken
Lees meer
Silhouet sinterklaas: auteursrechtinbreuk met inpakpapier
Lees meer
Financiële tegemoetkoming voor Juridisch advies
Lees meer
(Senior) Medewerker IE/IT/Privacy
Lees meer
Keuzes bij cloud services
Lees meer
Er zijn al regels voor AI toepassingen
Lees meer
Restvoorraad bij einde distributieovereenkomst
Lees meer
Model moet nieuw zijn bij aanvraag modelregistratie
Lees meer
Inbreuk beschrijvende handelsnaam tóch mogelijk
Lees meer
Fake factuur na een merk- of modelregistratie, pas op!
Lees meer
Legal AIR
Lees meer
Het decoderen van producten kan onrechtmatig zijn
Lees meer
Wanneer een schadevergoeding na een datalek?
Lees meer
Uber-chauffeurs nu ook werknemers
Lees meer
Merken op verzenddozen: mag dat wel?
Lees meer
Kortingsperiode op merk- en modelregistraties verlengd
Lees meer
Nieuwsbrief voor datascience ondernemingen
Lees meer
Kun je een auteursrecht krijgen op een algoritme?
Lees meer
Financiële mogelijkheden voor groei van een onderneming
Lees meer
Wie is aansprakelijk bij een ransomaanval?
Lees meer
Paralympier aangereden door zelfrijdende bus
Lees meer
Wapenen tegen copycats? Registreer je merk!
Lees meer
Recept en foto’s gekopieerd door Sonja Bakker: plagiaat of auteursrechtinbreuk?
Lees meer
Inwerkingtreding van EU Open Data richtlijn
Lees meer
Risico check voor AI toepassingen
Lees meer
AI-systeem als uitvinder?
Lees meer
Een AI-systeem als baas?
Lees meer
IE in de holding
Lees meer
Ook het verwerken van voertuigdata is begrensd
Lees meer
Online oplichting en zakelijke identiteitsfraude: wat te doen?
Lees meer
Succesvol webinar Fashion & Law deel 2
Lees meer
Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
Lees meer
EK-gekte losgebarsten: KNVB vs. Jumbo
Lees meer
Belangrijke wijzigingen auteursrecht: makers en exploitanten
Lees meer
Jouw eigen gezicht als merkregistratie: kan dat?
Lees meer
De Juridische Afdeling: Legal as-a-Service
Lees meer
Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
Lees meer
Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
Lees meer
Er is ruimte voor onderhandeling bij Arbitvoorwaarden
Lees meer
Succesvol webinar legal voor AI startups/scale-ups
Lees meer
Schadevergoeding na hack persoonsgegevens?
Lees meer
Software as a Service: grip op data
Lees meer
Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
Lees meer
Nieuwe Europese regels voor artificial intelligence
Lees meer
Successful webinar NDA, secrecy and cooperation
Lees meer
Het delen van data en vertrouwelijkheid
Lees meer
Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
Lees meer
Intellectueel eigendom en Tech: waar moet je op letten?
Lees meer
Reclame maken voor corona zelftesten
Lees meer
Wilt u weten of uw merk nog vrij is?
Lees meer
Het gebruik van (framed) hyperlinks vs. het auteursrecht
Lees meer
Nieuwsgierig en creatief meedenken, Jos van der Wijst
Lees meer
Succesvol webinar beschermingsmogelijkheden van AI
Lees meer
Exclusiviteitsafspraak in een samenwerkingsovereenkomst
Lees meer
Succesvol webinar Fashion & Law deel 1
Lees meer
Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
Lees meer
SyRI wetgeving in strijd met EVRM
Lees meer
Google verwijdert (onterechte?) negatieve recensie niet
Lees meer
Succesvol webinar AI in de Zorg
Lees meer
Hoezo kan ik geen eigenaar zijn van (zorg)data?
Lees meer
Functie van cosmetische producten verplicht op verpakking
Lees meer
Modelrecht en auteursrecht op inwerpzuil
Lees meer
Merkonderzoek: Hoe voorkom je merkinbreuk?
Lees meer
Doorhaling van een merkregistratie
Lees meer
Een webshop: mag alles zomaar of gelden er regels?
Lees meer
Een merk moet ook daadwerkelijk gebruikt worden
Lees meer
Mag je foto's van werknemers gebruiken?
Lees meer
Sinterklaas is toch gewoon sinterklaas?
Lees meer
Aanbevelingen aansprakelijkheid bij AI
Lees meer
Het nieuwe algoritmeregister van de gemeente Amsterdam
Lees meer
Algoritme via Detachering
Lees meer
Algoritme als Software
Lees meer
Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
Lees meer
Auteursrechten & Artificial Intelligence
Lees meer
Is nieuwe wet- of regelgeving nodig voor AI?
Lees meer
Positiemerk: kan je dat beschermen?
Lees meer
Algoritme als een Dienst
Lees meer
Van wie is het model?
Lees meer
Beperkingen in licentieovereenkomst door mededingingsrecht
Lees meer
Is een registratiedossier beschermd door auteursrecht?
Lees meer
Wees de copycats voor!
Lees meer
Wie is verantwoordelijk voor de analyse door een algoritme?
Lees meer
Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
Lees meer
Mag ik een zelftest voor corona verkopen?
Lees meer
Inspiratie in de fashion industrie: wat zijn de grenzen?
Lees meer
Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
Lees meer
Er komt een nieuwe rechtsvorm: de maatschappelijke BV
Lees meer
Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
Lees meer
Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
Lees meer
Merkgebruik bij import producten en doorverkoop
Lees meer
BG.legal ontvangt subsidie voor AI kennisplatform
Lees meer
Bescherming merkrecht: hoe ver gaat dat?
Lees meer
Vernietiging van een ingeschreven merk: hoe dan?
Lees meer
Nieuwsbrief Tech - meld je aan
Lees meer
NL Digital voorwaarden 2020: verbetering positie IT leverancier
Lees meer
Een kritische blik op de Corona-apps van de overheid
Lees meer
De roep om het vrijgeven van voertuigdata
Lees meer
Domeinnamen
Lees meer
Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
Lees meer
Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
Lees meer
Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
Lees meer
Wanneer kan een IT overeenkomst worden ontbonden?
Lees meer
De octrooigemachtigde en het faillissement (deel 3)
Lees meer
Wie heeft recht op de domeinnaam?
Lees meer
De octrooigemachtigde en het faillissement (Deel 2)
Lees meer
Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
Lees meer
Seminar 19 november: Investeren en financieren 2.0
Lees meer
De octrooigemachtigde en het faillissement (deel 1)
Lees meer
Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
Lees meer
Den Bosch Data Week: Practical experiences Blockchain and Food
Lees meer
Productomschrijving op een website. Auteursrecht mogelijk?
Lees meer
Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
Lees meer
Tips voor het verkrijgen van auteursrechten
Lees meer
Auteursrecht op website(teksten)
Lees meer
Het beëindigen van de onderneming bij een inbreuk op IE-rechten
Lees meer
Is de vormgeving van een industrieel product beschermd?
Lees meer
Doordacht samenwerken geeft meer macht
Lees meer
BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
Lees meer
BG.tech
Lees meer
Vacatures
Lees meer