Aangepast voorstel AI Verordening

18 aug 2022

Op 15 juli 2022 heeft het Tsjechisch voorzitterschap van de Europese Raad een aangepast voorstel gepubliceerd van de AI Verordening (AI Act). Dit aangepast voorstel borduurt voort op het voorstel van de Europese Commissie en het aangepast voorstel dat onder het Sloveens en het Frans voorzitterschap is aangepast. De definitieve versie van het voorstel zal tot stand moeten komen in onderhandelingen tussen het Europees Parlement, de Europese Commissie en de Europese Raad (de regeringen).

In dit blog bespreek ik de meest in het oog springende aanpassingen van het voorstel.

1. Definitie

In het voorstel van de Europese Commissie van 21 april 2021 is in artikel 3 een definitie opgenomen van een Artificial Intelligence system, waarbij wordt verwezen naar een bijlage I. In die bijlage is een brede definitie opgenomen van een AI systeem. In de bijlage wordt AI zo breed gedefinieerd dat, volgens critici, er zaken onder vallen die wij nu niet als AI zouden aanmerken.

In het aangepaste voorstel is de definitie aangepast tot “a system that is designed to operate with a certain level of autonomy and that, based on machine and/or human-provided data and inputs, infers how to achieve a given set of human-defined objectives using machine learning and/or logic- and knowledge based approaches, and produces system-generated outputs such as content (generative AI systems), predictions, recommendations or decisions , influencing the environments with which the AI system interacts”.

Ook komt bijlage I te vervallen.

Kortom, het is een systeem dat is ontwikkeld met machine learning techniek en/of een ‘logic- or knowledge based approach’. Verder is de mogelijkheid voor de Europese Commissie om de definitie aan te passen gewijzigd. In plaats van het aanpassen van de bijlage, wordt nu in artikel 4 aan de Europese Commissie de mogelijkheid gegeven om met uitvoeringsbesluiten (‘implementation acts’) uitleg te geven aan de termen machine learning en logic-/knowledge bases approach.

Gevolg

Het gevolg van deze aangepaste definitie lijkt te zijn dat het aantal systemen dat onder de definitie van AI systeem vallen nu beperkter is. Daarnaast is met het schrappen van bijlage I ook de bevoegdheid van de Commissie om de desbetreffende bijlage te wijzigen via delegated acts komen te vervallen. Dit houdt in dat het de Commissie nu alleen is toegestaan om uitvoeringsbesluiten vast te stellen ter verduidelijking van bestaande categorieën. [L. Bertuzzi, ‘Czech Presidency sets out path for AI Act discussions’, EURACTIV, 22 juni 2022] Hiermee wordt dus de mate waarin de Commissie in staat is wijzigingen aan te brengen in de technieken en benaderingen, die voorheen gedefinieerd stonden in bijlage I, ingeperkt. De flexibiliteit en toekomstbestendigheid worden nu dus gewaarborgd  door middel van de uitleg die de Europese Commissie kan blijven geven aan de bestaande categorieën.

2. High risk AI systemen

In het voorstel van de Europese Commissie moeten alle AI systemen, door middel van een self-assessment, in één van vier risico categorieën worden ingedeeld. De AI systemen die in de categorie ‘hoog risico’ vallen, zijn beschreven in bijlage III. De AI systemen in deze categorie moeten voor het op de markt brengen en daarna, aan verschillende vereisten (blijven) voldoen.

Hier was veel kritiek op. Niet alleen omdat AI toepassingen ten onrechte wel of niet op de lijst stonden, maar ook omdat het een hele administratieve last betekende.

In het aangepaste voorstel blijft de bijlage III lijst met High riks AI systemen bestaan. Maar niet ieder AI systeem dat op de bijlage staat is per definitie een ‘High Riks’ AI systeem. Dat is alleen het geval wanneer:

  1. De output van het AI systeem wordt gebruikt zonder dat een mens deze valideert, of
  2. De output van het AI systeem niet wordt gebruikt als louter ondersteunend voor de beslissing die een mens neemt en daardoor tot een aanmerkelijk risico kan leiden voor de gezondheid, veiligheid of fundamentele rechten.

De Europese Commissie moet in uitvoeringsbesluiten (‘implementation acts’) uitleg geven aan de term ‘louter ondersteunend’ (‘purely accessory’).

Gevolg

Het gevolg hiervan is dat, waarschijnlijk, een aantal AI systemen die op de bijlage III staan, toch niet als high risk aangemerkt zullen worden. De administratieve last lijkt daardoor beperkt te zijn tot de vaststelling dat er geen sprake is van een high risk AI systeem.

De bijlage III lijst is ook aangepast.

De volgende AI systemen zijn geschrapt van de lijst:

  • AI systems intended to be used to control emissions and pollution
  • AI systems intended to be used for insurance premium setting, underwritings and claims assessments
  • AI systems intended to be used by law enforcement authorities or on their behalf for law enforcement purposes to detect deep fakes as referred to in article 52(3)
  • AI systems intended to be used by law enforcement authorities or on their behalf for crime analytics regarding natural persons, allowing law enforcement authorities to search complex related and unrelated large data sets available in different data sources or in different data formats in order to identify unknown patterns or discover hidden relationships in the data.

Een aantal beschrijvingen zijn aangepast zoals:

  • Biometrische systemen; in het oude voorstel waren daar beperkingen aangebracht: Biometric identification systems intended to be used for the ‘real-time’ and ‘post’ remote biometric identification of natural persons without their agreement”. De beperkingen zijn geschrapt zodat nu alle biometrische systemen high risk zijn.

De Europese Commissie zal in staat zijn om de voorbeelden in bijlage III waar nodig aan te passen, aan te vullen en te verwijderen.

Wat betekent dit voor de praktijk nu

De definitieve tekst van de AI verordening is er nog niet. Dit betekent dat het voorbereiden op de AI verordening daardoor gehinderd wordt.  Desalniettemin lijkt er al wel op grote lijnen overeenstemming te bestaan. Daarbij kan gedacht worden aan het indelen in risico categorieën, dat organisaties zelf moeten vaststellen in welke risicocategorie een AI systeem valt, en dat test omgevingen (AI regulatory sandbox) mogelijk worden.

Ook nu kunnen organisaties al vaststellen of het AI systeem dat zij gebruiken of willen gaan gebruiken compliant is. BG.legal heeft daarvoor enkele tools ontwikkeld  om bedrijven / organisaties hierin te ondersteunen:

Meer informatie

Voor meer informatie kunt u contact opnemen met Jos van der Wijst.

Jos van der Wijst

    SaaS-Overeenkomst
    Lees meer
    Nederland stemt in met tekst voorstel AI verordening
    Lees meer
    Het Europees Hof schrapt het openbare UBO-register
    Lees meer
    Franchisegever beroept zich met succes op concurrentiebeding
    Lees meer
    De uitwerking van een concept kan worden beschermd
    Lees meer
    Gebruik van overeenstemmende domeinnaam
    Lees meer
    De bescherming van kleurmerken en het relevante publiek
    Lees meer
    Inbreuk op IE-recht? Let op bestuurdersaansprakelijkheid
    Lees meer
    President Biden ondertekent executive order over gegevensuitwisseling tussen de EU en VS
    Lees meer
    Denkt u na over internationaal ondernemen?
    Lees meer
    BG.legal gaat intensieve samenwerking aan met Dohmen advocaten
    Lees meer
    Product design als merk, eerder uitzondering dan regel
    Lees meer
    AI Aansprakelijkheid richtlijn
    Lees meer
    ACM: Misleidende duurzaamheidsclaims van Decathlon & H&M
    Lees meer
    Recht op inzage in een medisch advies van een beoordelend arts na een aansprakelijkheidsclaim?
    Lees meer
    Doorverkoop van Formule 1-tickets wordt niet verboden
    Lees meer
    Concurrentie op Bol.com: EAN-nummers en merkinbreuken
    Lees meer
    Gebruik van TM, ® en © tekens
    Lees meer
    De overwinningspose als merk
    Lees meer
    Vijf tips voor het sluiten van SaaS-Overeenkomsten
    Lees meer
    Zakelijke e-mail en privacy: wanneer mag je de mailbox van een werknemer controleren?
    Lees meer
    Alles over detachering en uitlenen van zelfstandigen (zzp’ers) en opdrachtnemers
    Lees meer
    Wat is trademark squatting?
    Lees meer
    Alles over detachering en uitlenen van werknemers
    Lees meer
    Handelsnaamgeschillen: Kunnen we het nog volgen?
    Lees meer
    Digitale nieuwsbrieven en privacy: wat kan wel en niet?
    Lees meer
    ABRvS stelt AP in het ongelijk: boete VoetbalTV van tafel
    Lees meer
    Oorsprongsbenamingen op producten voor derde landen ook verboden
    Lees meer
    Merkhouder aansprakelijk voor schade ook wanneer hij niet betrokken is bij productie van het product
    Lees meer
    Gemeenschappelijk auteursrecht op software, wie heeft aanspraak op welk deel?
    Lees meer
    Maakt de handelsnaam Mr. Jobs inbreuk op de handelsnaam Mister Jobs?
    Lees meer
    DUO lanceert synthetische dataset
    Lees meer
    Nietigverklaring modelaanvraag, wat nu?
    Lees meer
    Het belang van merkbewaking
    Lees meer
    Het belang van een merkonderzoek
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes (IAMA)
    Lees meer
    AI Risk Assessment
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes
    Lees meer
    Ingrijpende wijziging regels voor distributieovereenkomsten per 1 juni 2022
    Lees meer
    Geen auteursrechtelijke bescherming op ontwerp
    Lees meer
    Zorg om inzet AI in de zorg
    Lees meer
    Zijn beschrijvende handelsnamen beschermd?
    Lees meer
    Handelsnaam niet beschermd
    Lees meer
    De AI Act en medische apparaten: een moeilijke relatie
    Lees meer
    Wat is het verschil tussen een merk en een handelsnaam?
    Lees meer
    Is mijn gekozen bedrijfsnaam beschikbaar?
    Lees meer
    Merkbewaking
    Lees meer
    Uitgebreid Merkonderzoek
    Lees meer
    Modelregistratie
    Lees meer
    Merkregistratie
    Lees meer
    Moet ik mijn bedrijfsnaam vastleggen?
    Lees meer
    Afwijkende prijzen in Google Shopping: is dat misleidende reclame?
    Lees meer
    Boete voor Italiaanse Deliveroo vanwege slechte gegevensbescherming
    Lees meer
    BG.legal Marketing Brainstormsessies
    Lees meer
    BG.legal Marketinghulplijn
    Lees meer
    Cybersecurity as a Service (CaaS)
    Lees meer
    Cybersecurity checks
    Lees meer
    AVG-compliance check
    Lees meer
    Belang van een modelregistratie
    Lees meer
    AVG-startpakket
    Lees meer
    Strengere regels voor invloedrijke influencers
    Lees meer
    De strijd om de beschrijvende handelsnamen: Trainingskampen.nl en Trainingskamp.nl
    Lees meer
    Rechter roept dance-programmering van Q-music halt toe: hoe zit het?
    Lees meer
    Modelrecht op friet
    Lees meer
    Nederlandse woningcorporaties getroffen door datalek
    Lees meer
    Inschrijfformulier datalekken
    Lees meer
    Advocaat Jos van der Wijst over Mensgerichte AI
    Lees meer
    Bescherming merken in de virtuele wereld
    Lees meer
    EU en VS bereiken principeakkoord over het uitwisselen van data
    Lees meer
    Foto's van gezichten verzamelen
    Lees meer
    Wanneer is een ICT-leverancier verantwoordelijk voor adequate back-ups?
    Lees meer
    Student stagiaire Cybersecurity, Privacy en IT-recht
    Lees meer
    AI regulatory sandboxes en data
    Lees meer
    Is de vormgeving van een website auteursrechtelijk beschermd?
    Lees meer
    Juridische aspecten van Artificial Intelligence
    Lees meer
    Europese Commissie komt met voorstel nieuwe dataregels
    Lees meer
    Korting advocaatkosten voor MKB-ondernemers bij juridisch advies in 2022
    Lees meer
    Gebruik Google Analytics mogelijk in strijd met de AVG
    Lees meer
    European Data Protection Day: wat te doen bij een datalek?
    Lees meer
    Kortingsactie merk- en modelregistratie 2022
    Lees meer
    Wie heeft auteursrecht op software/vormgeving app/website?
    Lees meer
    Champagne en het intellectueel eigendomsrecht
    Lees meer
    AI: Toezicht en Toolbox
    Lees meer
    Wie is aansprakelijk voor de schade na een ransomware-aanval?
    Lees meer
    Cybersecurity en datalekken
    Lees meer
    Silhouet sinterklaas: auteursrechtinbreuk met inpakpapier
    Lees meer
    Financiële tegemoetkoming voor Juridisch advies
    Lees meer
    (Senior) Medewerker IE/IT/Privacy
    Lees meer
    Wanneer mag je software decompileren?
    Lees meer
    Keuzes bij cloud services
    Lees meer
    Er zijn al regels voor AI toepassingen
    Lees meer
    Restvoorraad bij einde distributieovereenkomst
    Lees meer
    Model moet nieuw zijn bij aanvraag modelregistratie
    Lees meer
    Inbreuk beschrijvende handelsnaam tóch mogelijk
    Lees meer
    Fake factuur na een merk- of modelregistratie, pas op!
    Lees meer
    Legal AIR
    Lees meer
    Het decoderen van producten kan onrechtmatig zijn
    Lees meer
    Wanneer een schadevergoeding na een datalek?
    Lees meer
    Uber-chauffeurs nu ook werknemers
    Lees meer
    Merken op verzenddozen: mag dat wel?
    Lees meer
    Kortingsperiode op merk- en modelregistraties verlengd
    Lees meer
    Nieuwsbrief voor datascience ondernemingen
    Lees meer
    Kun je een auteursrecht krijgen op een algoritme?
    Lees meer
    Financiële mogelijkheden voor groei van een onderneming
    Lees meer
    Wie is aansprakelijk bij een ransomaanval?
    Lees meer
    Paralympier aangereden door zelfrijdende bus
    Lees meer
    Wapenen tegen copycats? Registreer je merk!
    Lees meer
    Recept en foto’s gekopieerd door Sonja Bakker: plagiaat of auteursrechtinbreuk?
    Lees meer
    Inwerkingtreding van EU Open Data richtlijn
    Lees meer
    Risico check voor AI toepassingen
    Lees meer
    AI-systeem als uitvinder?
    Lees meer
    Een AI-systeem als baas?
    Lees meer
    IE in de holding
    Lees meer
    Ook het verwerken van voertuigdata is begrensd
    Lees meer
    Online oplichting en zakelijke identiteitsfraude: wat te doen?
    Lees meer
    Succesvol webinar Fashion & Law deel 2
    Lees meer
    Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
    Lees meer
    EK-gekte losgebarsten: KNVB vs. Jumbo
    Lees meer
    Belangrijke wijzigingen auteursrecht: makers en exploitanten
    Lees meer
    Jouw eigen gezicht als merkregistratie: kan dat?
    Lees meer
    De Juridische Afdeling: Legal as-a-Service
    Lees meer
    Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
    Lees meer
    Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
    Lees meer
    Er is ruimte voor onderhandeling bij Arbitvoorwaarden
    Lees meer
    Succesvol webinar legal voor AI startups/scale-ups
    Lees meer
    Schadevergoeding na hack persoonsgegevens?
    Lees meer
    Software as a Service: grip op data
    Lees meer
    Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
    Lees meer
    Nieuwe Europese regels voor artificial intelligence
    Lees meer
    Successful webinar NDA, secrecy and cooperation
    Lees meer
    Het delen van data en vertrouwelijkheid
    Lees meer
    Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
    Lees meer
    Intellectueel eigendom en Tech: waar moet je op letten?
    Lees meer
    Reclame maken voor corona zelftesten
    Lees meer
    Wilt u weten of uw merk nog vrij is?
    Lees meer
    Het gebruik van (framed) hyperlinks vs. het auteursrecht
    Lees meer
    Nieuwsgierig en creatief meedenken, Jos van der Wijst
    Lees meer
    Succesvol webinar beschermingsmogelijkheden van AI
    Lees meer
    Exclusiviteitsafspraak in een samenwerkingsovereenkomst
    Lees meer
    Succesvol webinar Fashion & Law deel 1
    Lees meer
    Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
    Lees meer
    SyRI wetgeving in strijd met EVRM
    Lees meer
    Google verwijdert (onterechte?) negatieve recensie niet
    Lees meer
    Succesvol webinar AI in de Zorg
    Lees meer
    Hoezo kan ik geen eigenaar zijn van (zorg)data?
    Lees meer
    Functie van cosmetische producten verplicht op verpakking
    Lees meer
    Modelrecht en auteursrecht op inwerpzuil
    Lees meer
    Merkonderzoek: Hoe voorkom je merkinbreuk?
    Lees meer
    Doorhaling van een merkregistratie
    Lees meer
    Een webshop: mag alles zomaar of gelden er regels?
    Lees meer
    Een merk moet ook daadwerkelijk gebruikt worden
    Lees meer
    Mag je foto's van werknemers gebruiken?
    Lees meer
    Sinterklaas is toch gewoon sinterklaas?
    Lees meer
    Aanbevelingen aansprakelijkheid bij AI
    Lees meer
    Het nieuwe algoritmeregister van de gemeente Amsterdam
    Lees meer
    Algoritme via Detachering
    Lees meer
    Algoritme als Software
    Lees meer
    Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
    Lees meer
    Auteursrechten & Artificial Intelligence
    Lees meer
    Is nieuwe wet- of regelgeving nodig voor AI?
    Lees meer
    Positiemerk: kan je dat beschermen?
    Lees meer
    Algoritme als een Dienst
    Lees meer
    Van wie is het model?
    Lees meer
    Beperkingen in licentieovereenkomst door mededingingsrecht
    Lees meer
    Is een registratiedossier beschermd door auteursrecht?
    Lees meer
    Wees de copycats voor!
    Lees meer
    Wie is verantwoordelijk voor de analyse door een algoritme?
    Lees meer
    Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
    Lees meer
    Mag ik een zelftest voor corona verkopen?
    Lees meer
    Inspiratie in de fashion industrie: wat zijn de grenzen?
    Lees meer
    Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
    Lees meer
    Er komt een nieuwe rechtsvorm: de maatschappelijke BV
    Lees meer
    Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
    Lees meer
    Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
    Lees meer
    Merkgebruik bij import producten en doorverkoop
    Lees meer
    BG.legal ontvangt subsidie voor AI kennisplatform
    Lees meer
    Bescherming merkrecht: hoe ver gaat dat?
    Lees meer
    Vernietiging van een ingeschreven merk: hoe dan?
    Lees meer
    Nieuwsbrief Tech - meld je aan
    Lees meer
    NL Digital voorwaarden 2020: verbetering positie IT leverancier
    Lees meer
    Een kritische blik op de Corona-apps van de overheid
    Lees meer
    De roep om het vrijgeven van voertuigdata
    Lees meer
    Domeinnamen
    Lees meer
    Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
    Lees meer
    Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
    Lees meer
    Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
    Lees meer
    Wanneer kan een IT overeenkomst worden ontbonden?
    Lees meer
    De octrooigemachtigde en het faillissement (deel 3)
    Lees meer
    Wie heeft recht op de domeinnaam?
    Lees meer
    De octrooigemachtigde en het faillissement (Deel 2)
    Lees meer
    Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
    Lees meer
    Seminar 19 november: Investeren en financieren 2.0
    Lees meer
    De octrooigemachtigde en het faillissement (deel 1)
    Lees meer
    Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
    Lees meer
    Den Bosch Data Week: Practical experiences Blockchain and Food
    Lees meer
    Productomschrijving op een website. Auteursrecht mogelijk?
    Lees meer
    Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
    Lees meer
    Tips voor het verkrijgen van auteursrechten
    Lees meer
    Auteursrecht op website(teksten)
    Lees meer
    Het beëindigen van de onderneming bij een inbreuk op IE-rechten
    Lees meer
    Is de vormgeving van een industrieel product beschermd?
    Lees meer
    Doordacht samenwerken geeft meer macht
    Lees meer
    BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
    Lees meer
    BG.tech
    Lees meer
    Vacatures
    Lees meer