Nieuwe Europese regels voor artificial intelligence

21 apr 2021

Op 21 april 2021 heeft de Europese Commissie een voorstel gepresenteerd met nieuwe regels voor Artificial Intelligence (AI/kunstmatige intelligentie).

In dit eerste artikel worden de hoofdlijnen toegelicht.

Waarom nieuwe regels?

AI wordt al breed gebruikt, vaak zonder dat we het zelf in de gaten hebben. De meeste AI systemen vormen geen risico voor gebruikers. Maar dat geldt niet voor alle AI systemen. De bestaande regelgeving is onvoldoende om de veiligheid van gebruikers en de fundamentele rechten te waarborgen. Daardoor kan het vertrouwen in AI in gevaar komen.

Welke risico categorieën?

De Europese Commissie stelt een ‘risk-approach’ aanpak voor met vier risiconiveaus:

  1. onacceptabel risico

Een zeer beperkt aantal AI toepassingen worden aangemerkt als een onacceptabel risico. Deze gaan in tegen fundamentele rechten en worden om die reden verboden. Als voorbeeld noemt de commissie het sociaal labellen van burgers door overheden en op afstand biometrisch identificeren in de publieke ruimte. Op dit laatste zijn een paar uitzonderingen gemaakt.

  1. hoog risico

Een iets groter aantal AI toepassingen vormt een hoog risico. Deze worden beschreven in het voorstel. Zij vormen een hoog risico omdat zij een impact hebben op de fundamentele rechten. De opsomming van deze AI toepassingen kan periodiek worden aangepast.

Deze AI toepassingen moeten aan een aantal verplichte voorwaarden voldoen. Deze voorwaarden omvatten kwaliteitseisen aan de gebruikte dataset, technische documentatie, transparantie en informatieverstrekking aan gebruikers, menselijk toezicht, en robuustheid, accuratesse en cybersecurity. Nationale toezichthouders krijgen hier onderzoeksrechten.

  1. beperkt risico

Voor een grotere groep AI-toepassingen geldt een beperkt risico. Hier kan worden volstaan met transparantie. De commissie noemt hier als voorbeeld chatbots. Gebruikers moeten weten dat zij communiceren met een chatbot.

  1. minimaal risico

Voor alle andere AI toepassingen geldt dat de bestaande wet- en regelgeving afdoende is. Verreweg de meeste van de huidige AI toepassingen vallen in deze categorie.

Hoe classificeer je AI producten?

De commissie komt met een methodiek om AI toepassingen in te delen in een van de vier risico niveaus. Het doel daarvan is om zekerheid te bieden voor ondernemingen en anderen. Het risico wordt beoordeeld op basis van het beoogde gebruik. Dit betekent dat gekeken wordt naar:

- het beoogde doel
- het aantal potentieel geraakte personen
- de afhankelijkheid van de uitkomst
- de onomkeerbaarheid van de schade.

Wat zijn de gevolgen voor hoog risico AI systemen?

Voordat deze AI systemen gebruikt mogen worden moet een onderzoek worden uitgevoerd naar het voldoen aan de regelgeving. Uit dat onderzoek moet blijken dat het AI systeem compliant is ten aanzien van de vereisten op het gebied van data kwaliteit, documentatie en traceerbaarheid, transparantie, menselijk toezicht, accuratesse en robuustheid. Voor sommige AI systemen zal een ‘notified body’ ingeschakeld moeten worden. Voor deze AI systemen moet ook een risk management systeem worden opgezet door de leverancier.

Wie gaat handhaven?

De Lid-Staten zullen een autoriteit moeten aanwijzen die gaan toezien op de naleving.

Gedragscodes

Leveranciers van high-risk AI systemen kunnen een vrijwillige gedragscode maken voor de veilige toepassing van AI systemen. De commissie stimuleert de industrie om hiermee te komen.

Wie is aansprakelijk bij import van AI systemen?

De importeur in de EU van AI systemen is verantwoordelijk voor het ingevoerde AI systeem. Hij moet ervoor zorgen dat de producent voldoet aan EU regelgeving en een CE markering heeft.

Wat is de sanctie?

Het overtreden van deze regelgeving kan worden beboet met een geldboete van maximaal 6% van de jaaromzet in het voorafgaande kalenderjaar.

Dit was een eerste analyse van het commissievoorstel. Later volgt een nadere analyse. Later volgt ook een analyse van de voorgestelde nieuwe regeling voor machines.

Voor meer informatie over juridisch/ethische aspecten van AI ontwikkelen wij LegalAIR. Dit platform gaat praktische informatie en tools geven hoe om te gaan met AI en AI systemen.

Voor meer vragen neemt u contact op met Jos van der Wijst (wijst@bg.legal).

Jos van der Wijst

    Contact

      Succesvol webinar Fashion & Law deel 2
      Lees meer
      Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
      Lees meer
      EK-gekte losgebarsten: KNVB vs. Jumbo
      Lees meer
      Belangrijke wijzigingen auteursrecht: makers en exploitanten
      Lees meer
      Jouw eigen gezicht als merkregistratie: kan dat?
      Lees meer
      Legal Department as-a-Service
      Lees meer
      Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
      Lees meer
      Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
      Lees meer
      Er is ruimte voor onderhandeling bij Arbitvoorwaarden
      Lees meer
      Succesvol webinar legal voor AI startups/scale-ups
      Lees meer
      Schadevergoeding na hack persoonsgegevens?
      Lees meer
      Software as a Service: grip op data
      Lees meer
      Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
      Lees meer
      Successful webinar NDA, secrecy and cooperation
      Lees meer
      Het delen van data en vertrouwelijkheid
      Lees meer
      Drowned in the sun
      Lees meer
      Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
      Lees meer
      Intellectueel eigendom en Tech: waar moet je op letten?
      Lees meer
      Reclame maken voor corona zelftesten
      Lees meer
      Wilt u weten of uw merk nog vrij is?
      Lees meer
      Later als ik groot ben..
      Lees meer
      Het gebruik van (framed) hyperlinks vs. het auteursrecht
      Lees meer
      Nieuwsgierig en creatief meedenken, Jos van der Wijst
      Lees meer
      Succesvol webinar beschermingsmogelijkheden van AI
      Lees meer
      Exclusiviteitsafspraak in een samenwerkingsovereenkomst
      Lees meer
      Succesvol webinar Fashion & Law deel 1
      Lees meer
      Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
      Lees meer
      SyRI wetgeving in strijd met EVRM
      Lees meer
      Google verwijdert (onterechte?) negatieve recensie niet
      Lees meer
      Succesvol webinar AI in de Zorg
      Lees meer
      Hoezo kan ik geen eigenaar zijn van (zorg)data?
      Lees meer
      Functie van cosmetische producten verplicht op verpakking
      Lees meer
      Modelrecht en auteursrecht op inwerpzuil
      Lees meer
      Merkonderzoek: Hoe voorkom je merkinbreuk?
      Lees meer
      Doorhaling van een merkregistratie
      Lees meer
      Een webshop: mag alles zomaar of gelden er regels?
      Lees meer
      Kortingsregelingen voor MKB-ondernemers bij juridisch advies
      Lees meer
      Opzetten modelabel: waar moet je aan denken?
      Lees meer
      Een merk moet ook daadwerkelijk gebruikt worden
      Lees meer
      Mag je foto's van werknemers gebruiken?
      Lees meer
      Sinterklaas is toch gewoon sinterklaas?
      Lees meer
      Aanbevelingen aansprakelijkheid bij AI
      Lees meer
      Het nieuwe algoritmeregister van de gemeente Amsterdam
      Lees meer
      Algoritme via Detachering
      Lees meer
      Algoritme als Software
      Lees meer
      Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
      Lees meer
      Auteursrechten & Artificial Intelligence
      Lees meer
      Is nieuwe wet- of regelgeving nodig voor AI?
      Lees meer
      Positiemerk: kan je dat beschermen?
      Lees meer
      Algoritme als een Dienst
      Lees meer
      Van wie is het model?
      Lees meer
      Beperkingen in licentieovereenkomst door mededingingsrecht
      Lees meer
      Is een registratiedossier beschermd door auteursrecht?
      Lees meer
      Wees de copycats voor!
      Lees meer
      Wie is verantwoordelijk voor de analyse door een algoritme?
      Lees meer
      Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
      Lees meer
      Mag ik een zelftest voor corona verkopen?
      Lees meer
      Inspiratie in de fashion industrie: wat zijn de grenzen?
      Lees meer
      Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
      Lees meer
      Er komt een nieuwe rechtsvorm: de maatschappelijke BV
      Lees meer
      Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
      Lees meer
      Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
      Lees meer
      Merkgebruik bij import producten en doorverkoop
      Lees meer
      BG.legal ontvangt subsidie voor AI kennisplatform
      Lees meer
      Bescherming merkrecht: hoe ver gaat dat?
      Lees meer
      Vernietiging van een ingeschreven merk: hoe dan?
      Lees meer
      Nieuwsbrief Tech - meld je aan
      Lees meer
      NL Digital voorwaarden 2020: verbetering positie IT leverancier
      Lees meer
      Een kritische blik op de Corona-apps van de overheid
      Lees meer
      De roep om het vrijgeven van voertuigdata
      Lees meer
      Domeinnamen
      Lees meer
      Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
      Lees meer
      Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
      Lees meer
      Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
      Lees meer
      Wanneer kan een IT overeenkomst worden ontbonden?
      Lees meer
      De octrooigemachtigde en het faillissement (deel 3)
      Lees meer
      Wie heeft recht op de domeinnaam?
      Lees meer
      De octrooigemachtigde en het faillissement (Deel 2)
      Lees meer
      Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
      Lees meer
      Seminar 19 november: Investeren en financieren 2.0
      Lees meer
      De octrooigemachtigde en het faillissement (deel 1)
      Lees meer
      Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
      Lees meer
      Den Bosch Data Week: Practical experiences Blockchain and Food
      Lees meer
      Productomschrijving op een website. Auteursrecht mogelijk?
      Lees meer
      Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
      Lees meer
      Tips voor het verkrijgen van auteursrechten
      Lees meer
      Auteursrecht op website(teksten)
      Lees meer
      Het beëindigen van de onderneming bij een inbreuk op IE-rechten
      Lees meer
      Is de vormgeving van een industrieel product beschermd?
      Lees meer
      Doordacht samenwerken geeft meer macht
      Lees meer
      BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
      Lees meer
      BG.tech
      Lees meer
      Vacature juridisch medewerker/advocaat Data & AI, IT- en Privacyrecht
      Lees meer