Risico check voor AI toepassingen

16 aug 2021

Zonder dat we het vaak weten, gebruiken we dagelijks producten en diensten waar kunstmatige intelligentie (artificial intelligence: “AI”) is toegepast. Zoals bijvoorbeeld spraakherkenning in de auto, chatbots op websites, diagnose van kankercellen en het geautomatiseerd nemen van beslissingen. Omdat steeds meer partijen, zowel commerciële partijen als overheden, meer data ter beschikking krijgen, kan deze worden ingezet om een model te maken waarbij voorspellingen gedaan kunnen worden. Voor het maken van dat model wordt AI toegepast.

Voor ontwikkelaars van AI toepassingen, opdrachtgevers van het maken van AI toepassingen en degene die AI toepassingen gebruiken, is de vraag dan aan welke wet- en regelgeving een AI toepassing moet voldoen. Waar wordt een risico gelopen, hoe groot of klein is dat risico en hoe kan een risico worden beperkt of weggenomen? Maar ook vragen over Intellectuele Eigendom aspecten (is de AI toepassing of het resultaat van de AI toepassing beschermd door een Intellectueel Eigendomsrecht /bedrijfsgeheim), mededingingsaspecten (mag je een AI toepassing weigeren te delen met concurrenten), aansprakelijkheidsvragen (wie is aansprakelijk voor schade door/met een AI toepassing) en ‘civielrechtelijke vragen’ (wie is ‘eigenaar' van de (bestaande/nieuwe) data, wie mag wat met de data, wat gebeurt er met de data/het algoritme na het einde van een AI toepassing, kan ik een pandrecht vestigen op een algoritme/AI toepassing/data set).

BG.legal kan daarvoor een AI risico check (“AI Risk Assessment”) uitvoeren en met advies komen hoe eventuele risico’s te beperken of weg te nemen.

Wat houdt het precies in?

Vaak is er voor AI toepassingen al wet- en regelgeving die van toepassing is. Zoals bijvoorbeeld de Algemene Verordening Persoonsgegevens, de Wet Medisch Hulpmiddel, de Grondwet/Europees Handvest en product aansprakelijkheidsregelgeving. Maar voor veel aspecten is er nog geen regelgeving. Deze is wel in de maak met het voorstel voor een Europese AI Verordening. Zie ons blog over dit voorstel.

In een AI Risk Assessment analyseren we voor een bepaalde AI toepassing of deze voldoet aan huidige wet- en regelgeving en aan het voorstel EU AI Verordening. Dit betekent dat we toetsen aan de drie componenten:

  1. wettig – wordt aan alle toepasselijke wet- en regelgeving voldaan;
  2. ethisch – worden ethische beginselen en waarden gerespecteerd;
  3. robuust – is de AI toepassing robuust zowel vanuit technisch (cyber security) als sociaal oogpunt

In het concrete advies geven we aan hoe risico’s weggenomen of beperkt kunnen worden.

Hoe werkt het

Voor het uitvoeren van de AI Risk Assessment hanteren wij een model waarbij we de volgende stappen zetten:

  1. uitvoeren pre-test: is het uitvoeren van een AI Risk Assessment wel nodig? Wanneer de risico’s zeer beperkt zijn, dan zou afgezien kunnen worden van het uitvoeren van een AI Risk Assessment.
  2. Uitvoeren Risk Assessment: met de opdrachtgever bepalen we vooraf het team van de opdrachtgever met wie we het assessment uitvoeren, hoe we het gaan uitvoeren, of er externe partijen deel gaan uitmaken van het team (ethici, informatiebeveiligingsdeskundigen, etc.).
  3. Na afloop van het assessment ontvangt de opdrachtgever een rapport waarin we de risico’s van de betreffende AI toepassing in kaart hebben gebracht met aanbevelingen hoe risico’s gemitigeerd kunnen worden.
  4. Nadat maatregelen zijn getroffen waarbij risico’s zijn gemitigeerd kunnen we de AI Risk Assessment opnieuw uitvoeren en een nieuw rapport uitbrengen.

Het rapport kan gedeeld worden met externe partijen zoals (potentiële) opdrachtgevers.

Waarom uit laten voeren door BG.legal?

BG.legal heeft een team dat bestaat uit advocaten, juristen en een data scientist, dat zich toelegt op de juridische aspecten van data/AI. Wij adviseren opdrachtgevers al verschillende jaren over deze onderwerpen. Onze opdrachtgevers zijn bedrijven (startups, scale-ups en MKB), overheden en kennisinstellingen. Soms ontwikkelen zij AI toepassingen en soms geven zij opdracht voor de ontwikkeling van de AI toepassing of zijn zij afnemer/gebruiker van een AI toepassing.

Logo LegalAIR

BG.legal heeft het kennisplatform legalAIR (www.legalair.nl) ontwikkeld. Jos van der Wijst, head van het BG.tech team, coördineert voor de Nederlandse AI coalitie de activiteiten op het gebied van juridische aspecten van AI. Hij is onderdeel van het kernteam Mensgerichte AI van de NL AIC.

BG.legal heeft de kennis en ervaring in huis om een AI Riks Assessment uit te voeren.

Wat kost het?

De kosten voor het uitvoeren van een AI Risk Assessment zijn afhankelijk van de aard en omvang van de AI toepassing. Na een eerste gesprek maken we hier een offerte voor.

Meer informatie?

Voor meer informatie neemt u contact op met Jos van der Wijst:

M           : 0650695916
E             : wijst@bg.legal

Jos van der Wijst

 

 

 

 

 

 

 

Gerelateerde Artikelen/blogs:

    SaaS-Overeenkomst
    Lees meer
    Nederland stemt in met tekst voorstel AI verordening
    Lees meer
    Het Europees Hof schrapt het openbare UBO-register
    Lees meer
    Franchisegever beroept zich met succes op concurrentiebeding
    Lees meer
    De uitwerking van een concept kan worden beschermd
    Lees meer
    Gebruik van overeenstemmende domeinnaam
    Lees meer
    De bescherming van kleurmerken en het relevante publiek
    Lees meer
    Inbreuk op IE-recht? Let op bestuurdersaansprakelijkheid
    Lees meer
    President Biden ondertekent executive order over gegevensuitwisseling tussen de EU en VS
    Lees meer
    Denkt u na over internationaal ondernemen?
    Lees meer
    Product design als merk, eerder uitzondering dan regel
    Lees meer
    AI Aansprakelijkheid richtlijn
    Lees meer
    ACM: Misleidende duurzaamheidsclaims van Decathlon & H&M
    Lees meer
    Recht op inzage in een medisch advies van een beoordelend arts na een aansprakelijkheidsclaim?
    Lees meer
    Doorverkoop van Formule 1-tickets wordt niet verboden
    Lees meer
    Concurrentie op Bol.com: EAN-nummers en merkinbreuken
    Lees meer
    Gebruik van TM, ® en © tekens
    Lees meer
    De overwinningspose als merk
    Lees meer
    Vijf tips voor het sluiten van SaaS-Overeenkomsten
    Lees meer
    Aangepast voorstel AI Verordening
    Lees meer
    Zakelijke e-mail en privacy: wanneer mag je de mailbox van een werknemer controleren?
    Lees meer
    Alles over detachering en uitlenen van zelfstandigen (zzp’ers) en opdrachtnemers
    Lees meer
    Wat is trademark squatting?
    Lees meer
    Alles over detachering en uitlenen van werknemers
    Lees meer
    Handelsnaamgeschillen: Kunnen we het nog volgen?
    Lees meer
    Digitale nieuwsbrieven en privacy: wat kan wel en niet?
    Lees meer
    ABRvS stelt AP in het ongelijk: boete VoetbalTV van tafel
    Lees meer
    Oorsprongsbenamingen op producten voor derde landen ook verboden
    Lees meer
    Merkhouder aansprakelijk voor schade ook wanneer hij niet betrokken is bij productie van het product
    Lees meer
    Gemeenschappelijk auteursrecht op software, wie heeft aanspraak op welk deel?
    Lees meer
    Maakt de handelsnaam Mr. Jobs inbreuk op de handelsnaam Mister Jobs?
    Lees meer
    DUO lanceert synthetische dataset
    Lees meer
    Nietigverklaring modelaanvraag, wat nu?
    Lees meer
    Het belang van merkbewaking
    Lees meer
    Het belang van een merkonderzoek
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes (IAMA)
    Lees meer
    AI Risk Assessment
    Lees meer
    Impact Assessment Mensenrechten en Algoritmes
    Lees meer
    Ingrijpende wijziging regels voor distributieovereenkomsten per 1 juni 2022
    Lees meer
    Geen auteursrechtelijke bescherming op ontwerp
    Lees meer
    Zorg om inzet AI in de zorg
    Lees meer
    Zijn beschrijvende handelsnamen beschermd?
    Lees meer
    Handelsnaam niet beschermd
    Lees meer
    De AI Act en medische apparaten: een moeilijke relatie
    Lees meer
    Wat is het verschil tussen een merk en een handelsnaam?
    Lees meer
    Is mijn gekozen bedrijfsnaam beschikbaar?
    Lees meer
    Merkbewaking
    Lees meer
    Uitgebreid Merkonderzoek
    Lees meer
    Modelregistratie
    Lees meer
    Merkregistratie
    Lees meer
    Moet ik mijn bedrijfsnaam vastleggen?
    Lees meer
    Afwijkende prijzen in Google Shopping: is dat misleidende reclame?
    Lees meer
    Boete voor Italiaanse Deliveroo vanwege slechte gegevensbescherming
    Lees meer
    BG.legal Marketing Brainstormsessies
    Lees meer
    BG.legal Marketinghulplijn
    Lees meer
    Cybersecurity as a Service (CaaS)
    Lees meer
    Cybersecurity checks
    Lees meer
    AVG-compliance check
    Lees meer
    Belang van een modelregistratie
    Lees meer
    AVG-startpakket
    Lees meer
    Strengere regels voor invloedrijke influencers
    Lees meer
    De strijd om de beschrijvende handelsnamen: Trainingskampen.nl en Trainingskamp.nl
    Lees meer
    Rechter roept dance-programmering van Q-music halt toe: hoe zit het?
    Lees meer
    Modelrecht op friet
    Lees meer
    Nederlandse woningcorporaties getroffen door datalek
    Lees meer
    Inschrijfformulier datalekken
    Lees meer
    Advocaat Jos van der Wijst over Mensgerichte AI
    Lees meer
    Bescherming merken in de virtuele wereld
    Lees meer
    EU en VS bereiken principeakkoord over het uitwisselen van data
    Lees meer
    Foto's van gezichten verzamelen
    Lees meer
    Wanneer is een ICT-leverancier verantwoordelijk voor adequate back-ups?
    Lees meer
    Student stagiaire Cybersecurity, Privacy en IT-recht
    Lees meer
    AI regulatory sandboxes en data
    Lees meer
    Is de vormgeving van een website auteursrechtelijk beschermd?
    Lees meer
    Juridische aspecten van Artificial Intelligence
    Lees meer
    Europese Commissie komt met voorstel nieuwe dataregels
    Lees meer
    Korting advocaatkosten voor MKB-ondernemers bij juridisch advies in 2022
    Lees meer
    Gebruik Google Analytics mogelijk in strijd met de AVG
    Lees meer
    European Data Protection Day: wat te doen bij een datalek?
    Lees meer
    Kortingsactie merk- en modelregistratie 2022
    Lees meer
    Wie heeft auteursrecht op software/vormgeving app/website?
    Lees meer
    Champagne en het intellectueel eigendomsrecht
    Lees meer
    AI: Toezicht en Toolbox
    Lees meer
    Wie is aansprakelijk voor de schade na een ransomware-aanval?
    Lees meer
    Cybersecurity en datalekken
    Lees meer
    Silhouet sinterklaas: auteursrechtinbreuk met inpakpapier
    Lees meer
    Financiële tegemoetkoming voor Juridisch advies
    Lees meer
    (Senior) Medewerker IE/IT/Privacy
    Lees meer
    Wanneer mag je software decompileren?
    Lees meer
    Keuzes bij cloud services
    Lees meer
    Er zijn al regels voor AI toepassingen
    Lees meer
    Restvoorraad bij einde distributieovereenkomst
    Lees meer
    Model moet nieuw zijn bij aanvraag modelregistratie
    Lees meer
    Inbreuk beschrijvende handelsnaam tóch mogelijk
    Lees meer
    Fake factuur na een merk- of modelregistratie, pas op!
    Lees meer
    Legal AIR
    Lees meer
    Het decoderen van producten kan onrechtmatig zijn
    Lees meer
    Wanneer een schadevergoeding na een datalek?
    Lees meer
    Uber-chauffeurs nu ook werknemers
    Lees meer
    Merken op verzenddozen: mag dat wel?
    Lees meer
    Kortingsperiode op merk- en modelregistraties verlengd
    Lees meer
    Nieuwsbrief voor datascience ondernemingen
    Lees meer
    Kun je een auteursrecht krijgen op een algoritme?
    Lees meer
    Financiële mogelijkheden voor groei van een onderneming
    Lees meer
    Wie is aansprakelijk bij een ransomaanval?
    Lees meer
    Paralympier aangereden door zelfrijdende bus
    Lees meer
    Wapenen tegen copycats? Registreer je merk!
    Lees meer
    Recept en foto’s gekopieerd door Sonja Bakker: plagiaat of auteursrechtinbreuk?
    Lees meer
    Inwerkingtreding van EU Open Data richtlijn
    Lees meer
    AI-systeem als uitvinder?
    Lees meer
    Een AI-systeem als baas?
    Lees meer
    IE in de holding
    Lees meer
    Ook het verwerken van voertuigdata is begrensd
    Lees meer
    Online oplichting en zakelijke identiteitsfraude: wat te doen?
    Lees meer
    Succesvol webinar Fashion & Law deel 2
    Lees meer
    Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
    Lees meer
    EK-gekte losgebarsten: KNVB vs. Jumbo
    Lees meer
    Belangrijke wijzigingen auteursrecht: makers en exploitanten
    Lees meer
    Jouw eigen gezicht als merkregistratie: kan dat?
    Lees meer
    De Juridische Afdeling: Legal as-a-Service
    Lees meer
    Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
    Lees meer
    Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
    Lees meer
    Er is ruimte voor onderhandeling bij Arbitvoorwaarden
    Lees meer
    Succesvol webinar legal voor AI startups/scale-ups
    Lees meer
    Schadevergoeding na hack persoonsgegevens?
    Lees meer
    Software as a Service: grip op data
    Lees meer
    Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
    Lees meer
    Nieuwe Europese regels voor artificial intelligence
    Lees meer
    Successful webinar NDA, secrecy and cooperation
    Lees meer
    Het delen van data en vertrouwelijkheid
    Lees meer
    Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
    Lees meer
    Intellectueel eigendom en Tech: waar moet je op letten?
    Lees meer
    Reclame maken voor corona zelftesten
    Lees meer
    Wilt u weten of uw merk nog vrij is?
    Lees meer
    Het gebruik van (framed) hyperlinks vs. het auteursrecht
    Lees meer
    Nieuwsgierig en creatief meedenken, Jos van der Wijst
    Lees meer
    Succesvol webinar beschermingsmogelijkheden van AI
    Lees meer
    Exclusiviteitsafspraak in een samenwerkingsovereenkomst
    Lees meer
    Succesvol webinar Fashion & Law deel 1
    Lees meer
    Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
    Lees meer
    SyRI wetgeving in strijd met EVRM
    Lees meer
    Google verwijdert (onterechte?) negatieve recensie niet
    Lees meer
    Succesvol webinar AI in de Zorg
    Lees meer
    Hoezo kan ik geen eigenaar zijn van (zorg)data?
    Lees meer
    Functie van cosmetische producten verplicht op verpakking
    Lees meer
    Modelrecht en auteursrecht op inwerpzuil
    Lees meer
    Merkonderzoek: Hoe voorkom je merkinbreuk?
    Lees meer
    Doorhaling van een merkregistratie
    Lees meer
    Een webshop: mag alles zomaar of gelden er regels?
    Lees meer
    Een merk moet ook daadwerkelijk gebruikt worden
    Lees meer
    Mag je foto's van werknemers gebruiken?
    Lees meer
    Sinterklaas is toch gewoon sinterklaas?
    Lees meer
    Aanbevelingen aansprakelijkheid bij AI
    Lees meer
    Het nieuwe algoritmeregister van de gemeente Amsterdam
    Lees meer
    Algoritme via Detachering
    Lees meer
    Algoritme als Software
    Lees meer
    Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
    Lees meer
    Auteursrechten & Artificial Intelligence
    Lees meer
    Is nieuwe wet- of regelgeving nodig voor AI?
    Lees meer
    Positiemerk: kan je dat beschermen?
    Lees meer
    Algoritme als een Dienst
    Lees meer
    Van wie is het model?
    Lees meer
    Who owns an algorithm? How do you share data? What are legal aspects of AI?
    Lees meer
    Beperkingen in licentieovereenkomst door mededingingsrecht
    Lees meer
    Is een registratiedossier beschermd door auteursrecht?
    Lees meer
    Wees de copycats voor!
    Lees meer
    AI & Privacy in de zorg, een gelukkig huwelijk?
    Lees meer
    Wie is verantwoordelijk voor de analyse door een algoritme?
    Lees meer
    Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
    Lees meer
    Mag ik een zelftest voor corona verkopen?
    Lees meer
    Inspiratie in de fashion industrie: wat zijn de grenzen?
    Lees meer
    Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
    Lees meer
    Er komt een nieuwe rechtsvorm: de maatschappelijke BV
    Lees meer
    Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
    Lees meer
    Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
    Lees meer
    Merkgebruik bij import producten en doorverkoop
    Lees meer
    BG.legal ontvangt subsidie voor AI kennisplatform
    Lees meer
    Software / data overeenkomsten
    Lees meer
    NVM is niet verplicht om VBO-leden toegang tot data te geven
    Lees meer
    Bescherming merkrecht: hoe ver gaat dat?
    Lees meer
    Vernietiging van een ingeschreven merk: hoe dan?
    Lees meer
    Een toelichting op de ‘visie op datadeling tussen bedrijven’
    Lees meer
    Nieuwsbrief Tech - meld je aan
    Lees meer
    NL Digital voorwaarden 2020: verbetering positie IT leverancier
    Lees meer
    Een kritische blik op de Corona-apps van de overheid
    Lees meer
    De roep om het vrijgeven van voertuigdata
    Lees meer
    Domeinnamen
    Lees meer
    Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
    Lees meer
    Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
    Lees meer
    Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
    Lees meer
    Europese perspectieven op AI medische hulpmiddelen
    Lees meer
    Databankenrecht
    Lees meer
    Checklist data sharing agreement
    Lees meer
    De verkoop en verpanding van data
    Lees meer
    Data en ethiek
    Lees meer
    Het delen van data
    Lees meer
    De bescherming van data
    Lees meer
    Het eigendom van data
    Lees meer
    Data
    Lees meer
    Wanneer kan een IT overeenkomst worden ontbonden?
    Lees meer
    De octrooigemachtigde en het faillissement (deel 3)
    Lees meer
    Wie heeft recht op de domeinnaam?
    Lees meer
    De octrooigemachtigde en het faillissement (Deel 2)
    Lees meer
    Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
    Lees meer
    Seminar 19 november: Investeren en financieren 2.0
    Lees meer
    De octrooigemachtigde en het faillissement (deel 1)
    Lees meer
    Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
    Lees meer
    Den Bosch Data Week: Practical experiences Blockchain and Food
    Lees meer
    Productomschrijving op een website. Auteursrecht mogelijk?
    Lees meer
    Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
    Lees meer
    Tips voor het verkrijgen van auteursrechten
    Lees meer
    Auteursrecht op website(teksten)
    Lees meer
    Het beëindigen van de onderneming bij een inbreuk op IE-rechten
    Lees meer
    Is de vormgeving van een industrieel product beschermd?
    Lees meer
    Doordacht samenwerken geeft meer macht
    Lees meer
    Privacyrecht
    Lees meer
    BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
    Lees meer
    BG.tech
    Lees meer
    Vacatures
    Lees meer