Wie is verantwoordelijk voor de analyse door een algoritme?

25 sep 2020

Deze vraag kwam aan de orde tijdens een webinar over Artificial Intelligence, Healthcare and Law. Tijdens dit webinar heeft onze advocaat Jos van der Wijst een presentatie gegeven. De presentatie ging over de juridische aspecten van AI (in healthcare). De vraag werd gesteld door een arts die een AI toepassing gebruikte bij de diagnose van patiënten.

Wat is nou het antwoord op de vraag?

De vraag is niet eenvoudig te beantwoorden. Het maken van een algoritme gebeurt op basis van software. Vaak open source software zoals SkLearn en Tensorflow. Degene die het algoritme maakt, bewerkt soms datasets, traint het model dat is gekozen met datasets en past de parameters aan. Dit alles om het beoogde doel te bereiken. Zoals het identificeren van een besmetting met het coronavirus.

Zie het bericht van 17 juli 2020 (bron Radboudumc):

“Over de hele wereld hebben zeker 8 miljoen mensen een besmetting gehad met het coronavirus. De diagnose kan gesteld worden met een Röntgenfoto van de borst, waarop de longen te zien zijn. Meestal doet een radioloog dat, maar een onderzoek van Radboudumc, Jeroen Bosch Ziekenhuis en Bernhoven laat zien dat een systeem op basis van Artificiële Intelligentie (AI) dat net zo goed kan. Het onderzoek is gepubliceerd in het wetenschappelijke tijdschrift Radiology.”

Wie is verantwoordelijk voor de analyse door een algoritme?

 

 

 

 

 

Algoritme

Stel een algoritme komt tot de verkeerde conclusie. En vervolgens wordt aan een röntgenfoto die met AI is geanalyseerd een verkeerde conclusie verbonden. Stel een patiënt lijdt hier schade door. Het ziekenhuis waar een arts werkt zal als eerste worden aangesproken door de patiënt. Kan het ziekenhuis de patiënt verwijzen naar de maker van het algoritme? Zie het blog van mijn collega over ‘arts niet aansprakelijk voor gebruik ongeschikte medische hulpzaak’. En kan de maker van het algoritme weer verwijzen naar derden (leverancier dataset, leverancier software)? Vragen die niet eenvoudig te beantwoorden zijn.

Wetgeving

De wet regelt nu nog niets specifieks met betrekking tot artificial intelligence, (product)aansprakelijkheid van (makers van) algoritme, leveranciers van datasets, etc. Daarnaast is een (AI) dienst geen product. De productaansprakelijkheidsregelgeving is hierbij niet van toepassing.

Daarom is het zinvol om bij overeenkomsten die betrekking hebben op het maken van een algoritme en het trainen van een model, het uitvoeren van analyses met een algoritme, het gebruiken van algoritmes bij het nemen van beslissingen, hier afspraken over te maken en vast te leggen. Afspraken zouden gemaakt moeten worden over acceptabele foutmarges, datakwaliteit, welke soorten gebruik is toegestaan en wordt gegarandeerd. En het is verstandig om voor het gaan werken met AI een ‘AI impact assessment’ uit te (laten) voeren. Daarmee worden potentiële risico’s in kaart gebracht.

Non-contractuele aansprakelijkheid

Daarnaast speelt de non-contractuele aansprakelijkheid. Dit speelt in situaties waarin partijen niet contractueel met elkaar zijn verbonden. Bijvoorbeeld wanneer sprake zou van onrechtmatig handelen door de maker van een algoritme en een patiënt lijdt hier schade door. Immers er bestaat geen overeenkomst tussen de maker en de patiënt. Maar mogelijk heeft de patiënt toch een juridische mogelijkheid om op te treden tegen de maker van het algoritme op basis van onrechtmatige daad (b.v. schenden van een zorgplicht door de maker). De kaders hiervoor zullen in regelgeving (gedragscodes?) en jurisprudentie nog moeten worden uitgewerkt. Toch is het zinvol om daar nu al over na te denken (als gebruiker/maker van algoritmes in healthcare).

BG.legal heeft een data/AI team met daarin niet alleen juristen maar ook IT/data science geschoolden. Daardoor begrijpen wij processen, technieken beter en kunnen de noodzakelijke afspraken beter identificeren en vastleggen. Daarnaast kunnen we partijen beter adviseren over de creatie en toepassing van AI.

Voor meer informatie over juridische aspecten van AI/data kunt u contact opnemen met Jos van der Wijst, teamleider van BG.tech.

    Contact

      Uber-chauffeurs nu ook werknemers
      Lees meer
      Merken op verzenddozen: mag dat wel?
      Lees meer
      Kortingsperiode op merk- en modelregistraties verlengd
      Lees meer
      Nieuwsbrief voor datascience ondernemingen
      Lees meer
      Kun je een auteursrecht krijgen op een algoritme?
      Lees meer
      Financiële mogelijkheden voor groei van een onderneming
      Lees meer
      Wie is aansprakelijk bij een ransomaanval?
      Lees meer
      Klein kind krijgt nier van rokende vijftigjarige getransplanteerd
      Lees meer
      Paralympier aangereden door zelfrijdende bus
      Lees meer
      Wapenen tegen copycats? Registreer je merk!
      Lees meer
      Recept en foto’s gekopieerd door Sonja Bakker: plagiaat of auteursrechtinbreuk?
      Lees meer
      Bestuurder of niet?
      Lees meer
      Confettikanon ontploft in winkel
      Lees meer
      Inwerkingtreding van EU Open Data richtlijn
      Lees meer
      Risico check voor AI toepassingen
      Lees meer
      AI-systeem als uitvinder?
      Lees meer
      Immateriële schadevergoeding bij schending privacy
      Lees meer
      Deskundigenonderzoek na vermeende medische fout bij knieoperatie
      Lees meer
      Een AI-systeem als baas?
      Lees meer
      IE in de holding
      Lees meer
      Ook het verwerken van voertuigdata is begrensd
      Lees meer
      Heeft nieuwe wet (WBTR) gevolgen voor zorginstellingen?
      Lees meer
      Cao-ontwikkelingen in de zorg
      Lees meer
      Leveranciersklem zorginformatiesystemen onder de loep van de ACM
      Lees meer
      Online oplichting en zakelijke identiteitsfraude: wat te doen?
      Lees meer
      Merk in kunstwerk mag, kunstwerk in product niet
      Lees meer
      Een toga; zo uniek als de advocaat die hem draagt
      Lees meer
      Succesvol webinar Fashion & Law deel 2
      Lees meer
      Gebruik van cookies in jouw webshop: Aan welke regels moet ik mij houden?
      Lees meer
      Verantwoordelijkheden en taken zorgverleners bij behandeling van 1 patiënt
      Lees meer
      Ouders aansprakelijk voor schade ten gevolge van een moord door 14 jarige zoon
      Lees meer
      EK-gekte losgebarsten: KNVB vs. Jumbo
      Lees meer
      Nieuwe regels registratie medisch-specialistische zorg vanaf 2022
      Lees meer
      Belangrijke wijzigingen auteursrecht: makers en exploitanten
      Lees meer
      Jouw eigen gezicht als merkregistratie: kan dat?
      Lees meer
      Legal Department as-a-Service
      Lees meer
      Misleidende duurzaamheidsclaims in de modebranche: Waar moet ik op letten?
      Lees meer
      Nieuwe gezondheidsclaim: wetenschappelijk bewijs vereist
      Lees meer
      Er is ruimte voor onderhandeling bij Arbitvoorwaarden
      Lees meer
      Succesvol webinar Actualiteiten Arbeidsrecht
      Lees meer
      Worden toeslagen in de zorg doorbetaald bij vakantie en verlof?
      Lees meer
      Succesvol webinar legal voor AI startups/scale-ups
      Lees meer
      Schadevergoeding na hack persoonsgegevens?
      Lees meer
      Is er wel of niet voldaan aan de voorwaarden voor contractuele overdracht van rechten?
      Lees meer
      Eenvoudiger aanbesteden in de jeugdzorg en Wmo in het verschiet?
      Lees meer
      Software as a Service: grip op data
      Lees meer
      Overtreding concurrentiebeding leidt tot boete € 51.800,-
      Lees meer
      Succesvol webinar Praktijkvoorbeelden van AI, E-Health en contractering in de zorg
      Lees meer
      Nieuwe Europese regels voor artificial intelligence
      Lees meer
      Korting voor model- en merkregistraties - aanvraagperiode 1 tot 31 mei
      Lees meer
      Successful webinar NDA, secrecy and cooperation
      Lees meer
      Administratie in de zorg, onverminderd belangrijk!
      Lees meer
      Het delen van data en vertrouwelijkheid
      Lees meer
      Drowned in the sun
      Lees meer
      Nooit geschoten is altijd mis: Tommy Hilfiger vs. Facebook uiteengezet
      Lees meer
      Intellectueel eigendom en Tech: waar moet je op letten?
      Lees meer
      Verplichte taxatie tegen marktwaarde van zorgvastgoed
      Lees meer
      Reclame maken voor corona zelftesten
      Lees meer
      Kan de huisarts een patiënt definitief naar de deur verwijzen?
      Lees meer
      Wilt u weten of uw merk nog vrij is?
      Lees meer
      Later als ik groot ben..
      Lees meer
      Factsheet uitwisseling medische gegevens gepubliceerd
      Lees meer
      In hoeverre hebben patiënten recht op inzage medisch dossier?
      Lees meer
      Onderbouwing van tarieven in sociaal domein
      Lees meer
      Het gebruik van (framed) hyperlinks vs. het auteursrecht
      Lees meer
      Nieuwsgierig en creatief meedenken, Jos van der Wijst
      Lees meer
      Aannemen van gift of diefstal? Reden voor ontslag op staande voet in de zorg
      Lees meer
      Vaccinatie Covid-19: Wie is aansprakelijk?
      Lees meer
      Succesvol webinar beschermingsmogelijkheden van AI
      Lees meer
      Exclusiviteitsafspraak in een samenwerkingsovereenkomst
      Lees meer
      Zorgupdate: RVS adviseert aanpassingen zorgstelsel
      Lees meer
      Succesvol webinar Fashion & Law deel 1
      Lees meer
      Een geschil/discussie kan ook snel en voor redelijke kosten worden opgelost
      Lees meer
      SyRI wetgeving in strijd met EVRM
      Lees meer
      Google verwijdert (onterechte?) negatieve recensie niet
      Lees meer
      Succesvol webinar AI in de Zorg
      Lees meer
      Hoezo kan ik geen eigenaar zijn van (zorg)data?
      Lees meer
      Heeft het wetsvoorstel Wtmo gevolgen voor zorginstellingen?
      Lees meer
      Cybersecurity in de zorg: dreigingen in beeld!
      Lees meer
      Functie van cosmetische producten verplicht op verpakking
      Lees meer
      Modelrecht en auteursrecht op inwerpzuil
      Lees meer
      Werken met kennismigranten?
      Lees meer
      Merkonderzoek: Hoe voorkom je merkinbreuk?
      Lees meer
      Doorhaling van een merkregistratie
      Lees meer
      Aandachtspunten voor zorgwerkgevers bij mediation
      Lees meer
      Een webshop: mag alles zomaar of gelden er regels?
      Lees meer
      Letsel door zelfgemaakt vuurwerk, moet werkgever salaris doorbetalen?
      Lees meer
      Kortingsregelingen voor MKB-ondernemers bij juridisch advies
      Lees meer
      Website zwarte lijst van zorgverleners op zwart
      Lees meer
      Moet een werkgever in tijden van corona een veilige werkplek garanderen?
      Lees meer
      Opzetten modelabel: waar moet je aan denken?
      Lees meer
      Beslag door schuldeisers op zorgbonus mogelijk.
      Lees meer
      Sterkere werkgeversrol RvC ter versterking intern toezicht zorginstellingen
      Lees meer
      Een merk moet ook daadwerkelijk gebruikt worden
      Lees meer
      EU-detacheringsrichtlijn wegvervoersector
      Lees meer
      Mag je foto's van werknemers gebruiken?
      Lees meer
      Maatschappelijke BV voor maatschappelijke ondernemers
      Lees meer
      Dronken van desinfectiegel, is dat mogelijk?
      Lees meer
      Sinterklaas is toch gewoon sinterklaas?
      Lees meer
      Reële transparante tarieven vereist in zorgaanbesteding
      Lees meer
      Aanbevelingen aansprakelijkheid bij AI
      Lees meer
      Het nieuwe algoritmeregister van de gemeente Amsterdam
      Lees meer
      Moet verzekering van ouders de schade van een 3 jarig kind vergoeden?
      Lees meer
      Algoritme via Detachering
      Lees meer
      Algoritme als Software
      Lees meer
      Belemmeringsverbod Waadi ook bij uitzending zzp’er
      Lees meer
      Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
      Lees meer
      Schizofrene patiënt maakt betalingen over aan ‘vriendinnen’ in het buitenland.
      Lees meer
      Auteursrechten & Artificial Intelligence
      Lees meer
      Is nieuwe wet- of regelgeving nodig voor AI?
      Lees meer
      Positiemerk: kan je dat beschermen?
      Lees meer
      Wet toetreding zorgaanbieders (Wtza)
      Lees meer
      Algoritme als een Dienst
      Lees meer
      Van wie is het model?
      Lees meer
      Who owns an algorithm? How do you share data? What are legal aspects of AI?
      Lees meer
      Beperkingen in licentieovereenkomst door mededingingsrecht
      Lees meer
      Wie betaalt het loon bij thuis-quarantaine?
      Lees meer
      Liegen op je cv leidt niet altijd tot ontslag!
      Lees meer
      Is een registratiedossier beschermd door auteursrecht?
      Lees meer
      Wees de copycats voor!
      Lees meer
      Analyse kwaliteitsvraag in vervoersaanbestedingen
      Lees meer
      Een nieuwe golf? Maar dan claims van niet-corona patiënten?
      Lees meer
      Beleid zorgkantoren inkoop langdurige zorg onrechtmatig
      Lees meer
      AI & Privacy in de zorg, een gelukkig huwelijk?
      Lees meer
      Werkgeversaansprakelijkheid Covid-19
      Lees meer
      Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
      Lees meer
      Mag ik een zelftest voor corona verkopen?
      Lees meer
      Inspiratie in de fashion industrie: wat zijn de grenzen?
      Lees meer
      Wanneer heeft een IT leverancier aan zijn inspanningsverplichting voldaan?
      Lees meer
      Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
      Lees meer
      Een proeftijdbeding ná een stage? Volgens de kantonrechter is dat mogelijk.
      Lees meer
      Dierenarts gewond bij noodslachting stier. Veehouder aansprakelijk?
      Lees meer
      Gepubliceerde boetes of berispingen zorgpersoneel zijn openbaar
      Lees meer
      Er komt een nieuwe rechtsvorm: de maatschappelijke BV
      Lees meer
      Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
      Lees meer
      Geen recht op transitievergoeding bij ontslag
      Lees meer
      Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
      Lees meer
      Verzekeraars mogen geen standaard vergoeding hanteren bij een restitutiepolis
      Lees meer
      Hoge Raad: arts niet aansprakelijk voor gebruik ongeschikte medische hulpzaak
      Lees meer
      Rapport Aeternus: Trends en ontwikkelingen in de GGZ
      Lees meer
      De 7 verschillen in auteursrecht is een mythe
      Lees meer
      Goed bestuur in de zorg: vernieuwd kader
      Lees meer
      Merkgebruik bij import producten en doorverkoop
      Lees meer
      Gevolgen letselschadeuitkering na beëindiging huwelijk.
      Lees meer
      Update zorg: juridische Factsheet Wabvpz
      Lees meer
      Eerste toewijzing cumulatiegrond voor ontbinding arbeidsovereenkomst
      Lees meer
      Strafregels of knielen, je kunt kiezen...
      Lees meer
      Overwerken door corona, moet ik daarmee instemmen?
      Lees meer
      BG.legal ontvangt subsidie voor AI kennisplatform
      Lees meer
      Verlaagde transitievergoeding bij brede inzetbaarheid
      Lees meer
      Aansprakelijkheid bij affiliate marketing
      Lees meer
      Aansprakelijkheid ziekenhuis bij plaatsing schouderprothese?
      Lees meer
      Mag fotograaf foto’s gebruiken voor eigen doel?
      Lees meer
      Wanneer is er sprake van merkinbreuk?
      Lees meer
      Verwerking medische persoonsgegevens verduidelijkt in nieuwe UAVG
      Lees meer
      Voor wiens rekening komt trage werking softwaresysteem; klant of leverancier?
      Lees meer
      Het delen van data in de zorg: nieuwe mogelijkheden door blockchain?
      Lees meer
      Picnic maakt toch geen inbreuk op portretrecht Max Verstappen
      Lees meer
      Software / data overeenkomsten
      Lees meer
      Foto’s gebruiken op moodboards in Fashion
      Lees meer
      Mondeling aanzeggen niet voortzetten tijdelijk arbeidscontract volstaat soms
      Lees meer
      Inbreuk auteursrecht in documentaire Michael Moore
      Lees meer
      NVM is niet verplicht om VBO-leden toegang tot data te geven
      Lees meer
      Bescherming merkrecht: hoe ver gaat dat?
      Lees meer
      Vernietiging van een ingeschreven merk: hoe dan?
      Lees meer
      Nakoming verplichtingen uit een pilotcontract software
      Lees meer
      Een toelichting op de ‘visie op datadeling tussen bedrijven’
      Lees meer
      Nieuwsbrief Tech - meld je aan
      Lees meer
      Kan ik de vorm van een product met een vormmerk (3D) beschermen?
      Lees meer
      Reclame voor geneesmiddelen, maar niet zelf verkopen: mag dat zomaar?
      Lees meer
      Zorgupdate: NZa wil meer regie van zorgverzekeraars
      Lees meer
      Nieuw wetsartikel verplicht tot gratis inzage in elektronisch patiëntendossier
      Lees meer
      Dragons’ Den deel 2: de ondernemer die het snapt
      Lees meer
      Inkoopprocedures in de zorg in coronatijd
      Lees meer
      NL Digital voorwaarden 2020: verbetering positie IT leverancier
      Lees meer
      De Wet Geneeskundige Behandelovereenkomst [WGBO] in een notendop
      Lees meer
      Een kritische blik op de Corona-apps van de overheid
      Lees meer
      Checklist verpakken van producten
      Lees meer
      Wanneer is verpakken/opnieuw inpakken van producten toegestaan?
      Lees meer
      De roep om het vrijgeven van voertuigdata
      Lees meer
      Intellectueel eigendomsrecht
      Lees meer
      Domeinnamen
      Lees meer
      Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
      Lees meer
      Slaafse nabootsing
      Lees meer
      Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
      Lees meer
      Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
      Lees meer
      Europese perspectieven op AI medische hulpmiddelen
      Lees meer
      Databankenrecht
      Lees meer
      Checklist data sharing agreement
      Lees meer
      De verkoop en verpanding van data
      Lees meer
      Data en ethiek
      Lees meer
      Het delen van data
      Lees meer
      De bescherming van data
      Lees meer
      Het eigendom van data
      Lees meer
      Data
      Lees meer
      Update: meer aanbestedingen in de zorg
      Lees meer
      De meedenkende, betalende Overheid: Werkgevers doe er uw voordeel mee!
      Lees meer
      Glaasje op? Laat je rijden. En stap niet in bij een chauffeur die ook gedronken heeft.
      Lees meer
      Wanneer kan een IT overeenkomst worden ontbonden?
      Lees meer
      De octrooigemachtigde en het faillissement (deel 3)
      Lees meer
      Wie heeft recht op de domeinnaam?
      Lees meer
      De octrooigemachtigde en het faillissement (Deel 2)
      Lees meer
      Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
      Lees meer
      Hoge boetes voor webwinkels die consumentenregelgeving overtreden
      Lees meer
      Identieke handelsnaam in de hotellerie: Bosch hotel mag naam blijven gebruiken
      Lees meer
      Seminar 19 november: Investeren en financieren 2.0
      Lees meer
      De octrooigemachtigde en het faillissement (deel 1)
      Lees meer
      Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
      Lees meer
      Den Bosch Data Week: Practical experiences Blockchain and Food
      Lees meer
      Productomschrijving op een website. Auteursrecht mogelijk?
      Lees meer
      Overzicht nieuwe regels voor oproepkrachten per 1 januari 2020
      Lees meer
      Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
      Lees meer
      Tips voor het verkrijgen van auteursrechten
      Lees meer
      Auteursrecht op website(teksten)
      Lees meer
      Bescherming winkelinterieur
      Lees meer
      Is het interieur van een winkel beschermd?
      Lees meer
      Het beëindigen van de onderneming bij een inbreuk op IE-rechten
      Lees meer
      Dezelfde handelsnaam maakt toch geen inbreuk. Hoe kan dat?
      Lees meer
      Is de vormgeving van een industrieel product beschermd?
      Lees meer
      Doordacht samenwerken geeft meer macht
      Lees meer
      Hoever mag je gaan bij het nabootsen van een stijl/concept?
      Lees meer
      Adidas merk onderuit door nieuwe uitspraak
      Lees meer
      Aanvraag Tommy Hilfiger bescherming auteursrechten afgewezen
      Lees meer
      Inbreuk op merken in de beauty branche
      Lees meer
      Domeinnamen en merken: het wil nog wel eens botsen
      Lees meer
      Hoe bescherm ik mijn intellectuele eigendom bij een faillissement?
      Lees meer
      Privacyrecht
      Lees meer
      IT-recht
      Lees meer
      Reclameregels voor geneesmiddelen, medische hulpmiddelen en gezondheidsproducten
      Lees meer
      BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
      Lees meer
      Uitleg begrip operationeel in ICT-aanbesteding
      Lees meer
      Farma, Health en Life Sciences
      Lees meer
      BG.tech
      Lees meer
      Vacatures
      Lees meer
      BG.zorg
      Lees meer