Wie is verantwoordelijk voor de analyse door een algoritme?

25 sep 2020

Deze vraag kwam aan de orde tijdens een webinar over Artificial Intelligence, Healthcare and Law. Tijdens dit webinar heeft onze advocaat Jos van der Wijst een presentatie gegeven. De presentatie ging over de juridische aspecten van AI (in healthcare). De vraag werd gesteld door een arts die een AI toepassing gebruikte bij de diagnose van patiënten.

Wat is nou het antwoord op de vraag?

De vraag is niet eenvoudig te beantwoorden. Het maken van een algoritme gebeurt op basis van software. Vaak open source software zoals SkLearn en Tensorflow. Degene die het algoritme maakt, bewerkt soms datasets, traint het model dat is gekozen met datasets en past de parameters aan. Dit alles om het beoogde doel te bereiken. Zoals het identificeren van een besmetting met het coronavirus.

Zie het bericht van 17 juli 2020 (bron Radboudumc):

“Over de hele wereld hebben zeker 8 miljoen mensen een besmetting gehad met het coronavirus. De diagnose kan gesteld worden met een Röntgenfoto van de borst, waarop de longen te zien zijn. Meestal doet een radioloog dat, maar een onderzoek van Radboudumc, Jeroen Bosch Ziekenhuis en Bernhoven laat zien dat een systeem op basis van Artificiële Intelligentie (AI) dat net zo goed kan. Het onderzoek is gepubliceerd in het wetenschappelijke tijdschrift Radiology.”

Wie is verantwoordelijk voor de analyse door een algoritme?

 

 

 

 

 

Algoritme

Stel een algoritme komt tot de verkeerde conclusie. En vervolgens wordt aan een röntgenfoto die met AI is geanalyseerd een verkeerde conclusie verbonden. Stel een patiënt lijdt hier schade door. Het ziekenhuis waar een arts werkt zal als eerste worden aangesproken door de patiënt. Kan het ziekenhuis de patiënt verwijzen naar de maker van het algoritme? Zie het blog van mijn collega over ‘arts niet aansprakelijk voor gebruik ongeschikte medische hulpzaak’. En kan de maker van het algoritme weer verwijzen naar derden (leverancier dataset, leverancier software)? Vragen die niet eenvoudig te beantwoorden zijn.

Wetgeving

De wet regelt nu nog niets specifieks met betrekking tot artificial intelligence, (product)aansprakelijkheid van (makers van) algoritme, leveranciers van datasets, etc. Daarnaast is een (AI) dienst geen product. De productaansprakelijkheidsregelgeving is hierbij niet van toepassing.

Daarom is het zinvol om bij overeenkomsten die betrekking hebben op het maken van een algoritme en het trainen van een model, het uitvoeren van analyses met een algoritme, het gebruiken van algoritmes bij het nemen van beslissingen, hier afspraken over te maken en vast te leggen. Afspraken zouden gemaakt moeten worden over acceptabele foutmarges, datakwaliteit, welke soorten gebruik is toegestaan en wordt gegarandeerd. En het is verstandig om voor het gaan werken met AI een ‘AI impact assessment’ uit te (laten) voeren. Daarmee worden potentiële risico’s in kaart gebracht.

Non-contractuele aansprakelijkheid

Daarnaast speelt de non-contractuele aansprakelijkheid. Dit speelt in situaties waarin partijen niet contractueel met elkaar zijn verbonden. Bijvoorbeeld wanneer sprake zou van onrechtmatig handelen door de maker van een algoritme en een patiënt lijdt hier schade door. Immers er bestaat geen overeenkomst tussen de maker en de patiënt. Maar mogelijk heeft de patiënt toch een juridische mogelijkheid om op te treden tegen de maker van het algoritme op basis van onrechtmatige daad (b.v. schenden van een zorgplicht door de maker). De kaders hiervoor zullen in regelgeving (gedragscodes?) en jurisprudentie nog moeten worden uitgewerkt. Toch is het zinvol om daar nu al over na te denken (als gebruiker/maker van algoritmes in healthcare).

BG.legal heeft een data/AI team met daarin niet alleen juristen maar ook IT/data science geschoolden. Daardoor begrijpen wij processen, technieken beter en kunnen de noodzakelijke afspraken beter identificeren en vastleggen. Daarnaast kunnen we partijen beter adviseren over de creatie en toepassing van AI.

Voor meer informatie over juridische aspecten van AI/data kunt u contact opnemen met Jos van der Wijst, teamleider van BG.tech.

Contact

Wie betaalt het loon bij thuis-quarantaine?
Lees meer
Liegen op je cv leidt niet altijd tot ontslag!
Lees meer
Is een registratiedossier beschermd door auteursrecht?
Lees meer
Wees de copycats voor!
Lees meer
Analyse kwaliteitsvraag in vervoersaanbestedingen
Lees meer
Een nieuwe golf? Maar dan claims van niet-corona patiënten?
Lees meer
Beleid zorgkantoren inkoop langdurige zorg onrechtmatig
Lees meer
AI & Privacy in de zorg, een gelukkig huwelijk?
Lees meer
Werkgeversaansprakelijkheid Covid-19
Lees meer
Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
Lees meer
Mag ik een zelftest voor corona verkopen?
Lees meer
Inspiratie in de fashion industrie: wat zijn de grenzen?
Lees meer
Wanneer heeft een IT leverancier aan zijn inspanningsverplichting voldaan?
Lees meer
Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
Lees meer
Een proeftijdbeding ná een stage? Volgens de kantonrechter is dat mogelijk.
Lees meer
Dierenarts gewond bij noodslachting stier. Veehouder aansprakelijk?
Lees meer
Gepubliceerde boetes of berispingen zorgpersoneel zijn openbaar
Lees meer
Er komt een nieuwe rechtsvorm: de maatschappelijke BV
Lees meer
Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
Lees meer
Geen recht op transitievergoeding bij ontslag
Lees meer
Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
Lees meer
Verzekeraars mogen geen standaard vergoeding hanteren bij een restitutiepolis
Lees meer
Hoge Raad: arts niet aansprakelijk voor gebruik ongeschikte medische hulpzaak
Lees meer
Rapport Aeternus: Trends en ontwikkelingen in de GGZ
Lees meer
De 7 verschillen in auteursrecht is een mythe
Lees meer
Goed bestuur in de zorg: vernieuwd kader
Lees meer
Merkgebruik bij import producten en doorverkoop
Lees meer
Gevolgen letselschadeuitkering na beëindiging huwelijk.
Lees meer
Update zorg: juridische Factsheet Wabvpz
Lees meer
Eerste toewijzing cumulatiegrond voor ontbinding arbeidsovereenkomst
Lees meer
Strafregels of knielen, je kunt kiezen...
Lees meer
Overwerken door corona, moet ik daarmee instemmen?
Lees meer
BG.legal ontvangt subsidie voor AI kennisplatform
Lees meer
Verlaagde transitievergoeding bij brede inzetbaarheid
Lees meer
Aansprakelijkheid bij affiliate marketing
Lees meer
Aansprakelijkheid ziekenhuis bij plaatsing schouderprothese?
Lees meer
Mag fotograaf foto’s gebruiken voor eigen doel?
Lees meer
Wanneer is er sprake van merkinbreuk?
Lees meer
Verwerking medische persoonsgegevens verduidelijkt in nieuwe UAVG
Lees meer
Voor wiens rekening komt trage werking softwaresysteem; klant of leverancier?
Lees meer
Het delen van data in de zorg: nieuwe mogelijkheden door blockchain?
Lees meer
Picnic maakt toch geen inbreuk op portretrecht Max Verstappen
Lees meer
Software / data overeenkomsten
Lees meer
Foto’s gebruiken op moodboards in Fashion
Lees meer
Mondeling aanzeggen niet voortzetten tijdelijk arbeidscontract volstaat soms
Lees meer
Inbreuk auteursrecht in documentaire Michael Moore
Lees meer
NVM is niet verplicht om VBO-leden toegang tot data te geven
Lees meer
Bescherming merkrecht: hoe ver gaat dat?
Lees meer
Vernietiging van een ingeschreven merk: hoe dan?
Lees meer
Nakoming verplichtingen uit een pilotcontract software
Lees meer
Een toelichting op de ‘visie op datadeling tussen bedrijven’
Lees meer
Nieuwsbrief Tech - meld je aan
Lees meer
Kan ik de vorm van een product met een vormmerk (3D) beschermen?
Lees meer
Reclame voor geneesmiddelen, maar niet zelf verkopen: mag dat zomaar?
Lees meer
Zorgupdate: NZa wil meer regie van zorgverzekeraars
Lees meer
Nieuw wetsartikel verplicht tot gratis inzage in elektronisch patiëntendossier
Lees meer
Dragons’ Den deel 2: de ondernemer die het snapt
Lees meer
Inkoopprocedures in de zorg in coronatijd
Lees meer
NL Digital voorwaarden 2020: verbetering positie IT leverancier
Lees meer
De Wet Geneeskundige Behandelovereenkomst [WGBO] in een notendop
Lees meer
Een kritische blik op de Corona-apps van de overheid
Lees meer
Checklist verpakken van producten
Lees meer
Wanneer is verpakken/opnieuw inpakken van producten toegestaan?
Lees meer
De roep om het vrijgeven van voertuigdata
Lees meer
Intellectueel eigendomsrecht
Lees meer
Domeinnamen
Lees meer
Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
Lees meer
Slaafse nabootsing
Lees meer
Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
Lees meer
Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
Lees meer
Europese perspectieven op AI medische hulpmiddelen
Lees meer
Databankenrecht
Lees meer
Checklist data sharing agreement
Lees meer
De verkoop en verpanding van data
Lees meer
Data en ethiek
Lees meer
Het delen van data
Lees meer
De bescherming van data
Lees meer
Het eigendom van data
Lees meer
Data
Lees meer
Update: meer aanbestedingen in de zorg
Lees meer
De meedenkende, betalende Overheid: Werkgevers doe er uw voordeel mee!
Lees meer
Glaasje op? Laat je rijden. En stap niet in bij een chauffeur die ook gedronken heeft.
Lees meer
Wanneer kan een IT overeenkomst worden ontbonden?
Lees meer
De octrooigemachtigde en het faillissement (deel 3)
Lees meer
Wie heeft recht op de domeinnaam?
Lees meer
De octrooigemachtigde en het faillissement (Deel 2)
Lees meer
Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
Lees meer
Hoge boetes voor webwinkels die consumentenregelgeving overtreden
Lees meer
Identieke handelsnaam in de hotellerie: Bosch hotel mag naam blijven gebruiken
Lees meer
Seminar 19 november: Investeren en financieren 2.0
Lees meer
De octrooigemachtigde en het faillissement (deel 1)
Lees meer
Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
Lees meer
Den Bosch Data Week: Practical experiences Blockchain and Food
Lees meer
Productomschrijving op een website. Auteursrecht mogelijk?
Lees meer
Overzicht nieuwe regels voor oproepkrachten per 1 januari 2020
Lees meer
Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
Lees meer
Tips voor het verkrijgen van auteursrechten
Lees meer
Auteursrecht op website(teksten)
Lees meer
Bescherming winkelinterieur
Lees meer
Is het interieur van een winkel beschermd?
Lees meer
Het beëindigen van de onderneming bij een inbreuk op IE-rechten
Lees meer
Dezelfde handelsnaam maakt toch geen inbreuk. Hoe kan dat?
Lees meer
Is de vormgeving van een industrieel product beschermd?
Lees meer
Doordacht samenwerken geeft meer macht
Lees meer
Hoever mag je gaan bij het nabootsen van een stijl/concept?
Lees meer
Adidas merk onderuit door nieuwe uitspraak
Lees meer
Aanvraag Tommy Hilfiger bescherming auteursrechten afgewezen
Lees meer
Inbreuk op merken in de beauty branche
Lees meer
Domeinnamen en merken: het wil nog wel eens botsen
Lees meer
Hoe bescherm ik mijn intellectuele eigendom bij een faillissement?
Lees meer
Privacyrecht
Lees meer
IT-recht
Lees meer
Reclameregels voor geneesmiddelen, medische hulpmiddelen en gezondheidsproducten
Lees meer
BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
Lees meer
Uitleg begrip operationeel in ICT-aanbesteding
Lees meer
Farma, Health en Life Sciences
Lees meer
BG.tech
Lees meer
BG.zorg
Lees meer