Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?

08 sep 2020

De Nederlandse gemeenten zitten bepaald niet stil als het om kunstmatige intelligentie gaat. Op 1 september 2020 maakte de Vereniging van Nederlandse Gemeenten (‘VNG’) een nieuw e-magazine bekend, ‘AI als instrument voor gemeenten’ genaamd. In het magazine staat ook vermeld dat de VNG algemene voorwaarden voor de inkoop van kunstmatige intelligentie heeft opgesteld. Deze worden aan alle gemeenten beschikbaar gesteld.

Kunstmatige intelligentie

Gemeenten passen op steeds grotere schaal kunstmatige intelligentie toe. Zo wordt kunstmatige intelligentie ingezet voor fraude detectie of de analyse van verkeerssituaties. Voor veel ontwikkelaars van kunstmatige intelligentie vormen gemeenten dan ook een aantrekkelijke klant voor bestaande producten of als opdrachtgever voor de ontwikkeling van nieuw producten. Voor deze partijen is het goed om te weten dat zij op korte termijn bij elke gemeente met dezelfde inkoopvoorwaarden geconfronteerd worden. Deze inkoopvoorwaarden zijn hier met toelichting te vinden.

Wij hebben de inkoopvoorwaarden bekeken en zes belangrijke punten voor ontwikkelaars (opdrachtnemers) uitgelicht.

  1. Van de opdrachtnemers wordt verwacht dat social geconstrueerde vertekeningen, onnauwkeurigheden, fouten, vergissingen en ongewenste vooringenomenheid met betrekking tot het algoritme en de data zoveel als mogelijk wordt voorkomen;
  2. Van de opdrachtnemers wordt verwacht dat de algoritmische toepassing is ontwikkeld en functioneert op een wijze die in overeenstemming is met de wet- en regelgeving. Een grote uitdaging zal het privacyrecht zijn;
  3. De opdrachtnemer moet op eerste verzoek van de gemeente transparantie verschaffen over het algoritme. De technische transparantie kan worden verschaft door ofwel de broncode te delen ofwel een onafhankelijk (door de gemeente) in te schakelen derde toegang te geven;
  4. Data die afkomstig is van de gemeenten blijven de gemeente toebehoren en mogen niet voor andere doeleinden worden gebruikt;
  5. Alle nieuw gecreëerde en verzamelde data komen de gemeente toe. Deze data mogen niet gebruikt worden voor andere doeleinden;
  6. De gemeente verlangt een risicomanagementstrategie bij de ontwikkeling van het algoritme om belangrijke risico’s te kunnen identificeren en daardoor adequaat maatregelen kunnen worden getroffen om de risico’s beheersbaar te maken.
Privacy

Het is goed voor ontwikkelaars om te beseffen dat gemeenten overeenkomstig de beginselen van behoorlijk bestuur dienen te handelen. Big data kan de beperkte opsporingscapaciteit die overheden hebben verder ondersteunen. Hoe zorgen ontwikkelaars dat een algoritme bijvoorbeeld in geval van fraudeopsporing wel het gelijkheidsbeginsel dient en tegen willekeur beschermd? En hoe zorgen ontwikkelaars dat een algoritme niet discriminatie in de hand werkt (al dan niet vanwege etnisch profileren)? Dat de privacy van burgers een gevoelig onderwerp is, blijkt overigens uit het begin van dit jaar stopgezette SyRI (Systeem Risico Indicatie) systeem, waarin allerlei persoonsgegevens aan elkaar werden gekoppeld en verschillende instanties (te) gemakkelijk inzage konden krijgen in die gegevens. Een te verregaande inbreuk op de privacy van burger, aldus de Rechtbank Den Haag. Uiteraard zijn de nieuwe voorwaarden er zoveel mogelijk opgericht om dergelijke kwesties te voorkomen.

Inkoopvoorwaarden AI

Desalniettemin hoeven ontwikkelaars niet altijd met de inkoopvoorwaarden AI akkoord te gaan. In sommige gevallen zijn de mogelijkheden die de gemeenten heeft om inzicht te krijgen in de data en algoritme onnodig vergaand vastgelegd, waardoor de ontwikkelaar onnodige risico’s loopt. Denk bijvoorbeeld aan het prijsgeven van bedrijfsgeheimen of de bescherming van uw data. Het loont zeker om op deze punten af te wijken van de inkoopvoorwaarden AI. Uiteraard verdient het de voorkeur om de belangrijkste punten in de overeenkomst met de gemeente neer te leggen. In veel gevallen kan een zogeheten SaaS of DaaS overeenkomst uitkomst bieden.

Wilt u in dit traject bijgestaan worden, neem dan gerust contact met ons op.

mr. Jelle Beerens & mr. Michael de Marco

 

Contact

Wie is verantwoordelijk voor de analyse door een algoritme?
Lees meer
Mag ik een zelftest voor corona verkopen?
Lees meer
Inspiratie in de fashion industrie: wat zijn de grenzen?
Lees meer
Wanneer heeft een IT leverancier aan zijn inspanningsverplichting voldaan?
Lees meer
Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
Lees meer
Er komt een nieuwe rechtsvorm: de maatschappelijke BV
Lees meer
Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
Lees meer
Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
Lees meer
Merkgebruik bij import producten en doorverkoop
Lees meer
BG.legal ontvangt subsidie voor AI kennisplatform
Lees meer
Voor wiens rekening komt trage werking softwaresysteem; klant of leverancier?
Lees meer
Software / data overeenkomsten
Lees meer
NVM is niet verplicht om VBO-leden toegang tot data te geven
Lees meer
Bescherming merkrecht: hoe ver gaat dat?
Lees meer
Vernietiging van een ingeschreven merk: hoe dan?
Lees meer
Nakoming verplichtingen uit een pilotcontract software
Lees meer
Een toelichting op de ‘visie op datadeling tussen bedrijven’
Lees meer
Nieuwsbrief Tech - meld je aan
Lees meer
NL Digital voorwaarden 2020: verbetering positie IT leverancier
Lees meer
Een kritische blik op de Corona-apps van de overheid
Lees meer
De roep om het vrijgeven van voertuigdata
Lees meer
Domeinnamen
Lees meer
Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
Lees meer
Slaafse nabootsing
Lees meer
Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
Lees meer
Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
Lees meer
Afgelasting evenement door Coronavirus: Is gemeente aansprakelijk?
Lees meer
Europese perspectieven op AI medische hulpmiddelen
Lees meer
Databankenrecht
Lees meer
Checklist data sharing agreement
Lees meer
De verkoop en verpanding van data
Lees meer
Data en ethiek
Lees meer
Het delen van data
Lees meer
De bescherming van data
Lees meer
Het eigendom van data
Lees meer
Data
Lees meer
Wanneer kan een IT overeenkomst worden ontbonden?
Lees meer
De octrooigemachtigde en het faillissement (deel 3)
Lees meer
Wie heeft recht op de domeinnaam?
Lees meer
De octrooigemachtigde en het faillissement (Deel 2)
Lees meer
Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
Lees meer
Seminar 19 november: Investeren en financieren 2.0
Lees meer
De octrooigemachtigde en het faillissement (deel 1)
Lees meer
Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
Lees meer
Den Bosch Data Week: Practical experiences Blockchain and Food
Lees meer
Productomschrijving op een website. Auteursrecht mogelijk?
Lees meer
Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
Lees meer
Tips voor het verkrijgen van auteursrechten
Lees meer
Auteursrecht op website(teksten)
Lees meer
Het beëindigen van de onderneming bij een inbreuk op IE-rechten
Lees meer
Is de vormgeving van een industrieel product beschermd?
Lees meer
Gemeente aansprakelijk voor onjuist principebesluit?
Lees meer
Een beroep op het vertrouwensbeginsel: koerswijziging in de jurisprudentie
Lees meer
Doordacht samenwerken geeft meer macht
Lees meer
Hoever mag je gaan bij het nabootsen van een stijl/concept?
Lees meer
Adidas merk onderuit door nieuwe uitspraak
Lees meer
Aanvraag Tommy Hilfiger bescherming auteursrechten afgewezen
Lees meer
Inbreuk op merken in de beauty branche
Lees meer
Domeinnamen en merken: het wil nog wel eens botsen
Lees meer
Hoe bescherm ik mijn intellectuele eigendom bij een faillissement?
Lees meer
Overheidsaansprakelijkheid
Lees meer
Privacyrecht
Lees meer
IT-recht
Lees meer
BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
Lees meer
Uitleg begrip operationeel in ICT-aanbesteding
Lees meer
BG.tech
Lees meer