Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?

De Nederlandse gemeenten zitten bepaald niet stil als het om kunstmatige intelligentie gaat. Op 1 september 2020 maakte de Vereniging van Nederlandse Gemeenten (‘VNG’) een nieuw e-magazine bekend, ‘AI als instrument voor gemeenten’ genaamd. In het magazine staat ook vermeld dat de VNG algemene voorwaarden voor de inkoop van kunstmatige intelligentie heeft opgesteld. Deze worden aan alle gemeenten beschikbaar gesteld.

Kunstmatige intelligentie

Gemeenten passen op steeds grotere schaal kunstmatige intelligentie toe. Zo wordt kunstmatige intelligentie ingezet voor fraude detectie of de analyse van verkeerssituaties. Voor veel ontwikkelaars van kunstmatige intelligentie vormen gemeenten dan ook een aantrekkelijke klant voor bestaande producten of als opdrachtgever voor de ontwikkeling van nieuw producten. Voor deze partijen is het goed om te weten dat zij op korte termijn bij elke gemeente met dezelfde inkoopvoorwaarden geconfronteerd worden. Deze inkoopvoorwaarden zijn hier met toelichting te vinden. Wij hebben de inkoopvoorwaarden bekeken en zes belangrijke punten voor ontwikkelaars (opdrachtnemers) uitgelicht.

1. Van de opdrachtnemers wordt verwacht dat social geconstrueerde vertekeningen, onnauwkeurigheden, fouten, vergissingen en ongewenste vooringenomenheid met betrekking tot het algoritme en de data zoveel als mogelijk wordt voorkomen;
2. Van de opdrachtnemers wordt verwacht dat de algoritmische toepassing is ontwikkeld en functioneert op een wijze die in overeenstemming is met de wet- en regelgeving. Een grote uitdaging zal het privacyrecht zijn;
3. De opdrachtnemer moet op eerste verzoek van de gemeente transparantie verschaffen over het algoritme. De technische transparantie kan worden verschaft door ofwel de broncode te delen ofwel een onafhankelijk (door de gemeente) in te schakelen derde toegang te geven;
4. Data die afkomstig is van de gemeenten blijven de gemeente toebehoren en mogen niet voor andere doeleinden worden gebruikt;
5. Alle nieuw gecreëerde en verzamelde data komen de gemeente toe. Deze data mogen niet gebruikt worden voor andere doeleinden;
6. De gemeente verlangt een risicomanagementstrategie bij de ontwikkeling van het algoritme om belangrijke risico’s te kunnen identificeren en daardoor adequaat maatregelen kunnen worden getroffen om de risico’s beheersbaar te maken.

Privacy

Het is goed voor ontwikkelaars om te beseffen dat gemeenten overeenkomstig de beginselen van behoorlijk bestuur dienen te handelen. Big data kan de beperkte opsporingscapaciteit die overheden hebben verder ondersteunen. Hoe zorgen ontwikkelaars dat een algoritme bijvoorbeeld in geval van fraudeopsporing wel het gelijkheidsbeginsel dient en tegen willekeur beschermd? En hoe zorgen ontwikkelaars dat een algoritme niet discriminatie in de hand werkt (al dan niet vanwege etnisch profileren)? Dat de privacy van burgers een gevoelig onderwerp is, blijkt overigens uit het begin van dit jaar stopgezette SyRI (Systeem Risico Indicatie) systeem, waarin allerlei persoonsgegevens aan elkaar werden gekoppeld en verschillende instanties (te) gemakkelijk inzage konden krijgen in die gegevens. Een te verregaande inbreuk op de privacy van burger, aldus de Rechtbank Den Haag. Uiteraard zijn de nieuwe voorwaarden er zoveel mogelijk opgericht om dergelijke kwesties te voorkomen.

Inkoopvoorwaarden AI

Desalniettemin hoeven ontwikkelaars niet altijd met de inkoopvoorwaarden AI akkoord te gaan. In sommige gevallen zijn de mogelijkheden die de gemeenten heeft om inzicht te krijgen in de data en algoritme onnodig vergaand vastgelegd, waardoor de ontwikkelaar onnodige risico’s loopt. Denk bijvoorbeeld aan het prijsgeven van bedrijfsgeheimen of de bescherming van uw data. Het loont zeker om op deze punten af te wijken van de inkoopvoorwaarden AI. Uiteraard verdient het de voorkeur om de belangrijkste punten in de overeenkomst met de gemeente neer te leggen. In veel gevallen kan een zogeheten SaaS of DaaS overeenkomst uitkomst bieden. Wilt u in dit traject bijgestaan worden, neem dan gerust contact met ons op. mr. Michael de Marco