Het nieuwe algoritmeregister van de gemeente Amsterdam
De gemeente Amsterdam heeft nu een algoritmeregister waar ze een overzicht geeft van alle algoritmen die de ze gebruikt voor gemeentelijke dienstverlening. Er staan op dit moment drie algoritmen in: parkeer controle, behandeling openbare ruimte en vakantieverhuur woningfraude.
Wat is een algoritme?
Ieder algoritme wordt omschreven in 6 onderdelen. Als eerst is er een begrijpelijke omschrijving over wat het systeem doet met thematische tags erbij. Daarnaast staan er ook de contactgegevens van de verantwoordelijke persoon bij. Hierna kom je bij de gedetailleerde informatie. De gemeente geeft hier redelijk veel informatie. Ze benoemt als eerst de databronnen die ze gebruikt. Hierbij geeft ze helaas nog niet aan, bij persoonsgegevens, op welke grond de data verwerkt wordt.
Als tweede is er een uitleg over hoe het model opgebouwd is met een paar technische details, maar geeft ze geen technische parameters waardoor een voorbeeldberekening kan worden gemaakt.
Als derde is er een uitleg over hoe discriminatie tegen wordt gegaan. De gemeente vertelt ook waar haar ontwikkelaars op hebben gelet om discriminatie te voorkomen.
Algoritme in praktijk
Als vierde wordt er uitgelegd hoe het algoritme in de praktijk wordt gebruikt en hoe medewerkers ermee samenwerken. Dit onderdeel is het belangrijkst om de hoeveelheid invloed van een algoritme te kunnen beoordelen. De omschrijving is duidelijk genoeg zodat je er geen specialistische kennis voor hoeft te hebben om het systeem te begrijpen.
De gemeente eindigt met een analyse van de risico’s van het algoritme en hoe deze risico’s worden ondervangen. De risico’s van de eerste drie algoritmes zijn echter nog redelijk beperkt. Er worden namelijk nog geen geautomatiseerde beslissingen worden genomen die een juridisch effect hebben op de burger. Daarvoor zullen we moeten wachten op nieuwe algoritmes.
Mening
Al met al ben ik erg onder de indruk van de aanpak van de gemeente. Ze laten zien dat ze over veel problemen hebben nagedacht en geven ook aan hoe ze sommige beslissingen van algoritmes gaan uitleggen aan burgers. Ik heb er nog wel twee problemen mee. Ten eerste vind ik dat ze bij de databronnen waar persoonsgegevens in zit, de verwerkingsgrond erbij moeten zetten. Het tweede probleem is iets fundamenteler. Op de website zelf staat deze definitie ‘Een algoritme is een vooraf bepaalde set regels of stappen die door de computer gevolgd worden.’
Ik geloof alleen niet dat deze drie algoritmes de enige sets regels of stappen zijn die door de computers van de gemeente gevolgd worden. Deze definitie is veel te breed voor het doel en dat ondermijnt het register. Ik denk dat een deel van de belastingen van de gemeente ook geautomatiseerd worden berekend, maar ik vermoed dat we die nooit op deze website gaan vinden. De gemeente zou dus naar mijn mening nog een alinea toe moeten voegen over de specifieke soort algoritmes die ze op de website zet. Hierbij kan ze de beperking toevoegen ‘waarbij er gebruik is gemaakt van data om de stappen of regels te leren’. Hierdoor weten de lezers beter wat ze van het register mogen verwachten.
Heeft u nog vragen? U kunt contact opnemen met Jos van der Wijst.
