Onderzoek naar gebruik algoritmes door overheden
Vooral na schandalen zoals de toeslagenaffaire bestaat aarzeling bij het inzetten van algoritmes door overheden. Soms zelfs wantrouwen. Om vast te stellen dat het algoritme geen mensenrechten schendt, is het Impact Assessment Mensenrechten en Algoritmes (‘IAMA’) ontwikkeld. Hebben overheden al IAMA’s uitgevoerd? Voor welke algoritmes doen zij dit wel en voor welke niet? Welke overheden hebben al een Algoritmeregister? Welke algoritmes publiceren zij daarin? In een onderzoek onder gemeenten, provincies en waterschappen willen wij hier meer duidelijk over krijgen.
Op 5 april 2022 heeft de Tweede Kamer een motie aangenomen waarbij werd opgeroepen een Impact Assessment Mensenrechten en Algoritmes (‘IAMA’) verplicht in te zetten voordat algoritmes worden toegepast bij het evalueren van en nemen van beslissingen over mensen.
Overheden zullen - in geval van hoog risico – algoritmes moeten publiceren in een (decentraal) algoritmeregister.
Natuurlijk roept de formulering van de motie vragen op:
- Wat wordt verstaan onder een
algoritmedat wordt “ingezet om evaluaties van of beslissingen over mensen te maken”. Het is duidelijk dat dit ziet op de beslissing over, bijvoorbeeld, of iemand in aanmerking komt voor een toeslag. Maar hoe ruim of krap moet je dit criterium uitleggen? - Moet een IAMA eenmalig worden uitgevoerd voorafgaand aan de ingebruikname van een algoritme of moet het worden herhaald tijdens de lifecycle van een algoritme? En op welk moment? En op wiens initiatief (gebruiker of leverancier)?
Ook het algoritmeregister roept nog vragen op:
- Wie bepaalt welke algoritmes in een algoritmeregister opgenomen moeten worden?
- Hoeveel informatie moet daarbij worden gegeven over de werking van het algoritme?
In het kader van dit onderzoek hebben wij bij diverse overheden (gemeenten, provincie, waterschappen) verzocht om:
- een overzicht van alle algoritmes die deze overheid gebruikt bij de dienstverlening;
- documenten over de algoritmes waaronder handleiding, software, communicatie en e-mails. Daaronder wordt mede verstaan informatie over het gebruik en de werking van algoritmes en/of modellen;
- informatie en communicatie (IAMA) rapportages over assessments bij het gebruik van algoritmes, indien het algoritme wordt ingezet om evaluatie van of beslissingen over mensen te maken.
Nadat wij deze informatie hebben verzameld, gaan we deze analyseren en onze conclusies/aanbevelingen delen.
Wanneer je meer informatie wilt over dit onderzoek naar het gebruik van algoritmes, IAMA’s en algoritmeregister door overheden, dan kun je contact opnemen met Jos van der Wijst.
Wilt u graag het gehele onderzoeksrapport ontvangen in uw mailbox? Via deze pagina kunt u het aanvragen.
