Rechtbank: Transparantie over algoritmes in besluitvorming is geen optie maar verplichting

 De Rechtbank Den Haag heeft in een recente tussenuitspraak opnieuw benadrukt dat bestuursorganen verplicht zijn transparant te zijn over het gebruik van algoritmes in hun besluitvorming. Dat geldt óók wanneer de uiteindelijke beslissing door een mens wordt genomen en het algoritme slechts een ondersteunende rol speelt.

In deze zaak ging het om de afwijzing van een visum kort verblijf. De minister maakte bij de beoordeling gebruik van het algoritme Informatie Ondersteund Beslissen (IOB), maar noch in het primaire besluit noch in het besluit op bezwaar werd vermeld dat dit algoritme was ingezet. Pas uit het Algoritmeregister bleek het gebruik van IOB. Voor de rechtbank was dit reden om ambtshalve nader onderzoek te gelasten naar het algoritme en de motivering van het besluit.

Algoritmeregister als signaalfunctie

Rechters kijken steeds vaker actief in het Algoritmeregister. Vinden zij daar dat een bepaald algoritme wordt gebruikt, dan kan dat leiden tot een kritische toets: speelt het algoritme een rol bij de beslissing, en zo ja, is dat kenbaar en voldoende gemotiveerd?

In deze uitspraak stelde de rechtbank vast dat het ontbreken van informatie over het gebruik van IOB in de besluitvorming een motiveringsgebrek opleverde. Dit gebrek moet worden hersteld, inclusief uitleg over de gegevensverwerking, de risicoprofilering en de betekenis van de ‘hits’ die in het dossier werden aangetroffen.

Lessen uit de kindertoeslagaffaire

De bestuursrechtspraak neemt het zekere voor het onzekere. De rechtbank verwijst expliciet naar de lessen uit de kindertoeslagaffaire, waarin achteraf bleek dat algoritmen discriminerend hadden gewerkt. Daarom legt de rechtbank nu zwaardere motiveringseisen op:

• Vermeld expliciet wanneer een algoritme is gebruikt.
• Leg uit welke rol het heeft gespeeld bij het besluit.
• Geef inzicht in de mogelijke risico’s, zoals bias of discriminatie.

Rapporten van onder meer Amnesty International en de Algemene Rekenkamer over mogelijke etnische profilering en discriminatie door algoritmes als IOB versterken deze behoedzame benadering.

Meer dan vakjes aankruisen

De rechter maakt ook korte metten met het idee dat een standaardformulier voldoende is om een besluit te motiveren. Onder verwijzing naar de Awb, het Handvest van de EU en het EVRM stelt de rechtbank dat de motivering concreet, op de zaak toegespitst en controleerbaar moet zijn. Algemene teksten of het simpelweg aanvinken van opties op een formulier zijn onvoldoende.

Daarnaast wees de rechtbank op het belang van een hoorzitting in de bezwaarfase. Daarvan mag slechts worden afgezien als op voorhand vaststaat dat het bezwaar geen kans van slagen heeft. Dat was in deze zaak niet het geval.

Lessen voor bestuursorganen

Deze uitspraak geeft een aantal duidelijke lessen:

1. Registreer elk algoritme in het Algoritmeregister, ook als het alleen ondersteunend wordt ingezet.
2. Wees proactief transparant in besluiten over de inzet, werking en invloed van het algoritme.
3. Motiveer concreet – meer dan alleen vakjes aanvinken. Leg uit waarom de specifieke feiten en omstandigheden leiden tot het besluit.
4. Voer een Impact Assessment Mensenrechten en Algoritmes (IAMA) uit, zeker bij algoritmes die risicoprofielen maken of gevoelige kenmerken gebruiken.
5. Publiceer IAMA-rapporten, zodat burgers en rechters inzicht hebben in de risico’s en waarborgen.

Wat ik voor u kan doen

Als IT-advocaat (wijst@bg.legal) met een specialisatie in de juridische aspecten van AI ondersteun ik bestuursorganen bij:

• Het verantwoord inzetten van algoritmes in besluitvormingsprocessen.
• Het vormgeven van transparantie en motivering, zodat besluiten juridisch houdbaar zijn.
• Het begeleiden van IAMA’s en het correct vastleggen en publiceren van de resultaten.

Met een zorgvuldige en transparante aanpak voorkomt u dat een rechter uw besluit onderuit haalt en versterkt u het vertrouwen van burgers in uw organisatie.

Jos van der Wijst