Blog

Wanneer is software een AI-systeem? Wat de uitspraak over CaseMatcher leert

Wanneer is software een AI-systeem? Wat de uitspraak over CaseMatcher leert
Gepubliceerd 11 nov. 2026
Wanneer is software een AI-systeem? Wat de uitspraak over CaseMatcher leert

Niet elke software die zoekt, sorteert of rangschikt is een AI-systeem. Dat oordeelde de rechtbank Den Haag (zittingsplaats Haarlem) op 2 september 2026 over CaseMatcher, een zoektool van de IND (ECLI:NL:RBDHA:2026:25209). Omdat de tool niet leert, redeneert of modelleert en volledig deterministisch werkt, valt hij buiten de AI Act. De IND won de zaak omdat zij met verklaringen van ontwikkelaars en leveranciers kon aantonen hoe de tool werkt. Die bewijsles geldt voor elke organisatie.

Waar ging de zaak?

Vier asielzoekers gingen in beroep tegen de afwijzing van hun asielaanvragen. Zij stelden dat de IND CaseMatcher had gebruikt zonder dat in het besluit te vermelden. Volgens hen was CaseMatcher een AI-systeem in de zin van artikel 3 AI Act, en zelfs een verboden AI-systeem onder artikel 5. Subsidiair stelden zij dat het een complex algoritme of black box was.

De beslismedewerker wist niet meer of hij CaseMatcher had gebruikt. De rechtbank ging daarom uit van gebruik (r.o. 7.1). Na de zitting stelde de rechtbank nog schriftelijke vragen over de werking van de tool.

Waarom is CaseMatcher geen AI-systeem?

De rechtbank volgde de uitleg van de IND (r.o. 10.1–10.4):

  • Doel. CaseMatcher laat een beslismedewerker zoeken in eerder behandelde zaken waarin een zoekterm voorkomt.
  • Werking. De tool rangschikt resultaten op datum of relevantie. Relevantie volgt uit hoe vaak een woord voorkomt en uit een vast gewicht per documentsoort, bijvoorbeeld een beschikking zwaarder dan een aanmeldformulier.
  • Geen leren of redeneren. De tool leert, redeneert of modelleert niet. De resultaten zijn volledig deterministisch en volgen vaste regels.
  • Herleidbaar. Het resultaat van een zoekopdracht is logisch te herleiden. Daarom is het ook geen complex algoritme of black box.

De rechtbank kende daarbij doorslaggevend gewicht toe aan de verklaringen van IND-medewerkers en van de leveranciers, omdat zij het ontwerp en de techniek kennen. De deskundigen van de asielzoekers stelden vooral dat “niet uitgesloten” kon worden dat het meer was dan een simpel algoritme. Dat was onvoldoende.

Opvallend: volgens een evaluatierapport was het oorspronkelijke plan een geavanceerd model. Gebruikers wilden echter een simpele zoekfunctie, en daarvoor is gekozen. Die ontwerpkeuze bepaalde dus of de AI Act van toepassing was.

Moet het gebruik van zo'n tool in het besluit staan?

Nee, in dit geval niet. Een overheidsbesluit moet volgens artikel 3:46 Awb deugdelijk gemotiveerd zijn. Gebruik van een algoritme moet in het besluit staan als het algoritme instructies gaf die deel uitmaken van de beslissing, of wezenlijke invloed had op de inhoud (r.o. 12.1). CaseMatcher toont alleen zoekresultaten en zegt niet welke relevant zijn. De rechtbank zag ook geen risico op automation bias (r.o. 12.2 en 12.4).

De rechtbank woog mee welke waarborgen de IND had getroffen (r.o. 12.5):

1.       een beperkt aantal filters;

2.       een beleid voor het gebruik van zoektermen;

3.       een verplichte online cursus voor gebruikers;

4.       logging van gebruik per zaak;

5.       een DPIA voor het systeem waar CaseMatcher onderdeel van is.

Wat de uitspraak niet zegt

De rechtbank toetst niet uitdrukkelijk aan de afzonderlijke elementen van de definitie in artikel 3 lid 1 AI Act, zoals het afleiden van output uit input (inferentie) en de mate van autonomie. Ook de richtsnoeren van de Europese Commissie over die definitie komen niet aan bod. Op het verweer dat de verboden van artikel 5 pas na het besluit golden, gaat de rechtbank niet in. Het is een uitspraak in eerste aanleg; het laatste woord is aan de Afdeling bestuursrechtspraak.

Wat betekent dit voor uw organisatie?

De vraag “is dit een AI-systeem?” is de eerste stap van elke AI Act-analyse. Deze uitspraak laat zien hoe u die vraag beantwoordt en onderbouwt:

1.       Kwalificeer elke tool technisch. Leert het systeem, leidt het zelf output af, of volgt het vaste regels? Leg de conclusie vast, met de bijbehorende elementen van artikel 3 lid 1 AI Act.

2.       Zorg voor bewijs van de werking. Vraag uw leverancier om een schriftelijke verklaring over de techniek. Daarmee won de IND.

3.       Registreer gebruik per zaak. Weet een medewerker niet meer of een tool is gebruikt, dan gaat de rechter uit van gebruik.

4.       Let op upgrades. Vervangt u vaste regels door machine learning, dan kan dezelfde tool alsnog een AI-systeem worden. Bij asielaanvragen kan het dan zelfs gaan om hoog-risico AI (bijlage III, punt 7, AI Act).

5.       Tref waarborgen, ook buiten de AI Act. Training, gebruiksregels, logging en een DPIA wogen hier mee, ook al gold de AI Act niet.

Samenvatting
  • Volgens de rechtbank Den Haag is CaseMatcher van de IND geen AI-systeem: de tool leert niet en werkt met vaste, herleidbare regels.
  • Daarmee valt de tool buiten de AI Act en hoeft het gebruik niet in het besluit te staan.
  • De IND won op bewijs: verklaringen van ontwikkelaars en leveranciers over de werking.
  • Kwalificeer, documenteer en registreer uw eigen tools op dezelfde manier.

Wilt u weten of uw software onder de AI Act valt? Doe de gratis AI Act-quickscan op compliance-bg.legal of neem contact op met Jos van der Wijst.

Veelgestelde vragen over de CaseMatcher-uitspraak

Is elk algoritme dat resultaten rangschikt een AI-systeem? 

Nee. Volgens deze uitspraak niet als het rangschikken volgt uit vaste, herleidbare regels en het systeem niet leert, redeneert of modelleert.

Wie moet bewijzen of een tool een AI-systeem is? 

In deze zaak kon de IND met verklaringen van ontwikkelaars en leveranciers de werking aantonen. De stelling dat “niet uit te sluiten” was dat het om meer ging, was onvoldoende.

Moet een overheidsorganisatie altijd vermelden dat zij een algoritme gebruikte? 

Niet altijd. Wel als het algoritme instructies gaf die deel zijn van de beslissing, of wezenlijke invloed had op de inhoud (artikel 3:46 Awb).

Geldt de uitspraak ook voor bedrijven? 

De toets of iets een AI-systeem is, geldt voor iedereen. De motiveringsplicht van de Awb geldt alleen voor de overheid.

Kan een simpele tool later toch onder de AI Act vallen? 

Ja. Voegt u bijvoorbeeld machine learning toe, dan moet u opnieuw beoordelen of het een AI-systeem is.

Telt bij de kwalificatie het beoogde gebruik of het werkelijke gebruik door de gebruiker? 

Of iets een AI-systeem is, volgt uit het ontwerp en de werking: kan het systeem uit input afleiden hoe het output genereert (artikel 3 lid 1 AI Act)? Ook de rechtbank keek naar de technische werking van CaseMatcher, niet naar hoe medewerkers de tool inzetten. Het werkelijke gebruik speelde alleen een rol bij de motiveringsplicht van de Awb (r.o. 12). Is het wel een AI-systeem, dan bepaalt het beoogde doel dat de aanbieder vaststelt of het hoog-risico is (artikel 3 lid 12 en artikel 6 AI Act). Zet een gebruiker het systeem in voor een ander doel waardoor het hoog-risico wordt, dan geldt hij zelf als aanbieder, met alle verplichtingen van dien (artikel 25 lid 1 onder c AI Act).

Contact met Jos van der Wijst

Jos van der Wijst

Jos van der Wijst

Contactformulier