AI bij gemeenten: wat leer je van het Copilot-advies van de Autoriteit Persoonsgegevens?

AI bij gemeenten: wat leer je van het Copilot-advies van de Autoriteit Persoonsgegevens?

Gemeenten willen efficiënter werken. AI-tools als Microsoft 365 Copilot kunnen daarbij helpen: sneller documenten samenvatten, e-mails opstellen, klantcontact ondersteunen. Toch is voorzichtigheid geboden. Het recente advies van de Autoriteit Persoonsgegevens (AP) aan de gemeente Haarlemmermeer laat zien dat gemeenten eerst hun privacyzaken op orde moeten brengen voordat ze aan de slag gaan met Copilot. In dit artikel lees je de vijf belangrijkste lessen.

Waarom adviseerde de AP de gemeente Haarlemmermeer te stoppen met Copilot?

De gemeente diende een verzoek om voorafgaande raadpleging in bij de AP omdat uit haar eigen DPIA bleek dat de inzet van Copilot hoge risico's opleverde voor de privacy van burgers en medewerkers. Het oordeel van de AP is helder: niet starten totdat de juiste maatregelen zijn getroffen. Het advies bevat tegelijkertijd een schat aan praktische lessen voor elke organisatie die nadenkt over de inzet van generatieve AI.

Tip 1: Zorg dat je eigen huis op orde is vóór je AI binnenhaalt

Copilot is geen losstaande, kleine tool. Het systeem heeft standaard toegang tot álle bestanden, e-mails, chats en agenda-items van een gebruiker, inclusief historische data die je waarschijnlijk al bent vergeten. De AP adviseert dan ook met nadruk: begin bij de basis.

• Breng je informatiehuishouding op orde.
• Start met het labelen van documenten.
• Onderzoek je autorisatiestructuur.
• Zorg voor een actueel verwerkingsregister.

Wie niet weet wat er in zijn systemen zit, kan ook niet beoordelen welke risico's een AI-tool meebrengt.

Tip 2: Definieer vooraf exact waarvoor je de AI gebruikt

"Het ondersteunen van de medewerker" klinkt als een prima doel, maar voor de AP is dat niet genoeg om te voldoen aan de AVG. Het doelbindingsbeginsel vereist dat je per use case omschrijft wat je precies doet, met welke gegevens, en waarom.

De gemeente wilde Copilot inzetten voor drie concrete toepassingen: ondersteuning van het klantcontactcentrum, efficiencywinst bij bezwaar en beroep, en communicatie en externe betrekkingen. Dat is al een stuk concreter. De les: hoe specifieker de use case, hoe beter je de risico's kunt inschatten en beheersen.

Tip 3: Train medewerkers in het herkennen van AI-fouten

Tools als Copilot zijn Large Language Models (LLMs). Het berekent statistisch welke woorden het meest waarschijnlijk op de vorige volgen en denkt niet zelf na. Het gevolg: antwoorden kunnen plausibel klinken maar feitelijk onjuist zijn — ook wel een "hallucination" genoemd. De chat-interface versterkt dit effect, omdat zij de suggestie wekt dat je te maken hebt met een betrouwbare bron.

De AP adviseert daarom nadrukkelijk te investeren in bewustwording en training, zodat medewerkers output nooit blindelings overnemen en de tijd en kennis krijgen om antwoorden te verifiëren. AI-geletterdheid is daarmee geen nice-to-have, maar een verplichting. In de praktijk hebben we gezien dat een AI-policy je organisatie hier enorm bij kan helpen.

Tip 4: Houd de mens aan het stuur bij besluiten over burgers

Bij processen waarbij besluiten worden genomen over burgers (zoals bezwaar en beroep) geldt een extra waarschuwing. Geautomatiseerde besluitvorming is in beginsel verboden op grond van artikel 22 AVG. Er moet altijd sprake zijn van beslissende menselijke tussenkomst. Een medewerker die de AI-output klakkeloos bevestigt zonder inhoudelijk te toetsen, telt daarvoor niet. Dit raakt aan een fundamenteel principe: AI mag ondersteunen, maar niet beslissen.

Tip 5: Stel harde eisen aan je leverancier en accepteer geen vage antwoorden

Eén van de meest opvallende bevindingen in het advies is hoe groot de afhankelijkheid van Microsoft is. De AP constateert dat Microsoft onvoldoende transparantie biedt over de zogenoemde Required Service Data: welke gegevens worden verzameld, waarvoor, en hoe lang worden ze bewaard? Zolang die antwoorden uitblijven, kan de gemeente de tool simpelweg niet rechtmatig inzetten.

Als verwerkingsverantwoordelijke kun je je niet verschuilen achter het gebrek aan medewerking van een leverancier. Leg daarom transparantie-eisen contractueel vast, zet specifieke technische maatregelen door (zoals het blokkeren van Bing-integratie en het uitschakelen van de consumentenvarianten), en accepteer geen vage toezeggingen.

Tot slot

Het advies van de AP aan de gemeente Haarlemmermeer is geen verbod op AI. Het is een duidelijk signaal dat generatieve AI pas verantwoord kan worden ingezet als de organisatorische, technische en contractuele randvoorwaarden op orde zijn. De pilot-aanpak van de gemeente (kleinschalig beginnen en leren) is verstandig, maar ook daarvoor is het nodig dat het huiswerk eerst is gedaan.

Hulp nodig bij het opstellen van een AI-policy?

Bij BG.Legal kunnen wij hierbij helpen. Neem contact op en wij stellen een AI-policy op die aansluit bij jouw organisatie.

Veelgestelde vragen over Copilot en privacy

Mag een gemeente Microsoft 365 Copilot gebruiken? 

Ja, maar pas nadat de privacyrisico's zijn beoordeeld via een DPIA en passende maatregelen zijn getroffen.

Wat is een DPIA en wanneer is die verplicht? 

Een Data Protection Impact Assessment is een verplichte risicobeoordeling bij verwerkingen met hoge privacyrisico's. De inzet van een AI-tool als Copilot bij gemeenten valt daar doorgaans onder.

Wat zijn Required Service Data bij Copilot?

 Dit zijn gegevens die Microsoft automatisch verzamelt bij het gebruik van Copilot. De AP constateert dat Microsoft onvoldoende transparantie biedt over welke gegevens dit zijn, waarvoor ze worden gebruikt en hoe lang ze worden bewaard.

Wat is een AI-policy en waarom is die nodig?

 Een AI-policy is een intern beleidsdocument dat vastlegt hoe medewerkers AI-tools mogen gebruiken en welke grenzen daarvoor gelden. De AP beschouwt bewustwording en training als een verplichting.

Mag AI beslissingen nemen over burgers? 

Nee. Volledig geautomatiseerde besluitvorming is op grond van artikel 22 AVG in beginsel verboden.

Mag AI beslissingen nemen over burgers? 

Nee. Volledig geautomatiseerde besluitvorming is op grond van artikel 22 AVG in beginsel verboden.