AI & Privacy: Hoe gemeenten balanceren tussen innovatie en regelgeving
Diverse gemeenten in Nederland zijn druk bezig om met het gebruik van nieuwe technologieën hun gemeentelijke taken efficiënter uit te voeren. Slimme technologieën bieden veelbelovende oplossingen voor uitdagingen zoals verkeersdrukte, duurzaamheid en stedelijke leefbaarheid. Hierbij valt te denken aan slimme verkeerslichten die gegevens verzamelen om verkeersstromen efficiënter te maken en het gebruik van slimme camera’s voor zero-emissiezones.[1]
Hoewel deze innovaties veelal een positief effect kunnen hebben, stuiten gemeenten vaak op juridische obstakels. In een recent artikel van de NOS geeft de gemeente Amsterdam aan te stoppen met de inzet van slimme verkeerslichten vanwege privacyrisico’s.[2] Dit deed zij nadat de Autoriteit Persoonsgegevens (AP) zorgen hierover had geuit.[3] Naast privacywetgeving moeten gemeenten ook bewust zijn van het feit dat in dit soort technologieën vaak gebruik wordt gemaakt van Artificiële Intelligentie (AI). Dit betekent dat er ook gekeken moet worden of gemeentes gebruik maken van een AI-systeem zoals bedoeld in van de Europese AI Verordening (AI Act).
De AVG
In de Algemene Verordening Gegevensbescherming (AVG) staan de regels over het verwerken van persoonsgegevens. De AVG bepaalt onder meer dat er sprake moet zijn van een van de zes grondslagen, voordat verwerking plaats mag vinden. Gemeenten kunnen zich soms beroepen op de grondslag van een wettelijke verplichting, bijvoorbeeld als persoonsgegevens worden verwerkt in het kader van het uitvoeren van handhavende taken. Echter, met het voldoen aan de verplichtingen uit de AVG is een gemeente er nog niet.
Verder dan de AVG: de AI Act
Naast de AVG moeten gemeenten inmiddels ook rekening houden met de AI Act. Deze nieuwe Europese wetgeving introduceert extra eisen voor het gebruik van AI-systemen. Aan welke vereisten een bepaald AI-systeem moet voldoen hangt af van de vraag in welke risicocategorie dit systeem moet worden ingedeeld. In een eerder blog schreven we al over de diverse uitgangspunten van de AI Act en de bijbehorende risicoclassificaties.
Voor gemeenten betekent dit dat zij niet alleen aan de AVG moeten voldoen, maar ook aan de vereisten uit de AI Act. Denk hierbij aan transparantie-eisen, documentatieverplichtingen en monitoring van algoritmes. In het geval dat een AI-systeem een hoog-risico systeem is, moeten publieke organen soms nog verplicht een aanvullend assessment uitvoeren, waarin wordt bekeken of een AI-systeem een (ongeoorloofde) inbreuk maakt op de fundamentele rechten van burgers.
Conclusie
De casus van de gemeente Amsterdam illustreert hoe belangrijk het is voor gemeenten om niet alleen te focussen op technologische voordelen, maar ook oog te hebben voor de juridische en ethische implicaties van innovatie. Een goed juridisch raamwerk helpt niet alleen risico’s te beperken, maar ook het publieke vertrouwen in zowel de gemeente als in nieuwe technologieën te vergroten.
Bij BG.legal begrijpen we de uitdagingen waarmee gemeenten worden geconfronteerd bij het doorvoeren van innovatie en het inzetten van AI. We bieden daarom advies op maat over:
Compliance met de AI Act;Het uitvoeren van mensenrechtenassessments (IAMA);Het voldoen aan de AVG.
Bent u werkzaam bij een gemeente en heeft u vragen over de juridische implicaties van artificiële intelligentie en slimme technologieën? Neem gerust contact op met een van onze specialisten.
[1] Rijden en parkeren in het centrum | Gemeente Groningen
[2] Amsterdam zet niet meer in op ‘slimme’ verkeerslichten wegens privacywetgeving
[3] Zorgen AP om volgverkeerslichten | Autoriteit Persoonsgegevens
