Het nieuwe algoritmeregister van de gemeente Amsterdam

23 nov 2020

De gemeente Amsterdam heeft nu een algoritmeregister waar ze een overzicht geeft van alle algoritmen die de ze gebruikt voor gemeentelijke dienstverlening. Er staan op dit moment drie algoritmen in: parkeer controle, behandeling openbare ruimte en vakantieverhuur woningfraude.

Wat is een algoritme?

Ieder algoritme wordt omschreven in 6 onderdelen. Als eerst is er een begrijpelijke omschrijving over wat het systeem doet met thematische tags erbij. Daarnaast staan er ook de contactgegevens van de verantwoordelijke persoon bij. Hierna kom je bij de gedetailleerde informatie. De gemeente geeft hier redelijk veel informatie. Ze benoemt als eerst de databronnen die ze gebruikt. Hierbij geeft ze helaas nog niet aan, bij persoonsgegevens, op welke grond de data verwerkt wordt.

Als tweede is er een uitleg over hoe het model opgebouwd is met een paar technische details, maar geeft ze geen technische parameters waardoor een voorbeeldberekening kan worden gemaakt.
Als derde is er een uitleg over hoe discriminatie tegen wordt gegaan. De gemeente vertelt ook waar haar ontwikkelaars op hebben gelet om discriminatie te voorkomen.

Algoritme in praktijk

Als vierde wordt er uitgelegd hoe het algoritme in de praktijk wordt gebruikt en hoe medewerkers ermee samenwerken.  Dit onderdeel is het belangrijkst om de hoeveelheid invloed van een algoritme te kunnen beoordelen. De omschrijving is duidelijk genoeg zodat je er geen specialistische kennis voor hoeft te hebben om het systeem te begrijpen.

De gemeente eindigt met een analyse van de risico’s van het algoritme en hoe deze risico’s worden ondervangen. De risico’s van de eerste drie algoritmes zijn echter nog redelijk beperkt. Er worden namelijk nog geen geautomatiseerde beslissingen worden genomen die een juridisch effect hebben op de burger. Daarvoor zullen we moeten wachten op nieuwe algoritmes.

Mening

Al met al ben ik erg onder de indruk van de aanpak van  de gemeente. Ze laten zien dat ze over veel problemen hebben nagedacht en geven ook aan hoe ze sommige beslissingen van algoritmes gaan uitleggen aan burgers. Ik heb er nog wel twee problemen mee. Ten eerste vind ik dat ze bij de databronnen waar persoonsgegevens in zit, de verwerkingsgrond erbij moeten zetten. Het tweede probleem is iets fundamenteler. Op de website zelf staat deze definitie ‘Een algoritme is een vooraf bepaalde set regels of stappen die door de computer gevolgd worden.’

Ik geloof alleen niet dat deze drie algoritmes de enige sets regels of stappen zijn die door de computers van de gemeente gevolgd worden. Deze definitie is veel te breed voor het doel en dat ondermijnt het register. Ik denk dat een deel van de belastingen van de gemeente ook geautomatiseerd worden berekend, maar ik vermoed dat we die nooit op deze website gaan vinden. De gemeente zou dus naar mijn mening nog een alinea toe moeten voegen over de specifieke soort algoritmes die ze op de website zet. Hierbij kan ze de beperking toevoegen ‘waarbij er gebruik is gemaakt van data om de stappen of regels te leren’. Hierdoor weten de lezers beter wat ze van het register mogen verwachten.

Het artikel is geschreven door Robin Verhoef. Heeft u nog vragen? U kunt contact opnemen met Jos van der Wijst.

Jos van der Wijst

Robin Verhoef

    Contact

      Opzetten modelabel: waar moet je aan denken?
      Lees meer
      Een merk moet ook daadwerkelijk gebruikt worden
      Lees meer
      Mag je foto's van werknemers gebruiken?
      Lees meer
      Sinterklaas is toch gewoon sinterklaas?
      Lees meer
      Aanbevelingen aansprakelijkheid bij AI
      Lees meer
      Algoritme via Detachering
      Lees meer
      Algoritme als Software
      Lees meer
      Mensgerichte Artificiële Intelligentie sessie van NL AI coalitie
      Lees meer
      Auteursrechten & Artificial Intelligence
      Lees meer
      Is nieuwe wet- of regelgeving nodig voor AI?
      Lees meer
      Positiemerk: kan je dat beschermen?
      Lees meer
      Algoritme als een Dienst
      Lees meer
      Van wie is het model?
      Lees meer
      Who owns an algorithm? How do you share data? What are legal aspects of AI?
      Lees meer
      Beperkingen in licentieovereenkomst door mededingingsrecht
      Lees meer
      Is een registratiedossier beschermd door auteursrecht?
      Lees meer
      Wees de copycats voor!
      Lees meer
      AI & Privacy in de zorg, een gelukkig huwelijk?
      Lees meer
      Wie is verantwoordelijk voor de analyse door een algoritme?
      Lees meer
      Hoe om te gaan met de inkoopvoorwaarden AI van gemeenten?
      Lees meer
      Mag ik een zelftest voor corona verkopen?
      Lees meer
      Inspiratie in de fashion industrie: wat zijn de grenzen?
      Lees meer
      Gaia-X biedt Europese landen oplossing voor beheer en gebruik van data
      Lees meer
      Er komt een nieuwe rechtsvorm: de maatschappelijke BV
      Lees meer
      Hulp bij verwijderen van vervelende YouTube video’s: een stappenplan
      Lees meer
      Agentuur- en bemiddelingsovereenkomst, wat is het verschil?
      Lees meer
      Merkgebruik bij import producten en doorverkoop
      Lees meer
      BG.legal ontvangt subsidie voor AI kennisplatform
      Lees meer
      Software / data overeenkomsten
      Lees meer
      NVM is niet verplicht om VBO-leden toegang tot data te geven
      Lees meer
      Bescherming merkrecht: hoe ver gaat dat?
      Lees meer
      Vernietiging van een ingeschreven merk: hoe dan?
      Lees meer
      Een toelichting op de ‘visie op datadeling tussen bedrijven’
      Lees meer
      Nieuwsbrief Tech - meld je aan
      Lees meer
      NL Digital voorwaarden 2020: verbetering positie IT leverancier
      Lees meer
      Een kritische blik op de Corona-apps van de overheid
      Lees meer
      De roep om het vrijgeven van voertuigdata
      Lees meer
      Domeinnamen
      Lees meer
      Voorbeeld tijdelijke licentie voor productie hulpmiddelen tijdens Corona crisis
      Lees meer
      Nieuwsbrief BG Tech: de uitdagingen voor IP en Technologie & gratis webinar corona
      Lees meer
      Tekort materialen corona bestrijding. Is 3D printing of dwanglicentie oplossing?
      Lees meer
      Europese perspectieven op AI medische hulpmiddelen
      Lees meer
      Databankenrecht
      Lees meer
      Checklist data sharing agreement
      Lees meer
      De verkoop en verpanding van data
      Lees meer
      Data en ethiek
      Lees meer
      Het delen van data
      Lees meer
      De bescherming van data
      Lees meer
      Het eigendom van data
      Lees meer
      Data
      Lees meer
      Wanneer kan een IT overeenkomst worden ontbonden?
      Lees meer
      De octrooigemachtigde en het faillissement (deel 3)
      Lees meer
      Wie heeft recht op de domeinnaam?
      Lees meer
      De octrooigemachtigde en het faillissement (Deel 2)
      Lees meer
      Geslaagde bijeenkomst Blockchain & Food tijdens Den Bosch Data Week
      Lees meer
      Seminar 19 november: Investeren en financieren 2.0
      Lees meer
      De octrooigemachtigde en het faillissement (deel 1)
      Lees meer
      Kartelverbod ook bij (Tech-)licenties en samenwerkingscontracten aanwezig
      Lees meer
      Den Bosch Data Week: Practical experiences Blockchain and Food
      Lees meer
      Productomschrijving op een website. Auteursrecht mogelijk?
      Lees meer
      Nieuw Intellectueel Eigendomsrecht/ IT recht advocatenkantoor in Eindhoven
      Lees meer
      Tips voor het verkrijgen van auteursrechten
      Lees meer
      Auteursrecht op website(teksten)
      Lees meer
      Het beëindigen van de onderneming bij een inbreuk op IE-rechten
      Lees meer
      Is de vormgeving van een industrieel product beschermd?
      Lees meer
      Doordacht samenwerken geeft meer macht
      Lees meer
      Privacyrecht
      Lees meer
      BG.legal participeert in onderzoek naar gebruik van big data en AI door zorginstellingen
      Lees meer
      BG.tech
      Lees meer