Wanneer moet een IAMA worden uitgevoerd?
Door een Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) uit te voeren op het juiste moment kunnen overheden en bedrijven potentiële risico's proactief aanpakken en zodoende mensenrechten waarborgen. In deze blog zullen we de suggesties bespreken voor wanneer een IAMA kan worden uitgevoerd.
Vroeg in het ontwikkelingsproces
Het uitvoeren van een IAMA in een vroeg stadium van de ontwikkeling van een nieuw algoritme stelt overheden en bedrijven in staat om potentiële risico's en ethische zorgen op tijd te identificeren. Als er sprake is van een vermoeden dat het AI-systeem implicaties op kan leveren voor mensenrechten, kunnen organisaties noodzakelijke aanpassingen maken en mogelijke negatieve effecten voor het verdere ontwikkelings- en trainingsproces beperken door deze kwesties vroeg in de ontwerpfase aan te pakken.
Dit kan bijvoorbeeld zo zijn wanneer een algoritme beslissingen neemt over het uitkeren van geld, op basis van bepaalde demografische factoren. Voor bedrijven in de financiële sector kan het gaan om een algoritme die een kredietbeoordeling uitvoert en voor overheidsinstanties kan het gaan om een algoritme dat beslissingen over de toekenning van sociale uitkeringen maakt. Bij het gebruik van dergelijke algoritmen rijst al snel het vermoeden dat de mensenrechten in het gedrang kunnen komen.
Door een IAMA uit te voeren vóór de implementatie, tonen overheden en bedrijven hun inzet voor verantwoordelijk en ethisch gebruik van algoritmische besluitvorming aan. Bovendien voorkomt het dat er grote aanpassingen gedaan moeten worden, nadat het algoritme al in gebruik is genomen.
Significante aanpassingen
Als er belangrijke wijzigingen worden aangebracht in bestaande algoritmes, is het ook aan te raden om een IAMA uit te voeren. Dit zorgt ervoor dat eventuele nieuwe risico’s voor mensenrechten worden geïdentificeerd en vervolgens kunnen worden aangepakt.
Klachten of negatieve gevolgen
Als er klachten of negatieve gevolgen ontstaan door het gebruik van het AI-systeem, kan het belangrijk zijn om een IAMA uit te voeren om de oorzaak van deze problemen te identificeren en passende maatregelen te nemen.
AI Act: mogelijk verplicht
Bovendien heeft het Europees Parlement aangegeven een IAMA verplicht te stellen voor high risk AI-toepassingen. Zie hiervoor onze eerdere blog. Hoewel dit slechts een voorstel inzake de AI Verordening is, is het goed om hierop te anticiperen als bedrijf of overheidsinstantie.
DPIA
Het kan zo zijn dat er naast een IAMA, ook een DPIA (Data Protection Impact Assessment) uitgevoerd moet worden voor een bepaald project. Een DPIA richt zich specifiek op gegevensbescherming en privacyaspecten van het project, terwijl een IAMA zich op mensenrechten in de bredere zin focust. Door beide beoordelingen uit te voeren, kunnen bedrijven zorgen voor een alomvattende naleving van juridische en ethische regels. Wanneer er echter geen persoonsgegevens worden verwerkt voor het AI-systeem, is het niet nodig om een DPIA uit te voeren. Het kan dan wel alsnog nodig zijn om een IAMA uit te voeren.
Uitvoeren IAMA
Een IAMA is relevant tijdens verschillende fasen van het werken met een algoritme. Wij kunnen u helpen bij het uitvoeren van een IAMA. Neem voor begeleiding contact op met Frederick Droppert (droppert@bg.legal).
Lees hier de artikelen uit de blogreeks: Wat is een IAMA? Waarom een IAMA uitvoeren? IAMA voor bedrijven IAMA in de zorg
