Impact Assessment Mensenrechten en Algoritmes (IAMA)

Er is steeds meer maatschappelijke discussie over het gebruik van AI door bedrijven en overheden. Door onder andere de toeslagenaffaire is het duidelijk geworden dat geautomatiseerde beslissingen kunnen leiden tot onacceptabele situaties voor hen over wie de beslissingen gaan. Bij het ontwikkelen van AI-systemen worden de belangen van de betrokkenen, die te maken krijgen met de gevolgen van de beslissingen, vaak niet (voldoende) betrokken. Om daar verandering in te brengen hebben onderzoekers van de Universiteit Utrecht de Impact Assessment Mensenrechten en Algoritmes (IAMA) ontwikkeld. De Tweede Kamer heeft een motie aangenomen dat alle overheden bij het gebruik van algoritmes een IAMA uit moeten voeren. Wij kunnen u daarbij helpen.

Wat is de IAMA?

De IAMA is een gestructureerde manier om te bekijken hoe een systeem zal gaan werken en met welke middelen. De IAMA is onderverdeeld in vier onderdelen:

1. Waarom: Waarom wordt er een AI-systeem ontwikkeld en wat is het doel?
2. Wat: Welke data wordt er gebruikt en wat moet het systeem gaan opleveren?
3. Hoe: Hoe zal het systeem gaan werken?
4. Mensenrechten: Welke risico’s zijn er en welke rechten van betrokkenen worden hierdoor mogelijk geschaad.

Op basis van deze vier onderdelen kunnen er dan specifieke keuzes worden gemaakt tijdens het ontwikkelen en zo worden de risico’s van het systeem beperkt.

Hoe werkt een IAMA?

• In een kennismakingsgesprek bespreken we uw project en de stappen van de IAMA;
• Op basis van het gesprek bereiden wij de IAMA voor, belangrijk hierbij is ook de aandacht voor de verschillende rollen die bij een IAMA noodzakelijk zijn om deze succesvol uit te kunnen voeren;
• We voeren de IAMA samen met u uit. Hierin denken wij mee over:
  - De juridische aspecten die van toepassing zijn voor uw project; en
  - De risico’s voor uw project en het resultaat ervan.
• Als eindproduct leveren wij een rapport af op basis van de IAMA.

Meer informatie?

U kunt contact opnemen met Frederick Droppert of Jos van der Wijst met vragen en de kosten die eraan verbonden zijn. Ook kunt u het onderstaande contactformulier invullen.

AI Risk Assessment nodig?