Wat is een IAMA?
De basis van een IAMA
In het huidige digitale tijdperk is het gebruik van algoritmes door overheden en bedrijven steeds gebruikelijker geworden. Het is echter belangrijk om ervoor te zorgen dat deze algoritmes geen fundamentele mensenrechten schenden.
Zowel overheidsinstanties als bedrijven die bijvoorbeeld een algoritme inzetten om sollicitanten te beoordelen, zouden een IAMA kunnen uitvoeren. Met de IAMA kunnen eventuele vooroordelen worden geïdentificeerd die kunnen leiden tot discriminatie bij de selectie van kandidaten op basis van factoren zoals geslacht, afkomst of handicap.
Om inzicht te krijgen in de mogelijke gevolgen die het gebruik van algoritmes te weeg kunnen brengen, is het aan te raden om een Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) uit te voeren. In deze blog zullen we een kort overzicht geven van wat een IAMA inhoudt.
Wat is een IAMA?
Een IAMA is een proces dat de potentiële gevolgen van algoritmes voor mensenrechten beoordeelt. Het omvat onder andere het onderzoeken van het ontwerp van het algoritme, de gegevensbronnen, besluitvormingsprocessen en mogelijke gevolgen. Het primaire doel van een IAMA is het identificeren en beperken van mogelijke risico's of schade voor individuen of groepen die kunnen voortvloeien uit het nemen van algoritmische beslissingen.
Stappen van een IAMA
Binnen de IAMA staan twee belangrijke stappen centraal: invoer en doorvoer van gegevens. Bij het invoeren van gegevens wordt gekeken naar de data die zal worden gebruikt door het algoritme en de bronnen en kwaliteit van de data. Vervolgens wordt gekeken of er in de data bepaalde vooroordelen besloten liggen. Ook wordt er aandacht besteed aan de beveiliging en archivering van zowel de data als de AI-toepassing.
Bij het doorvoeren van gegevens staat het onderliggende AI-model centraal. Er wordt gekeken naar welk type algoritme er zal worden gebruikt, wie er verantwoordelijkheid draagt en wanneer de resultaten als goed genoeg worden bestempeld. Daarnaast wordt er geëvalueerd of de uitkomsten van het model uitgelegd moeten worden en zo ja, aan welke partijen deze transparantie geboden moet worden.
Uitvoeren IAMA
Wij bieden begeleiding aan bij het uitvoeren van een IAMA. Hiervoor kunt u contact opnemen met Frederick Droppert (droppert@bg.legal)
Lees hier de artikelen uit de blogreeks: Waarom een IAMA uitvoeren? Wanneer moet een IAMA worden uitgevoerd? IAMA voor bedrijven IAMA in de zorg
