Het op grote schaal gebruiken van data verschaft meer inzicht; inzicht in bedrijfsprocessen, ontwikkelingen en trends, maar ook menselijk gedragingen. De combinatie van data met kunstmatige intelligentie (ai) biedt bovendien de mogelijkheid om nauwkeurige voorspellingen te doen over het leven van een persoon. Daarnaast kan het menselijke keuzes ook juist beïnvloeden. De mogelijkheden voor ons als mensen nemen toe, maar tegelijkertijd blijken mensen steeds meer vervangbaar en beïnvloedbaar. Niet alle gevolgen van het gebruik van data en kunstmatige intelligentie vinden wij als maatschappij acceptabel, bijvoorbeeld om dat een inbreuk vormt op onze privacy. Maar waar ligt deze grens?
De wet biedt slechts beperkt houvast om te bepalen op welke wijze wij met data mogen omgaan. Uiteraard zorgt de Algemene Verordening Gegevensbescherming (‘AVG’) nog voor de meeste duidelijkheid. De AVG heeft echter slechts betrekking op privacy, terwijl er meer aspecten van belang zijn. In afwachting op nadere regelgeving heeft een aantal bedrijven zelf ethische codes opgesteld bij het gebruik van data. Ook de Europese Commissie heeft richtlijnen opgesteld over de verwerking van data en kunstmatige intelligentie. Deze komen op het volgende neer:
- Menselijk toezicht: ai-systemen moeten het mogelijk maken dat de mens de regie houdt en de rechten van de mens ondersteunt. Ze mag niet de menselijke autonomie ondermijnen;
- Robuust en veilig: ai vraagt om veilige, betrouwbare en robuuste algoritmes die om kunnen gaan met de fouten binnen ai-systemen;
- Privacy en databeleid: burgers moeten volledige controle hebben over hun eigen data, terwijl data over hen niet gebruikt mag worden om hen schade te berokken of te discrimineren;
- Transparantie: ai-systemen moeten traceerbaar zijn;
- Diversiteit en eerlijkheid: ai-systemen moeten alle menselijke vaardigheden meenemen en toegang verzekeren voor iedereen;
- Maatschappij en milieu centraal: ai-systemen moeten positieve sociale veranderingen mogelijk maken en duurzaamheid hoog in het vaandel dragen;
- Verantwoordelijkheid: Er moeten hulpmiddelen worden ingezet om de verantwoordelijkheid voor het AI-systeem en de uitkomsten ervan te waarborgen.
