Een gemeente gaat, na een aanbesteding, een dienst afnemen waarbij AI wordt gebruikt door de leverancier. De gemeente wil zeker weten dat deze dienst wet- en regelgeving nakomt. Met name Europese digitaliseringsregelgeving zoals de AI Act. De gemeente ziet een, in potentie, afbreukrisico.
Voor deze gemeente gaan wij een AI Act compliance check uitvoeren. Wanneer er sprake is van een AI systeem in de zin van de AI Act, dan brengt dat verplichtingen met zich mee. De omvang van deze verplichtingen is afhankelijk van de risico-categorie waar het AI-systeem onder valt. We beginnen met een onderzoek naar de vragen:
- Wordt hier een AI techniek gebruikt waardoor het voldoet aan de definitie van Artificial Intelligence in de AI Act.
- Zo ja, in welke risico categorie van de AI Act, valt dit AI-systeem.
- De AI Act onderscheidt verschillende rollen van partijen in de keten (ontwikkelaar, verkoper, gebruiker). Wie vervult welke rol en voldoet deze partij aan de verplichtingen van die rol.
Wanneer de conclusie van het onderzoek is dat er geen sprake is van een (hoog-risico) AI-systeem, dan betekent dit ook veel minder verplichtingen voor de leverancier en de gemeente.
Complexe AI vraagstukken pakken wij op samen met de partners in het
LegalAIR verband. Daar werken we samen met partijen met andere disciplines dan legal (ethiek, cybersecurity, data-science, regulatory). Afhankelijk van de vraag, stellen we een multidisciplinair team samen die de vragen beantwoorden.
Is jouw organisatie al begonnen met het in kaart brengen van de AI systemen en AI-modellen die jullie gebruiken? Daar begint het mee. Vervolgens zou je van al die AI-systemen en AI-modellen moeten vaststellen of ze vallen onder het bereik van de AI Act. Wanneer dat het geval is dan zou je moeten vaststellen of ze compliant zijn. In een risicoanalyse bepaal je het potentiële risico van een AI systeem. Vervolgens kun je je aandacht vooral richten op die AI systemen die tot hoge risico’s leiden.
Heb je hier vragen over of zoek je hier hulp bij, neem dan contact op met
Jos van der Wijst.
