Er zijn al regels voor AI toepassingen

De Europese Commissie heeft een ontwerp gepubliceerd voor een AI (Artificial Intelligence / Kunstmatige Intelligentie) Verordening. De huidige wet- en regelgeving is niet toereikend voor AI toepassingen. De insteek van dit ontwerp is de keuze voor mensgerichte AI. Ontwikkelaars van AI toepassingen moeten zelf beoordelen in welke van de vier risico groepen hun toepassingen vallen. Hoe hoger het risico, hoe hoger de eisen voor die AI toepassing. Het gaat nog zeker jaren duren voordat de AI Verordening in werking zal treden. Daarnaast is de kans groot dat het ontwerp de komende tijd nog wordt aangepast. Wat betekent dat voor de AI toepassingen die nu worden ontwikkeld of gebruikt? Gelden daar geen regels voor? Voor verschillende AI toepassingen is er nu ook al wet- en/of regelgeving waar aan moet worden voldaan. Bijvoorbeeld:

• Medische hulpmiddelen Verordening: voor AI toepassingen in medische hulpmiddelen
• Grondwet + Mensenrechtenverdragen: voor bescherming fundamentele rechten zoals meningsuiting, privacy, zelfbeschikkingsrecht.
• Algemene Verordening Gegevensbescherming; wanneer sprake is van verwerking persoonsgegevens
• Productveiligheidsregelgeving: wanneer een AI toepassing letsel veroorzaakt
• Consumentenbescherming: wanneer uit deze regelgeving informatieverplichtingen voortvloeien
• Gedragscodes: wanneer in een sector regels (gedragscode) zijn vastgelegd voor AI toepassingen
• Contracten: wanneer partijen in een overeenkomst regels voor AI toepassingen hebben vastgelegd.

Kortom, ook zonder een AI verordening is er nu al wet- en regelgeving waar een AI toepassing aan moet voldoen. Voor AI ontwikkelaars betekent dit dat zij moeten inventariseren aan welke wet- en regelgeving de AI toepassing moet voldoen en of zij daar aan voldoen. Wanneer dat niet het geval is dan kan een klant/opdrachtgever later stellen dat de AI toepassing niet voldeed aan de wettelijke vereisten. Dat kan tot schadeclaims lijden. Als gebruiker/opdrachtgever voor de ontwikkeling van een AI toepassing zul je een vergelijkbare vraag moeten stellen. Hetzelfde geldt voor toezichthouders van partijen die een AI toepassing gebruiken.

 
LegalAIR

Algemene informatie over juridische aspecten van AI kun je vinden op ons kennisplatform LegalAIR.

 
AI compliance assessment

Daarom is het voor zowel ontwikkelaars als gebruikers van AI toepassingen verstandig om in een AI compliance assessment vast te stellen welke wet- en regelgeving van toepassing is op de AI toepassing en of daar aan wordt voldaan. Wanneer er niet aan wordt voldaan dan kan er tijdig maatregelen worden getroffen om wel compliant te zijn. Voor meer vragen hierover, of voor begeleiding bij het uitvoeren van een AI compliance assessment, kun je contact opnemen met Jos van der Wijst.