Waarom een contract voor het ontwikkelen/kopen van AI toepassingen geen standaard software contract is?
Contracten voor AI-toepassingen zijn geen standaard softwarecontracten vanwege de unieke technische kenmerken van AI-software. AI-software is afhankelijk van data en het is moeilijk om van tevoren te voorspellen wat het eindproduct zal zijn. Dit betekent dat het moeilijk is om de prestaties van AI-software te garanderen en om te bepalen wie verantwoordelijk is voor ontwikkelingsfouten. Bovendien is er een grote vraag naar hergebruik van getrainde modellen en trainingsdatasets, wat leidt tot complexe kwesties met betrekking tot intellectueel eigendom en gebruiksvoorwaarden.
Standard contractual clauses
Een voorbeeld van een dergelijk contract is het “standard contractual clauses for the procurement of Artificial Intelligence (AI) by public organisations”.[1] Dit contract is opgesteld voor overheden die hoog-risico AI systemen aankopen. Het is nog een model contract. Het is opgesteld in het voordeel van aankopende partijen met bepalingen waar leveranciers, normaal gesproken, niet mee akkoord zullen gaan.
Verschillen tussen AI en traditionele software
Een van de belangrijkste technische kenmerken van AI-software is dat het afhankelijk is van gegevens. Dit betekent dat de kwaliteit van de gegevens die worden gebruikt om het model te trainen van cruciaal belang is voor de prestaties van de AI-software. Als de gegevens van slechte kwaliteit zijn, zal de AI-software waarschijnlijk slecht presteren. Dit wordt vaak aangeduid als "garbage in, garbage out".
Een ander belangrijk kenmerk van AI-software is dat het moeilijk is om ex-post verificatie uit te voeren. Wanneer een getraind model wordt gegenereerd, is het vaak moeilijk voor mensen om het generatieproces en de aard van het getrainde model te begrijpen. Dit maakt het moeilijk om te bepalen wie verantwoordelijk is voor ontwikkelingsfouten.
Bovendien is er een grote vraag naar hergebruik van getrainde modellen en trainingsdatasets. Getrainde modellen kunnen evolueren door middel van extra leren en zijn relatief gemakkelijk om te zetten voor ander gebruik. Dit leidt tot complexe kwesties met betrekking tot intellectueel eigendom en gebruiksvoorwaarden.
Verschillen op een rijtje
Verschillende ontwikkelproces AI en software
Het ontwikkelproces van standaard software (links: waterval) is ook anders dan het ontwikkelproces van AI-software (rechts: iteratief proces):
Conclusie
In het licht van deze unieke kenmerken van AI-software, is het belangrijk dat contracten voor AI-toepassingen zorgvuldig worden opgesteld om rekening te houden met deze complexe kwesties. Dit kan helpen om duidelijkheid te scheppen over de rechten en verantwoordelijkheden van de betrokken partijen en om geschillen te voorkomen. Wil je een contract met betrekking tot de ontwikkeling of aankoop van een AI-toepassing laten opstellen of beoordelen, neem dan contact op met mij.
Whitepaper
Wij hebben een whitepaper opgesteld met tips voor contacten met betrekking tot de ontwikkeling /aankoop van AI toepassingen. Waar moet je aan denken bij het opstellen of beoordelen van een dergelijke overeenkomst.
Wanneer je dit whitepaper wilt ontvangen, en geïnformeerd wilt blijven over de uitvoering van AI regelgeving, vul dan onderstaand formulier in.
[1] AI Procurement Clauses template High Risk
