Blog van medewerkers

WP_Query Object
(
    [query] => Array
        (
            [news-type] => blog
        )

    [query_vars] => Array
        (
            [news-type] => blog
            [error] => 
            [m] => 
            [p] => 0
            [post_parent] => 
            [subpost] => 
            [subpost_id] => 
            [attachment] => 
            [attachment_id] => 0
            [name] => 
            [pagename] => 
            [page_id] => 0
            [second] => 
            [minute] => 
            [hour] => 
            [day] => 0
            [monthnum] => 0
            [year] => 0
            [w] => 0
            [category_name] => 
            [tag] => 
            [cat] => 
            [tag_id] => 
            [author] => 
            [author_name] => 
            [feed] => 
            [tb] => 
            [paged] => 0
            [meta_key] => 
            [meta_value] => 
            [preview] => 
            [s] => 
            [sentence] => 
            [title] => 
            [fields] => 
            [menu_order] => 
            [embed] => 
            [category__in] => Array
                (
                )

            [category__not_in] => Array
                (
                )

            [category__and] => Array
                (
                )

            [post__in] => Array
                (
                )

            [post__not_in] => Array
                (
                )

            [post_name__in] => Array
                (
                )

            [tag__in] => Array
                (
                )

            [tag__not_in] => Array
                (
                )

            [tag__and] => Array
                (
                )

            [tag_slug__in] => Array
                (
                )

            [tag_slug__and] => Array
                (
                )

            [post_parent__in] => Array
                (
                )

            [post_parent__not_in] => Array
                (
                )

            [author__in] => Array
                (
                    [0] => 57
                )

            [author__not_in] => Array
                (
                )

            [search_columns] => Array
                (
                )

            [ignore_sticky_posts] => 
            [suppress_filters] => 
            [cache_results] => 1
            [update_post_term_cache] => 1
            [update_menu_item_cache] => 
            [lazy_load_term_meta] => 1
            [update_post_meta_cache] => 1
            [post_type] => 
            [posts_per_page] => 10
            [nopaging] => 
            [comments_per_page] => 50
            [no_found_rows] => 
            [taxonomy] => news-type
            [term] => blog
            [order] => DESC
        )

    [tax_query] => WP_Tax_Query Object
        (
            [queries] => Array
                (
                    [0] => Array
                        (
                            [taxonomy] => news-type
                            [terms] => Array
                                (
                                    [0] => blog
                                )

                            [field] => slug
                            [operator] => IN
                            [include_children] => 1
                        )

                )

            [relation] => AND
            [table_aliases:protected] => Array
                (
                    [0] => wp_term_relationships
                )

            [queried_terms] => Array
                (
                    [news-type] => Array
                        (
                            [terms] => Array
                                (
                                    [0] => blog
                                )

                            [field] => slug
                        )

                )

            [primary_table] => wp_posts
            [primary_id_column] => ID
        )

    [meta_query] => WP_Meta_Query Object
        (
            [queries] => Array
                (
                )

            [relation] => 
            [meta_table] => 
            [meta_id_column] => 
            [primary_table] => 
            [primary_id_column] => 
            [table_aliases:protected] => Array
                (
                )

            [clauses:protected] => Array
                (
                )

            [has_or_relation:protected] => 
        )

    [date_query] => 
    [queried_object] => WP_Term Object
        (
            [term_id] => 56
            [name] => Blog van medewerkers
            [slug] => blog
            [term_group] => 0
            [term_taxonomy_id] => 56
            [taxonomy] => news-type
            [description] => 
            [parent] => 0
            [count] => 1317
            [filter] => raw
        )

    [queried_object_id] => 56
    [request] => SELECT SQL_CALC_FOUND_ROWS  wp_posts.ID
					 FROM wp_posts  LEFT JOIN wp_term_relationships ON (wp_posts.ID = wp_term_relationships.object_id) LEFT  JOIN wp_icl_translations wpml_translations
							ON wp_posts.ID = wpml_translations.element_id
								AND wpml_translations.element_type = CONCAT('post_', wp_posts.post_type) 
					 WHERE 1=1  AND ( 
  wp_term_relationships.term_taxonomy_id IN (56)
) AND wp_posts.post_author IN (57)  AND ((wp_posts.post_type = 'post' AND (wp_posts.post_status = 'publish' OR wp_posts.post_status = 'acf-disabled' OR wp_posts.post_status = 'tribe-ea-success' OR wp_posts.post_status = 'tribe-ea-failed' OR wp_posts.post_status = 'tribe-ea-schedule' OR wp_posts.post_status = 'tribe-ea-pending' OR wp_posts.post_status = 'tribe-ea-draft'))) AND ( ( ( wpml_translations.language_code = 'nl' OR (
					wpml_translations.language_code = 'nl'
					AND wp_posts.post_type IN ( 'attachment' )
					AND ( ( 
			( SELECT COUNT(element_id)
			  FROM wp_icl_translations
			  WHERE trid = wpml_translations.trid
			  AND language_code = 'nl'
			) = 0
			 ) OR ( 
			( SELECT COUNT(element_id)
				FROM wp_icl_translations t2
				JOIN wp_posts p ON p.id = t2.element_id
				WHERE t2.trid = wpml_translations.trid
				AND t2.language_code = 'nl'
                AND (
                    p.post_status = 'publish' OR p.post_status = 'private' OR 
                    ( p.post_type='attachment' AND p.post_status = 'inherit' )
                )
			) = 0 ) ) 
				) ) AND wp_posts.post_type  IN ('post','page','attachment','wp_block','wp_template','wp_template_part','wp_navigation','our_sector','our_rechtsgebieden','acf-field-group','bwl_advanced_faq','tribe_venue','tribe_organizer','tribe_events','mc4wp-form','slider-data','actualiteiten','accordion','failissementens','advocaten','blogs','seminar','juridisch-medewerker','backoffice','rechtsgebied-detail' )  ) OR wp_posts.post_type  NOT  IN ('post','page','attachment','wp_block','wp_template','wp_template_part','wp_navigation','our_sector','our_rechtsgebieden','acf-field-group','bwl_advanced_faq','tribe_venue','tribe_organizer','tribe_events','mc4wp-form','slider-data','actualiteiten','accordion','failissementens','advocaten','blogs','seminar','juridisch-medewerker','backoffice','rechtsgebied-detail' )  )
					 GROUP BY wp_posts.ID
					 ORDER BY wp_posts.menu_order, wp_posts.post_date DESC
					 LIMIT 0, 10
    [posts] => Array
        (
            [0] => WP_Post Object
                (
                    [ID] => 38664
                    [post_author] => 57
                    [post_date] => 2023-09-14 15:19:51
                    [post_date_gmt] => 2023-09-14 13:19:51
                    [post_content] => De Consumentenbond heeft op 12 september 2023 haar dagvaarding tegen Google uitgebracht, in samenwerking met de Stichting Bescherming Privacybelangen. De partijen stellen dat Google op grote schaal de privacy-rechten van haar Nederlandse gebruikers schendt en niet transparant is over de gegevens die zij verzamelt. Meer specifiek stellen de partijen dat Google:

 	
Zich niet zou houden aan de principes van dataminimalisatie en privacy by design and default. Google zou meer data verwerken dan noodzakelijk en haar infrastructuur niet hebben ontworpen met het oog op de bescherming van de privacybelangen van haar gebruikers.
 	
Haar gebruikers niet (goed) zou informeren over hoe hun persoonsgegevens worden verwerkt. Gebruikers zouden namelijk niet voldoende op de hoogte zijn van wat Google allemaal verzamelt.
 	
Persoonsgegevens zouden verwerken zonder een geldige verwerkingsgrondslag. De toestemming van gebruikers zou namelijk niet geldig zijn en Google zou ook geen gerechtvaardigd belang hebben.
 	
Bijzondere persoonsgegevens zou verwerken ten behoeve van haar advertentiediensten, hetgeen in strijd zou zijn met het verwerkingsverbod uit artikel 9 AVG. Google zou namelijk bijzondere persoonsgegevens hebben verwerkt zonder daar expliciete toestemming voor te krijgen.
 	
Persoonsgegevens zou doorgeven aan de Verenigde Staten (VS), hetgeen niet is toegestaan op grond van de AVG. Google biedt namelijk geen aanvullende waarborgen voor de gegevens die naar de VS worden verzonden, waardoor zij geen adequaat beschermingsniveau voor haar gebruikers kan garanderen.
 	
Zich schuldig zou maken aan oneerlijke handelspraktijken. Google zou bijvoorbeeld dark patterns gebruiken om haar klanten te misleiden.

De eis van de partijen is simpel: naast het betalen van een schadevergoeding, willen zij dat Google zich aan de wet gaat houden en de privacy-rechten van haar gebruikers gaat respecteren. De partijen willen dat Google in dat kader haar werkwijze fundamenteel gaat veranderen, door onder andere:

 	
Haar digitale infrastructuur opnieuw in te richt, waarbij de beginselen van privacy by design and default worden meegenomen.
 	
Haar gebruikers nauwkeuriger te informeren over de data die verwerkt wordt.
 	
Verwerkingsactiviteiten te baseren op rechtmatige verwerkingsgrondslagen.
 	
Te stoppen met het delen van persoonsgegevens met de VS.

Wat kun je als Google-gebruiker? 
Het is mogelijk om je aan te melden als belanghebbende/gedupeerde bij de Consumentenbond. Mocht de rechter een schadevergoeding toewijzen, dan krijg je als deelnemer +- 75% van het bedrag dat wordt uitgekeerd. Als de rechtszaak geen succes is, dan hoef je niks te betalen. Deze rechtszaak wordt namelijk gefinancierd door een procesfinancier die, als er een schadevergoeding wordt toegewezen, daar een percentage van ontvangt.

Heb je vragen over het gebruik van Google binnen een bedrijf/onderneming en de waarborgen die je daarbij in acht moet nemen? Neem dan gerust contact op met Robin Verhoef.


                    [post_title] => Consumentenbond start massaclaim tegen Google
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => consumentenbond-start-massaclaim-tegen-google
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2024-01-02 12:03:34
                    [post_modified_gmt] => 2024-01-02 11:03:34
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=38664
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [1] => WP_Post Object
                (
                    [ID] => 37792
                    [post_author] => 57
                    [post_date] => 2023-08-03 15:18:00
                    [post_date_gmt] => 2023-08-03 13:18:00
                    [post_content] => Steeds meer overheden zijn aan het experimenteren met AI-systemen. Hierbij wordt er gekeken of een AI-systeem nuttig en wenselijk is en of het systeem past bij de behoeftes van de organisatie. Hoewel er bij experimenteren niet zo snel een aanbesteding nodig zal zijn, verandert dit als een overheid voor langere termijn een systeem wil gaan inzetten. Waar moet je op letten bij het aanbesteden voor een AI-systeem?
Behoeftes
De eerste stap van iedere aanbesteding is het bepalen van de behoefte van de gebruiker. Hier zullen misschien al de eerste moeilijkheden ontstaan. Hoe formuleer je de behoeftes van de gebruiker van een AI-systeem? Het kan de moeite waard zijn om hiervoor een marktconsultatie te starten. Hiermee kan je erachter komen wat leveranciers denken te kunnen leveren en met welke garanties. De gemeente Amsterdam heeft een aantal algemene behoeftes geformuleerd die het overwegen waard zijn:

 	
Technische transparantie: hoe werkt het systeem. Is het uit te leggen? Is het te auditen?
 	
Procedurele transparantie: wat is het doel van het systeem en hoe is het gemaakt? Welke keuzes en aannames zijn er gemaakt en welke data is er gebruikt.
 	
Uitlegbaarheid: hoe is het systeem tot een bepaalde beslissing gekomen? Dit is vooral van belang als een systeem beslissingen neemt die burgers persoonlijk raken.

Doelen
Bij het inzetten van AI-systemen is het van groot belang dat je bepaalt wat het doel is van de inzet. Specifiek, welk beleidsdoel wordt hiermee nagestreefd? Het doel van een AI-systeem zal vaak ook in direct verband staan met de verwerkingsgrondslag, als er persoonsgegevens worden gebruikt. Als er ook secundaire beleidsdoelen zijn bij de aanbesteding voor het gebruik van het AI-systeem, is het van belang om dit op te nemen in de aanbesteding, want dan kunnen leveranciers zorgen dat hun systeem daar ook geschikt voor is.
Minimumvoorwaarden
Als de behoefte(s) en doel(en) duidelijk zijn, kan je minimumvoorwaarden gaan bepalen. Hierbij is de gemeente Amsterdam weer een mogelijke bron van inspiratie. Ze heeft namelijk modelvoorwaarden voor algoritmische toepassingen opgesteld. Naast deze voorwaarden kan je ook nog denken aan specifieke functionele eisen, zoals bepaalde prestatiegaranties, uitlegbaarheid of controlemogelijkheden.
Gunning en selectie
Het opstellen van de gunningscriteria zal in goed overleg met de toekomstige gebruiker moeten gebeuren. De prijs zal hierbij naast kwaliteit uiteraard ook altijd een rol spelen.

Bij het eventueel gebruiken van selectiecriteria waarmee het aantal gegadigden voor een inschrijving wordt teruggebracht, kun je aan de volgende aspecten denken: heeft dit bedrijf ooit een datalek gehad en waar wordt eventuele data opgeslagen.
Conclusie
De behoeftes, beleidsdoelen en minimumvoorwaarden zijn van groot belang bij een aanbesteding voor een AI-systeem, omdat het moeilijk is om puur op gunningscriteria meerdere systemen te vergelijken. Met goede minimumvoorwaarden weet je zeker dat je een AI-systeem koopt wat voldoet aan duidelijke eisen op het gebied van transparantie, kwaliteit en beheer.

Als je advies wil bij het aanbesteden van een AI-systeem, neem dan contact op met Rik Wevers (wevers@bg.legal).

Dit artikel is geschreven door Robin Verhoef.


                    [post_title] => Blog AI-systemen in aanbestedingen
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => blog-ai-systemen-in-aanbestedingen
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2023-08-03 15:18:00
                    [post_modified_gmt] => 2023-08-03 13:18:00
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=37792
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [2] => WP_Post Object
                (
                    [ID] => 37778
                    [post_author] => 57
                    [post_date] => 2023-08-02 12:21:45
                    [post_date_gmt] => 2023-08-02 10:21:45
                    [post_content] => Microchips zijn het hart van digitale technologie. Ze verwerken data, slaan gegevens op en zijn onmisbaar in het dagelijks leven. Binnen de EU worden er wel microchips geproduceerd, maar dit zijn vooral chips voor specifieke sectoren, niet algemene sectoren. Hierdoor zijn bedrijven en overheidsinstellingen in de EU erg afhankelijk van leveranciers in Taiwan, China en de VS, zeker bij de tekorten die zich de afgelopen jaren voordoen bij geheugen- en videochips.
Zelfvoorzienendheid
Om minder afhankelijk te worden van import-chips heeft de Europese Commissie in 2022 een voorstel voor de Chips Act ingediend, waarmee de Commissie de Europese chip-productie en innovatiecapaciteit wil verhogen Zo dient het EU-marktaandeel in de productie van chips te worden verhoogd van de huidige 10% naar 20% in het jaar 2030. Dit zal de EU ook minder gevoelig maken voor ongeregeldheden in de productieprocessen van leveranciers in het buitenland.

Op 25 juli 2023 heeft de Raad van de Europese Unie ingestemd met het voorstel en is de verordening officieel aangenomen.
Doelen
De Chips Act bevat vijf operationele doelen (operational objectives) in Artikel 4:

 	
Het opbouwen van geavanceerde en grootschalige ontwerpcapaciteiten voor geïntegreerde chips.
 	
Het verbeteren van bestaande en ontwikkelen van nieuwe pilot lines.
 	
Het opbouwen van geavanceerde capaciteiten voor het versnellen van de ontwikkeling van kwantumchips.
 	
Het creëren van een netwerk van kenniscentra in de EU.
 	
Het ondernemen van activiteiten om bedrijven die betrokken zijn bij de productie van microchips van financiering te voorzien via het Chips Fund.

Samenwerking
Om deze doelen te ondersteunen zullen er ook een aantal organisaties worden opgericht, waaronder het European Chips Infrastructure Consortium (ECIC). Het ECIC wordt een publiek-privaat consortium waarbij de huidige Europese chipindustrie actief wordt betrokken (Artikel 7).

Daarnaast wordt er een European network of competence centers in semiconductors opgericht (Artikel 8). Dit netwerk is bedoeld om activiteiten te stimuleren die goed zijn voor de Europese chipindustrie, zoals het delen van kennis tussen lidstaten, het verbinden van bedrijven/kennisinstellingen en het toegankelijk maken van ontwerpdiensten, software en pilot lines.

Tot slot zal er een European Semiconductor Board (ESB) worden opgericht met afgevaardigden uit de verschillende lidstaten (Artikel 23). De ESB zal de Commissie adviseren en ondersteunen bij het implementeren en uitvoeren van de Chips Act.
Autonome productiecapaciteit
Samenwerking is bij de EU eigenlijk altijd een gegeven, maar de Chips Act stopt daar niet. De Chips Act definieert twee soorten productiefaciliteiten die ondersteund gaan worden door de EU:

Intergrated Production Facilities zijn productiefaciliteiten die de productie van een chip mogelijk maken waarvan er nu een tekort bestaat én waarbij de producent kan garanderen dat er geen verplichtingen bestaan ten opzichte van partijen buiten de EU (Artikel 10).

Open EU Foundries zijn productiefaciliteiten die hun productiecapaciteit ter beschikking stellen aan andere bedrijven én waarbij de producent kan garanderen dat er geen verplichtingen bestaan ten opzichte van partijen buiten de EU (Artike 11).
Crisisrespons
De Chips Act definieert een semiconductor crisis als een serieuze verstoring van de levering van chips die tot significante vertragingen en/of negatieve effecten leiden in belangrijke economische/kritieke sectoren (Artikel 18). De Commissie kan een semiconductor crisis afkondigen, waarna ze drie maatregelen kan nemen (Artikel 19):

 	
De Commissie kan informatie opvragen bij bedrijven om hun productiecapaciteit en mogelijkheden in te schatten, alsook de oorzaken van de verstoring vast te stellen (Artikel 20).
 	
Om het functioneren van kritieke sectoren te garanderen, kan de Commissie Intergrated Production Facilities en Open EU Foundaries verplichten om bepaalde bestellingen te accepteren en deze met prioriteit de produceren (Artikel 21).
 	
De Commissie kan, op verzoek van meerdere lidstaten, een gezamenlijke openbare inkoop coördineren voor crisis-relevante producten die bestemd zijn voor kritieke sectoren (Artikel 22).

Conclusie
Bedrijven in de chipindustrie die zich willen richten op de nieuwste productiemethodes van chips, zullen door de Chips Act geholpen worden. Daarnaast lijkt de EU bereid om serieus te gaan investeren in het verhogen van zowel de productiecapaciteit als de productiemogelijkheden.

Wilt u een Intergrated Production Facility of een Open EU Foundary oprichten of wilt u gebruik gaan maken van het Chips Fund, neem dan contact op met Jos van der Wijst (wijst@bg.legal).

Dit artikel is geschreven door Robin Verhoef.


                    [post_title] => EU Chips Act aangenomen met grote ambities
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => eu-chips-act-aangenomen-met-grote-ambities
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2023-08-02 12:21:45
                    [post_modified_gmt] => 2023-08-02 10:21:45
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=37778
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [3] => WP_Post Object
                (
                    [ID] => 36952
                    [post_author] => 57
                    [post_date] => 2023-06-23 16:06:37
                    [post_date_gmt] => 2023-06-23 14:06:37
                    [post_content] => Het Europees Parlement heeft zich op 14 juni 2023 uitgelaten over het voorstel van de AI-verordening van de Europese Commissie. Dit heeft geresulteerd in een aantal nieuwe, interessante toevoegingen, alvorens het document officieel door het parlement werd aangenomen. In deze blog lees je meer over enkele belangrijke amendementen.
Waardes en grondrechten
Het parlement heeft op meerdere plekken in de AI-verordening de (kern)waarden van de Europese Unie toegevoegd, teneinde de doelstellingen van de verordening meer concreet te maken. Het doel van de AI-verordening heeft het parlement als volgt omschreven:

“to promote the uptake of human centric and trustworthy artificial intelligence and to ensure a high level of protection of health, safety, fundamental rights, democracy and rule of law and the environment from harmful effects of artificial intelligence systems in the Union while supporting innovation and improving the functioning of the internal market.”

Ook besteedt het parlement extra aandacht aan de impact van AI systemen op het klimaat en milieu.
Link met de AVG
De commissie was heel voorzichtig in haar voorstel wat betreft de relatie tussen de AI-Verordening en de Algemene Verordening Gegevensbescherming (AVG). Het parlement wil echter meer interactie tussen de twee verordeningen. Een voorbeeld is de wat meer uitgebreide definitie van het begrip ‘biometrische gegevens’:

“Op biometrie gebaseerde gegevens zijn gegevens die het resultaat zijn van een specifieke technische verwerking in verband met fysieke, fysiologische of gedragssignalen van een natuurlijke persoon, zoals gezichtsuitdrukkingen, bewegingen, polsfrequentie, stem, toetsaanslagen of gang, die al dan niet de unieke identificatie van een natuurlijke persoon mogelijk maken of bevestigen.” 
Bescherming van MKB
Het parlement heeft op veel plekken in de verordening aandacht gevraagd voor de positie van het MKB. Zo wil het Parlement dat aanbieders van AI systemen geen misbruik kunnen maken van hun machtspositie door ‘take-it-or-leave-it’ contracten aan te bieden. Daarnaast komt er een lijst met verboden contractsbepalingen. Verder wil het parlement dat de commissie goed in de gaten zal houden of de kosten voor het voldoen aan de vereisten van de AI Verordening betaalbaar zijn voor het MKB.
Open-source software
Het parlement onderschrijft de waarde van open-source software en heeft daarom enkele uitzonderingen/vrijstellingen aan de verordening toegevoegd voor developers van open-source softwaretoepassingen. Men hoeft bijvoorbeeld alleen aan de verplichtingen uit de AI-verordening te voldoen, wanneer de open-source software wordt ingezet voor een AI-toepassing met een hoog risico. Daarnaast word het ontwikkelen van open-source AI-componenten niet gezien als het op de markt brengen van het AI-systeem.
Verboden toepassingen
Het parlement is wat meer terughoudend met het toestaan van AI-systemen voor biometrische identificatie. Waar de commissie nog enkele ‘use cases’ toestond, heeft het parlement nog maar één situatie in het voorstel opgenomen waarin het gebruik van biometrische identificatie is toegestaan: het identificeren van verdachten die zware misdrijven hebben gepleegd. Voor het gebruik van de camerabeelden dient men echter eerst toestemming te krijgen van de rechter.
Verschillende types AI systemen
Het parlement heeft twee speciale types van AI-systemen opgenomen in haar voorstel: foundation models en general purpose AI. Een foundation model is al getraind, maar kan verder worden doorontwikkeld voor een specifieke toepassing. Een general purpose AI kan direct worden ingezet voor veel verschillende soorten problemen, zonder dat het systeem daarvoor specifiek is ontwikkeld. Voor deze twee soorten AI-systemen zijn er nieuwe uitzonderingen opgenomen in de meest recente versie van de AI-verordening.
Conclusie
Naast voornoemde wijzigingen, heeft het parlement nog veel meer amendementen aangenomen. Het is echter nog maar de vraag welke amendementen de onderhandelingen met de Raad van de Europese Unie gaan overleven. Naar alle waarschijnlijkheid, weten wij daar meer over in 2024.

Heeft u vragen over de mogelijke gevolgen van de AI-verordening voor uw bedrijf/organisatie? Neem dan gerust contact op.

Dit artikel is geschreven door Robin Verhoef.


                    [post_title] => Europees Parlement heeft eigen, gewijzigde versie van AI-Verordening aangenomen
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => europees-parlement-heeft-eigen-gewijzigde-versie-van-ai-verordening-aangenomen
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2024-01-02 12:04:17
                    [post_modified_gmt] => 2024-01-02 11:04:17
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=36952
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [4] => WP_Post Object
                (
                    [ID] => 36840
                    [post_author] => 57
                    [post_date] => 2023-06-15 13:38:49
                    [post_date_gmt] => 2023-06-15 11:38:49
                    [post_content] => Recent heeft de rechtbank Rotterdam uitspraak gedaan in een zaak waarin een softwarebedrijf (VitaTech) meende dat twee ex-werknemers auteursrechtinbreuk hadden gepleegd.[1] De werknemers zijn namelijk gedurende hun dienstverband een eigen bedrijf begonnen. Dit bedrijf ontwikkelde software die qua functies vergelijkbaar was met het programma dat door VitaTech werd aangeboden.  Mag dit zomaar?
Het ontwikkelen van een concurrerend computerprogramma
De rechter is hier duidelijk over: het is in beginsel toegestaan te concurreren met een oud werkgever. In het onderhavige geval hadden de werknemers bovendien toestemming aan VitaTech gevraagd, alvorens zij hun eigen bedrijf zijn gestart. Het enkele feit dat er een concurrerend product wordt ontwikkeld/aangeboden, is dus niet onrechtmatig jegens VitaTech.

Auteursrecht

Ten aanzien van het auteursrecht, oordeelt de rechtbank dat er auteursrecht kan rusten op software, meer specifiek op de (bron)code. Er rust volgens de rechtbank echter geen auteursrecht op de functionaliteiten van de software, de programmeertaal en/of de indeling van de bestanden.

VitaTech kan dus geen auteursrechtinbreuk aantonen door te laten zien dat de functionaliteiten van de twee programma’s overeenkomen. De (bron)code moet zijn overgenomen en/of ontleend zijn aan die van VitaTech. Dit heeft zij echter niet aangetoond.

Bovendien maakt de software van VitaTech gebruik van een low-code platform genaamd Mendix. Programma’s die op dit platform worden ontwikkeld, bestaan uit kleine modules die met elkaar worden verbonden. Voor zover daar dus auteursrecht op zou rusten, behoort dit recht niet toe aan VitaTech, maar aan Mendix. Dit is slechts anders, wanneer VitaTech de modules zodanig had gebruikt/gecombineerd, dat daarop een separaat auteursrecht zou kunnen komen te rusten. Dit standpunt heeft VitaTech echter niet ingenomen.

Bedrijfsgeheimen

Alhoewel VitaTech op het gebied van het auteursrecht bot vangt, worden haar vorderingen op grond van de Wet bescherming bedrijfsgeheimen wel toegewezen: de werknemers hadden namelijk vertrouwelijk documenten van VitaTech meegenomen en gebruikt voor het ontwikkelen van hun eigen software, hetgeen niet is toegestaan zonder toestemming van VitaTech.
Conclusie
Wat kunnen we leren van deze zaak? Ten eerste is het als werkgever moeilijk om te voorkomen dat je ex-medewerkers een concurrerend softwareproduct op de markt (zullen) brengen. Zij kennen alle functionaliteiten van de software, welke (in beginsel) geen bescherming kunnen genieten onder het auteursrecht.

Zo lang de ex-werknemers gebruikmaken van eigen (bron)code bij het implementeren van de functionaliteiten, zal er doorgaans geen inbreuk worden gemaakt op de rechten van de werkgever. Dit is echter anders, wanneer gebruik wordt gemaakt van vertrouwelijke bedrijfsinformatie, zonder dat daarvoor toestemming is gegeven.

Heeft u vragen over het auteursrecht en/of het beschermen van vertrouwelijke bedrijfsgegevens? Neem dan gerust contact op met Frederick Droppert (droppert@bg.legal) en/of Robin Verhoef (verhoef@bg.legal).

Deze blog is geschreven door Robin Verhoef.

[1] Rb. Rotterdam 2 juni 2023, ECLI:NL:RBROT:2023:4538.


                    [post_title] => Auteursrechtinbreuk door het overnemen van softwarefunctionaliteiten?
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => auteursrechtinbreuk-door-het-overnemen-van-softwarefunctionaliteiten
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2024-01-02 12:03:58
                    [post_modified_gmt] => 2024-01-02 11:03:58
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=36840
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [5] => WP_Post Object
                (
                    [ID] => 36135
                    [post_author] => 57
                    [post_date] => 2023-05-04 16:24:25
                    [post_date_gmt] => 2023-05-04 14:24:25
                    [post_content] => Het Hof van Justitie van de Europese Unie (het Hof) heeft op 26 april een opmerkelijke uitspraak gedaan over het delen van geanonimiseerde/gepseudonimiseerde (persoons)gegevens.[1] Het Hof heeft bepaald dat in deze specifieke zaak, gepseudonimiseerde persoonsgegevens die met een derde zijn gedeeld, door deze partij als geanonimiseerd mogen worden beschouwd. De gegevens worden dan niet langer aangemerkt als persoonsgegevens, waardoor de AVG niet meer van toepassing is.
Achtergrond van de rechtszaak
Deze zaak komt door een conflict tussen de Single Resolution Board (SRB) en de European Data Protection Supervisor (EDPS). De SRB heeft als taak om in te grijpen als banken in financiële problemen komen, om zo de impact van een mogelijk faillissement te beperken. In 2017 kwam er een Spaanse bank in de problemen. De SRB heeft het faillissement afgehandeld, maar er waren zorgen dat de werkwijze van SRB had geresulteerd in een benadeling van de aandeelhouders en crediteuren van de bank.

De SRB heeft alle aandeelhouders en crediteuren van de bank de kans gegeven om via een digitaal formulier hun bezwaren kenbaar te maken. De SRB heeft vervolgens aan Deloitte gevraagd om de door de SRB geselecteerde opmerkingen/bezwaren te gebruiken bij de beoordeling óf sprake was van benadeling. De opmerkingen zijn gepseudonimiseerd, alvorens deze werden gedeeld met Deloitte.  Meer in het bijzonder kreeg iedere inzending van een aandeelhouder of crediteur een unieke code. Voor zover in een inzending ook identificerende gegevens werden opgenomen, werd deze informatie niet gedeeld met Deloitte.
Procedure
De EDPS heeft meerdere klachten ontvangen over de werkwijze van de SRB. De mogelijkheid tot het delen van informatie met Deloitte zou namelijk niet in het privacystatement van SRB zijn vermeld. De EDPS heeft de zaak beoordeeld en kwam tot de conclusie dat het delen van gepseudonimiseerde gegevens door SRB – zonder daarvan melding te maken in het privacystatement – een schending is van haar informatieplicht. De SRB is echter van mening dat de gepseudonimiseerde gegevens – nadat deze waren gedeeld met Deloitte – niet meer als persoonsgegeven konden worden aangemerkt, waardoor er geen sprake kan zijn van een overtreding van de AVG.
Uitspraak van het Hof
Het Hof zoekt aansluiting bij een eerder door haar gewezen arrest (Beyer/Bundesrepublik Deutschland),[2] waarin het Hof bepaalde dat een IP-adres kan worden aangemerkt als een persoonsgegeven. De internetleverancier van dat IP-adres kan namelijk achterhalen aan wie het IP-adres is gekoppeld, zodat de pseudonimisering kan worden teruggedraaid.

In de zaak Beyer/Bundesrepublik Deutschland ging het dus om een derde (i.e. de internetleverancier) die een natuurlijke persoon kon identificeren aan de hand van een IP-adres. In de onderhavige zaak was het echter alleen voor SRB mogelijk om een natuurlijke persoon te identificeren middels de gepseudonimiseerde gegevens. SRB behoudt dus als enige volledige controle over het al dan niet terugdraaien van de pseudonimisering. Deloitte kan daarvoor geen derde inschakelen (althans, daar heeft het EDPS bij haar besluitvorming geen onderzoek naar gedaan)

Het Hof oordeelt dan ook dat de SRB de AVG niet heeft overtreden, omdat Deloitte enkel geanonimiseerde gegevens heeft ontvangen. De met Deloitte gedeelde gegevens kunnen namelijk enkel met medewerking van de SRB herleidbaar worden gemaakt.
Conclusie
Voor de vraag of er sprake is van geanonimiseerde/gepseudonimiseerde (persoons)gegevens, dient men te kijken naar de data waarover een partij beschikt en de wijze waarop deze door de verstrekkende partij is aangeleverd. Het kan dus zijn dat bepaalde gegevens voor de ontvangende partij anoniem zijn, terwijl deze voor de verstrekkende partij nog herleidbaar zijn (gepseudonimiseerde gegevens).

Heeft u vragen over het anonimiseren, pseudonimiseren en/of delen van persoonsgegevens? Neem dan gerust contact op met Robin Verhoef.

[1] HvJ EU 26 april 2023, ECLI:EU:T:2023:219 (SRB/EDPS).

[2] HvJ EU 19 oktober 2016, ECLI:EU:C:2016:779 (Beyer/Bundesrepublik Deutschland)


                    [post_title] => Gepseudonimiseerde en geanonimiseerde gegevens
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => gepseudonimiseerde-en-geanonimiseerde-gegevens
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2023-05-04 16:38:27
                    [post_modified_gmt] => 2023-05-04 14:38:27
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=36135
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [6] => WP_Post Object
                (
                    [ID] => 34977
                    [post_author] => 57
                    [post_date] => 2023-02-16 15:28:59
                    [post_date_gmt] => 2023-02-16 14:28:59
                    [post_content] => Hoewel je AI nodig hebt om AIVD te spellen, denkt men bij de AIVD toch eerder aan spionnen en ongevraagd afluisteren, dan aan AI-systemen. De dienst is er echter wel mee bezig. Niet alleen intern, maar ook in de praktijk. Het Nationaal Bureau voor Verbindingsbeveiliging (NBV) van de AIVD heeft namelijk in februari een brochure gepubliceerd waarin wordt uitgelegd hoe AI-systemen kunnen worden aangevallen en wat men daartegen kan doen.
Typen aanvallen
Het NBV heeft vijf categorieën opgesteld van aanvallen die specifiek op AI-systemen zijn gericht:

 	
Poisoning aanvallen: De aanvaller probeert de trainingsdata, het trainingsalgoritme of het model aan te passen, waardoor het AI-systeem niet meer goed werkt.
 	
Input (evasion) aanvallen: De aanvaller probeert een normale input zodanig aan te passen, dat het AI-systeem daardoor niet meer goed werkt.
 	
Backdoor aanvallen: Een aanvaller met toegang tot een backdoor in het AI-systeem kan hier bepaalde informatie aan toevoegen, waarmee de beslissingen van het model kunnen worden beïnvloed.
 	
Model reverse engineering & inversion aanvallen: De aanvaller probeert erachter te komen hoe het onderliggende model werkt, zodat het model kan worden nagemaakt en/of misbruik kan worden gemaakt van bepaalde gebreken.
 	
Inference aanvallen: De aanvaller probeert informatie te krijgen over de trainingsdata van het AI-systeem, waarmee hij vervolgens een bestaande dataset kan verrijken.

Principes voor verdediging
Hoe kun je een AI-systeem beschermen tegen de hiervoor genoemde aanvallen? Allereerst moet de infrastructuur waarin het AI-systeem draait, goed zijn beveiligd. Daarnaast heeft het NBV een aantal kernprincipes uitgewerkt waarin aandachtspunten en mogelijke maatregelen worden omschreven:

 	
Houd je datakwaliteit op orde: Weet waar je data vandaan komt en controleer of de data integer is.
 	
Zorg voor validatie van je data: Bij data die afkomstig is van derden is het verstandig om die data te valideren. Kijk daarbij naar de wijze waarop de data tot stand is gekomen.
 	
Houd rekening met supply chain security: Bij modellen die je niet zelf hebt ontwikkeld, zou er weleens een backdoor aanwezig kunnen zijn. Controleer dan ook de kwaliteit van (aan)geleverde modellen.
 	
Maak je model robust tegen aanvallen: Controleer hoe bestendig je model is tegen verkeerde inputs, veranderingen in data of andere pogingen tot misbruik. Je zou bijvoorbeeld een groep programmeurs de opdracht kunnen geven om je AI-systeem aan te vallen (een red team) en te kijken hoe het systeem daarop reageert.
 	
Zorg dat je model controleerbaar is: Als je weet hoe een model werkt en dat ook kan uitleggen, dan is dat vaak een teken dat het model robuust is. Kijk daarom of je je model inzichtelijk kan maken tijdens development.

Conclusie
Zeker voor AI-systemen die in cruciale/belangrijke situaties worden gebruikt, is het belangrijk dat deze tegen een stootje kunnen. Het is dan ook verstandig om dit in het achterhoofd te houden gedurende de ontwikkeling van het AI-systeem.

Wil je op de hoogte blijven van de meest actuele ontwikkelingen op het gebied van de juridische aspecten van AI? Schrijf je dan in voor onze nieuwsbrief over de AI Act (AI-verordening). Dit kan via het onderstaande contactformulier.
Aanmelding nieuwsbrief AI Act (AI verordening):


Mocht je al vragen hebben over de juridische aspecten van AI, dan kun je uiteraard contact opnemen met één van onze specialisten: @Jos van der Wijst, @Robin Verhoef en @Frederick Droppert.


                    [post_title] => AIVD publiceert principes voor veilige ontwikkeling van AI-systemen
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => aivd-publiceert-principes-voor-veilige-ontwikkeling-van-ai-systemen
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2023-03-08 11:41:58
                    [post_modified_gmt] => 2023-03-08 10:41:58
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=34977
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [7] => WP_Post Object
                (
                    [ID] => 33744
                    [post_author] => 57
                    [post_date] => 2022-12-09 12:08:16
                    [post_date_gmt] => 2022-12-09 11:08:16
                    [post_content] => De Algemene Verordening Gegevensbescherming (hierna: AVG) heeft een aantal kernprincipes waaraan alle verwerking van persoonsgegevens moet voldoen (Artikel 5 lid 1 AVG). Het Hof van Justitie (hierna: Hof) heeft twee van die principes verduidelijkt in een recente uitspraak. Het eerste principe, doelbinding, houdt in dat persoonsgegevens alleen mogen worden gebruikt voor het doel waarvoor ze verzameld zijn. Het tweede principe, opslagbeperking, houdt in dat persoonsgegevens niet langer mogen worden bewaard dan nodig voor het doel waarvoor ze verzameld zijn.
De feiten van de zaak
De namen van de partijen zijn vertaald naar het Nederlands en versimpeld.

Deze zaak begon in Hongarije. Digi, een groot Hongaars telecombedrijf, heeft na een storing in een server in april 2018 een testdatabase opgezet met daarin de persoonsgegevens van een deel van haar klanten. Deze heeft ze gebruikt om de server na de storing te testen en eventuele fouten te herstellen.

Een ethisch hacker heeft in september 2019 een kwetsbaarheid bij Digi gevonden en heeft daarmee toegang gekregen tot de testdatabase. Digi verhelpt de kwetsbaarheid en meldt het datalek bij de Hongaarse Autoriteit persoonsgegevens (hierna: Autoriteit). Ook wordt de testdatabase gewist.

De Autoriteit legt Digi in mei 2020 een boete op van 250 000 euro wegens het schenden van het principe van doelbinding en opslagbeperking doordat de testdatabase niet direct was gewist nadat de problemen waren opgelost.

Digi vecht het besluit aan bij de Hongaarse rechter. De rechter stelt vervolgens twee vragen aan het Hof:

 	
Mag een parallelle database worden gemaakt en gebruikt voor het uitvoeren van tests en het oplossen van problemen binnen het begrip van doelbinding?
 	
Mag een parallelle database dan worden gemaakt en bewaard binnen het begrip van opslagbeperking?

Vraag 1: doelbinding
Het Hof stelt vast dat Digi de persoonsgegevens heeft verzameld voor een duidelijk doel, namelijk om abonnementen af te sluiten en uit te voeren. De testdatabase was een verdere verwerking, waardoor de vraag is of dit verenigbaar was met het oorspronkelijke doel van de verwerking. Dit is natuurlijk belangrijk als het doel van de verdere verwerking anders is dan het oorspronkelijke doel. Om te kijken of de verwerking verenigbaar is, moet met het volgende rekening worden gehouden:

 	
De verbanden tussen het oorspronkelijk doel en het doel van de verwerking;
 	
De omstandigheden waar de persoonsgegevens verzameld zijn en de verhouding tussen de betrokkenen en de verwerkingsverantwoordelijke;
 	
De aard van de persoonsgegevens;
 	
De mogelijke gevolgen van de verdere verwerking voor de betrokkenen;
 	
Het bestaan van passende waarborgen.

Deze punten zijn gebaseerd op Artikel 6 lid 4 AVG en overweging 50 AVG. Samen zorgen ze ervoor dat gekeken kan worden of het doel van de verwerking niet afwijkt van de legitieme verwachtingen van de betrokkenen.

Specifiek voor dit geval gebruikt Digi een testdatabase bedoeld om een systeem te testen en fouten te herstellen. Hierdoor kan Digi de diensten blijven leveren waar haar klanten een abonnement voor hebben. Daarmee worden negatieve gevolgen van eventuele fouten voor de klanten van Digi voorkomen. De klanten van Digi verwachten ook dat hun gegevens toegankelijk zijn en veilig worden bewaard. De testdatabase van Digi is dus niet in strijd met het doelbindingsprincipe.
Vraag 2: opslagbeperking
Omdat de verwerking van persoonsgegevens aan alle principes van de AVG moet voldoen, is het principe van opslagbeperking hier ook nog van belang. Persoonsgegevens mogen namelijk alleen bewaard worden zolang ze nodig zijn voor het doel waarvoor ze verzameld zijn. Hierdoor kan een verwerking die ooit rechtmatig was, onrechtmatig worden als het doel waarvoor de gegevens nodig waren verdwijnt.

In dit geval heeft Digi de testdatabase niet gewist nadat het doel van die database, namelijk het uitvoeren van tests en het herstellen van fouten, was vervuld. Naar eigen zeggen is dit gebeurd door onoplettendheid en na de melding van de hacker heeft Digi de database direct verwijderd. Dit is wel in strijd met het principe van opslagbeperking, want persoonsgegevens mogen niet bewaard worden als ze niet meer nodig zijn.
Conclusie
In deze zaak bevestigt het Hof dat persoonsgegevens inderdaad niet alleen maar voor hun oorspronkelijke doel gebruikt mogen worden. Een testdatabase zoals die van Digi is prima als dit past binnen de legitieme verwachtingen van de betrokkenen. Zorgen dat het systeem wat over abonnementen gaat goed werkt en geen fouten bevat past binnen die verwachtingen. Echter, dit betekent niet dat die database daarna ook bewaard mag worden. Als een database geen doel meer dient, dan moet die verwijderd worden.

Mocht je vragen hebben, dan kun je uiteraard contact opnemen met één van onze specialisten.


                    [post_title] => Doelbinding bij tests en het herstellen van fouten
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => doelbinding-bij-tests-en-het-herstellen-van-fouten
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2022-12-09 12:12:54
                    [post_modified_gmt] => 2022-12-09 11:12:54
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=33744
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [8] => WP_Post Object
                (
                    [ID] => 32240
                    [post_author] => 57
                    [post_date] => 2022-09-28 17:09:27
                    [post_date_gmt] => 2022-09-28 15:09:27
                    [post_content] => De Europese Commissie heeft op 28 september haar voorstel voor een richtlijn over aansprakelijkheid voor AI gepubliceerd. De reden hiervoor is namelijk dat het voor een slachtoffer die schade heeft geleden door een fout van een AI systeem heel moeilijk kan zijn om te bewijzen dat er überhaupt een fout is gemaakt. De bewijslast kan het voor slachtoffer onmogelijk maken om aansprakelijkheid aan te tonen, laat staat een schadevergoeding te krijgen. Om dit op te lossen zouden nationale rechters bestaande regels over bewijslast kunnen gaan herinterpreteren, maar dat zou leiden tot 27 verschillende systemen binnen de Europese interne markt. Daarom wil de Commissie de regels voor aansprakelijkheid voor/van AI systemen standaardiseren. In dit artikel vindt u een overzicht van het voorstel.
Definities (Artikel 2)
Dit voorstel is een toevoeging op het voorstel voor de AI Act. Daarom zijn de meeste definities direct overgenomen. Een schadeclaim die binnen dit voorstel valt is gebaseerd op een fout, non-contractueel en privaatrechtelijk. De schade die gecompenseerd moet worden is veroorzaakt door de output van een AI systeem of doordat een AI systeem geen output produceerde terwijl dat wel zou moeten.
Vermoeden van non-compliance en aandragen van bewijs (Artikel 3)
Om de bewijspositie van een eiser (het slachtoffer van de fout) te verbeteren moeten rechtbanken de mogelijkheid krijgen om de verweerder (de ontwikkelaar of gebruiker van het High-risk AI systeem) te verplichten om relevante informatie over haar AI systeem over te dragen. De eiser moet wel eerst zelf hebben geprobeerd om de informatie te krijgen van de verweerder. Rechtbanken moeten daarnaast de mogelijkheid krijgen om, op verzoek van een eiser, de verweerder te verplichten om deze relevante informatie te bewaren.

Als een verweerder geen gehoor geeft aan het bevel van een rechtbank om bewijs over te dragen of te bewaren, dan zal een rechtbank aannemen dat de verweerder non-compliant was in haar zorgplicht tegenover het slachtoffer. Een verweerder kan dit vermoeden wel weerleggen.
Weerlegbare aanname van causaal verband bij een fout (Artikel 4)
Een rechtbank zal aannemen, voor het toepassen van aansprakelijkheidsregels, dat er een causaal verband is tussen de fout van de verweerder en de output van het AI systeem als aan de volgende voorwaarden is voldaan:

 	
De eiser heeft aangetoond – of de rechtbank heeft aangenomen – dat de verweerder een fout heeft begaan door non-compliance met betrekking tot een zorgplicht tegenover het slachtoffer.
 	
Het is aannemelijk dat de fout de output van het AI systeem heeft beïnvloedt.
 	
De eiser heeft aangetoond dat de output van het AI systeem heeft geleden tot schade.

Als de claim tegen een gebruiker of producent van een High-risk AI systeem is gericht, dan moet de verweerder tekort zijn geschoten in diens verplichtingen onder hoofdstuk 2 en 3 van de AI Act om aan te kunnen tonen dat er sprake is van non-compliance onder voorwaarde 1.

Als de eiser kan aantonen dat de verweerder met een High-risk AI systeem de instructies niet heeft gevolgd of data heeft gebruikt die niet relevant zijn voor het doel van het systeem, dan is er voldaan aan voorwaarde 1.

Als de verweerder aan kan tonen dat het voor de eiser mogelijk is om het causale verband zelf te bewijzen, kan de rechtbank het vermoeden buiten aanmerking laten. Andersom kan de rechtbank het vermoeden ook toepassen op AI systemen die niet High-risk zijn, maar waarbij het wel vrij moeilijk is voor de eiser om een causaal verband aan te tonen.

De verweerder heeft ook hier het recht om het vermoeden te weerleggen.
Conclusie
Met dit voorstel koppelt de Commissie de bewijslast voor fouten door AI systemen heel duidelijk aan de documentatie eisen voor High-risk AI systemen. Als een verweerder de documentatie van haar systeem niet op orde heeft, dan leidt dit tot een vermoeden van non-compliance en misschien ook van een causaal verband. Hiermee wordt de eiser enorm geholpen want dit bespaart tijd. Ook vult de commissie met dit voorstel een gat in de AI Act. Door Artikel 3 krijgt een eiser namelijk het recht om inzicht te krijgen in de documentatie van een AI systeem voor het vaststellen van aansprakelijkheid.

Dit voorstel voor een richtlijn zorgt voor een extra reden om de documentatie van je AI systemen op orde te hebben en maakt schadevergoeding toegankelijker voor slachtoffers van fouten van AI systemen. Met name gedurende het proces van de ontwikkeling van AI systemen is daarom steeds belangrijker om na te denken over compliance by design, voordat een systeem op de markt wordt gebracht.

Voor vragen of het effect van de nieuwe AI regels op uw bestaande dan wel toekomstige AI systemen kunt u altijd contact met ons opnemen. Onze experts Jos van der Wijst of Frederick Droppert helpen u graag.


                    [post_title] => AI Aansprakelijkheid richtlijn
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => ai-aansprakelijkheid-richtlijn
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2022-09-28 17:09:27
                    [post_modified_gmt] => 2022-09-28 15:09:27
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=32240
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

            [9] => WP_Post Object
                (
                    [ID] => 30923
                    [post_author] => 57
                    [post_date] => 2022-07-04 16:05:40
                    [post_date_gmt] => 2022-07-04 14:05:40
                    [post_content] => DUO heeft als uitvoerende organisatie op het gebied van onderwijs veel data. Van basisschoolleerlingen tot masterstudenten wordt er door DUO data verzameld. Omdat dit persoonsgegevens zijn, en vaak ook van kinderen, deelde DUO deze data niet op leerling niveau met onderzoekers. Er is uiteraard wel al data beschikbaar op school niveau, zoals de hoeveelheid leerlingen per onderwijsniveau. Daar komt nu verandering in. DUO geeft onderzoekers nu de mogelijkheid om een onderzoeksvraag op te sturen. Mocht de vraag passen bij de beschikbare data, dan krijgen de onderzoekers een synthetische dataset om hun onderzoek op te doen.
Wat is synthetische data?
Synthetische data is data die is gemaakt op basis van de onderliggende eigenschappen van een dataset. Met behulp van statistiek en machine learning wordt er gekeken naar de essentiële kenmerken van de individuen in de originele dataset. Op basis van deze essentiële kenmerken worden er nieuwe, fictieve individuen gegenereerd. Hierdoor zijn de originele individuen niet meer te herkennen, waardoor de dataset geen persoonsgegevens meer bevat.  Wel blijven de relaties tussen de verschillende kenmerken bewaard. Hierdoor kunnen onderzoekers de data nog steeds gebruiken voor hun onderzoek. DUO biedt zelfs aan om de aanpak van de onderzoekers nog te verifiëren op de echte data.



 

 

 

 

Welke data heeft DUO dan?
DUO is betrokken bij al het reguliere onderwijs in Nederland, van de kinderopvang tot aan de universiteit. Hierdoor heeft DUO veel verschillende soorten data. Een kort overzicht:

 	
Achtergrond kenmerken van alle leerlingen;
 	
Samenstelling van scholen;
 	
Resultaten van eindtoetsen en examens;
 	
Studierichtingen en duur van de studie op het MBO, HBO en de universiteit.

Daarnaast is DUO betrokken bij de studiefinanciering, inburgering en het bijhouden van alle verleende diploma’s.

Als onderzoekers deze data op leerling niveau kunnen onderzoeken dan biedt dit veel mogelijkheden. Er kan onderzoek worden gedaan naar het hele onderwijssysteem, het onderwijs binnen een instelling of juist naar de loopbaan van individuen.
Wat kan ik ermee?
De meeste lezers van dit artikel zullen geen onderwijswetenschappers zijn. Deze actie van DUO geeft voor alle organisaties die veel persoonsgegevens beheren waarop onderzoek kan worden gedaan een goed voorbeeld. Het is veel makkelijker en veiliger om synthetische data te delen en dan eventueel de resultaten te valideren. De AVG is niet van toepassing op de synthetische data en er is geen gevaar voor een datalek. Als private partij kan synthetische data ook nuttig zijn bij het delen van data.

Voor vragen over het toepassen van synthetische data kunt u contact opnemen met Jos van der Wijst.

Dit artikel is geschreven door Robin Verhoef.


                    [post_title] => DUO lanceert synthetische dataset
                    [post_excerpt] => 
                    [post_status] => publish
                    [comment_status] => open
                    [ping_status] => open
                    [post_password] => 
                    [post_name] => duo-lanceert-synthetische-dataset
                    [to_ping] => 
                    [pinged] => 
                    [post_modified] => 2022-07-04 16:11:07
                    [post_modified_gmt] => 2022-07-04 14:11:07
                    [post_content_filtered] => 
                    [post_parent] => 0
                    [guid] => https://bg.legal/?p=30923
                    [menu_order] => 0
                    [post_type] => post
                    [post_mime_type] => 
                    [comment_count] => 0
                    [filter] => raw
                )

        )

    [post_count] => 10
    [current_post] => -1
    [before_loop] => 1
    [in_the_loop] => 
    [post] => WP_Post Object
        (
            [ID] => 38664
            [post_author] => 57
            [post_date] => 2023-09-14 15:19:51
            [post_date_gmt] => 2023-09-14 13:19:51
            [post_content] => De Consumentenbond heeft op 12 september 2023 haar dagvaarding tegen Google uitgebracht, in samenwerking met de Stichting Bescherming Privacybelangen. De partijen stellen dat Google op grote schaal de privacy-rechten van haar Nederlandse gebruikers schendt en niet transparant is over de gegevens die zij verzamelt. Meer specifiek stellen de partijen dat Google:

 	
Zich niet zou houden aan de principes van dataminimalisatie en privacy by design and default. Google zou meer data verwerken dan noodzakelijk en haar infrastructuur niet hebben ontworpen met het oog op de bescherming van de privacybelangen van haar gebruikers.
 	
Haar gebruikers niet (goed) zou informeren over hoe hun persoonsgegevens worden verwerkt. Gebruikers zouden namelijk niet voldoende op de hoogte zijn van wat Google allemaal verzamelt.
 	
Persoonsgegevens zouden verwerken zonder een geldige verwerkingsgrondslag. De toestemming van gebruikers zou namelijk niet geldig zijn en Google zou ook geen gerechtvaardigd belang hebben.
 	
Bijzondere persoonsgegevens zou verwerken ten behoeve van haar advertentiediensten, hetgeen in strijd zou zijn met het verwerkingsverbod uit artikel 9 AVG. Google zou namelijk bijzondere persoonsgegevens hebben verwerkt zonder daar expliciete toestemming voor te krijgen.
 	
Persoonsgegevens zou doorgeven aan de Verenigde Staten (VS), hetgeen niet is toegestaan op grond van de AVG. Google biedt namelijk geen aanvullende waarborgen voor de gegevens die naar de VS worden verzonden, waardoor zij geen adequaat beschermingsniveau voor haar gebruikers kan garanderen.
 	
Zich schuldig zou maken aan oneerlijke handelspraktijken. Google zou bijvoorbeeld dark patterns gebruiken om haar klanten te misleiden.

De eis van de partijen is simpel: naast het betalen van een schadevergoeding, willen zij dat Google zich aan de wet gaat houden en de privacy-rechten van haar gebruikers gaat respecteren. De partijen willen dat Google in dat kader haar werkwijze fundamenteel gaat veranderen, door onder andere:

 	
Haar digitale infrastructuur opnieuw in te richt, waarbij de beginselen van privacy by design and default worden meegenomen.
 	
Haar gebruikers nauwkeuriger te informeren over de data die verwerkt wordt.
 	
Verwerkingsactiviteiten te baseren op rechtmatige verwerkingsgrondslagen.
 	
Te stoppen met het delen van persoonsgegevens met de VS.

Wat kun je als Google-gebruiker? 
Het is mogelijk om je aan te melden als belanghebbende/gedupeerde bij de Consumentenbond. Mocht de rechter een schadevergoeding toewijzen, dan krijg je als deelnemer +- 75% van het bedrag dat wordt uitgekeerd. Als de rechtszaak geen succes is, dan hoef je niks te betalen. Deze rechtszaak wordt namelijk gefinancierd door een procesfinancier die, als er een schadevergoeding wordt toegewezen, daar een percentage van ontvangt.

Heb je vragen over het gebruik van Google binnen een bedrijf/onderneming en de waarborgen die je daarbij in acht moet nemen? Neem dan gerust contact op met Robin Verhoef.


            [post_title] => Consumentenbond start massaclaim tegen Google
            [post_excerpt] => 
            [post_status] => publish
            [comment_status] => open
            [ping_status] => open
            [post_password] => 
            [post_name] => consumentenbond-start-massaclaim-tegen-google
            [to_ping] => 
            [pinged] => 
            [post_modified] => 2024-01-02 12:03:34
            [post_modified_gmt] => 2024-01-02 11:03:34
            [post_content_filtered] => 
            [post_parent] => 0
            [guid] => https://bg.legal/?p=38664
            [menu_order] => 0
            [post_type] => post
            [post_mime_type] => 
            [comment_count] => 0
            [filter] => raw
        )

    [comment_count] => 0
    [current_comment] => -1
    [found_posts] => 23
    [max_num_pages] => 3
    [max_num_comment_pages] => 0
    [is_single] => 
    [is_preview] => 
    [is_page] => 
    [is_archive] => 1
    [is_date] => 
    [is_year] => 
    [is_month] => 
    [is_day] => 
    [is_time] => 
    [is_author] => 
    [is_category] => 
    [is_tag] => 
    [is_tax] => 1
    [is_search] => 
    [is_feed] => 
    [is_comment_feed] => 
    [is_trackback] => 
    [is_home] => 
    [is_privacy_policy] => 
    [is_404] => 
    [is_embed] => 
    [is_paged] => 
    [is_admin] => 
    [is_attachment] => 
    [is_singular] => 
    [is_robots] => 
    [is_favicon] => 
    [is_posts_page] => 
    [is_post_type_archive] => 
    [query_vars_hash:WP_Query:private] => 9977ee809d70e70126b233fd32408e3f
    [query_vars_changed:WP_Query:private] => 1
    [thumbnails_cached] => 
    [allow_query_attachment_by_filename:protected] => 
    [stopwords:WP_Query:private] => 
    [compat_fields:WP_Query:private] => Array
        (
            [0] => query_vars_hash
            [1] => query_vars_changed
        )

    [compat_methods:WP_Query:private] => Array
        (
            [0] => init_query_flags
            [1] => parse_tax_query
        )

    [tribe_is_event] => 
    [tribe_is_multi_posttype] => 
    [tribe_is_event_category] => 
    [tribe_is_event_venue] => 
    [tribe_is_event_organizer] => 
    [tribe_is_event_query] => 
    [tribe_is_past] => 
    [tribe_controller] => Tribe\Events\Views\V2\Query\Event_Query_Controller Object
        (
            [filtering_query:Tribe\Events\Views\V2\Query\Event_Query_Controller:private] => WP_Query Object
 *RECURSION*
        )

)

Consumentenbond start massaclaim tegen Google

14 sep 2023

Robin Verhoef

De Consumentenbond heeft op 12 september 2023 haar dagvaarding tegen Google uitgebracht, in samenwerking met de Stichting Bescherming Privacybelangen. De partijen stellen dat Google op grote schaal de privacy-rechten van...

Lees meer

Blog AI-systemen in aanbestedingen

03 aug 2023

Robin Verhoef

Steeds meer overheden zijn aan het experimenteren met AI-systemen. Hierbij wordt er gekeken of een AI-systeem nuttig en wenselijk is en of het systeem past bij de behoeftes van de...

Lees meer

EU Chips Act aangenomen met grote ambities

02 aug 2023

Robin Verhoef

Microchips zijn het hart van digitale technologie. Ze verwerken data, slaan gegevens op en zijn onmisbaar in het dagelijks leven. Binnen de EU worden er wel microchips geproduceerd, maar dit...

Lees meer

Europees Parlement heeft eigen, gewijzigde versie van AI-Verordening aangenomen

23 jun 2023

Robin Verhoef

Het Europees Parlement heeft zich op 14 juni 2023 uitgelaten over het voorstel van de AI-verordening van de Europese Commissie. Dit heeft geresulteerd in een aantal nieuwe, interessante toevoegingen, alvorens...

Lees meer

Auteursrechtinbreuk door het overnemen van softwarefunctionaliteiten?

15 jun 2023

Robin Verhoef

Recent heeft de rechtbank Rotterdam uitspraak gedaan in een zaak waarin een softwarebedrijf (VitaTech) meende dat twee ex-werknemers auteursrechtinbreuk hadden gepleegd.[1] De werknemers zijn namelijk gedurende hun dienstverband een eigen...

Lees meer

Gepseudonimiseerde en geanonimiseerde gegevens

04 mei 2023

Robin Verhoef

Het Hof van Justitie van de Europese Unie (het Hof) heeft op 26 april een opmerkelijke uitspraak gedaan over het delen van geanonimiseerde/gepseudonimiseerde (persoons)gegevens.[1] Het Hof heeft bepaald dat in...

Lees meer

AIVD publiceert principes voor veilige ontwikkeling van AI-systemen

16 feb 2023

Robin Verhoef

Hoewel je AI nodig hebt om AIVD te spellen, denkt men bij de AIVD toch eerder aan spionnen en ongevraagd afluisteren, dan aan AI-systemen. De dienst is er echter wel...

Lees meer

Doelbinding bij tests en het herstellen van fouten

09 dec 2022

Robin Verhoef

De Algemene Verordening Gegevensbescherming (hierna: AVG) heeft een aantal kernprincipes waaraan alle verwerking van persoonsgegevens moet voldoen (Artikel 5 lid 1 AVG). Het Hof van Justitie (hierna: Hof) heeft twee...

Lees meer

AI Aansprakelijkheid richtlijn

28 sep 2022

Robin Verhoef

De Europese Commissie heeft op 28 september haar voorstel voor een richtlijn over aansprakelijkheid voor AI gepubliceerd. De reden hiervoor is namelijk dat het voor een slachtoffer die schade heeft...

Lees meer

DUO lanceert synthetische dataset

04 jul 2022

Robin Verhoef

DUO heeft als uitvoerende organisatie op het gebied van onderwijs veel data. Van basisschoolleerlingen tot masterstudenten wordt er door DUO data verzameld. Omdat dit persoonsgegevens zijn, en vaak ook van...

Lees meer