Actualiteiten
Artificial Intelligence ‘Law(s)’ in China
In a sequel of two articles, the authors comprehensively examine China’s evolving AI regulation, focusing on the interplay between fragmented laws, technical standards, and sectoral governance frameworks. This reflects the tension between central regulatory control and sector-specific governance in aligning rapid technological advancement with coherent legislative oversight. The two papers, read together, argue that a phased legislative strategy emphasizing flexibility, cross-sectoral consistency, and proactive engagement with emerging technologies is essential for China to sustain global competitiveness while ensuring ethical and safe AI development.
AI & Aanbesteding
In June 2024, the EU AI Act came into force. The AI Act includes obligations for the provider of an AI system. Article 10 of the AI Act includes a new obligation for providers to evaluate whether their training, validation and testing datasets meet certain quality criteria, including an appropriate examination of biases in the datasets and correction measures. With the obligation comes a new provision in Article 10(5) AI Act, allowing providers to collect sensitive data to fulfil the obligation. Article 10(5) AI Act aims to prevent discrimination. In this paper, I investigate the scope and implications of Article 10(5) AI Act. The paper primarily concerns European Union law, but may be relevant in other parts of the world, as policymakers aim to regulate biases in AI systems.
Using sensitive data to de-bias AI systems: Article 10(5) of the EU AI act
In June 2024, the EU AI Act came into force. The AI Act includes obligations for the provider of an AI system. Article 10 of the AI Act includes a new obligation for providers to evaluate whether their training, validation and testing datasets meet certain quality criteria, including an appropriate examination of biases in the datasets and correction measures. With the obligation comes a new provision in Article 10(5) AI Act, allowing providers to collect sensitive data to fulfil the obligation. Article 10(5) AI Act aims to prevent discrimination. In this paper, I investigate the scope and implications of Article 10(5) AI Act. The paper primarily concerns European Union law, but may be relevant in other parts of the world, as policymakers aim to regulate biases in AI systems.
Wat mag een uitgever met AI doen met het werk van eigen auteurs?
Generatieve AI wordt in het auteursrecht vaak gezien als een externe bedreiging waartegen ‘het TDM-voorbehoud’ moet worden gemaakt. Maar uitgevers willen ook allemaal zo snel mogelijk aan de slag met AI met hun eigen content vanwege de beloofde efficiency en andere voordelen. Dat roept vragen op. Wat mag een uitgever met AI doen met het werk van zijn eigen auteurs? Hoe moeten bestaande auteurscontracten worden uitgelegd met betrekking tot AI-gebruik? Wat is de invloed van het auteurscontractenrecht hierop? Zijn de persoonlijkheidsrechten hierbij nog van belang? Wanneer is aanvullende toestemming nodig? Wanneer is een aanvullende vergoeding verschuldigd?
Weeg gebruik van AI in de rechtszaal op een goudschaaltje
In juli 2024 werd het expliciete gebruik van ChatGPT door een kantonrechter voornamelijk met argwaan ontvangen. De kantonrechter bediende zich van dit artificial-intelligence-systeem (AI-systeem) zonder transparant en controleerbaar te laten zien hoe het was gebruikt en ogenschijnlijk zonder te reflecteren op de potentiële risico’s. In dit redactioneel bespreken wij enkele kansen en problemen bij het gebruik van AI in de rechtspraak, met een aanbeveling ten aanzien van verantwoorde implementatie van AI in het rechtsstelsel.
AI & digitalisering van justitiële samenwerking: de belangrijkste bepalingen uit recente EU-wetgeving
AI-tools worden steeds vaker gebruikt door zogenaamde justice professionals om de snelheid en efficiëntie van juridische procedures te verbeteren en administratieve lasten te verlichten. Digitale en AI-tools kunnen een revolutionaire rol spelen bij het verbeteren van de kwaliteit van justitie en stellen hen in staat zich te richten op meer inhoudelijke taken. Digitalisering en het gebruik van AI in de rechtspraak bieden aanzienlijke voordelen, maar kunnen ook bepaalde risico’s met zich meebrengen, waardoor een duidelijk regelgevend kader nodig is. In de afgelopen jaren is op EU-niveau een aanzienlijk aantal nieuwe regels overeengekomen die verschillende aspecten van de digitale ontwikkelingen in onze samenleving en economie bestrijken.
Prompteur of AI: wie is de baas in de artificiële arena?
Het artikel ‘prompteursrecht’ verscheen vorige week in het Ars Aequi Maandblad. Daarin behandelt Michiel A. Smit, Promovendus Intellectueel Eigendomsrecht aan de Universiteit Leiden, de complexe vraag of en wanneer de output van generatieve AI als auteursrechtelijk beschermd werk kan kwalificeren. In het bijzonder onderzoek ik diffusiemodellen - zoals Midjourney, Stable Diffusion en Dall-E - waarmee bijna alle artificiële afbeeldingen (en overigens ook AI-video’s van o.m. Sora) op het moment worden gegenereerd.
Verantwoord gebruik van AI door juristen
De eerste advocaten die in hun processtukken door artificiële intelligentie gehallucineerde onzinbronnen gebruikten hebben in Amerika een boete aan de broek. In Nederland hebben een paar rechtenstudenten inmiddels van een examencommissie een sanctie opgelegd gekregen voor fraude met ChatGPT. Juristen kunnen kennelijk niet altijd verantwoord omgaan met AI. Zijn zij bewust de boel aan het flessen, of trappen zij in een van de vele valkuilen bij het gebruik van AI? Uitgaande van Hanlon’s razor gaan wij voor dat tweede. Het is voor de jurist niet gemakkelijk om verantwoord met AI om te gaan. Hoe kan dat, en is daar iets aan te doen?
Het gebruik van ChatGPT door rechters (wereldwijd)
Onlangs verscheen er een artikel over het gebruik van AI in Indiase rechtbanken. In twee zaken hebben rechters ChatGPT ingezet als hulpmiddel om jurisprudentie te analyseren en de feiten van een zaak beter vast te stellen. Dit illustreert een duidelijke trend: in steeds meer landen en rechtsgebieden maken rechters gebruik van LLM’s (large language models) om hun besluitvorming te ondersteunen. Dit gebeurt niet alleen in India, maar ook in landen zoals Colombia en Nederland. In beide landen is ChatGPT in uitspraken gebruikt, respectievelijk als feitelijke bron en als juridische ondersteuning.
Onderzoek naar de factoren achter het succes van AI
Samen met de Algemene Inlichtingen- en Veiligheidsdienst - AIVD liet het Rijksinspectie Digitale Infrastructuur (RDI) onderzoek uitvoeren naar de factoren achter het succes van Artificial Intelligence (AI-bedrijven uit de VS, specifiek OpenAI). Waarom? De AIVD en RDI zien dat AI als sleuteltechnologie invloed heeft op de nationale veiligheid en een grote rol speelt in de economie en geopolitiek. Europa blijft in het AI-ecosysteem achter op landen als de VS en China, wat voor Nederland mogelijk tot ongewenste afhankelijkheden kan leiden. Daarom is The Clingendael Institute gevraagd onderzoek te doen. De conclusie van het onderzoek is dat de combinatie van kapitaal, mensen en durf grootste factoren zijn voor AI-succes.
Impact van AI op nationale veiligheid
AI heeft de potentie om ons leven op veel manieren makkelijker te maken en kan helpen bij het oplossen van tal van maatschappelijke problemen. Tegelijkertijd heeft de ontwikkeling van AI ook bedoeld en onbedoeld invloed op onze nationale veiligheid. Zeer waarschijnlijk versterkt de ontwikkeling van AI de diverse bestaande dreigingen voor onze nationale veiligheid. Dat is de conclusie van een gezamenlijke analyse van de AIVD, de MIVD en de NCTV die op dinsdag 10 december 2024 is gepubliceerd.
‘AI maakt bedrijfsjuridisch werk complexer en interessanter’
‘Artificiële intelligentie. AI als strategisch instrument voor bedrijfsjuristen’ is de titel van het nieuwe deel in de NGB Reeks, een serie boekjes met praktische informatie en tips & tricks voor NGB-bedrijfsjuristen. Deel X werd geschreven door Deloitte en is in november van dit jaar verschenen. Sebastiaan ter Wee, Partner Digital Regulations bij Deloitte Legal, is een van de hoofdauteurs.
De impact van AI op de juridische sector – Inzichten uit het Future Ready Lawyer Rapport
De juridische sector bevindt zich op een keerpunt. Het Future Ready Lawyer Rapport 2024 van Wolters Kluwer laat zien hoe generatieve AI (GenAI) en andere technologische innovaties het juridische werk ingrijpend veranderen. We bespreken in onze blog de belangrijkste inzichten.