
Actualiteiten

Using sensitive data to de-bias AI systems: Article 10(5) of the EU AI act
In June 2024, the EU AI Act came into force. The AI Act includes obligations for the provider of an AI system. Article 10 of the AI Act includes a new obligation for providers to evaluate whether their training, validation and testing datasets meet certain quality criteria, including an appropriate examination of biases in the datasets and correction measures. With the obligation comes a new provision in Article 10(5) AI Act, allowing providers to collect sensitive data to fulfil the obligation. Article 10(5) AI Act aims to prevent discrimination. In this paper, I investigate the scope and implications of Article 10(5) AI Act. The paper primarily concerns European Union law, but may be relevant in other parts of the world, as policymakers aim to regulate biases in AI systems.

ChatGPT als juridisch argument? De Raad van State zegt: nee
Kun je een uitspraak aanvechten met een printout van ChatGPT? In een recente planschadezaak bij de Raad van State probeerde een partij precies dat. Het resultaat? De bestuursrechter weigerde ernaar te kijken en gaf drie duidelijke argumenten waarom AI-gegenereerde tekst geen volwaardig juridisch bewijs is. Deze zaak laat niet alleen zien waar de grenzen liggen voor AI in de rechtszaal, maar ook hoe je AI wél op een juridisch verantwoorde manier kunt inzetten.

Internationale slag tegen AI-kinderpornografie
Een internationale samenwerking tussen politiediensten uit 19 landen en Europol heeft een belangrijke slag toegebracht aan de strijd tegen kinderpornografie gemaakt met kunstmatige intelligentie (AI). Naar aanleiding van operatie Cumberland voert de politie in Nederland waarschuwingsgesprekken met vier personen die worden verdacht van het kopen van dit soort materiaal.

Legal Prompt van de week: De juridische status van AI-gegenereerde content binnen het EU-auteursrecht
Met de opkomst van AI-gegenereerde content rijzen juridische vragen over auteurschap en intellectuele eigendomsrechten. Kan AI als auteur worden erkend onder het EU-auteursrecht? In hoeverre kunnen gebruikers aanspraak maken op rechten? En welke juridische uitdagingen ontstaan bij het gebruik van getrainde modellen? Onze nieuwe prompt daagt uit om deze kwesties te analyseren aan de hand van relevante EU-wetgeving en recente ontwikkelingen.

US Copyright Office registreert eerste met AI gemaakte afbeelding
De discussie over auteursrecht en kunstmatige intelligentie (AI) heeft een nieuwe wending genomen in de Verenigde Staten. Het Amerikaanse Copyright Office (USCO) heeft voor het eerst een met behulp van AI gegenereerde afbeelding geregistreerd. Dit is een belangrijke ontwikkeling in het juridische debat over de auteursrechtelijke bescherming van AI-gecreëerde werken.

Gemeenten heroverwegen inzet Microsoft Copilot
De gemeente Amsterdam stopt een pilot met de AI-toepassing ‘Microsoft Copilot’ vanwege privacyrisico’s. Uit een recente privacytoets van SLM Rijk blijkt dat Copilot vooralsnog niet compliant te gebruiken is. De VNG adviseert gemeenten om bewust de keuze te maken of de risico’s opwegen tegen de baten.

Toezicht op de AI-verordening in Nederland
De RDI en de AP adviseren om het toezicht op AI in de verschillende sectoren en domeinen zoveel mogelijk te laten aansluiten bij het reguliere toezicht. Hiervoor is het wel belangrijk dat toezichthouders goed samenwerken vanuit hun sectorale en domeinspecifieke expertises. Daarom moeten de RDI en de AP coördinerende rollen krijgen. Vanuit hun expertrol kunnen zij andere toezichthouders adviseren en hun samenwerking ondersteunen.

Wat mag een uitgever met AI doen met het werk van eigen auteurs?
Generatieve AI wordt in het auteursrecht vaak gezien als een externe bedreiging waartegen ‘het TDM-voorbehoud’ moet worden gemaakt. Maar uitgevers willen ook allemaal zo snel mogelijk aan de slag met AI met hun eigen content vanwege de beloofde efficiency en andere voordelen. Dat roept vragen op. Wat mag een uitgever met AI doen met het werk van zijn eigen auteurs? Hoe moeten bestaande auteurscontracten worden uitgelegd met betrekking tot AI-gebruik? Wat is de invloed van het auteurscontractenrecht hierop? Zijn de persoonlijkheidsrechten hierbij nog van belang? Wanneer is aanvullende toestemming nodig? Wanneer is een aanvullende vergoeding verschuldigd?

Le Chat AI: het Europese alternatief voor AI-gebruik
Kunstmatige intelligentie blijft zich in een razendsnel tempo ontwikkelen, en Europa doet serieus mee. Het Franse bedrijf Mistral AI heeft een belangrijke stap gezet met de lancering van Le Chat AI, een gratis en ethisch verantwoord AI-alternatief voor ChatGPT en Gemini. Wat maakt dit platform zo uniek en hoe draagt het bij aan de digitale onafhankelijkheid van Europa? Lees waarom dit een ware gamechanger is!

Thomson Reuters wint eerste grote zaak om AI-auteursrecht
De eerste grote juridische strijd over AI en auteursrecht is beslecht: Thomson Reuters heeft zijn zaak gewonnen tegen startup ROSS Intelligence. Deze zaak draait om de vraag of het gebruik van auteursrechtelijk beschermde data om een AI-systeem te trainen is toegestaan als 'fair use' (redelijk gebruik). Het oordeel van de rechter – waarin hij het fair use-verweer van ROSS verwierp – zet een belangrijk precedent.

De uitkomsten van de AI Action Summit in Parijs
De AI Action Summit in Parijs heeft duidelijk gemaakt hoe diep de kloof tussen de Verenigde Staten en Europa inmiddels is geworden. Terwijl Europa ambitieuze investeringsplannen ontvouwde en Frankrijk zijn nucleaire infrastructuur strategisch inzet, kozen de VS en het VK voor een confronterende koers en weigerden zij een internationale verklaring over veilige AI te ondertekenen.

Toekomstplannen van OpenAI: ChatGPT-5
In een verrassende zet deelt OpenAI niet alleen een concrete roadmap voor de komende maanden, maar belooft het bedrijf ook zijn krachtigste AI-model toegankelijk te maken voor iedereen – zelfs in de gratis versie.

AP: AI-chatbotapps voor vriendschap en mentale gezondheid ongenuanceerd en schadelijk
De meeste chatbotapps voor virtuele vriendschap en therapie bij mentale problemen geven onbetrouwbare informatie en zijn soms zelfs schadelijk. De chatbots bevatten verslavende elementen, doen zich voor als echte mensen en kunnen in een crisissituatie zelfs een gevaar vormen voor kwetsbare gebruikers. Dat blijkt uit een onderzoek van de Autoriteit Persoonsgegevens naar 9 populaire chatbotapps. Het gebruik van deze zogeheten ‘companion-apps’ en therapeutische apps neemt fors toe. In Nederland staan ze hoog op de lijst van meest gedownloade apps. De AP onderzocht de AI-chatbotapps voor de vierde Rapportage AI- en Algoritmerisico’s Nederland (RAN).

Wat is het AI Pact?
De AI-verordening is op 1 augustus 2024 in werking getreden. Sommige bepalingen van de AI-verordening zijn al volledig van toepassing. Echter, bepaalde vereisten met betrekking tot hoog-risico AI-systemen en andere bepalingen zullen pas van kracht worden na afloop van een overgangsperiode (d.w.z. de periode tussen de inwerkingtreding en de datum van toepasselijkheid). In dit kader promoot de Europese Commissie het AI Pact, om belanghebbenden te helpen zich voor te bereiden op de implementatie van de AI-verordening. Het AI Pact is gestructureerd rond twee pijlers.

Legal Prompt van de week: Schrijven in jouw tone of voice
Je kunt tijd besparen door ChatGPT te laten helpen bij het opstellen van e-mails. Het is daarbij belangrijk dat deze mails jouw tone of voice behouden. Deze week delen we een prompt die AI-gegenereerde e-mails laat aansluiten bij jouw communicatiestijl als juridisch professional. Of het nu gaat om formele correspondentie, beknopte adviezen of update-mails, deze prompt helpt bij het genereren van e-mails die qua toon en stijl naadloos passen bij jouw stijl en tevens afgestemd zijn op de ontvanger. Op deze manier kun je AI effectief inzetten als assistent in je dagelijkse werk, zonder concessies te doen aan professionaliteit en consistentie.

Harvey haalt $300 miljoen op. Waardering: $3 miljard
Na weken van speculatie heeft Harvey officieel aangekondigd dat het $300 miljoen heeft opgehaald in een Series D-financieringsronde – een van de grootste investeringen ooit in de legal tech-sector. Het bedrijf stelt nu een waardering te hebben van $3 miljard.

Europese Commissie trekt de AI Liability Directive in
Op 11 februari kondigde de Europese Commissie (EC) aan dat de voorgestelde AI-aansprakelijkheidsrichtlijn (AI Liability Directive, AILD) niet wordt doorgevoerd. Dit besluit staat vermeld in het werkprogramma voor 2025 en past binnen de bredere strategie van de EC om regelgeving te vereenvoudigen onder het motto: "Samen vooruit: een brutalere, eenvoudigere, snellere Unie." Toch betekent het schrappen van de AILD dat er een belangrijke lacune blijft in de regelgeving rondom schadevergoeding bij het gebruik van AI-systemen. In dit artikel gaan we in op wat de AILD inhield, waarom deze is ingetrokken, wat de gevolgen zijn en welke stappen mogelijk nog worden genomen.

Richtlijnen Europese Commissie over verboden praktijken onder AI Act
De Europese Commissie heeft richtlijnen gepubliceerd over verboden kunstmatige intelligentie (AI)-praktijken, zoals gedefinieerd in artikel 5 van de AI Act. Deze richtlijnen bieden een overzicht van AI-praktijken die als onaanvaardbaar worden beschouwd vanwege de potentiële risico’s voor Europese waarden en fundamentele rechten. Het gaat in totaal om 140 pagina’s.

EU AI-bureau lanceert “levend archief” met voorbeelden van AI-geletterdheidspraktijken
Artikel 4 van de AI-verordening vereist dat aanbieders en gebruikers van AI-systemen zorgen voor een voldoende niveau van AI-geletterdheid bij hun personeel en iedereen die de systemen namens hen gebruikt. Het EU AI Office heeft enkele bestaande praktijken verzameld met als doel een “levend archief” te creëren dat voorbeelden biedt van bestaande AI-geletterdheidspraktijken.