Actualiteiten
AP: AI-chatbotapps voor vriendschap en mentale gezondheid ongenuanceerd en schadelijk
De meeste chatbotapps voor virtuele vriendschap en therapie bij mentale problemen geven onbetrouwbare informatie en zijn soms zelfs schadelijk. De chatbots bevatten verslavende elementen, doen zich voor als echte mensen en kunnen in een crisissituatie zelfs een gevaar vormen voor kwetsbare gebruikers. Dat blijkt uit een onderzoek van de Autoriteit Persoonsgegevens naar 9 populaire chatbotapps. Het gebruik van deze zogeheten ‘companion-apps’ en therapeutische apps neemt fors toe. In Nederland staan ze hoog op de lijst van meest gedownloade apps. De AP onderzocht de AI-chatbotapps voor de vierde Rapportage AI- en Algoritmerisico’s Nederland (RAN).
Wat is het AI Pact?
De AI-verordening is op 1 augustus 2024 in werking getreden. Sommige bepalingen van de AI-verordening zijn al volledig van toepassing. Echter, bepaalde vereisten met betrekking tot hoog-risico AI-systemen en andere bepalingen zullen pas van kracht worden na afloop van een overgangsperiode (d.w.z. de periode tussen de inwerkingtreding en de datum van toepasselijkheid). In dit kader promoot de Europese Commissie het AI Pact, om belanghebbenden te helpen zich voor te bereiden op de implementatie van de AI-verordening. Het AI Pact is gestructureerd rond twee pijlers.
Legal Prompt van de week: Schrijven in jouw tone of voice
Je kunt tijd besparen door ChatGPT te laten helpen bij het opstellen van e-mails. Het is daarbij belangrijk dat deze mails jouw tone of voice behouden. Deze week delen we een prompt die AI-gegenereerde e-mails laat aansluiten bij jouw communicatiestijl als juridisch professional. Of het nu gaat om formele correspondentie, beknopte adviezen of update-mails, deze prompt helpt bij het genereren van e-mails die qua toon en stijl naadloos passen bij jouw stijl en tevens afgestemd zijn op de ontvanger. Op deze manier kun je AI effectief inzetten als assistent in je dagelijkse werk, zonder concessies te doen aan professionaliteit en consistentie.
Harvey haalt $300 miljoen op. Waardering: $3 miljard
Na weken van speculatie heeft Harvey officieel aangekondigd dat het $300 miljoen heeft opgehaald in een Series D-financieringsronde – een van de grootste investeringen ooit in de legal tech-sector. Het bedrijf stelt nu een waardering te hebben van $3 miljard.
Europese Commissie trekt de AI Liability Directive in
Op 11 februari kondigde de Europese Commissie (EC) aan dat de voorgestelde AI-aansprakelijkheidsrichtlijn (AI Liability Directive, AILD) niet wordt doorgevoerd. Dit besluit staat vermeld in het werkprogramma voor 2025 en past binnen de bredere strategie van de EC om regelgeving te vereenvoudigen onder het motto: "Samen vooruit: een brutalere, eenvoudigere, snellere Unie." Toch betekent het schrappen van de AILD dat er een belangrijke lacune blijft in de regelgeving rondom schadevergoeding bij het gebruik van AI-systemen. In dit artikel gaan we in op wat de AILD inhield, waarom deze is ingetrokken, wat de gevolgen zijn en welke stappen mogelijk nog worden genomen.
Richtlijnen Europese Commissie over verboden praktijken onder AI Act
De Europese Commissie heeft richtlijnen gepubliceerd over verboden kunstmatige intelligentie (AI)-praktijken, zoals gedefinieerd in artikel 5 van de AI Act. Deze richtlijnen bieden een overzicht van AI-praktijken die als onaanvaardbaar worden beschouwd vanwege de potentiële risico’s voor Europese waarden en fundamentele rechten. Het gaat in totaal om 140 pagina’s.
EU AI-bureau lanceert “levend archief” met voorbeelden van AI-geletterdheidspraktijken
Artikel 4 van de AI-verordening vereist dat aanbieders en gebruikers van AI-systemen zorgen voor een voldoende niveau van AI-geletterdheid bij hun personeel en iedereen die de systemen namens hen gebruikt. Het EU AI Office heeft enkele bestaande praktijken verzameld met als doel een “levend archief” te creëren dat voorbeelden biedt van bestaande AI-geletterdheidspraktijken.
Autoriteit Persoonsgegevens: maak van AI-geletterdheid prioriteit
Organisaties die AI-systemen ontwikkelen of gebruiken, moeten vanaf 2 februari 2025 zorgen dat hun werknemers 'AI-geletterd' zijn. De Autoriteit Persoonsgegevens adviseert organisaties om van AI-geletterdheid een prioriteit te maken en dit strategisch aan te pakken, bijvoorbeeld met behulp van een meerjarig actieplan voor het opbouwen van een volwassen niveau van AI-geletterdheid.
EU lanceert InvestAI om €200 miljard aan investeringen in AI te mobiliseren
Op 10 februari heeft Commissievoorzitter Ursula von der Leyen op de Artificial Intelligence (AI) Action Summit in Parijs het InvestAI-initiatief gelanceerd, bedoeld om €200 miljard aan investeringen in AI te mobiliseren. Dit omvat een nieuw Europees fonds van €20 miljard voor AI-gigafabrieken. Deze grootschalige AI-infrastructuur is nodig om de open, gezamenlijke ontwikkeling van de meest complexe AI-modellen mogelijk te maken en Europa tot een AI-continent te maken.
Weeg gebruik van AI in de rechtszaal op een goudschaaltje
In juli 2024 werd het expliciete gebruik van ChatGPT door een kantonrechter voornamelijk met argwaan ontvangen. De kantonrechter bediende zich van dit artificial-intelligence-systeem (AI-systeem) zonder transparant en controleerbaar te laten zien hoe het was gebruikt en ogenschijnlijk zonder te reflecteren op de potentiële risico’s. In dit redactioneel bespreken wij enkele kansen en problemen bij het gebruik van AI in de rechtspraak, met een aanbeveling ten aanzien van verantwoorde implementatie van AI in het rechtsstelsel.
OpenAI biedt nu mogelijkheid om data op te slaan in Europa
Voor veel organisaties is essentieel dat hun data de EU niet verlaat. OpenAI speelt hierop in door nu zogenaamde dataresidentie in Europa aan te bieden. Wat houdt dit precies in en wat betekent het voor jouw organisatie?
Eerste zaak onder de AI Act voor TikTok en X wegens verboden AI-praktijken en manipulatie
De Stichting Onderzoek Marktinformatie (SOMI), een Nederlandse non-profitorganisatie die zich inzet voor de bescherming van fundamentele rechten van consumenten en minderjarigen, heeft een collectieve rechtszaak aangespannen in Duitsland tegen TikTok en X. SOMI voert collectieve procedures en eist schadevergoeding op basis van de EU Collective Redress Directive 2020/1828.
European Criminal Bar Association reageert op AI Act richtlijnen
De European Criminal Bar Association (ECBA) heeft op uitnodiging van de Europese Commissie gereageerd op de richtlijnen van de Commissie betreffende de toepassing van de definitie van een AI-systeem en de verboden AI-praktijken zoals vastgesteld in de AI-Verordening (Verordening (EU) 2024/1689).
Europese Commissie publiceert richtlijnen voor definitie van AI Systeem
De Europese Commissie heeft richtlijnen gepubliceerd voor de definitie van AI-systeem uit de AI Act (AIA). De AIA is niet altijd duidelijk. Door richtsnoeren uit te geven over de definitie van AI-systemen, wil de Commissie aanbieders en andere relevante partijen helpen bij het bepalen of een softwaresysteem als een AI-systeem kan worden beschouwd, om zo een effectieve toepassing van de regels te vergemakkelijken.
Legal Prompt van de week: Prompten met DeepSeek
In onze eerdere blog heb je kunnen lezen hoe DeepSeek de AI-wereld op zijn grondvesten heeft doen schudden. Maar wat als je het model zelf wilt gebruiken? En meer in het bijzonder, als je dat zou willen doen zonder je data te delen met servers in China of Amerika? Deze week laten we zien hoe dat kan.
Nieuw model ChatGPT o3-mini: wanneer te gebruiken?
Op 31 januari heeft OpenAI weer een nieuw model van ChatGPT beschikbaar gesteld: ChatGPT o3-mini. OpenAI heeft o3-mini beschikbaar gemaakt voor zowel betaalde als gratis gebruikers van ChatGPT. Het vorige redeneermodel o1-mini zat nog achter een betaalmuur. O3-mini moet 24 procent sneller zijn dan o1-mini en nauwkeurigere antwoorden geven.
AI-geletterdheid: AP geeft richting
Een van de verplichtingen onder de AI Act is dat werknemers moeten worden opgeleid over wat AI voor hen betekent. Maar wat houdt dat precies in? De wet zelf geeft hier geen gedetailleerde invulling aan, alleen dat het afhankelijk is van de context. Gelukkig biedt de AP nu iets meer duiding, aansluitend op de considerans van de AI Act.
Eerste bepalingen uit AI Act zijn van kracht: wat betekent dit?
Op 2 februari 2025 zijn de eerste bepalingen van de EU AI Act in werking getreden. Dit markeert een belangrijke stap in de regulering van kunstmatige intelligentie binnen Europa. Twee essentiële aspecten springen eruit: AI geletterdheid (AI literacy) en het verbod op bepaalde AI-toepassingen. Voor organisaties betekent dit dat ze direct actie moeten ondernemen om te voldoen aan de nieuwe regelgeving. In onze blog bespreken we de gevolgen van deze bepalingen en waarom ze van belang zijn.
Transparantie over gebruik van taalmodellen
Soms leveren medewerkers, collega’s of studenten werk in waarvan je vermoedt dat het door ChatGPT is gemaakt, terwijl ze naar eigen zeggen dagen hebben gezwoegd op de tekst. Andersom komt ook voor: een tekst die wél grotendeels door generatieve AI is geproduceerd, maar als eigen handwerk wordt gepresenteerd. Het gebruik van generatieve AI is op zichzelf niet problematisch. Het wordt echter een probleem wanneer onduidelijk blijft in welke mate en op welke manier AI is ingezet. Om die reden is het goed om transparant te zijn over de mate waarin AI is gebruikt bij het genereren van documenten.
AP: pas op met gebruik DeepSeek
De Autoriteit Persoonsgegevens (AP) waarschuwt gebruikers van de app DeepSeek om heel voorzichtig en terughoudend met deze nieuwe chatbot om te gaan. “Mensen doen er verstandig aan om zichzelf de vraag te stellen of zij wel echt persoonlijke en andere gevoelige gegevens in deze app willen invoeren, aldus de AP. Als mensen persoonlijke informatie van anderen in de chatbot invoeren, is de vraag of dat überhaupt wel mag”, aldus de AP.