Actualiteiten
Definitie AI-systeem: wat is een AI-systeem onder de AI-verordening?
De definitie van het begrip AI-systeem is cruciaal voor de toepasbaarheid van de AI-verordening. Of een proces of een toepassing, zoals een algoritme, wel of niet kwalificeert als AI-systeem, bepaalt of die processen of toepassingen onder de AI-verordening vallen. De definitie in de AI-verordening sluit aan bij het werk van met name de OECD.
Wat is het AI Pact?
De AI-verordening is op 1 augustus 2024 in werking getreden. Sommige bepalingen van de AI-verordening zijn al volledig van toepassing. Echter, bepaalde vereisten met betrekking tot hoog-risico AI-systemen en andere bepalingen zullen pas van kracht worden na afloop van een overgangsperiode (d.w.z. de periode tussen de inwerkingtreding en de datum van toepasselijkheid). In dit kader promoot de Europese Commissie het AI Pact, om belanghebbenden te helpen zich voor te bereiden op de implementatie van de AI-verordening. Het AI Pact is gestructureerd rond twee pijlers.
Europese Commissie trekt de AI Liability Directive in
Op 11 februari kondigde de Europese Commissie (EC) aan dat de voorgestelde AI-aansprakelijkheidsrichtlijn (AI Liability Directive, AILD) niet wordt doorgevoerd. Dit besluit staat vermeld in het werkprogramma voor 2025 en past binnen de bredere strategie van de EC om regelgeving te vereenvoudigen onder het motto: "Samen vooruit: een brutalere, eenvoudigere, snellere Unie." Toch betekent het schrappen van de AILD dat er een belangrijke lacune blijft in de regelgeving rondom schadevergoeding bij het gebruik van AI-systemen. In dit artikel gaan we in op wat de AILD inhield, waarom deze is ingetrokken, wat de gevolgen zijn en welke stappen mogelijk nog worden genomen.
Richtlijnen Europese Commissie over verboden praktijken onder AI Act
De Europese Commissie heeft richtlijnen gepubliceerd over verboden kunstmatige intelligentie (AI)-praktijken, zoals gedefinieerd in artikel 5 van de AI Act. Deze richtlijnen bieden een overzicht van AI-praktijken die als onaanvaardbaar worden beschouwd vanwege de potentiële risico’s voor Europese waarden en fundamentele rechten. Het gaat in totaal om 140 pagina’s.
EU AI-bureau lanceert “levend archief” met voorbeelden van AI-geletterdheidspraktijken
Artikel 4 van de AI-verordening vereist dat aanbieders en gebruikers van AI-systemen zorgen voor een voldoende niveau van AI-geletterdheid bij hun personeel en iedereen die de systemen namens hen gebruikt. Het EU AI Office heeft enkele bestaande praktijken verzameld met als doel een “levend archief” te creëren dat voorbeelden biedt van bestaande AI-geletterdheidspraktijken.
Autoriteit Persoonsgegevens: maak van AI-geletterdheid prioriteit
Organisaties die AI-systemen ontwikkelen of gebruiken, moeten vanaf 2 februari 2025 zorgen dat hun werknemers 'AI-geletterd' zijn. De Autoriteit Persoonsgegevens adviseert organisaties om van AI-geletterdheid een prioriteit te maken en dit strategisch aan te pakken, bijvoorbeeld met behulp van een meerjarig actieplan voor het opbouwen van een volwassen niveau van AI-geletterdheid.
Eerste zaak onder de AI Act voor TikTok en X wegens verboden AI-praktijken en manipulatie
De Stichting Onderzoek Marktinformatie (SOMI), een Nederlandse non-profitorganisatie die zich inzet voor de bescherming van fundamentele rechten van consumenten en minderjarigen, heeft een collectieve rechtszaak aangespannen in Duitsland tegen TikTok en X. SOMI voert collectieve procedures en eist schadevergoeding op basis van de EU Collective Redress Directive 2020/1828.
European Criminal Bar Association reageert op AI Act richtlijnen
De European Criminal Bar Association (ECBA) heeft op uitnodiging van de Europese Commissie gereageerd op de richtlijnen van de Commissie betreffende de toepassing van de definitie van een AI-systeem en de verboden AI-praktijken zoals vastgesteld in de AI-Verordening (Verordening (EU) 2024/1689).
Europese Commissie publiceert richtlijnen voor definitie van AI Systeem
De Europese Commissie heeft richtlijnen gepubliceerd voor de definitie van AI-systeem uit de AI Act (AIA). De AIA is niet altijd duidelijk. Door richtsnoeren uit te geven over de definitie van AI-systemen, wil de Commissie aanbieders en andere relevante partijen helpen bij het bepalen of een softwaresysteem als een AI-systeem kan worden beschouwd, om zo een effectieve toepassing van de regels te vergemakkelijken.
AI-geletterdheid: AP geeft richting
Een van de verplichtingen onder de AI Act is dat werknemers moeten worden opgeleid over wat AI voor hen betekent. Maar wat houdt dat precies in? De wet zelf geeft hier geen gedetailleerde invulling aan, alleen dat het afhankelijk is van de context. Gelukkig biedt de AP nu iets meer duiding, aansluitend op de considerans van de AI Act.
Eerste bepalingen uit AI Act zijn van kracht: wat betekent dit?
Op 2 februari 2025 zijn de eerste bepalingen van de EU AI Act in werking getreden. Dit markeert een belangrijke stap in de regulering van kunstmatige intelligentie binnen Europa. Twee essentiële aspecten springen eruit: AI geletterdheid (AI literacy) en het verbod op bepaalde AI-toepassingen. Voor organisaties betekent dit dat ze direct actie moeten ondernemen om te voldoen aan de nieuwe regelgeving. In onze blog bespreken we de gevolgen van deze bepalingen en waarom ze van belang zijn.
AI-geletterdheid: juridische verplichting én praktische uitdaging
Volgens de AI Act moeten organisaties die AI ontwikkelen of gebruiken hun medewerkers voldoende ‘AI-geletterd’ maken. Maar wat betekent dat precies? Het komt erop neer dat iedereen die verantwoordelijk is voor of werkt met AI-systemen over de kennis en vaardigheden beschikt om AI bewust en verantwoord in te zetten. Dit houdt in dat men zich niet alleen bewust is van de voordelen en kansen, maar ook van de risico’s en mogelijke schade die AI kan veroorzaken.
AP doet oproep tot input op manipulatieve, misleidende en uitbuitende AI-systemen
Als coördinerend toezichthouder op algoritmes en AI is de AP van start gegaan met de voorbereiding van toezicht op verboden AI-toepassingen. Deze verboden zijn al per 2 februari 2025 van toepassing. Bedrijfsleven, overheden, belangengroeperingen en het brede publiek worden opgeroepen input te geven op verschillende verboden uit de AI-verordening. Met de opbrengst kan gewerkt worden aan de verdere uitleg van de verboden AI-systemen.
Het Europees Bureau voor artificiële intelligentie (AI-bureau)
Op 29 mei 2024 maakte de Europese Commissie bekend dat zij een AI-bureau heeft opgericht. Het AI-bureau heeft tot doel de toekomstige ontwikkeling, de uitrol en het gebruik van artificiële intelligentie (AI) mogelijk te maken op een manier die maatschappelijke en economische voordelen en innovatie bevordert en tegelijkertijd de risico’s van AI beperkt. Het AI-bureau zal een sleutelrol spelen bij de uitvoering van de AI-verordening en het positioneren van de EU als leider in internationale besprekingen.