Eerste bepalingen uit AI Act zijn van kracht: wat betekent dit?

Op 2 februari 2025 zijn de eerste bepalingen van de EU AI Act in werking getreden. Dit markeert een belangrijke stap in de regulering van kunstmatige intelligentie binnen Europa. Twee essentiële aspecten springen eruit: AI geletterdheid (AI literacy) en het verbod op bepaalde AI-toepassingen. Voor organisaties betekent dit dat ze direct actie moeten ondernemen om te voldoen aan de nieuwe regelgeving. In onze blog bespreken we de gevolgen van deze bepalingen en waarom ze van belang zijn.

AI Geletterdheid: verplichte training en bewustwording

Vanaf 2 februari zijn organisaties binnen de EU verplicht hun werknemers op te leiden in AI-geletterdheid (artikel 4). Dit betekent dat zij moeten begrijpen wat AI wel en niet kan, hoe het veilig kan worden toegepast en welke risico’s er zijn. Daarnaast is er aandacht voor de sociale, ethische en juridische aspecten van AI.

De Autoriteit Persoonsgegevens heeft een stappenplan gepubliceerd om organisaties hierbij te helpen. Deze maatregel onderstreept het belang van kennis en vaardigheden op het gebied van AI, vooral gezien de snelle opkomst van nieuwe technologieën.

Een goed voorbeeld hiervan is de snelle verspreiding en het gebruik van DeepSeek door werknemers. Dit heeft de noodzaak van AI-geletterdheid extra benadrukt, vooral omdat toezichthouders al snel handhavend optraden. Ondertussen rollen grote techbedrijven zoals Apple, Google en Microsoft stilletjes AI-toepassingen uit binnen hun bestaande systemen. Vaak is het uitschakelen van AI-functionaliteiten lastig gemaakt, waardoor gebruikers onbewust AI-tools blijven gebruiken.

Kortom, organisaties kunnen niet langer wachten: AI-geletterdheid is een vereiste geworden.

Verboden AI-toepassingen: per direct verboden

Met de inwerkingtreding van artikel 5 van de AI Act zijn diverse AI-toepassingen per direct verboden. Dit heeft grote gevolgen voor bedrijven en ontwikkelaars die dergelijke technologieën gebruiken of ontwikkelen. De verboden omvatten:

• Het scrapen van portretten van internet, zoals Clearview AI doet;

• Predictive policing, waarbij AI wordt ingezet om toekomstige criminaliteit te voorspellen (zie het onderzoek van Follow the Money over jongeren die onterecht als crimineel werden bestempeld);

• Subliminale technieken, waarbij AI mensen onbewust beïnvloedt;

• AI-systemen die kwetsbare groepen uitbuiten op basis van leeftijd, beperking of sociale/economische status (zoals Character.AI);

• Systemen voor social scoring, vergelijkbaar met het Chinese model;

• AI die emoties herkent op de werkvloer;

• Biometrische categorisatiesystemen die politieke opvattingen, vakbondslidmaatschap, religie, ras of seksuele geaardheid kunnen afleiden.

De handhaving van deze verboden zal grotendeels via de Algemene Verordening Gegevensbescherming (AVG) verlopen. Dit betekent dat toezichthouders zoals de Autoriteit Persoonsgegevens AI-gebruikers en ontwikkelaars kunnen controleren en sancties kunnen opleggen.

Bescherming tegen de gevaren van AI

De invoering van deze verboden is een belangrijke stap richting een veiligere en ethisch verantwoorde inzet van AI. De Europese wetgever laat hiermee zien dat zij burgers wil beschermen tegen de risico’s van ongecontroleerde AI-toepassingen. Hoewel AI enorme kansen biedt, mogen we de potentiële gevaren niet onderschatten.

De komende maanden zullen uitwijzen hoe organisaties en toezichthouders omgaan met deze nieuwe regelgeving. Eén ding is zeker: AI is niet langer een vrij speelveld, en bedrijven zullen hun strategieën moeten aanpassen om compliant te blijven.

Wat nu?

Voor organisaties is het essentieel om direct aan de slag te gaan met AI-geletterdheid en te controleren of hun AI-toepassingen in lijn zijn met de nieuwe wetgeving. De tijd van vrijblijvend experimenteren met AI is voorbij: kennis en naleving zijn nu cruciaal.