EDPB en EDPS waarschuwen: vereenvoudiging AI-regels mag niet ten koste gaan van grondrechten

De European Data Protection Board (EDPB) en de European Data Protection Supervisor (EDPS) hebben een gezamenlijke opinie gepubliceerd over het voorstel van de Europese Commissie om de uitvoering van de AI-verordening te vereenvoudigen. Dit voorstel wordt ook wel de ‘Digital Omnibus on AI’ genoemd.

De EDPB en EDPS steunen het doel om regels werkbaar te maken voor organisaties en innovatie te stimuleren. Tegelijkertijd benadrukken zij dat vereenvoudiging niet mag leiden tot minder bescherming van fundamentele rechten, zoals het recht op privacy en gegevensbescherming.

Belangrijkste punten uit de opinie

Gebruik van gevoelige persoonsgegevens

Het voorstel verruimt het gebruik van bijzondere persoonsgegevens over bijvoorbeeld etniciteit of gezondheid voor het opsporen en corrigeren van discriminatie in AI-systemen (‘bias detection’ en ‘bias correction’).

De EDPB en EDPS vinden dat dit alleen mag in strikt afgebakende situaties, wanneer de risico’s van discriminatie ernstig zijn en er passende waarborgen gelden.

Registratie van AI met een hoog risico

Het schrappen van de registratieplicht voor AI-systemen die aanbieders zelf niet aanmerken als systemen met een hoog risico, vinden de EDPB en EDPS onwenselijk. Dit ondermijnt transparantie en toezicht en kan misbruik in de hand werken.

Rol van Europese en nationale toezichthouders

De rol van de AI Office (Europese Commissie) als toezichthouder moet duidelijk worden afgebakend. Nationale toezichthouders moeten voldoende ruimte houden om op te kunnen treden en hun bevoegdheden moeten goed aansluiten op die van de AI Office. 

Samenwerking tussen toezichthouders

Efficiëntere samenwerking tussen toezichthouders is welkom, maar procedures daarvoor moeten duidelijker worden gemaakt en centrale contactpunten mogen niet leiden tot verlies van bevoegdheden of onafhankelijkheid van nationale privacytoezichthouders.

AI-geletterdheid

Overheden kunnen AI-kennis stimuleren, maar organisaties die AI ontwikkelen of gebruiken blijven zelf verantwoordelijk voor voldoende kennis en zorgvuldigheid binnen hun organisatie.

Uitstel van verplichtingen

De EDPB en EDPS uiten zorgen over het uitstellen van kernverplichtingen voor AI-systemen met een hoog risico. Zij pleiten ervoor om deze verplichtingen zo veel mogelijk volgens de oorspronkelijke planning te laten ingaan.