AI-markttoezicht bij de AP krijgt vorm met FRIA-pilots, sandbox en eigen tests

De Autoriteit Persoonsgegevens (AP) bouwt het toezicht op de AI-verordening concreet op. Op 8 oktober 2026 startte de nieuwe directie Toezicht en Coördinatie AI/Algoritmes (TCA), die het coördinerende algoritmetoezicht van de AP sinds 2023 combineert met de voorbereiding op het AI-markttoezicht. De AP gebruikt deze fase actief: met een FRIA-pilot, de inrichting van de AI-sandbox samen met de RDI en het testen van AI-systemen geeft zij nu al invulling aan de normen uit de verordening. De formele bevoegdheden voor het markttoezicht volgen volgens de AP zodra de Nederlandse Uitvoeringswet AI-verordening in werking treedt. Bij TIL zien we deze voorbereidingsfase als het moment waarop de toezichthouder laat zien hoe hij de verordening uitlegt. Organisaties die die uitleg nu al volgen, staan sterker wanneer het toezicht formeel start.

Hoe de AP het AI-toezicht organiseert

TCA bestaat uit twee afdelingen. De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) zet het bestaande werk voort: risico's signaleren, onderzoek doen, het algoritmeregister als basis voor stelseltoezicht gebruiken en toezichthouders bij elkaar brengen. Binnenlands Bestuur noemt daarbij de beoordeling van risicoselectie-instrumenten op discriminatie en nauwkeurigheid als aandachtspunt van deze afdeling.

De afdeling Markttoezicht AI (MTA) bereidt het toezicht op de AI-verordening zelf voor. In de consultatieversie van de uitvoeringswet wordt de AP toezichthouder voor de toezichtgebieden waar nog geen duidelijke sectorale toezichthouder bestaat. Concreet gaat het om verboden AI-praktijken, de transparantieplichten en het grootste deel van de hoog-risicotoepassingen uit bijlage III, zoals werving en selectie, onderwijs, toegang tot essentiële diensten en biometrie. De AP en de Rijksinspectie Digitale Infrastructuur (RDI) coördineren samen het hele stelsel, onder meer via een gezamenlijk AI Coördinatiecentrum. In haar toelichting op TCA benadrukt de AP dat dit nieuwe toezicht zelfstandig en nevengeschikt naast het AVG-toezicht wordt ingericht.

Uitvoeringswet AI-verordening schuift op naar 2027

De uitvoeringswet lag van 20 april tot en met 1 juni 2026 in internetconsultatie. In de planningsbrief Digitale Zaken van 31 augustus 2026 staat de Uitvoeringswet AI-verordening gepland voor het tweede kwartaal van 2027. Volgens AIComplianceHub ging de planning in januari nog uit van het vierde kwartaal van 2026.

Dat kwartaal is de planning voor indiening bij de Tweede Kamer. Daarna volgen de behandeling in beide Kamers en de inwerkingtreding. Wij verwachten daarom dat de AP haar formele aanwijzing en bevoegdheden op zijn vroegst eind 2027 krijgt, en mogelijk later.

Dat is precies het moment waarop de zwaarste verplichtingen ingaan. Met de Digitale Omnibus, die op 27 juli 2026 in werking trad, gelden de regels voor hoog-risico-AI uit bijlage III vanaf 2 december 2027 en voor hoog-risico-AI in producten vanaf 2 augustus 2028. Het is goed mogelijk dat organisaties op 2 december 2027 aan de hoog-risicoregels moeten voldoen terwijl er nog geen Nederlandse toezichthouder formeel is aangewezen.

Wat de AI-verordening nu al vraagt

De AI-verordening werkt rechtstreeks. Een aantal AI-praktijken is sinds 2 februari 2025 verboden, en sinds die datum moeten organisaties ook zorgen voor AI-geletterdheid van medewerkers (artikel 4). Op 2 augustus 2026 begon een volgende fase met de transparantieverplichtingen van artikel 50: een chatbot moet zich als chatbot kenbaar maken en door AI gegenereerde inhoud zoals deepfakes moet herkenbaar zijn.

Het Nederlandse handhavingsinstrumentarium komt er met de uitvoeringswet. Die verplichtingen zijn intussen ook om andere redenen relevant. De AP houdt haar AVG-bevoegdheden, en veel AI-toepassingen verwerken persoonsgegevens. Verder kan een overtreding van een rechtstreeks werkende norm een rol spelen in een civiele procedure. En wat de AP nu in handreikingen opschrijft, wordt straks de maatstaf waaraan zij toetst.

FRIA-pilot, sandbox en tests als toezicht vóór de wet

Dat laatste maakt de initiatieven van de afdeling Markttoezicht relevant. De AP noemt voorlichting in haar toelichting op TCA een zelfstandig toezichtsinstrument, en daar zit de kern van haar strategie in deze fase.

De FRIA-pilot startte in oktober 2026 met ongeveer tien organisaties en loopt tot half december, met een slotbijeenkomst in februari. De deelnemers werken met het concept-rapportagetemplate voor de grondrechteneffectbeoordeling uit artikel 27. Wij schreven eerder dat de AP de FRIA strenger leest dan de tekst van artikel 27, onder meer door rapportage bij elke wijziging te verlangen. De pilot is de plek waar die lezing praktijk wordt.

Voor de AI-sandbox richt de AP samen met de RDI het loket en de triage in. Ontwikkelaars kunnen daar vooraf duidelijkheid krijgen over wat de verordening van hen vraagt. Juridisch is er minder haast dan het lijkt: de Omnibus verlengde de termijn voor nationale testomgevingen tot 2 december 2027. Daarnaast test de AP AI-systemen en modellen op kwetsbaarheden, robuustheid en veiligheid. Dat bouwt de technische kennis op die zij later nodig heeft om documentatie en logs van aanbieders te beoordelen.

Wat organisaties nu al kunnen vastleggen

Breng in kaart welke AI-toepassingen in je organisatie onder een verbod, onder artikel 50 of onder bijlage III vallen. Voor de meeste juridische afdelingen en kantoren gaat het vooral om AI-geletterdheid en transparantie, zoals een chatbot op de website of AI-gegenereerde teksten die naar buiten gaan.

Behandel handreikingen van de AP als de maatstaf voor later toezicht. Wijkt je organisatie bewust af van een AP-lezing, leg dan vast waarom. Dat geldt nu het duidelijkst voor de FRIA: overheden en private aanbieders van publieke diensten kunnen de FRIA al naast hun bestaande DPIA opbouwen en de uitkomsten van de pilot meenemen zodra die in februari bekend worden.

Kijk ook naar je leverancierscontracten. De AP wil straks documentatie en logs kunnen opvragen. Leg daarom vast dat een leverancier van een AI-systeem technische documentatie en logs aanlevert en meewerkt aan vragen van een toezichthouder.

Voor de advocatuur ligt er een eigen vraag. De NOvA wijst er in haar consultatiereactie op dat AI-gebruik door advocaten niet onder bijlage III valt en dat uit het wetsvoorstel impliciet volgt dat de AP toezicht zal houden op AI-gebruik door advocaten. De NOvA vraagt om afstemming met de lokale deken en het college van toezicht. Hoe die verhouding uitpakt, is nog open en hangt af van de definitieve uitvoeringswet.