Toezicht op AI in de Rechtspraak: een eerste stap met scherpe randen

Wanneer een rechter zich laat ondersteunen door AI, wat valt daar dan onder de Europese regels te zeggen? En belangrijker: wie kijkt daar straks op toe? Het antwoord wordt nu zichtbaar in de Uitvoeringswet AI-verordening die staatssecretaris Aerdts in april 2026 in consultatie heeft gebracht. Voor juristen die werken aan zaken waarin AI een rol speelt, of die straks AI tegenkomen in een vonnis, is het de moeite waard om scherp te krijgen wat hier gebeurt.

De grammaticale knoop in Bijlage III

De AI Act bestempelt AI als hoogrisico zodra die wordt ingezet om feiten of recht te onderzoeken en uit te leggen, en het recht toe te passen op concrete situaties. Klinkt helder, maar de Nederlandse formulering is taalkundig dubbelzinnig. Gaat het om een cumulatieve eis (alleen hoogrisico als beide elementen aanwezig zijn) of om twee zelfstandige categorieën (elk afzonderlijk al voldoende)?

In The Annotated AI Act bespreek ik dit punt uitvoerig. Mijn lijn is dat de tweede uitleg de juiste is. De eerste maakt de categorie zo smal dat hij praktisch leeg loopt. Een tool die enkel jurisprudentie samenvat of feitenpatronen herkent zou er dan buiten vallen, terwijl precies dat soort hulp het verloop van een procedure mede bepaalt. Wie bepaalt welke uitspraken relevant zijn voor de zaak, stuurt de uitkomst.

Onafhankelijke rechtspraak vraagt een eigen toezichthouder

Een hoogrisicokwalificatie roept meteen de volgende vraag op: wie controleert? Voor de meeste sectoren wijst de uitvoeringswet de Autoriteit Persoonsgegevens en negen andere autoriteiten aan. Maar voor de rechterlijke macht zou dat staatsrechtelijk wringen. Een bestuursrechtelijk orgaan dat de rechter corrigeert, verhoudt zich slecht tot het beginsel van rechterlijke onafhankelijkheid.

Het kabinet kiest daarom voor een interne oplossing. De procureur-generaal bij de Hoge Raad krijgt de toezichthoudende rol voor AI binnen de civiele en strafrechtspraak. Voor het bestuursrecht komt die taak bij de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State te liggen. Beide posities zijn onafhankelijk en juridisch zwaar genoeg om zonder gezichtsverlies binnen de eigen kolom te interveniëren. Dit staat opgenomen in de aankondiging van de staatssecretaris en wordt verder uitgelegd in de toezichtarchitectuur die het kabinet schetst.

Een nieuw verzoekrecht, met een vreemde knik

Voor burgers en organisaties opent dit toezichtregime een concrete mogelijkheid: bij vermoede schending van de AI Act kun je deze toezichthouders verzoeken een onderzoek in te stellen. Niet om over de uitkomst van je zaak te klagen, want daar is hoger beroep voor. Wel om aan te kaarten dat de organisatie achter de rechter zich niet aan de verordening houdt.

Dat onderscheid tussen inhoud en proces blijkt in de praktijk dunner dan de wetgever doet voorkomen. Stel: je hebt een uitspraak waaruit blijkt dat AI is gebruikt zonder de waarborgen die de verordening voorschrijft. Tegen de uitspraak zelf moet je via beroep, dat is helder. Maar datzelfde document fungeert dan als bewijsstuk voor structureel niet-naleven door de rechterlijke organisatie, en dáár mag de toezichthouder wél van wakker liggen. Een ongemakkelijke spagaat dus, waarin je via de hoofdroute geen voet aan de grond krijgt maar via de achterdeur het systeem alsnog kunt aanspreken.

Wat dit betekent voor jouw praktijk

Drempelloos is dit nieuwe regime niet. Het verzoek moet concreet onderbouwd zijn, gericht op een specifieke normschending uit de AI Act, en het mag de rechterlijke beslissing zelf niet aanvallen. De toezichthouders krijgen er bovendien een aanzienlijke taak bij zonder dat de financiële kaders al rond zijn. Het wetsvoorstel ligt nog in consultatie, dus er is ruimte om mee te schrijven.

Wat juristen nu al kunnen doen: AI-gebruik in dossiers actief in kaart brengen, vragen stellen aan wederpartij en rechter wanneer er aanwijzingen zijn, en intern documenteren hoe je eigen kantoor of juridische team met AI omgaat. Wie de procedureregels van de AI Act kent voordat de toezichthouders aantreden, zit in een andere positie dan wie achteraf moet reconstrueren.

Wil je sparren over wat dit toezichtregime concreet betekent voor jouw kantoor of juridische team? Plan een gesprek en we kijken samen waar de risico's en kansen liggen.