AI-accountability bij de politie is een doorlopend proces: de organisatie moet van ontwerp of inkoop tot uitfasering kunnen aantonen dat een AI-systeem rechtmatig, uitlegbaar en controleerbaar wordt ingezet, en dat er iemand aanspreekbaar is als het misgaat. Dat is de kern van Accountability for Artificial Intelligence in Policing and Security, een nieuwe open-access bundel van Springer onder redactie van Babak Akhgar en Petra Saskia Bayerl van onderzoekscentrum CENTRIC aan Sheffield Hallam University. De auteurs vertalen verantwoording in twaalf principes, acht thema's en een vragenlijst die per systeem met ja of nee te beantwoorden is. Achterin staat een complete implementatiehandleiding met een zelftoets.
Bij TIL lezen we het boek breder dan als politieboek. Het laat zien op welke punten verantwoord AI-gebruik in de praktijk vastloopt, en een groot deel van die punten ligt op het terrein van juristen: inkoopcontracten, bewijs en toezicht.
Twaalf principes en een levenscyclus in zes fasen
Het raamwerk komt uit het Europese project AP4AI. Volgens het hoofdstuk van Bayerl en Akhgar zijn de principes ontwikkeld in consultaties met ruim honderd deskundigen uit 28 landen, uit opsporing, rechtspraak, ethiek, industrie en maatschappelijke organisaties, en daarna getoetst bij ruim 6.500 burgers in 30 landen. In het Britse vervolgproject AIPAS zijn ze opnieuw gevalideerd voor onder meer forensisch onderzoek, terrorismebestrijding en georganiseerde criminaliteit.
De principes zijn praktischer dan de gebruikelijke ethische lijstjes. Het principe "proof" vraagt dat het bewijs voor verantwoording dezelfde maatstaf haalt als operationeel bewijs: integer, geloofwaardig en met een sluitende keten. "Compellability" houdt in dat een toezichthouder informatie moet kunnen afdwingen. "Enforceability and redress" vraagt om klachtroutes en herstel, ook via contractuele afspraken.
Daarnaast hanteren de auteurs een levenscyclus in zes fasen: eigen ontwerp, inkoop, operationeel gebruik, aanpassing, migratie naar een ander systeem en uitfasering. Die laatste fasen krijgen in de praktijk weinig aandacht, terwijl een systeem data, beslissingen en gevolgen achterlaat die blijven bestaan nadat het is uitgezet. De auteurs noemen als voorbeeld de Harm Assessment Risk Tool van de politie in Durham, die het risico op recidive van verdachten stelselmatig te hoog inschatte. Wie later wil nagaan welke beslissingen op zo'n systeem steunden, heeft logbestanden en documentatie nodig die na uitfasering nog bestaan.
De AI-verordening is een ondergrens voor opsporingssystemen
Het hoofdstuk van Marco Gercke behandelt de AI-verordening als juridisch kader voor de opsporing, en is voor Nederlandse lezers het nuttigste hoofdstuk. Hij laat zien dat artikel 5, eerste lid, onder d, voorspellend politiewerk verbiedt dat het risico op strafbaar gedrag van een individu inschat op basis van profilering alleen. Systemen die locaties met een verhoogde kans op criminaliteit aanwijzen, vallen daar buiten. Realtime biometrische identificatie op afstand in openbare ruimten is verboden, met vier smalle uitzonderingen waarvoor vooraf toestemming van een rechter of onafhankelijke autoriteit nodig is. Gercke wijst op een gat: online omgevingen vallen buiten het begrip openbare ruimte, zodat gezichtsherkenning op een livestream niet onder dit verbod valt, wel mogelijk onder het hoogrisicoregime.
Zijn belangrijkste punt gaat verder dan de verordening. Naleving van de AI-verordening maakt een toepassing nog niet rechtmatig. Hij verwijst naar de Britse Bridges-zaak, waarin het gebruik van gezichtsherkenning door de politie in Zuid-Wales onrechtmatig werd geoordeeld op grond van bestaand gegevensbeschermings- en gelijkebehandelingsrecht. Daarbij kent de AI-verordening burgers zelf nauwelijks rechten toe. De toets loopt dus ook via het EVRM, het Handvest, de richtlijn gegevensbescherming opsporing en het nationale strafprocesrecht.
Op één punt loopt het boek achter. Het hoofdstuk gaat ervan uit dat het Omnibus-akkoord over uitstel van de hoogrisicoregels nog formeel moest worden aangenomen. Inmiddels is de AI Omnibus op 27 juli 2026 in werking getreden en gelden de verplichtingen voor hoogrisicosystemen uit bijlage III, waaronder die voor rechtshandhaving, vanaf 2 december 2027, aldus White & Case.
Burgers steunen AI bij de politie zolang een mens beslist
Het hoofdstuk over maatschappelijke verwachtingen bespreekt een Britse consultatie onder 10.114 deelnemers uit voorjaar 2025. Van hen steunde 61,3 procent het gebruik van AI door de politie en was 19,1 procent tegen. Het vertrouwen daalt sterk zodra AI zelfstandig beslissingen neemt. Deelnemers vrezen vooral dat de politie bij fouten de schuld bij het systeem legt, en verwachten onafhankelijk toezicht, ook bij toepassingen die ze wel steunen. De cijfers gaan over het Verenigd Koninkrijk. Of Nederlanders er hetzelfde over denken, onderzoekt het boek niet.
De inkoopfase is de zwakke plek
Onze lezing van het boek: de verantwoording van AI bij de politie wordt grotendeels bepaald op het moment dat het systeem wordt ingekocht. Een groot deel van de systemen komt van externe leveranciers. Daarmee liggen keuzes over trainingsdata en algoritmen buiten de politieorganisatie, terwijl de politie wel verantwoordelijk blijft voor het gebruik. Het hoofdstuk van Spencer en Bayerl noemt wat al bij de inkoop geregeld moet zijn: toetsing van de leverancier op transparantie, beveiliging, updates, auditrechten en exitregelingen, en afspraken over archivering, verwijdering, data die bij de leverancier blijft en het bewaren van bewijs na uitfasering.
Daar worden de principes afdwingbaar of blijven ze papier. Een toezichthouder die informatie wil afdwingen, heeft weinig aan dat recht als de politie zelf geen toegang heeft tot de logbestanden van de leverancier. Een verdachte die wil weten hoe een systeem tot een treffer kwam, heeft weinig aan het principe van uitlegbaarheid als het contract daar niets over zegt.
Aandachtspunten voor juristen in en rond de opsporing
Voor juristen die AI-contracten voor politie, OM of gemeenten opstellen of beoordelen, is de checklist uit hoofdstuk 7 direct bruikbaar. Leg auditrechten en toegang tot logbestanden vast, net als informatieplichten van de leverancier over trainingsdata en bekende fouten. Regel vooraf wat er bij migratie of beëindiging met data en logbestanden gebeurt, en wie ze bewaart zolang ze als bewijs nodig kunnen zijn.
Voor strafrechtadvocaten biedt het principe "proof" een bruikbare maatstaf. Speelt AI-output een rol in een dossier, dan is de vraag gerechtvaardigd welke versie van het systeem is gebruikt, hoe het is gevalideerd en of de gebruikte logbestanden beschikbaar zijn. Het boek levert de argumentatie dat verantwoording van AI dezelfde bewijsstandaard verdient als het onderzoek zelf.
Voor juristen bij overheid en toezicht is de Nederlandse inrichting van het toezicht relevant. Het kabinet bracht op 20 april 2026 het wetsvoorstel voor de uitvoering van de AI-verordening in consultatie, waarin bestaande toezichthouders AI in hun eigen domein volgen en de Autoriteit Persoonsgegevens toezicht houdt waar geen duidelijke toezichthouder is. Dat het Nederlandse instrumentarium voor verantwoording nog beperkt werkt, bespraken we eerder in onze blog over het Algoritmekader en het Algoritmeregister.
De zelftoets uit de handleiding is ook buiten de opsporing te gebruiken. De acht thema's (het systeem, data, wet- en regelgeving, risicobeheer, toezicht en herstel, betrokkenen, bewijs van verantwoording, leren) passen op elke organisatie die AI inzet bij beslissingen over mensen.