Wanneer AI en democratie botsen: de les van stemhulp Keus
De opkomst van generatieve AI roept fundamentele vragen op over de bescherming van democratische processen. Een recent voorbeeld onderstreept dit: de AI-stemhulp Keus is kort voor de gemeenteraadsverkiezingen van 18 maart 2025 offline gehaald na een golf van kritiek.
Wat ging er mis?
De AI-gestuurde kieswijzer Keus werd ontwikkeld door een IT-professional uit Heteren. De tool werd ruim 70.000 keer geraadpleegd in de aanloop naar de gemeenteraadsverkiezingen, maar bleek structureel onjuiste uitkomsten te genereren. Gebruikers kregen stellingen voorgeschoteld die helemaal niet speelden in hun gemeente, of ontvingen stemadvies voor partijen die lokaal niet eens meededen.
De fouten waren soms ronduit bizar: in sommige gemeenten presenteerde de tool D66 als samengevoegd met GroenLinks, terwijl elders de VVD werd getypeerd als een religieuze partij. Ondanks aanpassingen bleven dit soort onnauwkeurigheden opduiken, wat uiteindelijk leidde tot het besluit de stekker eruit te trekken.
De reactie van de VNG
De Vereniging van Nederlandse Gemeenten (VNG) had voorafgaand aan het offline halen al gewaarschuwd voor AI-gegenereerde stemhulpen. De koepelorganisatie spreekt van een risicovol experiment dat direct raakt aan de integriteit van het democratisch proces.
Het kernpunt van de VNG is helder: de verantwoordelijkheid voor fouten ligt niet bij de AI zelf, maar bij degene die de toepassing ontwikkelt en publiceert. Wie een AI-systeem lanceert zonder adequate controle, kan zich niet verschuilen achter de onvoorspelbaarheid van de technologie.
Kamervragen en toezichthoudersperspectief
De kwestie kreeg ook aandacht in de Tweede Kamer. Kamerlid Mirjam Bikker (ChristenUnie) stelde schriftelijke vragen aan minister Heerma van Binnenlandse Zaken over de aanpak van misleidende AI-stemhulpen en de mogelijkheden tot handhaving.
De Autoriteit Persoonsgegevens had eerder al gewaarschuwd voor het gebruik van chatbots als stemhulp. Uit onderzoek van Ipsos I&O blijkt dat bij de Tweede Kamerverkiezingen in oktober 2025 ongeveer 2 procent van de ondervraagde kiezers aangaf een AI-tool te hebben geraadpleegd voor stemadvies. Onder jongeren (18-24 jaar) lag dit percentage op 6 procent.
De juridische dimensie
Deze casus raakt aan meerdere juridische vraagstukken:
AI Act en hoog-risicosystemen - De Autoriteit Persoonsgegevens betoogt dat AI-systemen die stemadvies geven onder de strenge eisen voor hoog-risicosystemen uit de Europese AI-verordening zouden moeten vallen. Dit impliceert vereisten rondom transparantie, nauwkeurigheid en menselijk toezicht.
Aansprakelijkheid - De VNG wijst expliciet naar de ontwikkelaar als verantwoordelijke partij. Dit sluit aan bij het principe dat wie een systeem in het verkeer brengt, aansprakelijk kan zijn voor de gevolgen, ongeacht of die gevolgen voortkomen uit AI-hallucinaties.
Verkiezingsintegriteit - Onjuiste of misleidende stemadviezen kunnen in theorie de uitslag van verkiezingen beïnvloeden. Dit roept vragen op over regulering en mogelijke sancties.
De les voor de praktijk
Voor juridische professionals die adviseren over AI-implementaties bevat deze casus een belangrijke boodschap: technische haalbaarheid is niet gelijk aan maatschappelijke toelaatbaarheid. De ontwikkelaar van Keus gaf achteraf toe dat het beter was geweest de tool te beperken tot één gemeente, waar adequate controle haalbaar zou zijn geweest.
De VNG adviseert kiezers gebruik te maken van gevalideerde stemhulpen zoals StemWijzer en KiesKompas, waarbij de inhoud vooraf wordt gecontroleerd door deskundigen én door de deelnemende partijen zelf.