AI bij werving en selectie ontwikkelt vooroordelen die niet uit de trainingsdata komen

Onderzoekers van Princeton University en de University of Chicago lieten taalmodellen een aanwervingsspel spelen waarin elke kandidaat precies dezelfde kans had om te slagen. De modellen gingen na een handvol rondes hele bevolkingsgroepen aan beroepen koppelen, sterker dan de mensen in het psychologische experiment waarop het spel was gebaseerd. Dat beschreef MIT Technology Review op 20 juli 2026. Een AI-systeem kan dus onderscheid gaan maken zonder dat er ooit een vooroordeel in de trainingsdata heeft gezeten, doordat het model uit zijn eigen ervaring te snel generaliseert. Voor de organisatie die zo'n systeem inzet verandert dat niets aan de verantwoordelijkheid en veel aan de vraag of ze haar eigen selectie nog kan uitleggen.

Vier verzonnen bevolkingsgroepen en veertig rondes

Elk model kreeg de rol van adviseur van de burgemeester van een verzonnen stad en moest mensen aannemen voor twintig beroepen, van arts tot schoonmaker, met kandidaten uit vier verzonnen bevolkingsgroepen. Het onderzoek dat op de conferentie ICML verscheen betrof onder meer ChatGPT, Claude en Gemini, en liet de modellen veertig rondes lang iemand kiezen en daarna horen of die persoon het goed had gedaan. Wat de modellen niet wisten: iedereen had bij elk beroep dezelfde kans van slagen.

Toch ontstond er een patroon. Ging een kandidaat uit een groep onderuit als arts, dan schoof het model die hele groep door naar werk dat het als minder veeleisend inschatte. Op de segregatieschaal van het onderzoek, waarop een 2 betekent dat elke groep volledig in één beroep is opgesloten, kwamen de menselijke deelnemers uit op 0,84. De modellen zaten daar ongeveer 65 procent boven, en het redeneermodel o3 van OpenAI haalde 1,83.

De verklaring ligt in de manier waarop modellen getraind zijn. Wiskunde, code en wetenschapsvragen belonen snel generaliseren uit weinig voorbeelden, en diezelfde reflex levert in een sociale context een vooroordeel op. De zwaardere redeneermodellen, zoals o3 en R1 van DeepSeek, deden het op dit punt slechter dan de eenvoudiger modellen.

Twee uitkomsten wegen voor de praktijk zwaarder dan de scores. Het model opdragen om eerlijk te oordelen veranderde het gedrag nauwelijks, terwijl het beloven van een bonus voor divers aannemen de modellen wel aanzienlijk minder bevooroordeeld maakte. Relevante persoonlijke informatie werkte ook: kregen de modellen leeftijd en opleiding te zien, dan sorteerden ze veel minder op afkomst, en bij irrelevante details zoals haarkleur vielen ze terug op groepskenmerken. Over de vertaling naar de dagelijkse praktijk zijn de onderzoekers voorzichtig, want in het experiment hoorde het model direct of een aanstelling geslaagd was, terwijl een cv-filter in werkelijkheid pas veel later te horen krijgt of een aanname goed uitpakte.

Waarom een toets op de trainingsdata dit soort bias niet vindt

De gangbare aanpak om discriminatie door AI te voorkomen kijkt naar het systeem zoals het geleverd wordt: is de trainingsset representatief, heeft de leverancier op bias getoetst, wat staat er in de technische documentatie. De hoog-risicoregels van de AI-verordening zijn op diezelfde gedachte gebouwd. Een voorkeur die pas tijdens het gebruik ontstaat, uit de reeks gevallen die een model toevallig voorbij ziet komen, valt buiten dat blikveld. De verklaring van je leverancier zegt dan weinig over hoe jouw exemplaar zich in de praktijk gedraagt.

Dat wordt scherper naarmate modellen meer onthouden. Cornell-informaticus Angelina Wang, die niet aan het onderzoek meewerkte, wijst erop dat een assistent die zijn eerdere gesprekken meeneemt kan doorslaan op het gedrag dat hij eerder heeft gezien. Wie geheugen en personalisatie aanzet bij beoordelingswerk, laat het systeem leren van zijn eigen eerdere oordelen.

Bij TIL zien we hier een denkfout terugkeren die we vaker tegenkomen: een instructie in de prompt behandelen als een beheersmaatregel. Een AI-beleid waarin staat dat medewerkers het model opdragen zonder vooroordeel te oordelen, legt een intentie vast. Het onderzoek laat zien dat precies die instructie het gedrag niet verandert.

Het gelijkebehandelingsrecht bij werving en selectie wacht niet op de AI-verordening

De AI-verordening rekent AI voor werving en selectie tot de hoog-risicosystemen. Die verplichtingen zouden op 2 augustus 2026 gaan gelden, maar met de op 8 juli ondertekende Digital Omnibus schuift de toepassing voor zelfstandige systemen uit bijlage III door naar 2 december 2027. De tekst wacht nog op publicatie in het Publicatieblad, en pas drie dagen daarna geldt de nieuwe datum met zekerheid, dus tot dat moment blijft het oorspronkelijke schema formeel gelden.

Dat uitstel raakt de AI-verordening. Het gelijkebehandelingsrecht blijft staan waar het stond. Het College voor de Rechten van de Mens stelt dat wervings- en selectieprocedures inzichtelijk, controleerbaar en systematisch moeten verlopen, ook wanneer er algoritmes bij worden ingezet, en dat een werkgever die geen uitleg over de procedure kan geven daarmee bijdraagt aan het vermoeden van verboden onderscheid. Volgens de uitleg van het College over recruitmentalgoritmes ontlast een zelflerend systeem dat aanvankelijk geen onderscheid maakte en gaandeweg wel gaat discrimineren de werkgever niet, omdat het effect in de praktijk telt en niet de vraag of een mens of een computer het onderscheid maakte.

Daar komen de twee lijnen samen. Voert een afgewezen kandidaat feiten aan die onderscheid doen vermoeden, dan is het aan de organisatie om te laten zien dat de selectie op relevante criteria berustte. Een model dat zijn voorkeur heeft opgebouwd uit de gevallen die het toevallig zag, levert die onderbouwing niet, want er is geen criterium waar de uitkomst op terug te voeren valt. Wij verwachten dat organisaties eerder op die bewijspositie stuklopen dan op enige verplichting uit de AI-verordening. De Autoriteit Persoonsgegevens waarschuwt in haar halfjaarlijkse rapportage over algoritmerisico's dat het filteren van cv's door AI kandidaten uit bepaalde bevolkingsgroepen kan uitsluiten, dat veel werkgevers niet transparant zijn over de elementen die tot een uitkomst leidden, en dat er betekenisvolle menselijke tussenkomst moet zijn bij de beslissing.

Wat je nu vastlegt over AI die mensen beoordeelt

Begin bij de inventarisatie. Werving is de bekendste toepassing, en dezelfde vraag speelt zodra een model offertes of interne voordrachten rangschikt. Houd daarbij de grens rond persoonsgegevens scherp: een sollicitatiedossier hoort om dezelfde reden als vertrouwelijk cliëntmateriaal buiten een algemeen taalmodel, tenzij dat model in een afgeschermde omgeving draait met een verwerkersovereenkomst en zonder training op jouw invoer.

Geef het model daarna alleen de criteria die er werkelijk toe doen en laat identificerende details eruit, want dat is de ingreep die de uitkomst in het onderzoek daadwerkelijk verschoof. Bouw de maatstaf in de opdracht zelf in, met dezelfde criteria voor iedere kandidaat, per criterium een score die naar concrete informatie verwijst, en een controle achteraf op verschillen die je niet uit die criteria kunt verklaren. Zet geheugenfuncties uit voor beoordelingswerk of start elke beoordeling in een nieuw gesprek.

Onze eerdere analyse van delegatie aan AI liet zien dat de eindcontrole daarmee naar jouw bureau verschuift, en dat is precies waarom je per beoordeling vastlegt welke criteria golden en wie het eindoordeel nam. Dat dossier heb je nodig op het moment dat je een afwijzing moet verantwoorden. Richting je leverancier hoort in het contract te staan waarop hij heeft getoetst en dat je zelf uitkomsten mag meten, waarvoor de AI-inkoopvoorwaarden van de gemeente Amsterdam bruikbare bouwstenen leveren.