AI-hallucinaties in juridische stukken: de controle ligt bij het kantoor
KPMG haalde in juni 2026 zijn rapport over agentic AI offline nadat organisaties zich er niet in herkenden. UBS noemde de beschrijving van zijn eigen AI-gebruik onjuist en de Zwitserse spoorwegen deden hetzelfde, zo bracht onder meer The Register in kaart na onderzoek door detectiebureau GPTZero. Van de 45 voetnoten verwezen er maar vijf naar een bestaande bron die klopte. Het rapport dat agentic AI moest aanprijzen, was deels door zo'n model geschreven, verzonnen bronnen incluis. TechCrunch wees op de pijnlijke kern: een adviesbureau dat AI verkoopt, gebruikte AI om het rapport te schrijven.
Voor juristen is dit dichterbij dan het lijkt. Dezelfde fout, een taalmodel dat overtuigend ogende vindplaatsen fabriceert, kwam het afgelopen jaar terug in processtukken. Wie AI-output indient zonder de bronnen te controleren, blijft zelf verantwoordelijk voor wat er de deur uit gaat. Het model is geen verweer.
Wat er bij KPMG misging
Het rapport verscheen in oktober 2025 en circuleerde daarna internationaal via de kantoren van KPMG. GPTZero-topman Edward Tian waarschuwde dat foutieve publicaties van de grote vier de informatiebron vergiftigen en zo tweedehands hallucinaties veroorzaken: een onjuiste claim die door de naam van het merk geloofwaardigheid krijgt, wordt overgenomen door vakmedia en gaat als feit rondzingen voordat iemand de oorspronkelijke bron natrekt, aldus de reconstructie van Engadget.
Bij TIL zien we hierin een mechanisme dat ook binnen een kantoor werkt. Het merk fungeert als vervanger van de controle: niemand trekt KPMG na, omdat het hele verkoopargument is dat dat niet hoeft. Diezelfde reflex richt zich naar binnen zodra AI-output gezaghebbend oogt. Hoe net en juridisch correct een passage met ECLI-nummer eruitziet, hoe sterker de neiging om de verificatiestap over te slaan. Precies daar ontstaat de fout.
AI-hallucinaties hebben de rechtszaal al bereikt
In april 2026 bood het Wall Street-kantoor Sullivan & Cromwell een faillissementsrechter excuses aan voor een spoedverzoek met onjuiste citaten en een verkeerd weergegeven bepaling uit de Bankruptcy Code, bericht Reuters. Het ging om 42 onnauwkeurigheden in één motie, en het kantoor erkende dat zijn eigen AI-beleid bij de voorbereiding niet was gevolgd, meldt The Global Legal Post. De fouten kwamen niet van het kantoor zelf aan het licht; de tegenpartij haalde ze eruit.
De omvang van het verschijnsel is geen incident. De database van onderzoeker Damien Charlotin telt inmiddels ruim 1.600 rechterlijke uitspraken waarin gehallucineerde inhoud een rol speelde, het merendeel uit het afgelopen jaar.
Ook in Nederland is het zover. De deken in Gelderland stuurde twee advocaten naar een cursus verantwoord AI-gebruik nadat zij stukken hadden ingediend die verwezen naar niet-bestaande zaken, zoals Nederland Digitaal beschrijft. In een vreemdelingenzaak en een vastgoedgeschil van eind 2025 liepen rechtbanken aan tegen citaten die niet te verifiëren waren en niet aansloten op recente rechtspraak, al kon de rechter het gebruik van een taalmodel niet steeds vaststellen, analyseert Stibbe. Wat deze zaken delen, is de plek waar de controle thuishoorde en ontbrak.
Wie verantwoordelijk is als het model bronnen verzint
De Nederlandse Orde van Advocaten is op dit punt helder. AI mag een hulpmiddel zijn, maar de advocaat blijft zelf verantwoordelijk voor het advies en de bescherming van cliëntbelangen, en moet de output controleren, aldus de Aanbevelingen AI in de advocatuur. De aanbevelingen zijn per kernwaarde uitgewerkt, met deskundigheid en integriteit als ankers.
Daarbovenop ligt sinds 2 februari 2025 een wettelijke verplichting. De AI-verordening eist dat organisaties die met AI-systemen werken, advocatenkantoren incluis, zorgen voor voldoende AI-geletterdheid bij hun mensen, zoals Wisemen toelicht. Het verweer dat een tool de fout maakte, houdt daarmee minder goed stand: van een advocaat die AI inzet, mag worden verwacht dat hij de bekende faalwijze van die tool kent en erop controleert.
Wat een kantoor nu in zijn AI-beleid vastlegt
Het verschil tussen Sullivan & Cromwell en een kantoor dat dit voorkomt, zit in een verificatiestap die echt wordt uitgevoerd. Een werkbaar AI-beleid legt vast dat elke vindplaats die uit een model komt, wordt nagetrokken in een betrouwbare bron voordat het stuk de deur uit gaat. In de praktijk helpt het om het model eerst het letterlijke citaat te laten geven en de controle in een verse sessie te doen, los van het gesprek waarin de tekst ontstond. We zetten die werkwijze eerder op een rij in ons gratis slidedeck over legal prompting met Claude.
Het beleid bepaalt ook waar AI wel en niet voor gaat. Een algemeen taalmodel past bij openbare onderzoeksvragen, het uitleggen van een leerstuk en het opstellen van een modeltekst zonder cliëntgegevens. Voor stukken die onder het beroepsgeheim vallen is dat geen begaanbare route, tenzij het model draait in een afgeschermde omgeving met een verwerkersovereenkomst en zonder dat jouw invoer wordt gebruikt om het model te trainen.
Twee dingen verdienen daarnaast aandacht. Het personeel moet een verzonnen ECLI of een misleidend citaat kunnen herkennen, wat training en aantoonbare AI-geletterdheid vraagt. En het kantoor legt intern vast wie de controle doet en hoe die wordt gedocumenteerd, zodat de verantwoordelijkheid niet stilzwijgend bij de tool blijft hangen. Waarom dat beleid geen formaliteit voor de la is, werkten we eerder uit in waarom ieder advocatenkantoor een AI-beleid nodig heeft.