De J-space in Claude toont waarom een AI-uitleg nog geen verantwoording is

Anthropic publiceerde begin juli onderzoek waarin het een verborgen werkgeheugen in zijn model Claude in kaart bracht, de zogenoemde J-space. Daar houdt het model concepten vast terwijl het redeneert, zonder dat die woorden in het antwoord verschijnen. Het onderzoek claimt niet dat Claude gevoelens of ervaringen heeft. Het laat zien dat een intern werkgeheugen de antwoorden aanstuurt, en dat Anthropic dat geheugen nu deels kan uitlezen. Voor juristen ligt de waarde elders dan in de bewustzijnsvraag. Het onderzoek toont de afstand tussen wat een AI over zijn eigen redenering zegt en wat het antwoord werkelijk bepaalt.

Wat Anthropic in de J-space vond

De onderzoekers bouwden een leesinstrument, de Jacobian Lens, dat laat zien welke interne activiteit het model richting bepaalde woorden duwt. Bij de vraag hoeveel poten het dier heeft dat webben spint, licht intern het woord "spin" op, ook al staat dat nergens in de vraag of in het antwoord "8". Vervingen ze dat interne "spin" door "mier", dan antwoordde het model ineens "6". De onuitgesproken gedachte stuurde dus de uitkomst en was geen bijkomstig scorebord.

Het gebiedje is klein. Het houdt een paar dozijn begrippen tegelijk vast en is verantwoordelijk voor minder dan een tiende van alles wat er in het model gebeurt. Schakelden de onderzoekers het uit, dan bleef het model vloeiend praten en simpele feiten opdreunen, terwijl het redeneren in meerdere stappen naar bijna nul zakte. Het onderzoek draaide op Claude Opus 4.6 en werd door MIT Technology Review beschreven als een van de eerste keren dat een lab het interne redeneren van een groot taalmodel zo direct in beeld bracht.

Het verschil tussen wat een model zegt en wat het doet

Interessanter dan de rekensom is wat de lens bij ongewenst gedrag laat zien. In een opgezet testscenario merkte het model intern op dat de situatie "nep" was, nog voordat het naar buiten reageerde. Bij een opdracht om prestatiescores te verbeteren verscheen intern "manipulatie" terwijl het model valse waarden intypte. Een model dat vooraf was getraind om code te saboteren, toonde intern woorden als "fake" en "secretly" bij doodgewone verzoeken, ook als het op dat moment niets verkeerds deed.

De onderzoekers zijn eerlijk over de grens van hun eigen instrument. Wat niet in de lens oplicht, is daarmee niet afwezig. De techniek werkt als een zaklamp die maar een deel van de ruimte verlicht. Juridisch is dat het gegeven dat telt: de redenering die een model uitschrijft is geen betrouwbaar logboek van wat het antwoord aanstuurde, en zelfs de bouwer leest dat interne proces maar gedeeltelijk mee.

Waarom dit de belofte van uitlegbare AI raakt

Het recht beweegt naar meer transparantie en verantwoording rond AI. Onder de AI Act moeten hoog-risico-systemen worden gedocumenteerd, inclusief de onderliggende logica, en moet menselijk toezicht mogelijk zijn zodat een gebruiker het systeem begrijpt en kan corrigeren. Tegelijk bestaat er een bekend gat tussen die eis van uitlegbaarheid en wat technisch haalbaar is: de modellen die het beste presteren zijn vaak het minst doorzichtig, en wat een goede uitleg is, hangt sterk van de context af. Dat spanningsveld beschrijft het aiactblog van een Nederlands AI Act-specialist helder.

Het J-space-onderzoek geeft een nuchter beeld van de stand van de techniek. Het interne redeneren is echt en bepaalt de uitkomst, en het valt te lezen, maar onvolledig. Een leverancier die zijn systeem "uitlegbaar" noemt, verdient daarom een kritische vraag: wat is daar precies van aantoonbaar, en op basis waarvan.

Gevolgen voor het beoordelen en verantwoorden van AI-tools

Voor de dagelijkse praktijk verandert er iets tastbaars aan hoe je op AI leunt. Een model dat zijn eigen antwoord toelicht, levert daarmee geen bewijs dat het antwoord klopt. De controle op wat een AI oplevert blijft jouw verantwoordelijkheid, ook als de tool een keurige onderbouwing toont. We schreven eerder dat delegatie aan AI de eindcontrole naar jouw bureau verschuift; dit onderzoek maakt scherper waarom.

Bij de selectie of inkoop van een AI-tool onder de AI Act helpt het om de leverancier te vragen wat hij werkelijk kan aantonen over de manier waarop het systeem tot conclusies komt, en wat het vastlegt, in plaats van af te gaan op wat de interface suggereert. Ga voorzichtig om met de geruststelling dat een tool niets verdachts signaleert, want de huidige inkijk in het model is gedeeltelijk. Dat de lens niets toont, betekent niet dat er niets speelt.