AI ontwapenen volgens paus Leo XIV

Op 25 mei 2026 publiceerde paus Leo XIV zijn eerste encycliek, Magnifica Humanitas, volledig gewijd aan kunstmatige intelligentie en de bescherming van de mens. Voor veel juristen klinkt een pauselijk document als iets uit een ander vakgebied. Toch is de overlap met het recht groter dan je zou denken. De encycliek stelt precies de vragen die ook in de AI Act en in je eigen beroepsnormen centraal staan: wie houdt de controle, wie draagt de verantwoordelijkheid, en wat mag je niet aan een machine overlaten. Bij TIL lezen we dit document daarom niet als theologie, maar als een opvallend scherpe morele onderbouwing van waar het recht al naartoe beweegt.

Wat staat er in Magnifica Humanitas?

De encycliek verscheen op de 135e verjaardag van Rerum Novarum, het document waarmee de katholieke sociale leer in 1891 begon. Het uitgangspunt is genuanceerd: technologie is volgens de paus niet vijandig en ook niet uit zichzelf slecht. Maar technologie is nooit neutraal, schrijft hij, omdat ze de kenmerken overneemt van wie haar ontwerpt, financiert, reguleert en gebruikt.

De bekendste oproep uit het document is die om AI te "ontwapenen". Daarmee bedoelt Leo XIV niet het afwijzen van de techniek, maar het losmaken ervan uit een logica van wapenwedloop die volgens hem niet alleen militair is, maar ook economisch en cognitief van aard. Een tweede rode draad is verantwoordelijkheid. Die moet volgens de encycliek in elke fase helder belegd zijn: van wie het systeem ontwerpt en traint tot wie het gebruikt en op de uitkomst vertrouwt.

AI imiteert intelligentie, maar draagt geen verantwoordelijkheid

Het scherpst wordt de encycliek waar zij beschrijft wat AI volgens haar wel en niet is. AI-systemen imiteren bepaalde functies van menselijke intelligentie en overtreffen ons vaak in snelheid en rekenkracht. Maar ze begrijpen niet wat ze produceren, hebben geen moreel geweten en kunnen geen verantwoordelijkheid dragen voor de gevolgen van hun output.

Daar zit een waarschuwing in die juristen herkennen. Beslissingen over werk, krediet, toegang tot voorzieningen of iemands reputatie dreigen volgens de encycliek volledig te worden overgelaten aan geautomatiseerde systemen die geen begrip, mededogen of besef van gevolgen kennen. En omdat AI zich vaak presenteert als objectief en neutraal, blijven de aannames van de makers onzichtbaar. Het is precies dat verschijnsel, output die overtuigend klinkt maar inhoudelijk leeg of misleidend is, dat wij eerder bespraken in onze blog over AI-slop. De encycliek tilt dat probleem naar een hoger niveau: niet de losse fout is het risico, maar de gewenning aan een schijn van objectiviteit waartegen je nauwelijks bezwaar kunt maken.

Waarom Magnifica Humanitas dicht bij het recht ligt

Hier wordt het voor de praktijk interessant. De encycliek vraagt niet alleen of je een systeem voor goede of slechte doelen gebruikt, maar ook hoe het is ontworpen en welk mensbeeld in de data en modellen verstopt zit. Daarnaast vraagt zij om aanwijsbaarheid: er moet altijd iemand zijn die een beslissing kan verantwoorden, controleren en zo nodig terugdraaien.

Dat loopt vrijwel parallel aan het Europese recht. Artikel 14 van de AI Act verplicht aanbieders van hoog-risico-AI om effectief menselijk toezicht mogelijk te maken. De wet noemt expliciet het gevaar van automation bias, de neiging om blind op een systeem te vertrouwen, en eist dat een mens de uitkomst kan begrijpen, kan negeren en het systeem kan stilzetten. De TIL-lezing is dat de encycliek en de wetgever vanuit totaal verschillende tradities bij hetzelfde punt uitkomen: de eindbeslissing en de verantwoordelijkheid horen bij een mens, niet bij een ondoorzichtig proces. Veelzeggend is dat zelfs Anthropic-medeoprichter Chris Olah, aanwezig bij de presentatie, erkende dat ontwikkelaars de ethische grenzen niet alleen kunnen bepalen omdat zij zelf onder druk staan van concurrentie en commerciële prikkels. De grens trekken is dus ook jouw werk.

Wat betekent dit voor jou als jurist in de praktijk?

Kort gezegd: Magnifica Humanitas geeft je een morele taal voor een verplichting die je juridisch al hebt. Menselijk toezicht en aanwijsbare verantwoordelijkheid zijn geen vrome wens, maar een norm die je kunt vertalen naar concrete keuzes. Vier daarvan zijn nu al toepasbaar.

Breng eerst in kaart waar in jouw organisatie AI raakt aan beslissingen met gevolgen voor mensen, zoals selectie, beoordeling of advies aan cliënten. Juist daar moet menselijke controle aantoonbaar zijn. Stel vervolgens niet alleen de vraag of een tool nuttig is, maar ook hoe die is gebouwd en welke aannames erin zitten. Leg daarna de verantwoordelijkheidsketen vast: wie controleert de output, wie kan ingrijpen, en hoe documenteer je dat. Die reviewdiscipline werkten wij eerder uit in onze 10-stappenchecklist voor het reviewen van AI-output. Behandel ten slotte de waarschuwing tegen overhaasting serieus. De encycliek stelt dat aandringen op zorgvuldigheid, en soms op een lager tempo, geen verzet tegen vooruitgang is maar verantwoordelijk handelen. Voor een jurist die tuchtrechtelijk aansprakelijk blijft voor de inhoud, is dat eerder geruststelling dan rem.

Van encycliek naar werkbaar beleid

De encycliek is geen wet en bindt je nergens toe. Maar ze legt de vinger op dezelfde plek als de AI Act en je beroepsnormen: zonder heldere kaders verschuift de controle ongemerkt naar wie de data en de techniek bezit. Een morele oproep wordt pas betekenisvol als je haar omzet in afspraken die in de praktijk houvast geven.

Wil je die vertaalslag maken voor je eigen kantoor of juridische team, dan helpen wij je een werkbaar AI-beleid op te stellen: geen document voor de la, maar kaders voor toezicht, verantwoordelijkheid en transparantie die aansluiten op wetgeving en beroepsregels. Zo wordt de grootste vraag uit Magnifica Humanitas, wie de controle houdt, in jouw organisatie een afspraak in plaats van een toevalligheid.