Nederlandse rechter verbiedt AI-uitkleedfunctie van Grok

De Amsterdamse voorzieningenrechter heeft op 26 maart een wereldwijd eerste vonnis gewezen: Grok en X mogen geen uitkleedbeelden meer genereren of verspreiden van personen die in Nederland wonen. Dwangsom: 100.000 euro per dag, gemaximeerd op 10 miljoen euro. Zolang Grok niet voldoet aan het verbod, mag X de chatbot niet eens meer aanbieden als onderdeel van het platform.

Dit is niet zomaar een rechterlijke tik op de vingers. Dit is een zaak die laat zien hoe snel de Nederlandse rechtsgang kan werken tegen Big Tech, en wat dat betekent voor de advocatuur.

Van ophef naar vonnis in minder dan 3 maanden

Begin januari 2026 ontstond internationaal ophef over de zogenaamde "uitkleedfunctie" van Grok, de AI-chatbot van Elon Musks bedrijf xAI. Gebruikers konden met een simpele opdracht realistische naaktbeelden genereren van echte mensen, inclusief minderjarigen. De Europese Commissie noemde de functionaliteit openlijk illegaal.

Expertisecentrum online misbruik Offlimits schakelde snel. Op 4 februari stuurden zij samen met Fonds Slachtofferhulp een sommatiebrief aan Grok en X. Op 12 maart volgde de zitting bij de rechtbank Amsterdam. Op 26 maart lag het vonnis er. Minder dan drie maanden van ophef tot rechterlijk verbod, tegen een van de grootste techbedrijven ter wereld.

Wat de rechter oordeelde

Grok en X voerden aan dat zij het probleem erkenden en maatregelen hadden getroffen. Ze wezen op verboden in hun gebruikersvoorwaarden en technische beperkingen. De voorzieningenrechter veegde dat van tafel. Offlimits had namelijk vlak voor de zitting aangetoond dat de maatregelen niet werkten: het lukte hen om kort voor de zitting nog een uitkleedvideo te genereren met Grok.

Het vonnis (ECLI:NL:RBAMS:2026:3106) is helder: het genereren en verspreiden van uitkleedbeelden en kinderpornografisch materiaal via Grok wordt verboden voor personen die in Nederland wonen. De dwangsom van 100.000 euro per dag moet dat verbod kracht bijzetten.

Waarom dit relevant is voor de advocatuur

Er zijn drie redenen waarom deze zaak je aandacht verdient.

Ten eerste: de snelheid. Het kort geding bewees opnieuw dat het Nederlandse rechtssysteem snel en effectief kan optreden tegen internationale techbedrijven. Artikel 1018b lid 1 Rv maakt het mogelijk om collectieve acties in kort geding te voeren zonder de vereisten die voor een bodemprocedure gelden. Die route is onderbenut.

Ten tweede: de samenloop met Europese wetgeving. Op dezelfde dag dat het vonnis viel, stemde het Europees Parlement voor een verbod op AI-uitkleedapps als wijziging van de AI-verordening. Dat verbod geldt straks in alle EU-lidstaten. De Nederlandse rechter liep dus vooruit op wat Europese wetgeving binnenkort vastlegt. Voor advocaten die werken met AI-recht, privacyrecht of mediarecht is dit een signaal: de rechter wacht niet tot de wetgever klaar is.

Ten derde: AI als instrument van onrechtmatige daad. De rechter oordeelde dat Grok en X "onrechtmatig en toerekenbaar bijdragen aan een klimaat" waarin mensen zonder toestemming worden geseksualiseerd. Dat is een belangwekkende formulering. Het schept een kader waarin AI-aanbieders aansprakelijk zijn, niet alleen voor wat hun systemen doen, maar ook voor wat ze nalaten te voorkomen.

Wat je hiervan kunt leren

De zaak Offlimits tegen Grok is een schoolvoorbeeld van hoe AI-gerelateerde geschillen in de praktijk worden beslecht. Niet door jarenlang te procederen, maar door snel te handelen met het juiste juridische instrument.

Voor advocatenkantoren die cliënten bijstaan in tech-, privacy- of mediazaken is dit vonnis direct bruikbaar. Het laat zien dat de AVG, de onrechtmatige daad en het kort geding samen een krachtig arsenaal vormen tegen AI-misbruik. En dat de Nederlandse rechter bereid is om dat arsenaal in te zetten, ook tegen partijen met diepe zakken.

Offlimits-directeur Robbert Hoving verwoordde het kernachtig: mensenrechten doen niet onder voor commerciële belangen. De rechter heeft dat bevestigd.

Wil je weten hoe AI het juridische landschap verandert en wat dat betekent voor jouw kantoor? Plan een gesprek met The Innovative Lawyer.