Wet tegen manipulatief ontwerp zet chatbots die menselijk contact nabootsen op de rode lijst

Het initiatiefwetsvoorstel Wet tegen manipulatief ontwerp maakt manipulatief ontwerp van apps, sociale media, games en chatbots tot een oneerlijke handelspraktijk in Boek 6 BW. Kamerlid Kathmann (GroenLinks-PvdA) legde het voorstel op 2 november 2026 in internetconsultatie, die loopt tot en met 14 december 2026. Voor wie met AI werkt, springt één onderdeel eruit: een chatbot die menselijk contact simuleert, komt op de lijst van praktijken die onder alle omstandigheden manipulatief zijn. Bij TIL lezen wij het voorstel als een scherpe agenda voor wat de Europese wetgever moet regelen. Als nationale wet staat het juridisch op wankele grond.

Wat de Wet tegen manipulatief ontwerp verandert in Boek 6 BW

Het voorstel bouwt voort op afdeling 6.3.3A BW, de Nederlandse implementatie van de richtlijn oneerlijke handelspraktijken. Drie wijzigingen dragen het geheel.

De eerste is het begrip "besluit over een transactie". Waar de wet nu spreekt van een overeenkomst, wordt dat een transactie, en daaronder valt ook het besluit om een dienst te blijven gebruiken, er interactie mee aan te gaan of data af te staan. Tijd en aandacht worden zo de munteenheid van het consumentenrecht. Daarnaast introduceert het voorstel het "digitaal product": een fysiek product dat deels een digitale dienst is of ervan afhangt, zoals speelgoed met een ingebouwde chatbot of een slimme thuisassistent. Diensten die geheel een kansspel zijn, blijven onder de Kansspelwet vallen.

De tweede wijziging zit in de professionele toewijding. Digitale diensten moeten volgens het voorgestelde artikel 6:193b lid 2a BW standaard ethisch, niet verslavend en niet manipulatief zijn ontworpen. De bewijslast daarvoor ligt bij de handelaar. Hij moet bovendien de keuzes uit het ontwerp- en ontwikkelproces documenteren, in begrijpelijke vorm openbaar maken en bijwerken bij elke nieuwe functie. Een nieuw artikel 6:193ba BW verplicht handelaren alle aandachttrekkende functies, zoals notificaties, standaard uit te schakelen.

De derde wijziging is een open norm met twee lijsten. Een praktijk is manipulatief als zij de keuzevrijheid van de gemiddelde consument beperkt door in te spelen op kwetsbaarheden, cognitieve of psychologische kenmerken of een ongelijke informatiepositie. De rode lijst noemt praktijken die altijd manipulatief zijn, waaronder eindeloos scrollen en automatisch afspelen, variabele beloningen zoals lootboxes, terugkommeldingen, aanbevelingsalgoritmen die op aandacht of geld optimaliseren, in-game valuta en pay-to-win. De oranje lijst bevat praktijken die vermoed worden manipulatief te zijn, zoals zichtbare likes, leesbevestigingen en streaks. Daar kan de handelaar tegenbewijs leveren.

De vermenselijkte chatbot op de rode lijst

Voor AI-toepassingen zijn twee onderdelen van de rode lijst van belang. Onderdeel f verbiedt ontwerp dat interpersoonlijke relaties of menselijk contact simuleert en een digitale dienst menselijke kenmerken lijkt te geven. Onderdeel g verbiedt het gebruik van eerdere invoer en gegevens van de consument om de interactie verder te vermenselijken. De toelichting noemt sycofante interacties, vleierij en geveinsde empathie bij AI-chatbots als voorbeelden en verwijst naar het Rathenau-rapport over intieme technologie.

Dat gaat verder dan de AI-verordening. Artikel 5 lid 1 onder a AI Act verbiedt AI-systemen met manipulatieve technieken alleen als zij gedrag wezenlijk verstoren en daardoor aanzienlijke schade (kunnen) veroorzaken. Artikel 50 vraagt sinds 2 augustus 2026 dat een chatbot zich als chatbot kenbaar maakt. Het wetsvoorstel kent geen schadedrempel en laat transparantie niet volstaan: een consumentenchatbot die zich als mens gedraagt, is in het voorstel per definitie oneerlijk, ook als de gebruiker weet dat hij met een machine praat.

De reikwijdte is ruim, en op dit punt verwachten wij de meeste discussie in de consultatie. De tekst maakt geen onderscheid tussen een AI-companion die op emotionele binding is gebouwd en een klantenservicebot met een vriendelijke toon en een voornaam. Ook een geheugenfunctie, die eerdere gesprekken gebruikt om antwoorden persoonlijker te maken, kan onder onderdeel g vallen. Waar de grens ligt, laat het voorstel aan de rechter en aan een latere algemene maatregel van bestuur. Voor aanbieders betekent dat een periode van onzekerheid, met de bewijslast aan hun kant.

Maximumharmonisatie maakt de rode lijst kwetsbaar

De toelichting erkent dat de richtlijn oneerlijke handelspraktijken maximumharmonisatie kent en stelt dat het voorstel alleen open normen preciseert. Dat is de zwakke plek. Het Hof van Justitie oordeelde in VTB-VAB (HvJ EG 23 april 2009, C-261/07 en C-299/07) dat de lijst in bijlage I van de richtlijn uitputtend is: alleen de daar genoemde praktijken mogen zonder beoordeling per geval als oneerlijk gelden. De Nederlandse wetgever schreef bij de implementatie zelf dat lidstaten daardoor geen hoger beschermingsniveau mogen toekennen dan de richtlijn.

Een nationale rode lijst van praktijken die "onder alle omstandigheden" manipulatief zijn, is precies zo'n per-se-verbod. Hetzelfde geldt voor de algemene omkering van de bewijslast voor de ontwerpplicht. De richtlijn laat de rechter wel toe de handelaar bewijs te vragen over de juistheid van feitelijke beweringen, maar een wettelijk vermoeden van manipulatie voor een hele categorie ontwerpkeuzes reikt verder. De oranje lijst en de verduidelijking van het transactiebegrip staan sterker, omdat de Europese Commissie in haar richtsnoeren al aangeeft dat het besluit om tijd aan een dienst te besteden onder de richtlijn kan vallen.

Er speelt nog iets. De Europese Commissie presenteert volgens CMS naar verwachting op 11 november 2026 haar voorstel voor de Digital Fairness Act. In het ontwerp dat Contexte publiceerde wordt de richtlijn oneerlijke handelspraktijken omgezet in een verordening, met boetes tot 6 procent van de wereldwijde omzet. Volgens de berichtgeving richt het ontwerp zich ook op AI-systemen die persoonlijke relaties simuleren. Wordt de richtlijn een verordening, dan verliest een nationale invulling in Boek 6 BW haar grondslag zodra die verordening van toepassing is. CMS verwacht dat niet vóór eind 2028.

Onze lezing: het voorstel wint het vooral op inhoud. Het benoemt concreet welke ontwerpkeuzes problematisch zijn, en die lijst kan de Nederlandse inzet in Brussel scherper maken. Als zelfstandige Nederlandse norm loopt het een reëel risico bij de Raad van State of bij de rechter te sneuvelen op het Unierecht.

Aandachtspunten voor organisaties met consumentgerichte AI

Het voorstel is een consultatieversie van een initiatiefwet. Er gelden nog geen nieuwe verplichtingen, en de toezichthouder, de ACM, moet nog een uitvoerbaarheidstoets doen. Toch is er nu werk te doen voor juristen die organisaties adviseren die apps, platforms of chatbots aan consumenten aanbieden.

Breng in kaart welke functies van een consumentgerichte dienst op de rode of oranje lijst staan. Voor chatbots gaat het om persona's, namen, empathische formuleringen en geheugenfuncties. Leg vast waarom een ontwerpkeuze in het belang van de gebruiker is. Dat is de bewijspositie die dit voorstel vraagt, en de richting van de Digital Fairness Act maakt waarschijnlijk dat een vergelijkbare documentatieplicht hoe dan ook komt. Toets contracten met leveranciers van chatbottechnologie op de vraag wie de persona en het gedrag van het model bepaalt en wie dat kan aanpassen. Wie zijn standpunt over de reikwijdte van onderdeel f of over de verhouding tot het Unierecht kwijt wil, kan tot 14 december reageren via de internetconsultatie.

Interne AI-toepassingen van organisaties vallen buiten het voorstel, omdat het consumentenrecht alleen de verhouding tussen handelaar en consument regelt. De rechtshulp-app of de klantenservicebot die een organisatie aan particulieren aanbiedt, valt er wel onder. Voor de toezichtskant van de AI-verordening schreven wij eerder over wat Nederland in de Uitvoeringswet zelf regelt.

Volgende
Volgende

AI-chats van ambtenaren zijn voor de Woo documenten als elk ander