Eerste zaak onder de AI Act voor TikTok en X wegens verboden AI-praktijken en manipulatie
De Stichting Onderzoek Marktinformatie (SOMI), een Nederlandse non-profitorganisatie die zich inzet voor de bescherming van fundamentele rechten van consumenten en minderjarigen, heeft een collectieve rechtszaak aangespannen in Duitsland tegen TikTok en X. SOMI voert collectieve procedures en eist schadevergoeding op basis van de EU Collective Redress Directive 2020/1828.
Het gaat om drie beschuldigingen:
TikTok manipuleert jonge gebruikers en misbruikt gevoelige gegevens in zijn aanbevelingsalgoritmes, door verslavende ontwerpelementen in te zetten in strijd met de AI Act.
X heeft grote datalekken niet gemeld, gebruikers niet geïnformeerd en geen compensatie geboden. Daarnaast verwerkt het platform gevoelige gebruikersgegevens zonder juridische rechtvaardiging.
Beide platforms verspreiden desinformatie, deepfakes en misleidende content, vooral tijdens verkiezingsperiodes, en beïnvloeden zo de publieke opinie via ongemarkeerde, heimelijk gesponsorde en door het buitenland gefinancierde politieke inhoud.
AI Act en juridische implicaties
Het eerste punt betreft een verboden praktijk onder de AI Act (artikel 5(1)(a)), die op 2 februari 2025 van kracht werd. Hoewel toezichthoudende autoriteiten nog niet zijn aangesteld en de sanctieartikelen nog niet van kracht zijn, is een civiele zaak wel mogelijk—het overtreden van een verbod is in elk EU-land een onrechtmatige daad.
Het juridische succes van deze zaak hangt af van meerdere factoren:
Wordt de groep die de schade claimt beschermd door het verbod?
Kan de aangeklaagde partij een beperking van aansprakelijkheid inroepen of overmacht bewijzen?
Dit zal de rechtbank moeten bepalen. Maar één ding is duidelijk: de verboden in de AI Act hebben tanden.