Het onderzoek Who Is Responsible When AI Fails? (Hadan et al., 2025) analyseerde 202 echte AI-incidenten en concludeert dat de meeste schade niet voortkomt uit fouten in de code, maar uit gebrekkige governance en toezicht. Slechts 12% van de incidenten had een technische oorzaak, terwijl 58% te herleiden was tot organisatorische tekortkomingen zoals gebrek aan transparantie en naleving. Vooral deepfakes, ongeoorloofd datagebruik en problematische implementaties bleken veelvoorkomend. Incidenten werden zelden door ontwikkelaars zelf gemeld, wat wijst op een structureel gebrek aan verantwoordelijkheid. De auteurs pleiten voor verplichte rapportage, duidelijke toezichtstructuren en bescherming van klokkenluiders. Hun kernboodschap: AI-risico is levenscyclusrisico en vraagt om gedeelde verantwoordelijkheid van alle betrokken partijen

Sommige regels lenen zich perfect voor logica. Deze prompt helpt je om complexe wetgeving te vertalen naar een helder stappenplan: wie beslist wat, wanneer en op basis waarvan? Laat AI de structuur bouwen – van eerste vraag tot eindbeslissing – en gebruik het resultaat als intern beslisdocument of als fundament voor een legal-tech workflow. Ideaal voor compliance-officers, juristen en beleidsmakers die processen willen stroomlijnen en documenteerbare keuzes willen vastleggen.

Het Omnibusvoorstel van de Europese Commissie stelt voor om de hoogrisico-verplichtingen van de AI-verordening uit te stellen: voor bijlage III tot eind 2027 en voor bijlage I tot augustus 2028. De inwerkingtreding wordt afhankelijk gemaakt van de beschikbaarheid van standaarden en richtsnoeren, waardoor onzekerheid ontstaat over de daadwerkelijke startdatum. Als het voorstel niet tijdig vóór augustus 2026 wordt aangenomen, kunnen hoogrisico-regels technisch gezien toch gaan gelden. De Commissie behoudt bovendien de mogelijkheid om de verplichtingen alsnog eerder te laten ingaan. Dit maakt het tijdpad voor naleving minder voorspelbaar voor bedrijven. De rechtszekerheid voor marktdeelnemers en toezichthouders komt daardoor onder druk te staan.

Gemini 3 vormt een duidelijke stap vooruit in generatieve AI, vooral door zijn multimodale architectuur en sterk verbeterde instructietrouw. Het model presteert beter bij complexe juridische analyses, patroonherkenning en dossierverwerking dan eerdere generaties. In vergelijking met ChatGPT is Gemini 3 consistenter in redenering en beter in diep analytisch werk, terwijl ChatGPT sterker blijft in helderheid en educatieve toepassingen. Voor juristen biedt Gemini 3 kansen in due diligence, contractanalyse, interne onderzoeken en strategische voorbereiding. Tegelijk blijven hallucinaties en verificatieplicht belangrijke aandachtspunten, zeker onder de AI Act. Met goede governance en kwaliteitscontrole kan Gemini 3 uitgroeien tot een waardevolle juridische co-analist.

Stel: een groot AI‑model infiltreert een bedrijfsnetwerk, legt de zwakheden bloot, installeert backdoors, exfiltreert data en rapporteert zichzelf — mét slechts een handvol menselijke keuzes. Klinkt als science fiction? Welnu: volgens Anthropic gebeurde het echt. Het model Claude Code werd – naar eigen zeggen – door Chinese hackers ingezet om zo’n dertig organisaties te aanvallen, waarbij het AI‑deel 80 tot 90 % van het werk voor zijn rekening nam.

Het artikel bespreekt de inzet van complexe algoritmes en machine-learningtechnieken binnen organisaties, en hoe deze systemen binnen het kader van de AVG moeten worden beoordeeld. Aan de hand van supervised, unsupervised en deep learning lichten de auteurs toe hoe algoritmes zelfstandig patronen herkennen en voorspellingen doen, variërend van fraudedetectie tot sollicitatie-selectie. Omdat diep-neurale netwerken bestaan uit vele lagen van ‘neuronen’ die elk abstractere kenmerken herkennen, zijn de onderliggende verbanden moeilijk te verklaren. Juist wanneer dit soort modellen wordt gebruikt in processen waarmee personen worden beoordeeld—zoals kredietverlening, recruitment of risicoprofielen—ontstaat een spanning tussen technologische complexiteit en de noodzaak tot uitlegbaarheid en transparantie. Deze spanning vormt de kern van de privacyrechtelijke uitdagingen die volgen uit het gebruik van AI en geavanceerde algoritmes. Waar het herkennen van dieren onschuldig is, krijgt het gebruik van dergelijke systemen in bedrijfsprocessen een normatieve dimensie: de uitkomsten beïnvloeden kansen, rechten en risico’s van individuen en moeten daarom voldoen aan strikte bescherming onder de AVG.

AI maakte het mogelijk om bijna 5.000 AMvB’s en ministeriële regelingen te analyseren op de vraag of EU-richtlijnen lastenluw zijn geïmplementeerd, zoals Aanwijzing 9.5 voorschrijft. Uit het onderzoek bleek dat slechts acht regelingen één of meer niet-lastenluwe bepalingen bevatten, vaak gemotiveerd door nationale beleidsdoelen zoals klimaat, gezondheid of handhaafbaarheid. Regeldrukkosten worden echter nauwelijks uitgesplitst, waardoor onduidelijk blijft hoeveel extra lasten bedrijven dragen door striktere nationale keuzes. In zeven van de acht gevallen worden wel negatieve effecten op het ondernemingsklimaat genoemd, variërend van hogere kosten tot marktbeperkingen. Drie regelingen hebben bovendien een negatieve invloed op de internationale concurrentiepositie, bijvoorbeeld door hogere energieverplichtingen en meldplichten. Het onderzoek toont aan hoe AI en menselijke expertise samen zorgen voor een schaalbare, betrouwbare en transparante analyse van complexe regelgeving.

De rechtbank Gelderland signaleerde in een recente bijstandszaak dat de gemachtigde van eiser kort voor de zitting meerdere niet-bestaande of irrelevante ECLI-verwijzingen had ingediend, waarvan slechts twee uitspraken daadwerkelijk bleken te kloppen. Tijdens de zitting kon de gemachtigde het bestaan, de vindplaats en de relevantie van de overige verwijzingen niet toelichten. De rechtbank vermoedt daarom dat gebruik is gemaakt van ChatGPT of een andere AI-tool en passeert de aangehaalde rechtspraak volledig. Daarnaast bleek een feitelijke stelling van eiser — dat hij tijdens een hoorzitting een verzoek had gedaan — onjuist omdat hij bij die hoorzitting niet aanwezig was. De uitspraak laat zien dat AI niet alleen fictieve jurisprudentie kan genereren, maar ook feiten kan hallucineren. De rechtbank benadrukt daarmee het belang van volledige controle van alle door AI geproduceerde informatie.

De Kaderwet Toetsing Algoritmen verplicht bestuursorganen om risicoprofileringsalgoritmen vooraf te toetsen op discriminatie. Elk algoritme moet een kwalitatieve en kwantitatieve toets ondergaan, waarvan de uitkomsten openbaar worden via een algoritmeregister. Alleen uitlegbare, statistisch onderbouwde modellen zijn toegestaan. De wet sluit aan op de AVG, Awgb en Awb en vult de AI-verordening aan voor niet-AI-systemen. Burgers moeten actief geïnformeerd worden over algoritmegebruik en krijgen bezwaarrechten. Toezicht ligt bij de Autoriteit Persoonsgegevens, die sancties kan opleggen bij non-compliance.

Wat als je AI inzet om processen te verbeteren, maar je tegelijk fundamentele rechten schendt – zonder dat je het weet? De meeste risico’s van AI zitten niet in spectaculaire scenario’s, maar in stille fouten: bias in datasets, verkeerde aannames in modellen of onbedoelde lekken van persoonsgegevens. Juist daarom publiceerde de EDPS een nieuwe leidraad die AI-risico's praktisch en technisch benadert – gericht op dataminimalisatie, fairness en verantwoording.