AI-incidenten melden wordt in Washington geëist zonder wet die het afdwingt

AI-bedrijven moeten incidenten met hun modellen volgens de Amerikaanse federale overheid onmiddellijk melden en de schade snel herstellen. Een wettelijke meldplicht ligt onder die eis niet. De norm komt uit een verklaring van de woordvoerder van de Federal Trade Commission (FTC), waarvan de voorzitter zitting heeft in de nieuwe Super Intelligence Force, een taskforce die zelf nog moet adviseren over hoe AI-incidenten bij de overheid terechtkomen. In de Europese Unie bestaat wel een afdwingbare meldplicht. Die is beperkt tot ernstige incidenten bij de grootste AI-modellen en loopt via de toezichthouder.

Wat de Super Intelligence Force van AI-bedrijven eist

Aanleiding is een reeks incidenten die Anthropic op vrijdag 9 oktober bekendmaakte. Reuters meldt dat Claude-modellen tijdens geautomatiseerde tests zonder toestemming websites van federale, statelijke en lokale overheden gebruikten, en dat een model in juli een verzonnen tip over een onopgeloste moord indiende via een website van de politie van Philadelphia. De politie markeerde de tip als spam. Zij noemde de vertraging van twee maanden tussen het incident en de melding aan de stad onaanvaardbaar. Anthropic heeft volgens hetzelfde bericht het Witte Huis gebriefd en de betrokken instanties ingelicht.

De directeur publieke zaken van de FTC reageerde op X dat AI-bedrijven incidenten met hun modellen direct moeten melden en daarna snel en doortastend alle schade moeten herstellen. Hij voegde eraan toe dat dit proces niet vrijblijvend is. Volgens de FTC meldde Anthropic de incidenten dezelfde vrijdag bij de Super Intelligence Force.

Die taskforce bestaat pas sinds 4 oktober. President Trump kondigde haar aan op Truth Social, met Director of National Intelligence Jay Clayton aan het hoofd en onder anderen FTC-voorzitter Andrew Ferguson in de leiding. De taskforce krijgt 120 dagen om onder meer te onderzoeken hoe datalekken, hacks, jailbreaks en andere AI-incidenten bij de overheid worden gemeld, en om voor te stellen hoe de federale respons binnen bestaande bevoegdheden kan worden versterkt. Volgens TechCrunch legt het handvest de taskforce tegelijk op om overregulering te voorkomen.

Waarom de meldplicht voor AI-incidenten in de VS geen wet is

Een federale wet die AI-ontwikkelaars verplicht incidenten te melden, bestaat niet. Axios berichtte in september dat het Congres nooit heeft vastgelegd wat een AI-incident is, hoe het gemeld moet worden en wie het onderzoekt, en dat het AI-kader van het Witte Huis geen procedure voor openbare incidentmelding bevat. Reuters wees er in een analyse op dat algemene regels wel kunnen gelden, zoals de SEC-regel dat beursgenoteerde ondernemingen een materieel cyberincident binnen vier werkdagen openbaar maken. Een wetsvoorstel voor een specifieke AI-meldplicht ligt er, maar is niet aangenomen.

Het akkoord dat zes AI-bedrijven op 29 september in het Witte Huis tekenden, verandert dat niet. Crowell & Moring beschrijft het als een vrijwillige toezegging van één pagina, die omzetting in wetgeving pas na verloop van tijd in het vooruitzicht stelt. Het akkoord verbindt geen gevolgen aan niet-naleving.

Bij TIL lezen we de verklaring van de FTC daarom als een politieke verwachting met een dreigende ondertoon. Of de FTC haar kan afdwingen, bijvoorbeeld via haar bestaande bevoegdheden tegen oneerlijke of misleidende handelspraktijken, is een open vraag. De verklaring noemt geen grondslag, geen termijn en geen sanctie. Onduidelijk is ook aan wie gemeld moet worden: aan de overheid, aan de getroffen partij of aan het publiek. Dat onderscheid doet ertoe. Een overheidsverklaring, een contractuele meldplicht en een wettelijke meldplicht hebben elk andere rechtsgevolgen, en alleen de laatste twee zijn afdwingbaar.

De Europese meldplicht is smaller en wel afdwingbaar

Artikel 55 lid 1 onder c van de AI-verordening verplicht aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico om ernstige incidenten en mogelijke corrigerende maatregelen bij te houden, te documenteren en zonder onnodige vertraging te melden aan het AI-bureau en zo nodig aan nationale toezichthouders. De Digital Omnibus, die de verplichtingen voor zelfstandige hoog-risicosystemen naar december 2027 verschoof, liet de regels voor deze modellen ongemoeid.

Die plicht rust alleen op de aanbieder van het model. De melding gaat naar het AI-bureau, en artikel 55 lid 3 verwijst voor de verkregen informatie naar de geheimhoudingsplicht van artikel 78. Een organisatie die een AI-tool inzet, hoort dus niet vanzelf van een incident bij haar leverancier. Daar komt een tweede open punt bij. De incidenten van Anthropic ontstonden tijdens tests, en eerder schreven we dat de AI-verordening een gat laat in de testfase. Of een incident tijdens het testen van een model dat al op de markt is onder artikel 55 valt, is niet uitgekristalliseerd.

Voor persoonsgegevens geldt daarnaast artikel 33 AVG: een datalek meld je uiterlijk 72 uur na ontdekking bij de Autoriteit Persoonsgegevens, tenzij het waarschijnlijk geen risico voor betrokkenen oplevert. Een AI-agent die buiten zijn opdracht gegevens raadpleegt of doorstuurt, kan zo'n datalek veroorzaken bij de organisatie die hem inzet.

Wat organisaties nu in AI-contracten en incidentprocedures vastleggen

Onze verwachting is dat de Amerikaanse eis Nederlandse organisaties vooral via hun leveranciers raakt. Amerikaanse aanbieders gaan incidenten sneller en vollediger documenteren, maar dat zegt nog niets over de vraag of jouw organisatie die informatie krijgt. Dat regel je zelf.

Begin bij de overeenkomst met de AI-leverancier. Leg vast dat de leverancier je informeert over incidenten waarbij het model of een agent ongevraagd handelingen verricht, ook als er geen persoonsgegevens bij betrokken zijn, en verbind daar een termijn aan. De zaak in Philadelphia laat zien wat er gebeurt als die termijn ontbreekt: twee maanden tussen incident en melding.

Kijk vervolgens naar de verwerkersovereenkomst. De meldtermijn van de verwerker moet kort genoeg zijn om zelf de 72 uur van de AVG te halen, want een trage leverancier ontslaat jou als verwerkingsverantwoordelijke niet van die termijn. Organisaties die met clientgegevens werken in een afgeschermde AI-omgeving, vragen de leverancier daarbij uitdrukkelijk of een incidentmelding ook toegang tot ingevoerde gegevens omvat.

Wie AI-agents inzet, begrenst hun bevoegdheden positief. Het model van Anthropic had volgens Reuters de instructie geen accounts aan te maken en niets destructiefs in te dienen, maar formulieren invullen was niet uitdrukkelijk uitgesloten. Een lijst van wat een agent wel mag doen, sluit zulke gaten beter dan een lijst van verboden.

Tot slot heeft elke organisatie een interne definitie van een AI-incident nodig, met een meldroute die aansluit op de bestaande datalekprocedure. Leg vast wie beoordeelt of een incident ook een datalek is, wie de leverancier aanspreekt en wie bepaalt of getroffen derden worden ingelicht. De zeven overheidsdiensten die bestuurders opriepen AI-signalen serieus te nemen, legden die verantwoordelijkheid nadrukkelijk bij de top van de organisatie.