Definitie AI-systeem: wat is een AI-systeem onder de AI-verordening?
De definitie van het begrip AI-systeem is cruciaal voor de toepasbaarheid van de AI-verordening. Of een proces of een toepassing, zoals een algoritme, wel of niet kwalificeert als AI-systeem, bepaalt of die processen of toepassingen onder de AI-verordening vallen. De definitie in de AI-verordening sluit aan bij het werk van met name de OECD.
De AI-verordening definieert een AI-systeem als volgt:
“Een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of belsissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen”
De definitie biedt voldoende flexibiliteit om op technologische ontwikkelingen te kunnen inspelen en laat ruimte voor de nodige interpretatie. De Europese Commissie werkt aan richtsnoeren om meer uitleg en helderheid te geven over de definitie. Deze richtsnoeren verschijnen naar verwachting in februari 2025. De verwachting van de AP is dat ook daarna nadere uitwerking nodig blijft, onder meer met concrete voorbeelden, om ervoor te zorgen dat organisaties weten of ze aan de AI-verordening moeten voldoen. Ook kunnen technologische ontwikkelingen aanleiding geven tot aanpassingen aan de definitie.
Belangrijke kenmerken van AI-systemen zijn dat ze een bepaalde mate van autonomie bezitten, ze na inzet aanpassingsvermogen kunnen vertonen en ze uit input kunnen afleiden hoe ze output moeten genereren (inferentievermogen). Daarbij geldt dat de mate van autonomie van het systeem en het aanpassingsvermogen geen bepalende criteria zijn.
Inferentievermogen is doorslaggevend voor of een systeem een AI-systeem is of niet. Inferentievermogen duidt op het vermogen van het AI-systeem om output (bijvoorbeeld voorspellingen, content of besluiten) uit een bepaalde input af te leiden. Er vindt dus een zekere vorm van redenering plaats. Het kenmerk van inferentie onderscheidt AI-systemen van systemen die uitsluitend gebaseerd zijn op regels opgesteld door natuurlijke personen om automatische handelingen te verrichten. Een nog onbeantwoorde vraag daarbij is of eenvoudigere regelgebaseerde algoritmes ook AI-systemen kunnen zijn als er tijdens de ontwikkelfase bijvoorbeeld machinelearning heeft plaatsgevonden om tot relevante variabelen en regels voor het algoritme te komen. Dat er sprake is van een eenvoudig algoritme, hoeft volgens de AP niet vanzelfsprekend te betekenen dat het systeem in kwestie geen AI-systeem kan zijn.
Of een systeem een AI-systeem is, zal steeds afhangen van hoe het systeem is ontwikkeld en hoe het functioneert. Omdat er nog onzekerheid bestaat over de invulling van het begrip AI-systeem, zal het in sommige gevallen niet op voorhand duidelijk zijn of een systeem daadwerkelijk een AI-systeem is. Het is daarom raadzaam om bij de ontwikkeling van systemen te documenteren hoe het systeem is ontwikkeld, hoe het functioneert, en om de uitleg over de definitie te blijven volgen.