AI-geletterdheid: juridische verplichting én praktische uitdaging

Volgens de AI Act (Verordening 2024/1689) moeten organisaties die AI ontwikkelen of gebruiken hun medewerkers voldoende ‘AI-geletterd’ maken. Maar wat betekent dat precies? Het komt erop neer dat iedereen die verantwoordelijk is voor of werkt met AI-systemen over de kennis en vaardigheden beschikt om AI bewust en verantwoord in te zetten. Dit houdt in dat men zich niet alleen bewust is van de voordelen en kansen, maar ook van de risico’s en mogelijke schade die AI kan veroorzaken.

Artikel 4: AI-geletterdheid op maat

Zowel aanbieders (leveranciers) als gebruiksverantwoordelijken (organisaties die de AI inzetten) zijn op grond van artikel 4 van de AI Act verplicht om passende maatregelen te treffen. Dit betekent dat zij moeten zorgen dat medewerkers die AI-systemen gebruiken of beheren, voldoende AI-kennis hebben. De vereiste diepgang hangt af van de technische ervaring van de werknemer en de specifieke context waarin AI wordt toegepast.

• Voorbeeld: Een medewerker die dagelijks met AI werkt, heeft meer gespecialiseerde kennis nodig dan iemand die AI hooguit eens raadpleegt voor een leuk idee voor een bedrijfsuitje.

• Praktische tip: Deel medewerkers in op basis van hun functie en AI-gerelateerde taken. Zo kunnen bijvoorbeeld de mensen die datasets moeten updaten of controleren op bias andere training krijgen dan degenen die slechts incidenteel AI gebruiken.

Houd rekening met de doelgroep

Artikel 4 benadrukt ook dat je moet kijken naar de personen die door AI-toepassingen geraakt kunnen worden.

• Overheidsinstanties: Zij hebben te maken met burgers, maar die doelgroep verschilt per instantie (denk aan UWV versus Huis voor Klokkenluiders).

• Bedrijven: Zij moeten hun gemiddelde klant voor ogen houden en voldoen aan transparantieverplichtingen uit het consumentenrecht. Medewerkers die AI inzetten, moeten dus voldoende kennis hebben om burgers of klanten helder te informeren.

Dus welk niveau van AI-geletterdheid heeft u nodig? Dat hangt af van de functie en mate van blootstelling aan AI:

• Frontofficepersoneel heeft basiskennis nodig, vooral over deepfakes en AI-impostatie.

• Zakelijke gebruikers moeten de mogelijkheden en beperkingen van AI begrijpen.

• Technische teams hebben diepere kennis nodig over AI-risico's en compliancevraagstukken.

• Management moet strategisch inzicht hebben in AI-governance.

Wanneer is een organisatie AI-geletterd?

De AI Act geeft geen harde meetlat voor AI-geletterdheid. Richtlijnen vanuit de Europese Commissie of het Europees Bureau voor artificiële intelligentie (“AI-bureau”) ontbreken nog. Organisaties zullen het dus moeten doen met de definitie uit de wet en de algemene verplichting uit artikel 4. De centrale vraag is: “Hoe maak je er in de praktijk werk van?”

1. Besef dat je niet alles kunt weten
   AI is complex, dus houd het eenvoudig en doelgericht. Medewerkers hoeven echt geen diepgaande cursus over deep learning of neurale netwerken, maar moeten wel bekend zijn met de basisbeginselen.

2. Techniek én ethiek
   Laat medewerkers kennismaken met de achterliggende techniek: hoe werkt AI globaal? Ga daarna in op ethische vragen: hoe kunnen grondrechten in het geding komen? Wat is bias, en hoe kan het ontstaan? Hoe spelen culturele en maatschappelijke verschillen een rol?

3. Koppel het aan je eigen organisatie
   Welke grondrechten kunnen geraakt worden door de AI-toepassingen binnen jouw organisatie? Welke ethische afwegingen spelen er regelmatig? Verwerk deze vraagstukken in het AI-geletterdheidsprogramma en maak het zo relevant en praktisch mogelijk.

4. AI-geletterdheid is een proces
   Het is geen eenmalige oefening. Kennissessies en workshops zijn nuttig, maar kennis moet ook beklijven. Bouw daarom een programma in stappen op: begin met de techniek, en ga daarna pas uitgebreid in op ethische dilemma’s.

Sancties

Artikel 4 van de EU AI Act gaat in op 2 februari. Hoewel de AI Act vereisten voor AI-geletterdheid introduceert, worden er geen specifieke boetes vastgesteld voor niet-naleving. Dat betekent echter nog niet dat dit dan op de lange baan geschoven kan worden. Waarom niet?

• Klanten en zakelijke partners zullen bewijs van naleving van de AI Act gaan verlangen, bijvoorbeeld via hun inkoopvoorwaarden. Toewijding aan naleving betekent ook toewijding aan "voldoende AI-geletterdheid" van uw personeel dat met AI-systemen werkt.

• Wanneer AI-gerelateerde fouten optreden, dan zal uw aansprakelijkheidsverzekeraar lastige vragen stellen. Heeft u uw personeel adequaat opgeleid? Wist de receptionist die werd misleid door een deepfake-video wat hij of zij had moeten herkennen? Artikel 4 creëert een duidelijke zorgstandaard.

Waar te beginnen?

Begin met het in kaart brengen van welke rollen interactie hebben met AI-systemen en hoe. Stel vervolgens functie-specifiek trainingsmateriaal op dat echte scenario’s behandelt waarmee uw teams te maken hebben. En het allerbelangrijkste: maak van AI-geletterdheid een doorlopend gesprek en geen eenmalige training. Want in het snel veranderende landschap van AI-regelgeving is geïnformeerd blijven niet alleen goede praktijk, maar essentieel voor continuïteit van uw bedrijf.

Tot slot

AI-geletterdheid kan niet in één middag worden afgetikt. Het gaat om een continu proces waarin medewerkers worden voorbereid op de kansen en uitdagingen van AI. Met een goed ingerichte aanpak houd je het voor iedereen behapbaar én voldoe je aan de verplichtingen uit de AI Act.

Vragen over hoe je binnen jouw organisatie aan de AI-geletterdheid kunt werken? We denken graag met je mee!