Inzichten
AP: pas op met gebruik DeepSeek
De Autoriteit Persoonsgegevens (AP) waarschuwt gebruikers van de app DeepSeek om heel voorzichtig en terughoudend met deze nieuwe chatbot om te gaan. “Mensen doen er verstandig aan om zichzelf de vraag te stellen of zij wel echt persoonlijke en andere gevoelige gegevens in deze app willen invoeren, aldus de AP. Als mensen persoonlijke informatie van anderen in de chatbot invoeren, is de vraag of dat überhaupt wel mag”, aldus de AP.
BREIN haalt groot AI taalmodel offline
BREIN heeft afgelopen week een groot Nederlands generatief AI taalmodel offline gehaald genaamd GEITje-7B. Het model was getraind op de grootste Nederlandstalige trainingsdataset die BREIN afgelopen zomer al offline haalde. BREIN heeft de aanbieder o.m. aangesproken omdat het model getraind was op tienduizenden kopieën van Nederlandstalige boeken uit illegale bron. Deze bron is Library Genesis, een dienst die door de Nederlandse rechter onrechtmatig is bevonden en op verzoek van BREIN wordt geblokkeerd door de Nederlandse access providers.
EDPB-advies over verantwoorde AI-modellen en privacyregels
De European Data Protection Board heeft een advies aangenomen over het gebruik van persoonsgegevens bij het ontwikkelen en in gebruik nemen van AI-modellen. Het advies gaat over 3 aspecten: (1) Wanneer en hoe AI-modellen anoniem zijn (2) Of en hoe gerechtvaardigd belang een grondslag kan zijn voor het ontwikkelen en gebruiken van AI-modellen (3) Wat er gebeurt als er bij het ontwikkelen van een AI-model persoonsgegevens zijn gebruikt die onrechtmatig zijn verwerkt. En hoe het zit met ‘first party’ en ‘third party’ gegevens.
Impact van AI op nationale veiligheid
AI heeft de potentie om ons leven op veel manieren makkelijker te maken en kan helpen bij het oplossen van tal van maatschappelijke problemen. Tegelijkertijd heeft de ontwikkeling van AI ook bedoeld en onbedoeld invloed op onze nationale veiligheid. Zeer waarschijnlijk versterkt de ontwikkeling van AI de diverse bestaande dreigingen voor onze nationale veiligheid. Dat is de conclusie van een gezamenlijke analyse van de AIVD, de MIVD en de NCTV die op dinsdag 10 december 2024 is gepubliceerd.
AP doet oproep tot input op manipulatieve, misleidende en uitbuitende AI-systemen
Als coördinerend toezichthouder op algoritmes en AI is de AP van start gegaan met de voorbereiding van toezicht op verboden AI-toepassingen. Deze verboden zijn al per 2 februari 2025 van toepassing. Bedrijfsleven, overheden, belangengroeperingen en het brede publiek worden opgeroepen input te geven op verschillende verboden uit de AI-verordening. Met de opbrengst kan gewerkt worden aan de verdere uitleg van de verboden AI-systemen.
Autoriteit Persoonsgegevens waarschuwt: gebruik AI-chatbot kan leiden tot datalekken
De Autoriteit Persoonsgegevens (AP) heeft de afgelopen tijd meerdere meldingen binnengekregen van datalekken doordat medewerkers persoonsgegevens van bijvoorbeeld patiënten of klanten deelden met een chatbot die gebruikmaakt van kunstmatige intelligentie (AI). Door het invoeren van persoonsgegevens in AI-chatbots kunnen de bedrijven die de chatbot aanbieden ongeoorloofd toegang krijgen tot die persoonsgegevens.
Het Europees Bureau voor artificiële intelligentie (AI-bureau)
Op 29 mei 2024 maakte de Europese Commissie bekend dat zij een AI-bureau heeft opgericht. Het AI-bureau heeft tot doel de toekomstige ontwikkeling, de uitrol en het gebruik van artificiële intelligentie (AI) mogelijk te maken op een manier die maatschappelijke en economische voordelen en innovatie bevordert en tegelijkertijd de risico’s van AI beperkt. Het AI-bureau zal een sleutelrol spelen bij de uitvoering van de AI-verordening en het positioneren van de EU als leider in internationale besprekingen.