BLOG: Dit moet je als privacy professional zeker weten over AI

De ontwikkelingen rond Artificial Intelligence (AI) en dataprotectie gaan razendsnel. Over de vele innovaties bestaan ook nogal eens misverstanden.
Jean Paul van Schoonhoven van L2P vertelt hoe je als privacy professional de kansen en risico's van AI doorgrondt.

Artificial Intelligence (AI) maakt in Nederland een stormachtige ontwikkeling door. Er zijn steeds meer toepassingen, en er is een groeiend bewustzijn van de kansen én de risico’s. Dat signaleert de Autoriteit Persoonsgegevens (AP) in juli 2024 in de Rapportage AI- & Algoritmerisico’s Nederland. De AP coördineert het toezicht op AI en algoritmes in Nederland, en publiceert regelmatig over de actuele ontwikkelingen.

Een van de conclusies van de recente rapportage is dat een verantwoorde inzet van AI veel vraagt van een organisatie. De AP benadrukt onder andere het belang van "AI-geletterdheid", zodat de werkvloer de basiskennis heeft over de werking, effecten en risico's van AI-systemen.

Het grootste risico van AI is naar mijn mening dat een algoritme momenteel niet altijd eenvoudig controleerbaar is. Dat zet het risicomanagement onder druk. Daar komt bij dat voor veel gebruikers de functionele voordelen voorop staan. AI-toepassingen kunnen immers bijdragen aan bijvoorbeeld snellere en efficiëntere werkprocessen. Ook voor dataprotectie liggen er concrete kansen, onder andere als het gaat om de controle van de juistheid van gegevens. Maar als de risico's onvoldoende worden onderkend, dan zijn de gevolgen niet te overzien. AI-geletterdheid is dan ook een eerste stap in de goede richting.

Vier misverstanden over AI

Veel organisaties zijn bezig met AI-toepassingen, en ook privacy professionals krijgen daarmee te maken. Er zijn nog veel onzekerheden over de impact van AI op dataprotectie. Daarmee ontstaan ook mythes en misverstanden.

Er wordt - ten onrechte! - nogal eens gedacht dat
· je een technische expert nodig hebt om AI te begrijpen;
· de bescherming van persoonsgegevens de toepassing van AI belemmert;
· de inzet van AI onverenigbaar is met de transparante verwerking van persoonsgegevens die de Algemene
Verordening Persoonsgegevens (AVG) vereist;
· een privacy professional de zekerheid kan geven dat de organisatie AI-systemen in lijn met de wet- en regelgeving
  gebruikt.

Vier perspectieven voor privacy professionals

Wat staat je als privacy professional nu te doen als je de feiten en fabels over AI en dataprotectie wilt onderscheiden? Ik zie vier actielijnen die je verder brengen.

· Vergroot zo snel mogelijk je expertise over AI-systemen. Volg trainingen en opleidingen, en voer het gesprek met
  collega's, vakgenoten en AI-specialisten.
· Zie de potentie van AI voor gegevensbescherming. AI kan bijvoorbeeld een waardevolle bijdrage leveren aan de
  monitoring van maatregelen voor informatiebeveiliging (en de rapportage daarover).
· Omarm de verwondering die je in de dagelijkse praktijk ervaart. Vertrouw op je vakkundigheid als privacy-expert om
  de risico's van AI-systemen in beeld te brengen.
· Voorkom dat je wordt overweldigd door de onzekerheden en risico's rond AI-toepassingen. Bedenk dat een
  realistisch probleembesef altijd de weg opent naar een oplossing.

Een bonustip voor iedereen die voor de opgave staat om de grote aantallen publicaties over AI door te nemen: geef prioriteit aan toonaangevende gidsen, toetsingskaders en naslagwerken. Bijvoorbeeld:

· het Impact Assessment Mensenrechten en Algoritmes (IAMA) van de Universiteit Utrecht; 
· het AI Impact Assessment (AIIA) van de rijksoverheid; 
· de handreiking non-discriminatie by design van de rijksoverheid; 
· het implementatiekader voor de verantwoorde inzet van algoritmen (IKA) van de rijksoverheid;
· de Ethics guidelines for trustworthy AI van de Europese Unie;
· de publicatie Discriminatie door risicoprofielen, een mensenrechtelijk toetsingskader van het College voor de Rechten
  van de Mens. 

De analyses van de AP over AI en algoritmes brengen je op de hoogte van de ontwikkelingen die vanuit het perspectief van toezicht actueel en urgent zijn

AI op de agenda

De toenemende digitalisering van onze samenleving betekent dat AI-systemen een onlosmakelijk onderdeel zijn van de organisaties van vandaag en morgen. Als privacy professional is het enorm belangrijk om vroegtijdig te beschikken over de juiste kennis - over de werking van AI-systemen en de relevante wet- en regelgeving. Zo zorg je dat dataprotectie rond AI-toepassingen tijdig op de agenda van de organisatie staat. De praktijk leert namelijk dat de adoptie van innovaties soms sneller gaat dan de governance en compliance. Maar voor een succesvolle en verantwoorde inzet van AI en algoritmes is een adequaat risicomanagement natuurlijk een essentiële voorwaarde.