BLOG: Artificial Intelligence en privacy

Artificial Intelligence (AI) is een begrip waar iedereen wel mee bekend is. AI en algoritmes zijn overal te vinden. Hoewel AI en algoritmes vaak met elkaar zijn verweven, zijn ze niet hetzelfde. AI verwijst naar systemen die mensachtige intelligentie simuleren. Algoritmes zijn specifieke instructiesets die worden gebruikt om een bepaalde taak uit te voeren.[1]

Algoritmes bepalen bijvoorbeeld de beste route op Google Maps of de muziek die we streamen. AI wordt gebruikt in zelfrijdende auto’s zoals Tesla’s en ter ondersteuning van artsen bij het diagnosticeren van ziektes. Stel je voor dat gezondheidszorg op maat wordt afgestemd op elk individu, gebruikmakend van AI om ziektepatronen te herkennen voordat symptomen zich manifesteren.

Of denk aan steden waar verkeersstromen zo efficiënt zijn geregeld dat files tot het verleden behoren. Dit zijn geen vergezichten meer; ze worden werkelijkheid dankzij de kracht van algoritmes en AI. Met deze nieuwe ontwikkelingen komen ook meer verantwoordelijkheden. De belangrijkste vraag die men hierbij kan stellen is: “mag dit onder de AVG?”.

Dit blog werpt een licht op de essentiële regels en praktijken voor het verantwoord gebruik van AI en algoritmes onder de AVG.

Gevaren van algoritmes.

Algoritmes zijn zo sterk als de data die ze gevoed krijgen en deze data kunnen bevooroordeeld zijn. Dit kan leiden tot ongewenste uitkomsten, zoals discriminatie of oneerlijke besluitvorming [2]. Een voorbeeld hiervan is de toeslagenaffaire. In 2019 werd bekend dat de Nederlandse Belastingdienst een zelflerend algoritme had gebruikt om risicoprofielen op te sporen. Vervolgens vertrouwde men blindelings op dit systeem zonder menselijke interventie. Hierdoor zijn tienduizenden gezinnen de dupe geworden, met extreme gevolgen van dien. Naar aanleiding van dit schandaal is de Autoriteit Persoonsgegevens aangesteld als algoritme-toezichthouder[3]. 
De Autoriteit Persoonsgegevens heeft de Nederlandse Belastingdienst een boete van maar liefst 3,7 miljoen euro opgelegd voor het verwerken van de persoonsgegevens omdat de Belastingdienst geen grondslag onder de AVG had voor deze verwerking.[4]

Gevaren van AI.

De gevaren van AI omvatten een scala aan zorgen. Een primair risico is het gebrek aan transparantie en verklaarbaarheid van AI-systemen, wat kan leiden tot beslissingen die moeilijk te begrijpen of te rechtvaardigen zijn. Sociale manipulatie door AI, vooral via sociale mediaplatforms, is een andere zorg, waarbij AI wordt gebruikt om de publieke opinie te beïnvloeden. AI in sociale surveillance, zoals gezichtsherkenning, roept vragen op over privacy en over-policing. AI-systemen kunnen persoonlijke data verzamelen, wat zorgen over gegevens privacy oproept. Vooroordelen in AI, veroorzaakt door zowel de inputgegevens als de ontwikkelaars, kunnen leiden tot discriminatie en ongelijkheid. AI-gestuurde werkverdringing kan socio-economische ongelijkheid vergroten, vooral voor werknemers in lage loon sectoren. De ontwikkeling van AI-gestuurde autonome wapensystemen roept ethische en veiligheidsvraagstukken op. Ten slotte kan het overmatig gebruik van AI in bepaalde sectoren leiden tot een verlies aan menselijke invloed, empathie, redenering en creativiteit.

AI roept ethische zorgen op op het gebied van privacy en surveillance, vooroordelen en discriminatie, en de rol van menselijk oordeel. Discussies over privacybescherming en het overwinnen van vooroordelen in algoritmische besluitvorming zijn bekend, maar de fundamentele vraag blijft of slimme machines ons kunnen overtreffen in bepaalde belangrijke besluitvormingen. Er is ook bezorgdheid dat algoritmische besluitvorming menselijke vooroordelen niet alleen repliceert, maar ook wetenschappelijke geloofwaardigheid verleent aan deze vooroordelen. Ten slotte kan het overmatig gebruik van AI in bepaalde sectoren leiden tot een verlies aan menselijke invloed, empathie, redenering en creativiteit.[5]

De rol van de Autoriteit Persoonsgegevens (AP).

De AP heeft in 2023 de directie Coördinatie Algoritmes (DCA) opgericht. Deze directie speelt een cruciale rol in het monitoren van de risico's en gevolgen van het gebruik van algoritmes. Ze fungeert als een verbindende factor tussen technologie en wetgeving, bevordert de samenwerking tussen toezichthouders en draagt bij aan de ontwikkeling van nieuwe juridische kaders.[6] 
De AP publiceert elk half jaar een Rapportage AI- & algoritmerisico’s Nederland (RAN) om recente ontwikkelingen, actuele risico’s en bijbehorende uitdagingen te belichten.[7][8]

Terwijl algoritmes en AI blijven evolueren, zo evolueren ook de uitdagingen en kansen die ze met zich meebrengen. We staan op de drempel van een tijdperk waarin de integratie van AI in ons dagelijks leven steeds dieper wordt. De toekomst vraagt om een samenspel van innovatie, ethiek, en regelgeving. 

EU wet- en regelgeving.

De EU AI Act is een belangrijke wetgevende stap van het Europees Parlement, gericht op het reguleren van kunstmatige intelligentie (AI). Het is de eerste wetgeving van zijn soort en heeft tot doel de ontwikkeling en het gebruik van AI in de Europese Unie te sturen, met bijzondere aandacht voor ethische en veiligheidsaspecten. De wetgeving beoogt een balans te vinden tussen het stimuleren van innovatie en het beschermen van burgerrechten. Door het vaststellen van duidelijke regels en normen voor AI-systemen, streeft de EU ernaar een veilige, betrouwbare en rechtvaardige AI-omgeving te creëren, die de waarden en rechten van de EU respecteert.[9]

De AVG, AI en algoritmes.

Rechtmatigheid

Als AI of algoritmes worden gebruikt om persoonsgegevens te verwerken, is de naleving van de AVG een verplichting. Een fundamentele eis van de AVG is dat er een legitieme basis moet zijn voor het verwerken van persoonsgegevens. Zonder legitieme basis is het niet toegestaan om persoonsgegevens te gebruiken.

Transparantie

Transparantie is cruciaal in het proces van gegevensverwerking. Organisaties moeten helder communiceren met klanten, patiënten, burgers of medewerkers - de zogenoemde betrokkenen - over hoe hun gegevens worden gebruikt. Dit omvat het verstrekken van inzicht in de onderliggende logica van algoritmische besluitvorming en de mogelijke gevolgen daarvan.

Doelbinding

Persoonsgegevens mogen alleen worden verwerkt voor specifieke, expliciet vastgestelde doeleinden. Dit houdt in dat gegevens niet zomaar voor andere doeleinden mogen worden gebruikt dan waarvoor ze oorspronkelijk zijn verzameld.

Data Protection Impact Assessment (DPIA)

Voor het gebruik van AI en algoritmische systemen die persoonsgegevens verwerken, is het uitvoeren van een DPIA verplicht. Deze beoordeling helpt bij het identificeren en minimaliseren van de privacyrisico's van gegevensverwerking.

Rechten bij AI & Algoritmes

De Algemene Verordening Gegevensbescherming (AVG) biedt personen wiens data verwerkt wordt een reeks van rechten. Dit omvat het recht op informatie en inzage in hun gegevens, alsmede bepaalde beschermingen tegen volledig geautomatiseerde besluitvorming. Het is echter belangrijk te benadrukken dat er uitzonderingen zijn op het recht om niet onderworpen te worden aan volledig geautomatiseerde beslissingen. Zo kunnen organisaties in bepaalde gevallen besluiten automatiseren, bijvoorbeeld wanneer dit noodzakelijk is voor het uitvoeren van een overeenkomst, toegestaan is door EU- of nationale wetgeving, of indien de betrokkene expliciet toestemming heeft gegeven.

Conclusie.

Het gebruik van AI en algoritmes biedt ongekende mogelijkheden, maar brengt ook nieuwe verantwoordelijkheden met zich mee. Door de AVG als leidraad te nemen, kunnen organisaties ervoor zorgen dat ze niet alleen technologisch innovatief zijn, maar ook ethisch en juridisch verantwoord handelen. Het is een balans act waarbij zowel de kracht van technologie als de waarde van menselijke privacy en rechten centraal staan.[10].

Whitney van den Brand
Adviseur

[1] Autoriteit Persoonsgegevens, "Algoritmes & AI," beschikbaar op https://www.autoriteitpersoons.... 
[2] [1] Autoriteit Persoonsgegevens. "Algoritmes uitgelegd." Beschikbaar op: https://www.autoriteitpersoons....
[3] Politico. "Dutch scandal serves as a warning for Europe over risks of using algorithms." Beschikbaar op: https://www.politico.eu/articl.... 
[4] "Boete Belastingdienst voor zwarte lijst FSV." Autoriteit Persoonsgegevens. Beschikbaar op: [https://autoriteitpersoonsgege...](https://autoriteitpersoonsgege...). 
[5] Built In, "12 Risks and Dangers of Artificial Intelligence (AI)," Beschikbaar op https://builtin.com/artificial.... 
[6] Autoriteit Persoonsgegevens. “Directie Coördinatie Algoritmes (DCA)”. Beschikbaar op: https://www.autoriteitpersoons... 
[7] Autoriteit Persoonsgegevens, "Rapportage Algoritmerisico’s Nederland (RAN) - voorjaar 2023," beschikbaar op: https://www.autoriteitpersoons....
[8] Autoriteit Persoonsgegevens, "Rapportage AI- & algoritmerisico's Nederland (RAN) - najaar 2023," beschikbaar op: https://autoriteitpersoonsgege.... 
[9] Europees Parlement, "EU AI Act: eerste regelgeving over kunstmatige intelligentie," Beschikbaar op https://www.europarl.europa.eu....
[10] Autoriteit Persoonsgegevens. "Regels bij gebruik van AI & algoritmes." Beschikbaar op: https://www.autoriteitpersoons....