Algoritmetoezicht AP van start

Maandag hebben minister Franc Weerwind (Rechtsbescherming), staatssecretaris Alexandra van Huffelen (Digitalisering) en Aleid Wolfsen (voorzitter AP) het startsein gegeven voor het toezicht op algoritmes. Voor deze coördinerende, sectoroverstijgende activiteiten richt de AP de nieuwe directie Coördinatie Algoritmes in.

Algoritmes en kunstmatige intelligentie spelen een steeds grotere rol in ons leven. Dit biedt vele kansen en maakt belangrijke innovaties mogelijk. Maar de dreiging om de mens en de menselijke maat daarbij uit het oog te verliezen, ligt op de loer. Algoritmes kunnen grote impact hebben op mensenlevens en op onze samenleving. Bijvoorbeeld of je wel of niet een lening krijgt, of je aan extra controle wordt onderworpen en of je wel of niet wordt uitgenodigd voor een sollicitatiegesprek.

Transparantie over het gebruik van algoritmes is daarom cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen.”

Binnen de AP komt een nieuw organisatieonderdeel voor de nieuwe taken: de directie Coördinatie Algoritmes. De AP ontvangt voor het oppakken van deze nieuwe taken vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.

Een van de uitgangspunten is dat het bestaande toezicht op algoritmes en kunstmatige intelligentie intact blijft. Dit toezicht ligt bij verschillende colleges, markttoezichthouders en rijksinspecties. Omdat algoritmes in alle sectoren te vinden zijn, is het van belang om overkoepelend in de gaten te houden wat de generieke en specifieke risico’s en effecten zijn van algoritmes.

Naast de nieuwe coördinerende taken, versterkt de AP in 2023 het bestaande toezicht op algoritmes die (onrechtmatig) persoonsgegevens verwerken. Hiervoor stelt het kabinet structureel 2,61 miljoen euro beschikbaar. Deze investering levert ook een bijdrage aan de ambitie van de Tweede Kamer en het kabinet om discriminatie en willekeur te voorkomen en het transparantie te bevorderen in algoritmes die persoonsgegevens verwerken.