Nederlandse waakhond voor gegevensbescherming begint met het monitoren van “gevaarlijke methoden”.

De Autoriteit Persoonsgegevens (AP) is begonnen met het monitoren van “gevaarlijke algoritmen”. Dit zijn algoritmen die het leven van mensen negatief kunnen beïnvloeden, bijvoorbeeld algoritmen die beslissen wie wordt uitgenodigd voor een sollicitatiegesprek of om iemand te controleren op fraude. NOS rapporten.

AP-chef Aleid Wolfsen zei dat meer toezicht op algoritmen dringend nodig is, omdat er van alles mis kan gaan. Zo selecteerde een algoritme bij het kinderopvangtoeslagschandaal mensen voor fraudecontroles. Op basis van hun nationaliteit Gezinsstructuur en salaris. De Het omstreden antifraudeprogramma SyRI is een ander voorbeeld.

“Algoritmen worden steeds vaker gebruikt en gebruikt om mensen te selecteren”, zegt Wolfsen tegen de omroep. “Wie wordt wel of geen klant van een bedrijf, wordt uitgenodigd voor een sollicitatiegesprek en wordt onderworpen aan extra fraudecontroles.” Hij zei dat het “levensbedreigend” was. Een slecht getraind of geprogrammeerd algoritme “kan bevooroordeelde elementen bevatten die veel mensen tegelijk kunnen beïnvloeden. We zouden het allemaal moeten proberen te voorkomen.

Het nieuwe toezicht van AP geldt voor overheidsinstanties en het bedrijfsleven. Dit stelt de privacywaakhond in staat om snel actie te ondernemen als een onrechtmatig mechanisme wordt gedetecteerd. “Als we er strak op zitten, kun je sneller ingrijpen, sneller waarschuwen en sneller stoppen”, aldus Wolfsen. “Dat gaan we samen met andere toezichthouders doen.” Particulieren kunnen hun klachten melden bij AP.

Voor dit extra toezicht trekt het kabinet dit jaar € 1 miljoen uit. Dit loopt de komende jaren structureel op tot 3,6 miljoen euro in 2026.

Amnesty International is minder enthousiast over het nieuwe toezicht. Volgens de mensenrechtenorganisatie zijn er te weinig middelen om discriminerende praktijken effectief aan te pakken en moet de overheid meer geld vrijmaken voor deze gigantische taak.