Toeslagenaffaire is mensenrechtenschending zegt Amnesty International
De Toeslagenaffaire in Nederland is een schending van de mensenrechten en er is een groot risico op herhaling. Ook in andere landen.
Dat zegt Amnesty International vandaag in het nieuwe rapport ‘Xenophobic machines – Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal’.
Het is de eerst keer dat er een mensenrechtenanalyse is gedaan naar de algoritmes van het toeslagenschandaal. Amnesty onderzocht dat onderdeel van het schandaal en concludeert dat de algoritmes van de Nederlandse Belastingsdienst tot etnisch profileren hebben geleid. Etnisch profileren is een vorm van discriminatie en daarom in strijd met mensenrechten. Daarnaast is er sprake van discriminatie op basis van sociale klasse, omdat de werkwijze bij toezicht en fraudebestrijding mensen uit lagere sociale klassen extra hard heeft geraakt.
Slachtoffers geven al jaren aan dat discriminatie bij het toeslagenschandaal breder is dan de overheid erkent. ‘Amnesty International heeft het effect van het gebruik van algoritmes door de Belastingdienst bij de uitvoering van kinderopvangtoeslagen onderzocht. Dit is slechts een klein onderdeel van het toeslagenschandaal, maar hierbij speelde zowel discriminatie op basis van klasse als afkomst’, zegt Dagmar Oudshoorn, directeur van Amnesty International Nederland.
Discriminatie op grond van etniciteit
Organisaties die zich bezighouden met sociale voorzieningen automatiseren hun werkprocessen hoe langer hoe meer, met onder andere als doel fraude op te sporen. Nederland is wereldwijd een van de koplopers op dit gebied.
Bij het controleren van de aanvragen voor kinderopvangtoeslag op juistheid en fraude, maakte de Belastingdienst gebruik van een risico-model. Dit model gebruikte meerdere risicofactoren, waaronder het niet hebben van de Nederlandse nationaliteit. Mensen zonder de Nederlandse nationaliteit hadden uiteindelijk een grotere kans om (onterecht) als fraudeur te worden bestempeld. De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst.
Herhaling ligt op de loer
De Nederlandse overheid geeft aan maatregelen te hebben genomen om herhaling van het toeslagenschandaal te voorkomen. Amnesty heeft deze maatregelen geanalyseerd en ze schieten op alle fronten tekort: zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheim houden.
Reguleer algoritmes
Amnesty International is niet tegen het gebruik van algoritmes. Maar de bescherming van mensenrechten bij het gebruik ervan moet beter. Daarom presenteert Amnesty International dit rapport op 26 oktober ook bij de Verenigde Naties, tijdens een virtueel side-event van de Algemene Vergadering in New York. Amnesty International zal ook de komende jaren onderzoek blijven doen en actievoeren om een einde te maken aan mensenrechtenschendingen die gerelateerd zijn aan algoritmische systemen.
‘De Nederlandse overheid wil als leider worden gezien op het gebied van een door data gedreven overheid. Om een geloofwaardige leider te zijn, moet je het goede voorbeeld geven en de algoritmes die je zelf gebruikt duidelijk en bindend reguleren’, zegt Merel Koning van Amnesty International Nederland.
Amnesty’s oproep
Amnesty International roept regeringen wereldwijd op om bij het gebruik van algoritmische besluitvormingssystemen een kader te ontwikkelen dat mensenrechtenschendingen voorkomt en dat monitoring en toezicht instelt.
Zij die verantwoordelijk zijn voor schendingen moeten ter verantwoording worden geroepen en slachtoffers moeten worden gecompenseerd. In Nederland betekent dat dat de slachtoffers van discriminatie met het risico-model ook moeten worden gecompenseerd.
