BKR moet burgers met kredietregistratie niet uitleveren aan AI-systeem

We zeiden na de toeslagenaffaire: dit nooit meer. Nooit meer mensen vermalen door systemen, risicomodellen en automatische afwijzingen. Nooit meer een overheid die burgers reduceert tot dataprofielen.

En toch zien we opnieuw een systeem dat op grote schaal levens beïnvloedt: het Bureau Krediet Registratie (BKR). In Nederland staan meer dan 10 miljoen mensen geregistreerd bij het BKR. Honderdduizenden hebben een negatieve codering. Dat zijn in statistieken opgenomen mensen. Die geen hypotheek krijgen, geen lening, soms zelfs geen huurwoning. Eén registratie kan je financiële toekomst jarenlang blokkeren.

AI robot bepaalt uitkomst bij verwijderingsverzoeken negatieve registraties
Artikel 22 van de Algemene Verordening Gegevensbescherming (AVG) is glashelder: niemand mag worden onderworpen aan een besluit dat uitsluitend door een algoritme wordt genomen, als dat besluit grote gevolgen heeft. Een negatieve BKR-registratie hééft grote gevolgen. Wie een verwijderingsverzoek indient en een standaardafwijzing krijgt via een strak geautomatiseerd  proces, heeft recht op méér dan een geautomatiseerd vinkje van een medewerker.

De wet eist: echte menselijke tussenkomst, uitleg over besluitvorming en ruimte voor individuele omstandigheden. Geen schijncontrole. Geen automatische rigiditeit.

Massaliteit + automatisering = hoog risico op uitvoeringsfouten
Meer dan 10 miljoen registraties. Honderdduizenden mensen met een negatieve codering. Verzoeken tot verwijdering die in grote aantallen worden afgehandeld. Dit zijn precies alle procesingrediënten waardoor een groot systeemrisico ontstaat: schaal, automatisering en een minimale, of in het geheel geen, individuele menselijke weging.

Is het proportioneel om iemand vijf jaar te blijven blokkeren na een afgeloste schuld? Is tijdelijke pech hetzelfde als structurele wanbetaling? Of laat het systeem dat onderscheid simpelweg niet toe? Zoals in de toeslagenaffaire bewust stelselmatig is gebeurd.  We hebben juist in de toeslagenaffaire gezien wat de gevolgen zijn als efficiëntie belangrijker wordt dan rechtsbescherming en ambtenaren blind instructies van hogere hand uitvoeren.

Stichting BKR is juridische entiteit van banken
Achter de Stichting BKR zitten de banken met hun eigen business-en verdienmodellen. Een tweede toeslagenaffaire kan ontstaan vanuit de gedachte dat het systeem wel zal kloppen. Dat automatisering en AI beter functioneren dan een door mensen geleide procesuitvoering.

De vraag is niet of kredietregistratie mag bestaan. De vraag is of we toestaan dat banken bepalen of algoritmes doorslaggevend bepalen wie economisch mag meedoen en wie niet.