Artificiële intelligentie binnen de FOD Financiën

Parlementaire vraag nr. 754 van de heer Steven Matheï d.d. 10.12.2021

Kamer, Vragen en Antwoorden, 2021-2022, QRVA 55/077 d.d. 11.02.2022, blz. 149

Artificiële intelligentie binnen de FOD Financiën

VRAAG

(van de heer Matheï)

Eind 2020 concludeerde een Nederlandse onderzoekscommissie dat de Nederlandse Belastingdienst onterecht duizenden ouders als fraudeurs bestempelde. Volgens de Nederlandse Belastingdienst zouden ze onterecht Nederlandse kinderopvangtoeslag ontvangen hebben. Hierdoor kwamen deze ouders op een zwarte lijst te staan, ontvingen ze geen kinderopvangtoeslag meer en moesten ze onterecht het ontvangen geld terugbetalen.

Recent raakte bekend dat deze zogenaamde Toeslagenaffaire in Nederland mogelijk geleid heeft tot de uithuisplaatsing van 1.115 kinderen. Naar verluidt gebruikte de Nederlandse Belastingdienst artificiële intelligentie (AI) om potentiële fraudeurs op te sporen.

Hierbij zou een zelflerend algoritme zelfstandig een risicomodel hebben opgemaakt waarbij gezinnen met lagere inkomens een hogere risicoscore kregen dan gezinnen met hogere inkomens. Het algoritme zou zichzelf geleerd hebben dat er een grotere kans was dat gezinnen met een laag inkomen fraudeerden. En zo werden gezinnen met een laag inkomen vaker van fraude met de kinderopvangtoeslag verdacht.

Wordt binnen de FOD Financiën gebruik gemaakt van AI en zelflerende algoritmes voor controledoeleinden?

a) Zo ja, op welke manier wordt er toezicht gehouden op het gebruik van AI door de FOD Financiën voor controledoeleinden?

b) Zo ja, op welke manier kan worden gecontroleerd of het gebruik van AI door de FOD Financiën voor controledoeleinden leidt tot discriminatie of andere negatieve gevolgen?

c) Zo neen, zijn er wel plannen om AI in te gaan zetten voor controledoeleinden in de toekomst?

ANTWOORD

(van de minister van Financiën)

De fiscale administratie heeft een gecentraliseerd risicobeheer geïmplementeerd om een zo goed mogelijke selectie van dossiers te garanderen op het vlak van de gelijke behandeling van alle belastingplichtigen die eenzelfde risico vertonen. Gedurende dit selectieproces kennen de personen die hieraan deelnemen de identiteit van de belastingplichtigen niet.

Verschillende datamining technieken worden aangewend om de kwaliteit te verhogen van de selectieprocedure voor te controleren dossiers. Hiervoor baseren we ons onder andere op de gestructureerde feedback gegevens van reeds georganiseerde controleacties.

De Algemene Administratie BBI gebruikt hoofdzakelijk businessregels of "transparante" algoritmes. Met transparant worden algoritmes bedoeld zoals beslissingsbomen waarvan de selectiecriteria perfect te begrijpen zijn zowel door een data scientist als door een taxatieambtenaar.

De Algemene Administratie van de Fiscaliteit heeft ook zelflerende algoritmes geïntegreerd in de datamining en datamatching toepassingen.

a) Er wordt toezicht gehouden via verschillende organisatorische en technische omkaderende maatregelen, die echter niet specifiek gericht zijn op AI, maar op datamining en datamatching technieken in zijn geheel.

Zo wordt elke datamining, datamatching verwerking gedocumenteerd in de DAM fiche (Data Access Management fiche). Deze fiche werd ontworpen om de risico’s en de conformiteit met betrekking tot de AVG en de veiligheid van de verwerking te kaderen, onder andere voor wat betreft de finaliteit, wettelijke basis, proportionaliteit, methode van verwerking, opslag van de gegevens, gebruikte gegevensbronnen en toegangsrechten.

Toegangen tot de gegevens is beveiligd door onze IAMsystemen, de toegangsrechten en loggingsystemen van de softwareprovider.

b) Voor de zelflerende processen worden enkel relevante variabelen gebruikt die afkomstig zijn van verschillende databronnen, die uitvoerig beschreven worden in de DAM fiches. Deze bronnen zijn dezelfde als degene die worden gebruikt bij de opmaak van businessregels.

Door zich te verzekeren van het feit dat de variabelen relevant zijn (afkomstig van de gebruikte bronnen uit de DAM fiche) legt de administratie zich al restricties op die haar analyses beschermen tegen discriminatie.

Zowel voor eenvoudige (beslissingsbomen en logistische regressie) als meer geavanceerde modellen (zoals neurale netwerken) worden de variabelen en de belangrijkste combinaties van variabelen telkens samen met een fiscaal expert, belast met de ontwikkeling van de controleactie besproken, en dit in het bijzonder wanneer een bepaalde groep overgerepresenteerd is.

De toepassing waarbij artificiële intelligentie wordt gebruikt maakt zelf geen autonome beslissingen.

Bij de Algemene Administratie van de Fiscaliteit worden de selectielijsten altijd gevalideerd door fiscale experten, en elk dossier wordt behandeld door een controleambtenaar die lokaal nagaat of een eventuele rechtzetting pertinent is.

De resultaten van het model in productie worden op regelmatige basis gemonitord en er kan indien nodig bijgestuurd worden bijvoorbeeld op basis van feedback van de operationele diensten.

Bij de AABBI wordt een selectie datamining gemaakt en overgemaakt aan de inputdiensten die de taak hebben om daaruit interessante signalen te selecteren en de eerste vooronderzoeken aan te vatten. Op basis van de selecties datamining is er altijd een "menselijke" controle van de relevantie van het of de gevallen van de selecties. Het is altijd wenselijk en het wordt ook aan de inputdiensten gevraagd om "feedback" te geven over de selecties datamining om de lijsten te verbeteren.

c) Zonder voorwerp gezien de antwoorden op de punten a en b