Le recours à l'intelligence artificielle au SPF Finances

Question parlementaire n° 754 de monsieur Steven Matheï du 10.12.2021

Chambre, Questions et Réponses, 2021-2022, QRVA 55/077 du 11.02.2022, p. 149

Le recours à l'intelligence artificielle au SPF Finances

QUESTION

(de monsieur Matheï)

Fin 2020, une commission d'enquête aux Pays-Bas a conclu que l'administration fiscale néerlandaise avait étiqueté à tort des milliers de parents comme des fraudeurs. Selon l'administration fiscale néerlandaise, ceux-ci auraient indûment perçu les allocations familiales octroyées aux Pays-Bas. Les versements ont, dès lors, été suspendus, les parents étant placés sur une liste noire et sommés de rembourser les sommes indûment perçues.

On a appris récemment que le scandale dit "des allocations familiales" pourrait avoir entraîné le retrait de 1.115 enfants de leur foyer aux Pays-Bas. Les services fiscaux néerlandais auraient recouru à l'intelligence artificielle (IA) pour détecter les fraudeurs potentiels.

Un algorithme autodidacte aurait conçu lui-même un modèle de risque dans lequel les familles à faibles revenus se seraient vu attribuer une cote de risque plus élevée que les familles aux revenus supérieurs. En s'appuyant sur ses propres apprentissages, l'algorithme aurait déterminé que le risque de fraude était plus élevé chez les familles à faibles revenus. Ces familles ont été ainsi plus fréquemment suspectées de fraude aux allocations familiales.

Le SPF Finances utilise-t-il l'IA et des algorithmes autodidactes à des fins de contrôle?

a) Dans l'affirmative, comment supervise-t-on le recours à l'IA par le SPF Finances à des fins de contrôle?

b) Dans l'affirmative, comment peut-on vérifier si le recours à l'IA par le SPF Finances à des fins de contrôle entraîne une discrimination ou d'autres conséquences négatives?

c) Dans la négative, est-il prévu de s'engager, à l'avenir, sur la voie du déploiement de l'IA à des fins de contrôle?

REPONSE

(du ministre des Finances)

L'administration fiscale a mis en place une gestion des risques centralisée afin de garantir au mieux la sélection des dossiers en termes d'égalité du citoyen face à un même risque. Pendant ce processus de sélection, les personnes qui y participent n'ont pas connaissance de l'identité des contribuables.

Différentes techniques de datamining sont utilisées pour améliorer la qualité de la procédure de sélection des dossiers à contrôler. Pour ce faire, l'administration s'appuie, entre autres, sur les données de feed-back provenant des actions de contrôle déjà organisées.

L'Administration générale de l'ISI utilise essentiellement des "règles métier" et des algorithmes "transparents". Par transparents, on entend des algorithmes comme les arbres de décision dont les critères de sélection sont clairement compréhensibles par un data scientist comme par un fonctionnaire fiscal.

L'Administration de la Fiscalité a également intégré des algorithmes d'auto-apprentissage dans les applications de datamining et de datamatching.

a) La surveillance s'effectue via diverses mesures d'encadrement organisationnelles et techniques. Celles-ci ne visent pas spécifiquement l'intelligence artificielle, mais les techniques de datamining et de datamatching dans leur ensemble.

Tous les traitements de datamining et de datamatching sont documentés dans une fiche DAM (Data Access Management). Cette fiche a été conçue pour encadrer les risques, vérifier la conformité avec le RGPD et la sécurité du traitement, notamment en ce qui concerne la finalité, la base juridique, la proportionnalité, la méthode de traitement, le stockage des données, les sources de données utilisées et les droits d'accès.

L'accès aux données est sécurisé par les systèmes IAM (gestion identités et accès) et ainsi que par les droits d'accès et les systèmes de journalisation des logs du fournisseur de logiciels (p. ex. SAS).

b) Les processus d'auto-apprentissage n'utilisent que des variables pertinentes provenant de différentes sources de données décrites en détail dans les fiches DAM. Ces sources sont les mêmes que celles utilisées pour la création des "règles métier".

En s'assurant que les variables sont pertinentes (provenant des sources mentionnées dans la fiche DAM), l'administration impose déjà des restrictions qui prémunissent ses analyses contre la discrimination.

Tant pour les modèles simples (arbres de décision et régression logistique) que pour les modèles plus avancés (comme les réseaux neuronaux), les variables et les combinaisons de variables les plus importantes sont discutées avec un expert en fiscalité en charge du développement de l'action de contrôle, et ce particulièrement si un certain groupe semble surreprésenté.

L'application d'intelligence artificielle ne prend donc pas de décision de manière autonome.

À l'Administration générale de la Fiscalité, les listes de sélection sont toujours validées par des experts en fiscalité, et chaque dossier est traité par un agent taxateur qui s'assure localement de la pertinence d'une éventuelle rectification.

Les résultats du modèle en production sont monitorés régulièrement et des ajustements peuvent être apportés si nécessaire, par exemple sur la base du feed-back des services opérationnels.

Pour ce qui est de l'Administration générale de l'ISI, une fois qu'une sélection datamining a été élaborée et transmise aux services d'input, ces services ont la tâche d'y sélectionner des signaux intéressants et de commencer les premières pré-enquêtes. Il y a donc sur base des sélections datamining à chaque fois un contrôle "humain" qui vérifie la pertinence du ou des cas présents dans les sélections. Il est également toujours demandé aux services gestion des inputs de fournir un feed-back sur les sélections datamining afin d'améliorer ces listes.

c) Sans objet vu les réponses apportées aux points a et b.