Amendement n° CL460 au texte n° 2850 – Projet de loi visant à offrir des réponses immédiates aux phénomènes troublant l’ordre public, la sécurité et la tranquillité de nos concitoyens

Ce que propose l’amendement

Dans un délai de six mois à compter de la promulgation de la présente loi, le Gouvernement remet au Parlement une étude d’impact spécifique portant sur les risques de biais algorithmiques et discriminatoires liés aux systèmes de vidéosurveillance algorithmique.

Cette étude évalue notamment :

1° Les taux d’erreur différenciés des dispositifs de vidéosurveillance algorithmique selon les caractéristiques apparentes des personnes détectées, lorsqu’ils peuvent être établis ;

2° Les risques de discrimination indirecte ou systémique résultant de l’utilisation de ces technologies dans l’espace public ;

3° L’impact de ces systèmes sur le principe d’égalité devant la loi et devant le service public ;

4° Les garanties techniques, juridiques et organisationnelles susceptibles de prévenir ou corriger ces biais.

Cette étude est rendue publique.

Pourquoi cet amendement ?

Cet amendement vise à imposer la réalisation et la transmission au Parlement d’une étude d’impact spécifique sur les biais algorithmiques susceptibles d’affecter les systèmes de vidéosurveillance algorithmique (VSA), avant toute généralisation ou extension de ces dispositifs.

Les technologies de vidéosurveillance algorithmique reposent sur des modèles de traitement automatisé de données visuelles visant à détecter des comportements ou des situations considérées comme suspectes. Toutefois, de nombreuses recherches en informatique, en sociologie et en sciences juridiques ont mis en évidence le fait que ces systèmes peuvent produire des biais discriminatoires, notamment lorsque les jeux de données d’entraînement ou les paramètres de conception reproduisent des déséquilibres sociaux existants.

Plusieurs travaux scientifiques ont ainsi documenté des taux d’erreur plus élevés de certains systèmes de reconnaissance ou de classification sur des personnes perçues comme appartenant à des minorités racisées. Ces biais, lorsqu’ils sont intégrés à des dispositifs de surveillance de l’espace public, peuvent conduire à des effets de sur-signalement ou de ciblage différencié selon des caractéristiques physiques ou sociales.

De tels effets soulèvent des enjeux majeurs au regard du principe constitutionnel d’égalité devant la loi et devant les services publics, dès lors que des technologies utilisées par les autorités publiques pourraient produire, même indirectement, des traitements différenciés des personnes dans l’espace public.

Le Conseil constitutionnel reconnaît de manière constante que le principe d’égalité implique que des situations comparables ne soient pas traitées de manière différente sans justification objective et proportionnée. Or, l’usage de systèmes algorithmiques non parfaitement maîtrisés ou insuffisamment audités peut conduire à des différences de traitement de facto, sans fondement légal explicite.

Dans ce contexte, la généralisation de la vidéosurveillance algorithmique ne peut intervenir sans une évaluation préalable, complète et transparente des risques de biais et de discrimination indirecte qu’elle peut engendrer.

Le présent amendement vise donc à garantir l’information du Parlement et du public sur ces risques, afin que toute décision relative à ces technologies puisse être prise en pleine connaissance de leurs implications juridiques, sociales et constitutionnelles.

Motifs publiés par l’auteur avec l’amendement.