Amendement n° CL460

Pourquoi cet amendement, selon son exposé sommaire

Cet amendement vise à imposer la réalisation et la transmission au Parlement d’une étude d’impact spécifique sur les biais algorithmiques susceptibles d’affecter les systèmes de vidéosurveillance algorithmique (VSA), avant toute généralisation ou extension de ces dispositifs. Les technologies de vidéosurveillance algorithmique reposent sur des modèles de traitement automatisé de données visuelles visant à détecter des comportements ou des situations considérées comme suspectes. Toutefois, de nombreuses recherches en informatique, en sociologie et en sciences juridiques ont mis en évidence le fait que ces systèmes peuvent produire des biais discriminatoires, notamment lorsque les jeux de données d’entraînement ou les paramètres de conception reproduisent des déséquilibres sociaux existants. Plusieurs travaux scientifiques ont ainsi documenté des taux d’erreur plus élevés de certains systèmes de reconnaissance ou de classification sur des personnes perçues comme appartenant à des minorités racisées. Ces biais, lorsqu’ils sont intégrés à des dispositifs de surveillance de l’espace public, peuvent conduire à des effets de sur-signalement ou de ciblage différencié selon des caractéristiques physiques ou sociales. De tels effets soulèvent des enjeux majeurs au regard du principe constitutionnel d’égalité devant la loi et devant les services publics, dès lors que des technologies utilisées par les autorités publiques pourraient produire, même indirectement, des traitements différenciés des personnes dans l’espace public. Le Conseil constitutionnel reconnaît de manière constante que le principe d’égalité implique que des situations comparables ne soient pas traitées de manière différente sans justification objective et proportionnée. Or, l’usage de systèmes algorithmiques non parfaitement maîtrisés ou insuffisamment audités peut conduire à des différences de traitement de facto, sans fondement légal explicite. Dans ce contexte, la généralisation de la vidéosurveillance algorithmique ne peut intervenir sans une évaluation préalable, complète et transparente des risques de biais et de discrimination indirecte qu’elle peut engendrer. Le présent amendement vise donc à garantir l’information du Parlement et du public sur ces risques, afin que toute décision relative à ces technologies puisse être prise en pleine connaissance de leurs implications juridiques, sociales et constitutionnelles.