Amendement n° 442

Pourquoi cet amendement, selon son exposé sommaire

Le présent amendement a pour objet d’assurer la mise en œuvre effective par la CNIL en droit interne du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (règlement sur l’IA), conformément aux exigences de transposition et d’adaptation prévues par ce texte directement applicable. À cette fin, il adapte la loi n° 78‑17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés afin de permettre à la CNIL d’exercer les missions de contrôle, de surveillance du marché et de sanctions prévues par le règlement pour les systèmes d’intelligence artificielle relevant de son champ de compétence, conformément au schéma de gouvernance interministériel. L’amendement confie en premier lieu à la CNIL le contrôle des pratiques d’intelligence artificielle interdites au sens de l’article 5 du règlement (UE) 2024/1689. S’agissant de la pratique de notation sociale, la compétence est exercée conjointement avec la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF). Il confie également à la CNIL le contrôle du respect des obligations de transparence applicables à certains systèmes d’intelligence artificielle, notamment ceux mettant en œuvre des dispositifs de reconnaissance des émotions ou de catégorisation biométrique. En ce qui concerne les systèmes d’intelligence artificielle à haut risque relevant de l’annexe III du règlement, l’amendement précise les champs pour lesquels la CNIL est désignée autorité de surveillance du marché. Elle dispose ainsi d’une compétence exclusive pour les systèmes utilisés : ‑à des fins d’identification biométrique ; ‑pour les décisions relatives à l’emploi, au recrutement, à la gestion de la main‑d’œuvre ou à l’accès à une activité indépendante ; ‑pour certaines applications relevant de la répression, des contrôles aux frontières ou de la gestion des migrations. Pour les systèmes utilisés dans le champ de l’éducation et de la formation professionnelle, la DGCCRF ayant la compétence pour le contrôle des systèmes d’IA utilisés dans le cadre de la formation professionnelle, la CNIL est désignée compétente pour l’ensemble des autres systèmes d’intelligence artificielle du périmètre. S’agissant des systèmes d’intelligence artificielle utilisés pour l’accès aux services privés et publics, notamment l’évaluation de l’éligibilité à des services ou prestations, la répartition des compétences distingue les usages financiers des autres usages. Les systèmes utilisés par des institutions financières pour l’évaluation de la solvabilité, des risques ou de la tarification des personnes physiques relèvent de la compétence de l’Autorité de contrôle prudentiel et de résolution (ACPR), tandis que la CNIL demeure compétente pour les autres usages, notamment ceux relatifs à l’évaluation de l’éligibilité aux prestations et services d’aide sociale ainsi qu’à la hiérarchisation des appels d’urgence. Lorsque les systèmes d’intelligence artificielle concernés présentent un lien direct avec les processus démocratiques, la CNIL exerce sa compétence en tant qu’autorité de surveillance du marché, en consultant pour avis de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) dans le cadre des enquêtes. Enfin, la CNIL est désignée compétente pour les systèmes d’intelligence artificielle des juridictions disciplinaires, pour lesquelles les autorités de surveillance des juridictions ne sont pas compétentes.