Amendement n° AE4

Cet amendement du groupe La France insoumise vise à souligner la nécessité, pour une régulation effective des systèmes d’armes létaux automatisés, de penser les mécanismes et garde-fous permettant de garantir un contrôle humain effectif dès la conception des systèmes utilisés. En effet, l’effectivité actuelle du contrôle humain sur certains systèmes automatisés est purement formelle. Lors de sa guerre génocidaire dans la bande de Gaza, Israël a déployé un système de ciblage assisté par IA - dénommé Lavander - proposant des cibles à des opérateurs humains décidant ou non d’une frappe en 20 secondes en moyenne. Si des humains restent formellement impliqués dans la décision, cet exemple montre que le contrôle qu’ils opèrent reste superficiel. Le logiciel Maven Smart de l’entreprise états-unienne Palantir fonctionne vraisemblablement selon la même logique ; les opérateurs ne font que valider formellement des décisions prises par des systèmes qui, s’ils ne sont pas formellement autonomes, échappent dans les faits au contrôle humain effectif. Or, les déclarations de bonne volonté des gouvernements ne prennent guère en compte cette réalité ; cette dissociation entre un discours politique volontariste et les aspects techniques et pratiques qui échappent de fait au contrôle des utilisateurs des systèmes automatisés est problématique. Cet amendement vise à rappeler cet enjeu majeur.