Responsables politiques européens : réglementez la technologie policière !

Communiqué commun dont la LDH est signataire

(Traduction)

La société civile appelle l'UE à fixer des limites à la technologie de surveillance dans la loi sur l'intelligence artificielle

Alors que les systèmes d’IA sont de plus en plus utilisés par les autorités chargées de l’application de la loi, du contrôle des migrations et de la sécurité nationale, la loi européenne sur l’intelligence artificielle (loi sur l’IA) - the EU Artificial Intelligence Act (AI Act) - constitue une occasion urgente de prévenir les préjudices, de protéger les personnes contre les violations de leurs droits et de fixer des limites juridiques permettant aux autorités d’utiliser l’IA au sein du pays. les limites de l’État de droit.

De plus en plus, en Europe et dans le monde, des systèmes d’IA sont développés et déployés pour des formes nuisibles et discriminatoires de surveillance étatique. De l’utilisation de la biométrie pour l’identification - biometrics for identification -, la reconnaissance et la catégorisation aux systèmes prédictifs dans diverses capacités de prise de décision et d’allocation des ressources, - predictive systems in various decision-making and resource allocation capacities - l’IA dans les forces de l’ordre cible de manière disproportionnée les communautés déjà marginalisées, porte atteinte aux droits juridiques et procéduraux et permet une surveillance de masse.

Lorsque les systèmes d’IA sont déployés dans des contextes d’application de la loi, de sécurité et de contrôle des migrations (y compris le maintien de l’ordre de la sécurité sociale), le déséquilibre des pouvoirs entre les autorités et les personnes surveillées est encore plus profond. Cela signifie qu’il existe un risque encore plus grand de préjudices et de violations des droits fondamentaux et de l’État de droit.

Cette déclaration souligne la nécessité urgente de réglementer l’utilisation des systèmes d’IA par les autorités chargées de l’application des lois, du contrôle des migrations et de la sécurité nationale dans toute l’Europe.

Nous soulignons les dangers spécifiques qui pèsent sur la liberté de réunion, la liberté, le droit d'asile, la protection de la vie privée et des données, le droit à la protection sociale et la non-discrimination lorsqu'une telle technologie est déployée par ces autorités.

Les organisations de la société civile réclament une loi sur l’IA qui empêche les formes incontrôlées de surveillance discriminatoire et de masse. Afin de respecter les droits de l’homme et de prévenir les préjudices liés à l’utilisation de l’IA dans les domaines du maintien de l’ordre, du contrôle des migrations et de la sécurité nationale, la loi de l’UE sur l’IA doit :

1. Inclure des limites juridiques interdisant l’utilisation de l’IA qui présente un risque inacceptable pour les droits fondamentaux. Cela inclut une interdiction légale de différentes formes de surveillance biométrique, de police prédictive et d’utilisations néfastes de l’IA dans le contexte migratoire.

2. Assurer la transparence et la surveillance publiques lorsque la police, les agences de migration et de sécurité nationale utilisent l’IA « à haut risque », en faisant respecter le devoir égal de ces autorités d’enregistrer les utilisations à haut risque dans la base de données de l’UE sur l’IA.

3. Veiller à ce que la loi sur l'IA réglemente correctement les utilisations de l'IA dans les domaines du maintien de l'ordre, de la migration et de la sécurité nationale qui présentent un risque pour les droits de l'homme, en particulier la liste complète de l'IA dans le contrôle des migrations, et garantir que la sécurité nationale n'est pas exclue de son champ d'application.

Pourquoi la loi européenne sur l’IA doit réglementer l’utilisation de l’IA dans les domaines de l’application des lois, de la migration et de la sécurité nationale

- Les contrôles exercés sur le pouvoir de l'État et de la police sont essentiels au fonctionnement d'une société démocratique fondée sur les droits. La loi sur l’IA vise à reconnaître et à réglementer les utilisations à haut risque de l’IA et, si nécessaire, à les interdire lorsque la menace pour les droits fondamentaux est trop grande. Les utilisations de l'IA par les autorités étatiques dans les domaines de la police, de la migration et de la sécurité nationale comptent parmi les cas d'utilisation les plus à haut risque, car elles ont un impact plus aigu sur les droits fondamentaux, notamment la liberté de réunion et d'expression, le droit à un procès équitable, la présomption d'innocence, la non-discrimination et le droit de demander l'asile. Le travail des autorités de police, de migration et de sécurité régit l'accès à l'espace public, les résultats dans les secteurs de la justice pénale et de la migration, ainsi que divers autres domaines de la vie ayant le plus grand impact sur les droits fondamentaux. En tant que telle, l’utilisation de l’IA par ces autorités nécessite le plus grand contrôle et la plus grande transparence, ainsi que les limites les plus claires pour respecter les principes démocratiques fondamentaux.

- L'utilisation de l'IA dans les domaines de la police, de la sécurité et de la migration amplifie la discrimination structurelle à l'encontre de communautés déjà marginalisées et sur-surveillées, telles que les personnes racialisées, les migrants et de nombreux autres groupes discriminés. De plus en plus d’éléments démontrent que de tels systèmes d’IA renforcent le contrôle excessif, la surveillance disproportionnée, la détention et l’emprisonnement des groupes structurellement discriminés. Les données utilisées pour créer et faire fonctionner de tels systèmes reflètent une discrimination historique, systémique, institutionnelle et sociétale. Cette discrimination est si fondamentale et enracinée que tous ces systèmes renforceront ces résultats. Les interdictions, la transparence publique et les cadres de responsabilité sont nécessaires pour prévenir les préjudices et donner aux individus les moyens de les contester.

- L'utilisation de l'IA dans les domaines de la police, de la sécurité et de la migration invite le secteur privé à influencer des aspects essentiels de la gouvernance publique - , invites private sector influence into core aspects of public governance -, ce qui nécessite une surveillance et des limites juridiques encore plus strictes afin de garantir le respect des droits des peuples. Étant donné que ces domaines relèvent de fonctions gouvernementales, il est crucial que la loi sur l’IA garantisse que le développement de l’IA par le secteur privé dans ces domaines soit publiquement transparent. Les systèmes d’IA, lorsqu’ils sont déployés dans les domaines de la police, de la migration et de la sécurité nationale, doivent être responsables avant tout des normes relatives aux droits fondamentaux et de l’État de droit, plutôt que de rechercher le profit. À ce titre, des garanties, une surveillance et des limites juridiques doivent être appliquées.

Lire la liste des signataires et les annexes

#Démocratie, #libertés