« Devenez une personne transparente », quotidien Junge Welt, 2 janvier 2025

À la mi-décembre 2024, le gouvernement CDU-SPD de Hesse a élargi les pouvoirs de la police avec des lois dites de sécurité. Qu’est-ce que cela signifie si l’intelligence artificielle, l’IA, est bientôt utilisée dans la vidéosurveillance ?

Cela inclut, par exemple, une forme d’analyse vidéo actuellement utilisée à Hambourg et Mannheim. Le système est destiné à reconnaître les schémas de mouvement et à signaler les coups de pied ou de poing à la police : quelque chose de dangereux pourrait se produire ici. Le problème est que nous ne savons pas quel comportement spécifique déclenche un signal. La loi ne prévoit aucune exigence précise à ce sujet. Cela dépend donc de la manière dont le logiciel a été formé. Cela est particulièrement difficile pour les personnes censées se comporter de manière atypique dans l’espace public, par exemple les sans-abri. En outre, le logiciel est destiné à découvrir des modèles d’armes, de couteaux et d’objets dangereux en Hesse. Ceci est relativement peu spécifique et va très loin. Cela peut également inclure des objets du quotidien. En outre, pour la première fois en Allemagne, l’identification biométrique à distance en temps réel est autorisée dans les espaces publics afin d’identifier les personnes en direct grâce à des vidéos de surveillance. Cela inclut l’utilisation d’un logiciel de reconnaissance faciale.

Le travail de la police s’oriente vers davantage de reconnaissance faciale biométrique. En 2023, 117 894 demandes ont été adressées aux bureaux de police judiciaire des Länder, à l’Office fédéral de la police judiciaire et à la police fédérale ; environ 26 000 de plus qu’en 2022.

Par rapport à la nouvelle autorité de Hesse, il s’agissait de comparaisons ultérieures, c’est-à-dire pas en temps réel. Les deux restreignent considérablement les droits fondamentaux. Si la police sait où j’ai rencontré et avec qui, elle peut tirer des conclusions sur mes opinions politiques, mon état de santé ou même mon orientation sexuelle. L’anonymat dans l’espace public devient impossible. Vous devenez une personne transparente. Cela a également un impact sur l’exercice des droits fondamentaux : si je sais que je peux être identifié partout, j’adapte naturellement mon comportement. De plus, les systèmes sont sujets aux erreurs. Les personnes non blanches en particulier sont souvent mal identifiées.

Existe-t-il d’autres pouvoirs de police en Hesse ?

Oui. Par exemple, les policiers sont autorisés à porter des caméras corporelles pendant les opérations et à les allumer également dans les appartements. Il existe d’autres moyens de détenir les gens. La détention préventive peut prendre plus de temps. Les menottes électroniques aux chevilles peuvent être utilisées plus fréquemment. Les violations des interdictions de séjour sont punies par la loi. Le logiciel de police « Hessendata » de la société américaine Palantir devrait désormais pouvoir utiliser explicitement l’IA pour analyser différentes bases de données policières. Cela signifie en grande partie davantage de surveillance et d’empiétement sur les droits fondamentaux des groupes et communautés marginalisés.

N’est-ce pas particulièrement problématique à Francfort, où la police fait la une des journaux à cause des réseaux de droite ?

Si le législateur étend les pouvoirs de la police, il doit les formuler clairement et ne pas laisser beaucoup de marge de manœuvre. Le contrôle joue également un rôle important dans la prévention des abus : lorsque les pouvoirs sont exercés en secret, les personnes concernées ne peuvent généralement pas obtenir de protection juridique car elles ne savent même pas qu’elles sont concernées. Les délégués à la protection des données devraient effectuer des contrôles réguliers. Cela nécessite une documentation suffisante de la part de la police.

À qui s’adressent principalement les nouvelles réglementations ?

N’importe qui peut potentiellement être concerné. Par exemple, la reconnaissance faciale traite les données personnelles de toutes les personnes enregistrées avec des caméras. Mais davantage de surveillance a un effet intimidant sur le militantisme. Les militants sont nettement plus susceptibles d’être ciblés. Ceux qui se sont déjà retrouvés dans une base de données de la police sont particulièrement concernés.