Bureau Ouvert sur les technologies de renseignement
L’initiative Bureau Ouvert, que j’anime depuis le début de mon mandat, consiste à ouvrir mon bureau à des citoyennes et citoyens pour qu’ils participent avec mes équipes à la fabrication de la loi. Si la crise sanitaire a rendu plus compliquée la tenue, en physique, de ces réunions, mon équipe et moi faisons notre possible pour les assurer de manière dématérialisée, par visioconférence.
Jeudi dernier, le 20 mai, nous avons organisé une nouvelle session du Bureau Ouvert consacrée cette fois-ci aux technologies de renseignement. En effet, le projet de loi relatif à la prévention d’actes de terrorisme et au renseignement arrive bientôt à l’ordre du jour de l’Assemblée nationale. Il contient notamment une disposition controversée sur une technique de renseignement dite de “l’algorithme”.
Prévue à titre expérimental à l’article L. 851-3 du code de la sécurité intérieure, il ouvre la possibilité d’imposer la mise en place, sur les réseaux des opérateurs de communications électroniques et des fournisseurs de services sur internet, de traitements automatisés destinés à détecter des connexions susceptibles de révéler une menace terroriste, sans qu’il soit possible de procéder, dans un premier temps, à l’identification des personnes concernées.
Étaient présents jeudi 20 mai avec nous des experts des technologies numériques, des juristes ainsi que des journalistes spécialisés sur ces sujets. Durant cette séance du Bureau Ouvert, nous avons essayé, avec nos invité.es, de comprendre ensemble :
l’évolution du cadre juridique et l’intention du nouveau projet de loi
le fonctionnement de cette technologie et ses risques potentiels
les possibles amendements que nous pouvons déposer
De ce Bureau Ouvert, nous tirons un certain nombre de premiers enseignements :
Le terme adresse complète de ressource sur internet gagnerait à être précisé. Si le Ministre de l’intérieur semble faire allusion aux URL dans diverses interventions médiatiques, il convient d’obtenir une précision de ces terminologies. A également été évoquée la possibilité de réfléchir à une définition juridique du terme anglais URL (Uniform Resource Locator en anglais) afin de l’inscrire dans la loi française et d’en définir des contours précis.
Nous ne disposons pas d’informations suffisantes s’agissant de la manière dont sont entraînés ces algorithmes. Également, comment s’assurer que les algorithmes ne comportent pas de biais influençant les résultat (biais raciste par exemple) ?
Il existe une forme d’opacité du texte sur les usages du dispositif. Celle-ci rend logiquement difficile l’acceptabilité du PJL. A quoi servent les fameuses boîtes noires ? Où sont-elles placées ? Ce dispositif revêt-il un objectif de souveraineté numérique face à l’hégémonie américaine en matière de renseignement et par exemple l’entreprise Palantir sur laquelle s’appuie le gouvernement américain ? Il semble judicieux d’effectuer une demande de rapport pour plus de transparence sur le dispositif.
Il serait intéressant d’envisager l’élargissement des pouvoirs de la délégation parlementaire du renseignement.
S’intéresser aux droits de la défense est important : il serait normal de pouvoir être notifié d’une quelconque manière si l’on a effectivement été l’objet d’une surveillance à tort.
Il nous faut rester vigilant sur l’adéquation du projet de loi proposé par le gouvernement avec la décision de la CJUE relative à la conservation des données de connexion.
Plus largement, il serait judicieux d’inscrire dans la loi le fait que la prise de décision d’un algorithme soit liée à un humain.
Suite à ce nouveau Bureau Ouvert, nous travaillons, avec mon équipe, à l’écriture d’amendements intégrant ces différents points. Je serai vigilante quant à l’évolution de ce projet de loi et son étude.
Mardi 1er juin, à 21h, nous serons en direct sur Twitch sur la chaîne débatsansfiltre.fr pour échanger sur ce projet de loi avec l’ensemble des vieweuses et viewers qui seront avec nous.