[NOTE] – L’utilisation des technologies par les pouvoirs publics
L’actualité législative a été régulièrement marquée ces derniers mois par l’étude de nouvelles technologies : application TousAntiCovid, mise en place des drones de police, reconnaissance faciale, algorithmes pour lutter contre la fraude fiscale.
Alors que nous débattons d’une nouvelle technologie dite des “algorithmes de surveillance”, je reviens dans une note à la Fondation Jean Jaurès sur la manière dont nous devons nous emparer de ces nouveaux débats. Pour cela, je propose une méthode en 3 temps ainsi que des pistes de solutions qui pourront nous permettre d’avoir une réflexion sur l’efficacité, sur le cadre juridique ainsi que sur l’acceptabilité sociale et éthique.
À chaque fois qu’une nouvelle technologie fait son apparition dans le débat public, elle est présentée comme une « solution miracle ». Il y a un an, TousAntiCovid devait nous permettre de contenir rapidement et efficacement la pandémie. Il y a quelques mois, l’usage extensif de drones était vu comme la solution idoine pour traquer les délinquants et régler les problèmes d’insécurité du quotidien. Aujourd’hui, ce sont les algorithmes de renseignement qui sont présentés comme la technologie indispensable pour nous prémunir d’attaques terroristes.
Dans cette note, je reviens sur l’inflation législative liée aux technologies à risque de ces dernières années. Cette tendance est d’autant plus préoccupante qu’elle a lieu à la va-vite : sans évaluations ni études d’impact sérieuses, sans cadre de réflexion, sans véritable débat démocratique.
Pour appréhender ces sujets, il nous faut adopter une méthode d’analyse sur au moins trois niveaux :
- niveau technique : cette technologie est-elle efficace ?
- niveau juridique : cette technologie fait-elle l’objet de garde-fous suffisants et de mécanismes de contrôle effectifs ?
- niveau éthique : cette technologie est-elle socialement acceptable ?
1. Niveau technique : évaluer l’efficacité de la technologie en question
L’efficacité est la première question que se posent les experts techniques lorsqu’ils développent une nouvelle solution.
Deux exemples récents nous permettent d’illustrer ce niveau de réflexion : l’application TousAntiCovid et les algorithmes de surveillance.
Je propose :
- d’obliger le gouvernement à fournir aux parlementaires des études d’impact sur les nouvelles technologies
- de créer une commission du numérique de plein exercice à l’Assemblée nationale
2. Niveau juridique : renforcer les garde-fous et les mécanismes de contrôle
Les technologies déployées par la puissance publique se fondent sur la collecte massive et le traitement approfondi de données personnelles. Sans de solides garde-fous juridiques et des mécanismes de contrôle appropriés, ces technologies représentent des atteintes à la vie privée des personnes qui est protégée par la Constitution.
Deux exemples récents nous permettent de questionner les garanties prévues par le gouvernement : l’usage extensif de drones par la police et la technologie de scrapping des données sur les réseaux sociaux pour lutter contre la fraude fiscale.
Je propose :
- de passer du droit d’information et accès au devoir de transparence sur l’utilisation des données personnelles
- d’élargir les actions de groupe pour les associations
3. Niveau éthique : interroger l’acceptabilité sociale des technologies
Avec l’accroissement des capacités techniques vient la responsabilité. Ce n’est pas parce qu’un dispositif devient techniquement possible qu’il faut nécessairement qu’on en fasse usage comme une course en avant non réfléchie, non maîtrisée.
Deux exemples permettent d’illustrer ces dilemmes éthiques : l’usage de la reconnaissance faciale à des fins d’identification dans l’espace public et le développement de technologies dites « sous la peau ».
Je propose :
- une convention citoyenne sur l’éthique du numérique
- une charte constitutionnelle du numérique et des libertés