La réglementation de l’intelligence artificielle dans l’Union européenne a été présentée comme un effort pionnier pour garantir que le développement technologique respecte les droits fondamentaux. Pourtant, à l’analyse de l’ article 5 du règlement de l’UE sur l’IA , une inquiétude légitime apparaît : sommes-nous réellement face à un cadre de protection solide, ou face à une architecture normative aux portes trop ouvertes à des interprétations dangereuses ?
1. La promesse d’une interdiction qui se dilue dans les exceptions
À première vue, l’article 5 établit une interdiction apparemment catégorique : l’utilisation de systèmes d’identification biométrique à distance en temps réel dans les espaces publics est interdite. Toutefois, cette interdiction se transforme rapidement en une déclaration ambiguë dès que l’on examine les exceptions autorisées. Leur utilisation est permise dans les cas suivants :
* Recherche de personnes disparues, une justification légitime mais qui comporte des risques potentiels d’abus.
* Prévention d’infractions graves, un critère trop large si l’on ne définit pas avec précision les infractions qui entreraient dans cette catégorie.
* Lutte contre le terrorisme, un argument récurrent qui a servi par le passé à justifier des mesures de surveillance intrusives.
Le problème essentiel réside dans l’élasticité de la notion de « stricte nécessité », un terme juridiquement indéterminé qui permet aux États membres d’interpréter ces exceptions selon leurs propres intérêts.
Quand une menace est-elle réellement imminente ? Que signifie un « risque substantiel » ?
Sans critères stricts ni mécanismes de contrôle indépendants, ces dispositions pourraient finir par légitimer le recours généralisé à des technologies de surveillance de masse sous prétexte de sécurité publique.
2. L’ambiguïté normative : une brèche dans la sécurité juridique
Le langage utilisé dans le règlement laisse de larges marges d’appréciation. Des expressions comme « menace imminente » ou « risque substantiel » n’ont pas de définition claire, ce qui crée de l’incertitude tant pour les citoyens que pour les autorités chargées de l’appliquer. Dans un contexte où l’intelligence artificielle s’intègre de plus en plus dans la prise de décisions gouvernementales et policières, le manque de clarté peut déboucher sur des décisions arbitraires dangereuses.
Les conséquences possibles de ce manque de précision sont préoccupantes :
* Extension de la surveillance de masse : sans limites claires, les États pourraient justifier l’utilisation de ces outils de reconnaissance faciale dans des contextes bien plus larges que prévu.
* Insécurité juridique : en l’absence de critères uniformes, chaque pays de l’UE pourrait appliquer la règle différemment, ce qui éroderait la protection homogène que devrait garantir la législation de l’Union.
* Érosion du droit à la vie privée : l’absence de contrôle sur l’utilisation de l’identification biométrique peut conduire à une surveillance omniprésente, en normalisant une société où chaque citoyen est potentiellement observé en permanence.
3. Le rôle des grandes entreprises : réglementation ou capture réglementaire ?
Il est important d’analyser qui a influencé l’élaboration du règlement sur l’IA. De grandes entreprises technologiques comme Amazon, Google et OpenAI ont exprimé leur soutien au texte, non parce qu’il limite leur pouvoir, mais parce qu’il leur permet d’opérer dans un cadre réglementaire offrant une marge de manœuvre suffisante. Ces entreprises ont plaidé pour un « usage responsable » de l’IA, mais dans la pratique elles ont développé et promu des outils de surveillance de masse qui pourraient tirer parti des ambiguïtés normatives.
En ce sens, le règlement risque de devenir un instrument de capture réglementaire, où la norme, au lieu de limiter le pouvoir de ces entreprises, finit par légitimer leur influence en établissant un cadre juridique qui facilite leur expansion sans restrictions réelles.
4. Solution réelle ou simple simulacre normatif ?
Pour que le règlement sur l’IA tienne sa promesse de protéger les citoyens, il est indispensable d’apporter des améliorations substantielles au contrôle et à l’application de ses dispositions. Quelques mesures fondamentales seraient les suivantes :
1. Définition précise des notions clés : des termes comme « stricte nécessité », « menace imminente » et « risque substantiel » doivent être concrets et ne laisser aucune place à des interprétations laxistes.
2. Contrôle indépendant des exceptions : toute utilisation de l’identification biométrique dans les espaces publics doit être soumise à un contrôle juridictionnel ou à un organe indépendant doté d’un réel pouvoir de sanction.
3. Transparence totale dans la mise en œuvre : les forces de l’ordre et les organismes publics doivent rendre compte du moment, de la manière et des raisons pour lesquels ils utilisent ces outils.
4. Garantie que la réglementation ne devienne pas une voie vers la surveillance de masse : sans limites strictes, le texte pourrait normaliser un état d’hypersurveillance contraire aux principes démocratiques européens.
POUR CONCLURE : la réglementation a besoin d’ajustements urgents
L’article 5 du règlement de l’UE sur l’IA traduit une intention réglementaire nécessaire, mais sa mise en œuvre est déficiente sur des points clés. Les exceptions qu’il autorise sont trop larges, les termes employés sont imprécis et le contrôle de son application est insuffisant. Si l’Union européenne veut réellement garantir la protection des droits fondamentaux à l’ère de l’intelligence artificielle, elle doit corriger ces défauts avant que la norme ne devienne un outil de plus de contrôle de masse, au lieu d’un bouclier pour les citoyens.
