Avocat Antonio Tejeda Encinas CEO Meta Channel Corp . Président Euro-American Committee of Digital Law
Analyse comparative : La réglementation des deepfakes et des contenus manipulés à l’ONU et dans l’Union européenne
Documents et textes de l’ONU :
L’ONU a abordé la problématique des deepfakes et de la désinformation dans plusieurs documents et recommandations, notamment le rapport du sommet mondial AI for Good de 2024 et la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle, adoptée en 2021 et mise à jour en septembre 2024. La Recommandation de l’UNESCO est le premier cadre éthique mondial applicable à ses 194 États membres ; elle met l’accent sur la transparence et la protection des droits de l’homme face aux contenus manipulés et aux deepfakes.
En outre, l’ONU a publié des lignes directrices pour la gouvernance des plateformes numériques, axées en particulier sur la modération des contenus et la protection de la liberté d’expression. Ces lignes directrices visent à établir des normes sur la manière de réguler l’information manipulée, d’éviter de nuire à la société et de garantir que les plateformes numériques fonctionnent de manière transparente et responsable.
Sur un plan plus technique, l’Union internationale des télécommunications (UIT) a publié le document « AI Watermarking: A Watershed for Multimedia Authenticity », qui fixe des normes pour l’utilisation du tatouage numérique (watermarking) et des technologies de détection des deepfakes. Ce rapport, présenté en mai 2024, propose des solutions techniques permettant de retracer l’origine des contenus générés par l’IA et d’atténuer les risques de désinformation.
L’approche de l’Union européenne : l’AI Act et le code de bonnes pratiques :
L’Union européenne a opté pour une approche normative plus structurée avec le règlement sur l’intelligence artificielle (AI Act), entré en vigueur en août 2024. Ce règlement classe les systèmes d’IA en fonction de leur risque et fixe des obligations spécifiques pour les contenus manipulés et les deepfakes. Les applications d’IA qui génèrent des deepfakes sont classées à haut risque, ce qui oblige les fournisseurs à apposer des étiquettes claires sur l’origine des contenus et à garantir la transparence des systèmes.
L’AI Act interdit en outre directement certains usages, comme les deepfakes utilisés à des fins de manipulation politique ou sociale, qu’il considère comme des « risques inacceptables » ne pouvant être admis sur le territoire de l’Union. La législation sera complétée en avril 2025 par le code de bonnes pratiques pour les fournisseurs de modèles d’IA générative (GPAI), qui fournira des lignes directrices éthiques et techniques pour la création de ces modèles, mais dont l’adoption sera volontaire.
La portée extraterritoriale de l’AI Act :
Bien que l’AI Act s’applique directement dans les États membres de l’Union, sa portée extraterritoriale a des conséquences mondiales. Toute entreprise située hors de l’Union qui souhaite opérer sur le marché européen ou traiter des données de citoyens européens doit respecter ces règles. Ainsi, les entreprises d’Amérique latine, des États-Unis et d’Asie devront s’adapter à ces normes si elles veulent proposer des services en Europe. Cette approche crée un effet domino et influence la manière dont d’autres régions et pays élaborent leurs propres réglementations de l’IA.
Autres projets internationaux :
Au niveau international, d’autres initiatives de gouvernance mondiale sont en cours, comme l’élaboration par l’ONU du traité sur la cybercriminalité, qui vise à créer un cadre juridique pour lutter contre la cybercriminalité et protéger les sociétés contre l’utilisation malveillante des deepfakes. Bien que le processus ait été controversé et soit critiqué pour l’absence de consensus, il représente un effort pour parvenir à un accord mondial contraignant.
Un avenir de normes intégrées :
L’approche de l’ONU repose sur la coopération mondiale et sur la création de normes techniques et éthiques applicables à tous ses membres, de l’éthique et de la gouvernance numérique jusqu’à la détection technique des deepfakes. L’Union européenne, pour sa part, met en œuvre un cadre réglementaire plus spécifique et contraignant avec l’AI Act, ce qui lui permet d’agir rapidement sur son territoire et de créer des précédents à l’échelle mondiale.
Si l’Union met l’accent sur la mise en œuvre immédiate et la protection des droits fondamentaux, l’ONU propose une perspective plus globale et adaptable à différents contextes. En définitive, la coopération entre ces deux cadres sera essentielle pour établir une norme mondiale qui protège les sociétés contre les risques des deepfakes et d’autres usages malveillants de l’IA générative.
