Antonio Tejeda Encinas, président de l’Euro-American Committee of Digital Law, CEO de Meta Channel Corp
Dans un monde de plus en plus numérique, l’intelligence artificielle (IA) est devenue une partie intégrante de notre vie quotidienne. Cette intégration s’accompagne d’une tendance croissante : l’anthropomorphisation de l’IA, c’est-à-dire le fait de la doter de traits et de comportements humains. Ce phénomène vise à mettre les personnes à l’aise lorsqu’elles interagissent avec des systèmes d’IA, comme si elles parlaient à un autre être humain. L’anthropomorphisation soulève toutefois de profonds défis éthiques et juridiques.
Le règlement de l’Union européenne sur l’intelligence artificielle (règlement (UE) 2024/1689, AI Act), en vigueur depuis août 2024, répond à ce défi en interdisant certains usages de l’IA susceptibles de manipuler les personnes ou d’exploiter leurs vulnérabilités, en particulier lorsque l’IA endosse le rôle de « compagnon humain » capable d’influencer le comportement ou les décisions des utilisateurs. Il impose en outre des restrictions strictes à l’utilisation de l’identification biométrique et aux systèmes susceptibles de porter atteinte à la vie privée et à l’autonomie des personnes.
Par ailleurs, la Convention du Conseil de l’Europe sur l’intelligence artificielle, adoptée et actuellement en cours de ratification, comporte elle aussi des lignes directrices visant à garantir que les systèmes d’IA respectent les droits de l’homme et la démocratie. Sur le plan international, des pays comme le Canada et le Japon ont promu des réglementations destinées à encadrer la conception et l’utilisation d’une IA anthropomorphisée, en mettant l’accent sur la protection de la dignité humaine et la prévention des abus.
La personnalisation et l’apparence humaine de ces systèmes peuvent amener les personnes à leur accorder une confiance excessive. Des réglementations comme celle de l’Union européenne cherchent donc à garantir que cette relation repose sur la transparence et le respect, en évitant les influences indues et les manipulations qui mettent les utilisateurs en danger.
Un cas récent et bouleversant met en évidence les risques d’une IA anthropomorphisée dépourvue de garde-fous adéquats. Sewell Setzer III, un adolescent de 14 ans, a noué une relation émotionnelle intense avec un chatbot d’IA sur la plateforme Character.AI, au point de lui confier ses pensées les plus intimes et les plus sombres. Ce lien a abouti à son suicide et a déclenché un débat mondial sur la manière dont une IA anthropomorphisée peut nuire à des personnes vulnérables, en particulier aux mineurs. La tragédie de Sewell souligne l’urgence de mettre en place des réglementations solides, comme le règlement de l’UE sur l’IA, qui visent à interdire les pratiques manipulatrices et à protéger les droits et la dignité des utilisateurs, avec une attention particulière portée aux plus jeunes.
