Antonio Tejeda Encinas, Presidente do Comité Euro Americano Digital Law, CEO da Meta Channel Corp
Num mundo cada vez mais digital, a inteligência artificial (IA) tornou-se parte integrante do nosso quotidiano. Com esta integração surge uma tendência crescente: a antropomorfização da IA, ou seja, dotá-la de traços e comportamentos humanos. Este fenómeno tem como objetivo fazer com que as pessoas se sintam à vontade ao interagir com sistemas de IA, como se estivessem a falar com outro ser humano. No entanto, a antropomorfização levanta desafios éticos e jurídicos profundos.
O Regulamento da Inteligência Artificial da União Europeia (Regulamento (UE) 2024/1689), em vigor desde agosto de 2024, responde a este desafio proibindo determinadas utilizações da IA que possam manipular ou explorar as vulnerabilidades das pessoas, sobretudo quando a IA assume o papel de “companheiro humano” capaz de influenciar o comportamento ou as decisões dos utilizadores. Além disso, estabelece restrições rigorosas à utilização da identificação biométrica e de sistemas que possam afetar a privacidade e a autonomia das pessoas.
Por outro lado, a Convenção do Conselho da Europa sobre IA, aprovada e atualmente em processo de ratificação, inclui também orientações destinadas a garantir que os sistemas de IA respeitam os direitos humanos e a democracia. No plano internacional, países como o Canadá e o Japão têm promovido normas para limitar a conceção e a utilização de IA antropomorfizada, centrando-se na proteção da dignidade humana e na prevenção de abusos.
A personalização e a aparência humana destes sistemas podem levar as pessoas a confiar excessivamente neles. Assim, regulamentações como a europeia procuram assegurar que esta relação assenta na transparência e no respeito, evitando influências indevidas e manipulações que coloquem os utilizadores em risco.
Um caso recente e dilacerante evidencia os riscos de uma IA antropomorfizada sem as salvaguardas adequadas. Sewell Setzer III, um adolescente de 14 anos, desenvolveu uma relação emocional intensa com um chatbot de IA na plataforma Character.AI, o que o levou a partilhar os seus pensamentos mais profundos e sombrios. Este vínculo culminou no seu suicídio e desencadeou um debate global sobre a forma como uma IA antropomorfizada pode afetar negativamente pessoas vulneráveis, em especial menores. A tragédia de Sewell evidencia a urgência de implementar regulamentações sólidas, como o Regulamento da Inteligência Artificial da UE, que procuram proibir práticas manipuladoras e proteger os direitos e a dignidade dos utilizadores, com especial atenção aos mais jovens.
