Quando as máquinas conversam sem nós: exclusão humana, governação do invisível e o desafio normativo europeu
Por Antonio Tejeda Encinas , presidente Comite Euro Americano Digital Law, Meta Channel Corp.
Em setores como a logística automatizada, a negociação financeira de alta frequência ou a interoperabilidade de plataformas digitais, as máquinas já dialogam entre si sem mediação humana. Trocam dados, avaliam opções, otimizam processos e executam decisões com consequências jurídicas e económicas imediatas. Este fenómeno, que até há pouco parecia próprio da ficção científica, constitui já uma parte central das infraestruturas técnicas globais. E, no entanto, continua juridicamente desatendido em muitos dos seus aspetos críticos.
No Comité Euro Americano de Derecho Digital – CEA Digital Law, observamos que esta forma de interação autónoma entre sistemas de inteligência artificial representa uma mutação estrutural do princípio da responsabilidade. O recém-aprovado Regulamento da Inteligência Artificial da União Europeia (AI Act) estabelece um quadro pioneiro para classificar, supervisionar e limitar a utilização de sistemas de IA consoante o seu nível de risco. No entanto, o regulamento não resolve — nem pretende resolver plenamente — a questão da rastreabilidade efetiva quando as decisões são tomadas entre sistemas interligados sem intervenção humana direta.
Mais ainda: a recente retirada da proposta de Diretiva relativa à responsabilidade civil por danos causados pela IA deixou um vazio preocupante. A responsabilidade objetiva, o princípio da imputabilidade e os mecanismos de indemnização continuam ancorados em modelos pensados para sujeitos humanos ou entidades empresariais clássicas, não para fluxos autónomos de decisão algorítmica. O Direito encontra-se, por isso, perante uma encruzilhada: ou evolui para compreender e controlar estas interações invisíveis, ou fica relegado a sancionar as consequências sem as poder antecipar.
Este desfasamento tem efeitos tangíveis que a Meta Channel Corporation, no seu trabalho de representação internacional de empresas latino-americanas e globais na Europa, identifica com cada vez mais clareza. Em numerosos casos, as decisões que afetam os seus representados — bloqueios de mercadorias, ativação automática de cláusulas contratuais, exclusão de plataformas — resultam de interações autónomas entre sistemas de IA de diferentes jurisdições, sem transparência, explicação nem canal de reclamação eficaz. A empresa humana fica presa numa arquitetura automatizada que decide em seu nome, sem que exista uma instância humana acessível que responda.
Por isso, no CEA Digital Law, propomos avançar para uma nova categoria jurídica: a governação das interações autónomas, que combine:
- Obrigações de rastreabilidade intersistémica.
- Auditorias legais obrigatórias aos fluxos de decisão autónoma.
- Presunção de responsabilidade partilhada entre fornecedores, programadores e utilizadores de sistemas autónomos interligados.
E, na Meta Channel Corporation, propomos uma estratégia preventiva assente na adaptação contratual, na documentação dos fluxos digitais e na monitorização externa das interações automatizadas, que permita às empresas identificar os riscos jurídicos antes de estes se materializarem.
Estamos perante um novo paradigma: a conversa já não é entre humanos, nem sequer entre humanos e máquinas, mas entre as próprias máquinas. E, se o Direito não se adaptar a esta linguagem invisível, perderemos a capacidade de governar os sistemas que governam o mundo.
