Cuando las máquinas conversan sin nosotros: exclusión humana, gobernanza de lo invisible y el desafío normativo europeo
Por Antonio Tejeda Encinas , presidente Comite Euro Americano Digital Law, Meta Channel Corp.
En sectores como la logística automatizada, el comercio financiero de alta velocidad o la interoperabilidad de plataformas digitales, las máquinas ya dialogan entre sí sin mediación humana. Intercambian datos, evalúan opciones, optimizan procesos y ejecutan decisiones con consecuencias jurídicas y económicas inmediatas. Este fenómeno, que hasta hace poco parecía propio de la ciencia ficción, constituye ya una parte central de las infraestructuras técnicas globales. Y sin embargo, permanece jurídicamente inatendido en muchos de sus aspectos críticos.
Desde el Comité Euro Americano de Derecho Digital – CEA Digital Law, observamos que esta forma de interacción autónoma entre sistemas de inteligencia artificial plantea una mutación estructural del principio de responsabilidad. El recién aprobado Reglamento de Inteligencia Artificial de la Unión Europea (AI Act) establece un marco pionero para clasificar, supervisar y limitar el uso de sistemas de IA según su nivel de riesgo. Sin embargo, el reglamento no resuelve —ni pretende hacerlo plenamente— la cuestión de la trazabilidad efectiva cuando las decisiones se producen entre sistemas interconectados sin intervención humana directa.
Más aún: la reciente retirada de la propuesta de Directiva sobre responsabilidad civil por daños causados por IA ha dejado un vacío preocupante. La responsabilidad objetiva, el principio de imputabilidad y los mecanismos de compensación siguen anclados en modelos pensados para sujetos humanos o entidades corporativas clásicas, no para flujos autónomos de decisión algorítmica. El Derecho, por tanto, se encuentra ante una disyuntiva: evoluciona para comprender y controlar estas interacciones invisibles, o queda relegado a sancionar las consecuencias sin poder anticiparlas.
Este desfase tiene efectos tangibles que Meta Channel Corporation, en su labor de representación internacional de empresas latinoamericanas y globales en Europa, identifica cada vez con más claridad. En numerosos casos, las decisiones que afectan a sus representados —bloqueos de mercancías, activación automática de cláusulas contractuales, exclusión de plataformas— provienen de interacciones autónomas entre sistemas de IA de diferentes jurisdicciones, sin transparencia, explicación ni canal de reclamación eficaz. La empresa humana queda atrapada en una arquitectura automatizada que decide en su nombre, sin que haya una instancia humana accesible que responda.
Por eso, desde CEA Digital Law, proponemos avanzar hacia una nueva categoría jurídica: la gobernanza de las interacciones autónomas, que combine:
- Obligaciones de trazabilidad intersistémica.
- Auditorías legales obligatorias sobre flujos de decisión autónoma.
- Presunción de responsabilidad compartida entre proveedores, desarrolladores y usuarios de sistemas autónomos conectados.
Y desde Meta Channel Corporation, proponemos una estrategia preventiva basada en la adaptación contractual, la documentación de flujos digitales y la monitorización externa de interacciones automatizadas, que permita a las empresas identificar los riesgos jurídicos antes de que se materialicen.
Estamos ante un nuevo paradigma: la conversación ya no es entre humanos, ni siquiera entre humanos y máquinas, sino entre máquinas entre sí. Y si el Derecho no se adapta a este lenguaje invisible, perderemos la capacidad de gobernar los sistemas que gobiernan el mundo.
