Quand les machines conversent sans nous : exclusion humaine, gouvernance de l’invisible et défi normatif européen
Par Antonio Tejeda Encinas, président de l’Euro-American Committee of Digital Law et Meta Channel Corp.
Dans des secteurs comme la logistique automatisée, le trading financier à haute fréquence ou l’interopérabilité des plateformes numériques, les machines dialoguent déjà entre elles sans médiation humaine. Elles échangent des données, évaluent des options, optimisent des processus et exécutent des décisions aux conséquences juridiques et économiques immédiates. Ce phénomène, qui il y a peu semblait relever de la science-fiction, constitue déjà un élément central des infrastructures techniques mondiales. Et pourtant, nombre de ses aspects critiques restent sans réponse juridique.
Au sein de l’Euro-American Committee of Digital Law – CEA Digital Law, nous observons que cette forme d’interaction autonome entre systèmes d’intelligence artificielle entraîne une mutation structurelle du principe de responsabilité. Le règlement de l’Union européenne sur l’intelligence artificielle (AI Act), récemment adopté, établit un cadre pionnier pour classer, superviser et limiter l’utilisation des systèmes d’IA en fonction de leur niveau de risque. Cependant, le règlement ne résout pas — et ne prétend pas résoudre pleinement — la question de la traçabilité effective lorsque les décisions se prennent entre des systèmes interconnectés sans intervention humaine directe.
Qui plus est, le récent retrait de la proposition de directive sur la responsabilité civile pour les dommages causés par l’IA a laissé un vide préoccupant. La responsabilité objective, le principe d’imputabilité et les mécanismes d’indemnisation restent ancrés dans des modèles pensés pour des sujets humains ou des entités sociétaires classiques, et non pour des flux autonomes de décision algorithmique. Le droit se trouve donc face à une alternative : évoluer pour comprendre et maîtriser ces interactions invisibles, ou se voir relégué à sanctionner les conséquences sans pouvoir les anticiper.
Ce décalage a des effets tangibles que Meta Channel Corporation, dans son activité de représentation internationale d’entreprises latino-américaines et mondiales en Europe, constate de plus en plus clairement. Dans de nombreux cas, les décisions qui touchent ses clients représentés — blocages de marchandises, activation automatique de clauses contractuelles, exclusion de plateformes — proviennent d’interactions autonomes entre systèmes d’IA de différentes juridictions, sans transparence, sans explication ni voie de recours efficace. L’entreprise humaine se retrouve prise au piège d’une architecture automatisée qui décide en son nom, sans qu’aucune instance humaine accessible n’en réponde.
C’est pourquoi, au sein de CEA Digital Law, nous proposons d’avancer vers une nouvelle catégorie juridique : la gouvernance des interactions autonomes, qui combine :
- Des obligations de traçabilité intersystémique.
- Des audits juridiques obligatoires des flux de décision autonome.
- Une présomption de responsabilité partagée entre fournisseurs, développeurs et utilisateurs de systèmes autonomes connectés.
Et, du côté de Meta Channel Corporation, nous proposons une stratégie préventive fondée sur l’adaptation contractuelle, la documentation des flux numériques et la surveillance externe des interactions automatisées, afin de permettre aux entreprises d’identifier les risques juridiques avant qu’ils ne se matérialisent.
Nous sommes face à un nouveau paradigme : la conversation n’a plus lieu entre humains, ni même entre humains et machines, mais entre les machines elles-mêmes. Et si le droit ne s’adapte pas à ce langage invisible, nous perdrons la capacité de gouverner les systèmes qui gouvernent le monde.
