Startup de inteligencia artificial · Software (HR Tech) · Europa
El problema
El algoritmo de machine learning de esta startup optimiza la selección de personal, un uso que el AI Act considera de alto riesgo, y la empresa se enfrentaba a las obligaciones del reglamento que estaban a punto de aplicarse. Tenía que auditarlo para comprobar que cumplía los requisitos de transparencia, explicabilidad y mitigación de sesgos, un trabajo tan técnico como jurídico.
Qué hicimos
- Reunimos un equipo mixto: abogados de nuestra red especializados en el AI Act, para la interpretación jurídica, y auditores técnicos capaces de analizar el código y los datasets del algoritmo.
- Con esos auditores, revisamos el código y los datasets frente a los requisitos del AI Act.
- Desarrollamos un módulo de explicabilidad (XAI) que se integra en el software del cliente y genera de forma automática los informes de transparencia.
Resultado
- Auditoría completada: algoritmo evaluado y documentado conforme a los requisitos del AI Act.
- Un módulo XAI propio, integrado en el producto, que convierte el cumplimiento en un argumento de venta.
- Documentación de cumplimiento lista para futuras inspecciones del regulador.
- Más confianza de sus clientes, que ven el software como garantía de una contratación ética y legal.
Intervinieron: Estrategia Regulatoria Global · Derecho Global y Asesoría Jurídica Integral · Implementación y Tecnología (desarrollo a medida).
