¿Cuáles son los riesgos contractuales de la implementación de IA en las empresas? Explicación de la "Lista de verificación" elaborada por el Ministerio de Economía, Comercio e Industria para evitar crisis antes de que ocurran.
En los últimos años, la implementación de la IA (Inteligencia Artificial) ha avanzado en el ámbito empresarial. Sin embargo, el uso y desarrollo de la IA conllevan riesgos y desafíos legales específicos que difieren de los sistemas tradicionales.
Con este contexto en mente, en febrero de Reiwa 7 (2025), el Ministerio de Economía, Comercio e Industria de Japón desarrolló y publicó una “Lista de verificación de contratos para el uso y desarrollo de IA”. Esta lista de verificación está diseñada como una herramienta práctica de apoyo para que diversos clientes involucradas en contratos y uso de servicios de IA puedan organizar y revisar las condiciones contractuales de manera eficiente.
En este artículo, basándonos en la “Lista de verificación de contratos para el uso y desarrollo de IA” japonesa, explicaremos cómo tipificar los contratos relacionados con la IA y en qué aspectos prestar atención al firmar contratos, para utilizar la IA de manera eficiente en los negocios.
Checklist de Contratos para el Uso y Desarrollo de IA: Servicios de IA Relacionados en Japón
La “Checklist de Contratos para el Uso y Desarrollo de IA” en Japón abarca una amplia gama de servicios relacionados con la IA, incluyendo la IA generativa, y no está limitada a ningún sector específico ni a una tecnología de IA particular.
La checklist está diseñada para organizar sistemáticamente los puntos de discusión práctica relacionados con la oferta y el uso de servicios, desde dos perspectivas: “input” y “output”. Esto permite cubrir los temas de consideración a lo largo de todo el ciclo de vida del servicio de IA, al mismo tiempo que facilita a las partes interesadas la extracción de los ítems relevantes para su propia empresa.
Entradas y Salidas en la “Lista de Verificación de Contratos para el Uso y Desarrollo de IA” bajo la Ley Japonesa
La lista de verificación está estructurada en base a las siguientes dos fases en los servicios de IA:
【Entradas】
Se refiere a la información, datos, especificaciones y condiciones que se proporcionan y utilizan para la construcción, aprendizaje y operación de los servicios de IA. Por ejemplo, incluye datos de entrenamiento, algoritmos, reglas de negocio y condiciones del sistema. Si estas entradas son insuficientes o inapropiadas, pueden afectar directamente el rendimiento y la fiabilidad de los resultados de la IA, por lo que son un elemento crucial a considerar.
【Salidas】
Se trata de los resultados procesados, inferidos o generados por la IA, así como de cómo se manejan, utilizan y publican estos resultados. Por ejemplo, incluye textos e imágenes generados, resultados de inferencias, fundamentos de las decisiones, alcance de la provisión externa y ubicación de la responsabilidad.
Los resultados de la IA requieren verificaciones de precisión, transparencia y riesgos legales. La “Lista de Verificación de Contratos para el Uso y Desarrollo de IA” organiza los puntos críticos de la práctica contractual desde ambas perspectivas: las entradas (provisión de información previa) y las salidas (resultados de la IA y su manejo).
Definición de las partes involucradas
En los contratos relacionados con la inteligencia artificial (IA), los roles de los participantes, como “quienes desarrollan la IA”, “quienes proveen la IA” y “quienes utilizan la IA”, pueden variar dependiendo del tipo de servicio de IA.
Consideremos, por ejemplo, el caso de un servicio de IA genérico que se desarrolla y se implementa específicamente para una empresa mediante la personalización (ver siguiente sección 【Tipo 2: Personalizado】). En este escenario, se contempla un servicio que integra un servicio de IA genérico proporcionado por otra compañía y lo ajusta (personaliza) según las especificaciones del cliente.
En este caso, el proveedor de servicios de personalización B, en relación con la empresa A que recibe la personalización (usuario de la IA) (ver diagrama ①), asume el rol de “proveedor del servicio de IA (vendedor)”.
Por otro lado, en relación con la empresa C que proporciona la IA genérica (desarrollador de IA/proveedor de IA) (ver diagrama ②), el proveedor B se convierte en un usuario del servicio de IA.
Debido a que un mismo proveedor puede asumir el rol de “proveedor” o “usuario” dependiendo de la contraparte con la que se relaciona, es crucial definir claramente las posiciones y los alcances de responsabilidad de cada uno al momento de firmar un contrato.
Tipos de Contratos en la Lista de Verificación para el Uso y Desarrollo de IA bajo la Ley Japonesa
En esta lista de verificación, al clasificar los contratos relacionados con servicios de inteligencia artificial, hemos organizado tres tipos representativos de contratos. El objetivo es facilitar a las partes contratantes la comprensión de los puntos de verificación que corresponden a su posición y objetivos.
Cada tipo de contrato tiene sus propios puntos de discusión y riesgos característicos, y es crucial comprender el tipo apropiado según el propósito de implementación de la IA y la forma en que se proporcionan los servicios.
A continuación, presentamos en detalle los tres tipos de contratos.
Tipo 1: Uso de Servicios Generales
Este tipo se caracteriza por contratos en los que los usuarios utilizan servicios de IA ya completados y publicados tal como están. En Japón, esta es la forma más común de contrato.
Un ejemplo típico sería el uso de servicios de IA generativa en la web, como ChatGPT o IA de generación de imágenes (por ejemplo, DALL·E, Stable Diffusion).
En estos servicios, generalmente se presupone que el usuario utilizará el servicio de acuerdo con los términos de uso y las condiciones del servicio previamente establecidos por el proveedor. Rara vez es posible para el usuario negociar o cambiar el contenido del contrato.
La lista de verificación se centra en cómo los usuarios entienden y manejan los riesgos al utilizar servicios de IA que se ofrecen bajo condiciones preestablecidas.
Tipo 2: Personalizado
Este tipo de contrato implica la personalización de modelos y tecnologías existentes en manos del proveedor de servicios de IA, ajustándolos a las necesidades específicas de la empresa usuaria.
Por ejemplo, se puede dar el caso de que se añadan datos y reglas en posesión del usuario a un modelo de IA del proveedor para un aprendizaje adicional, o que se realicen ajustes y cambios en partes del sistema. Imaginemos el desarrollo de un chatbot de marketing que se implementará dentro de una empresa: se podría cargar la base de datos de productos de la empresa en un generador de IA genérico existente y enseñarle a aprender de las preguntas de los clientes, permitiendo así respuestas afinadas específicamente para esa empresa.
En tales contratos, se ofrece una solución que aprovecha la tecnología y el conocimiento originalmente desarrollados por el proveedor, mientras se satisfacen las demandas únicas del usuario. La lista de verificación incluirá temas principales como la atribución de la propiedad intelectual de las partes personalizadas, la posibilidad de reutilización y la distribución de responsabilidades.
Además, dado que el contenido de la personalización puede cambiar la naturaleza del producto final y el tipo de contrato, es crucial definir claramente los roles de ambas partes y la definición de los insumos y productos.
Tipo 3: Desarrollo de Nuevos Sistemas
Este tipo de contrato implica que el usuario encarga a un proveedor de servicios de IA el desarrollo de un sistema de inteligencia artificial completamente nuevo. Comúnmente conocido como desarrollo “desde cero”, este proceso implica la construcción de un modelo o sistema de IA personalizado que se adapte a las operaciones y necesidades específicas del usuario.
En este caso, los datos de entrenamiento y las especificaciones suelen ser proporcionados por el usuario, y el modelo de IA o los productos desarrollados están diseñados en base a los requisitos únicos del usuario.
Por lo tanto, los siguientes puntos son especialmente importantes en el contrato:
- Clarificación del alcance y contenido de los productos entregables
- Establecimiento de objetivos de precisión y rendimiento
- Provisión y manejo de los datos de entrenamiento
- Propiedad intelectual y atribución de los productos entregables
- Responsabilidad compartida en mantenimiento y actualizaciones
Este tipo de contrato requiere una coordinación detallada del diseño y las especificaciones entre el proveedor y el usuario, por lo que se necesita una consideración detallada en la lista de verificación.
A continuación, volvamos a examinar ejemplos concretos de entradas y salidas, utilizando el diagrama a continuación como referencia.
Checklist: Entradas
Como se mencionó anteriormente, las entradas se refieren al contenido que se introduce en la IA. Ejemplos concretos de esto incluyen datos de entrenamiento, algoritmos y prompts (instrucciones o comandos para la IA).
En los servicios de IA, las entradas son esenciales. Sin ellas, el proveedor no puede avanzar en el diseño, aprendizaje y procesamiento de inferencias de la IA. Entonces, ¿en qué deberíamos enfocarnos al proporcionar estas entradas?
Manejo de los aportes de los usuarios a los proveedores en Japón
Por lo tanto, es necesario establecer claramente en las cláusulas contractuales si los usuarios tienen la obligación de proporcionar información (es decir, aportes) como datos de aprendizaje, reglas y especificaciones a los proveedores, así como el contenido de dicha información. En concreto, los detalles son los siguientes:
- Qué tipo de aportes proporcionará el usuario
- El momento, formato y criterios de calidad de la provisión
- Si existen condiciones que el usuario debe cumplir respecto al contenido (naturaleza, cantidad, granularidad, entre otros) de los aportes que proporciona al proveedor
- Si el contenido mencionado es aceptable en vista del propósito del usuario al utilizar el servicio
Manejo de la Información de Entrada de un Proveedor a Terceros Bajo la Ley Japonesa
En los servicios de IA, los proveedores utilizan la información de entrada (por ejemplo, datos o especificaciones) recibida de los usuarios para construir y ofrecer inteligencia artificial.
Sin embargo, es importante verificar en el contrato la posibilidad y las condiciones de “divulgación externa”, ya que puede darse el caso de que el proveedor proporcione o reutilice esa información de entrada a terceros.
En particular, la información de entrada puede incluir know-how empresarial del usuario, información confidencial, datos personales y propiedad intelectual, lo que puede generar un gran riesgo si se proporciona a terceros.
Por lo tanto, es necesario confirmar si los siguientes puntos están claramente establecidos en el contrato:
- Si el proveedor puede proporcionar la información de entrada recibida del usuario a terceros
- En caso de que se permita la divulgación externa, ¿existen restricciones en cuanto a los destinatarios, el alcance y el propósito de dicha divulgación?
- El manejo de los derechos de propiedad intelectual e información confidencial incluidos en la información de entrada del usuario
Si hay preocupaciones sobre los puntos mencionados anteriormente, se pueden considerar medidas como “no proporcionar información innecesaria” o “considerar la posibilidad de renunciar a la firma del contrato si no se puede permitir la divulgación de la información de entrada a terceros”.
Gestión de los Aportes de los Proveedores Bajo la Ley Japonesa
En los servicios de IA, no es raro que los usuarios proporcionen a los proveedores aportes que incluyen información personal, confidencial o propiedad intelectual, como datos de entrenamiento, reglas de negocio o especificaciones.
Por lo tanto, es crucial clarificar qué responsabilidades asumen los proveedores en la gestión y el manejo de dichos aportes.
Entonces, ¿qué aspectos contractuales deberíamos considerar en la gestión de los aportes? A continuación, presentamos algunos ejemplos:
(Existencia y nivel de las obligaciones de gestión)
- Qué obligaciones de gestión asume el proveedor con respecto a los aportes recibidos del usuario
- En caso de que el proveedor tenga obligaciones de gestión, el nivel de gestión requerido y las medidas correspondientes
- Si el usuario puede solicitar auditorías o proporcionar información sobre el sistema de gestión del proveedor
- Si el sistema de gestión es adecuado en relación con los objetivos de uso del servicio por parte del usuario
(Periodo de retención de los aportes)
- Por cuánto tiempo puede el proveedor retener los aportes
- Qué medidas toma el proveedor una vez finalizado el periodo de retención
(Obligación de eliminación)
- Si el proveedor está obligado a eliminar los aportes a petición del usuario o al finalizar el contrato
- Si existe la obligación de emitir un certificado de eliminación (certificado de destrucción, etc.)
- Si estas medidas de eliminación son razonables en relación con los objetivos comerciales del usuario
Cuando la provisión de datos personales está involucrada, es necesario organizar un esquema de manejo de datos personales teniendo en cuenta que si el proveedor utiliza los datos para sus propios fines o los compara, esto no se puede considerar como una subcontratación sino como una provisión a terceros, lo que podría requerir el consentimiento del titular de los datos.
En los casos en que se subcontrata el manejo de datos personales, es necesario evaluar si los poderes de supervisión que se pueden ejercer sobre el proveedor son suficientes para procesarlos como una subcontratación (si no se cumplen los estándares, considerar el procesamiento como una provisión a terceros). Además, en los casos de transferencia de datos personales al extranjero, independientemente de si se considera una “provisión” bajo la Ley de Protección de Información Personal, puede ser necesario proporcionar información sobre los datos personales retenidos.
En los casos en que se proporciona información personal, si se produce una fuga de información personal por parte del proveedor, el usuario puede tener la obligación de informar a las autoridades de supervisión, por lo que se requiere especial atención.
En cuanto a la obligación de eliminación, si las leyes aplicables exigen una obligación de eliminación por parte del proveedor, es posible solicitar la eliminación como un ejercicio de derechos fuera del contrato.
Checklist: Resultados de la Inteligencia Artificial
Los resultados de la Inteligencia Artificial, para expresarlo de manera sencilla, se refieren a los datos generados por la IA. Comúnmente, estos incluyen textos e imágenes, pero también pueden abarcar códigos de programación, planos, materiales de estrategias de marketing, entre otros, y su forma de presentación es muy variada. A menudo contienen información de alta confidencialidad, por lo que su manejo requiere especial atención.
Cuando el usuario comparte resultados de la Inteligencia Artificial con terceros
Mediante el uso de servicios de IA, como la generación de IA, los usuarios pueden obtener diversos resultados (textos generados, imágenes, conclusiones inferidas, etc.).
Estos resultados no solo se utilizan internamente, sino que también se proporcionan o se hacen públicos a terceros, como clientes, socios comerciales y usuarios generales.
Sin embargo, los resultados generados por la IA pueden incluir riesgos como información inexacta, infracción de derechos y problemas éticos. Es esencial establecer un sistema de gestión y llevar a cabo la educación interna adecuada para evitar la divulgación no intencionada a terceros, incluidas las filtraciones de información.
Por lo tanto, cuando un usuario proporciona resultados de la IA fuera de la empresa, es crucial considerar los acuerdos contractuales y la gestión de riesgos. Asegúrese de revisar los siguientes puntos de control:
- Si el usuario puede proporcionar los resultados a terceros
- En caso de que el usuario pueda proporcionarlos a terceros, qué condiciones se aplican (destinatarios, alcance de la provisión y otras condiciones). En el caso de servicios basados en uso, ¿es necesario indicar que los resultados se generaron mediante un servicio de IA?
- Si el propósito del uso del servicio por parte del usuario es compatible con las condiciones mencionadas
Resultados de la Inteligencia Artificial del proveedor al usuario (b-5-1)
Los resultados obtenidos mediante el uso de servicios de IA (textos generados, imágenes, planos, informes, etc.) representan activos valiosos para los usuarios.
No obstante, si no se establecen claramente los acuerdos sobre la titularidad de los derechos de estos resultados, como “¿A quién pertenecen los derechos?” o “¿Se pueden usar libremente?”, pueden surgir conflictos posteriores. Específicamente, es necesario aclarar los siguientes puntos:
- Si el usuario adquiere ciertos derechos, como derechos de propiedad intelectual, sobre los resultados
- En caso de que el usuario adquiera derechos, cuáles son las condiciones de adquisición de derechos (objetos de transferencia de derechos, si hay o no una contraprestación, existencia y detalles de licencias y otras condiciones)
- Si el propósito del uso del servicio por parte del usuario es compatible con las condiciones mencionadas
Puntos clave al utilizar una lista de verificación
Esta lista de verificación no tiene la fuerza legal de un contrato, sino que está diseñada para organizar los puntos de discusión contractuales desde la perspectiva de ambos, usuarios y proveedores, en relación con la provisión y uso de servicios de inteligencia artificial. Por lo tanto, al concretar un contrato, es necesario seleccionar los elementos de verificación pertinentes y concretar las condiciones contractuales para cada uno de ellos, teniendo en cuenta las circunstancias específicas del acuerdo que se va a establecer (como el tipo de contrato, el contenido del servicio, la naturaleza de los inputs y outputs, y los derechos y obligaciones de las partes).
La manera adecuada de responder basándose en la lista de verificación dependerá de las circunstancias específicas de cada usuario individual, por lo que es necesario considerar y juzgar de manera integral las siguientes circunstancias relacionadas, que incluyen:
- El contenido de los servicios de inteligencia artificial proporcionados por el proveedor
- La forma del contrato (términos de uso o contrato individual)
- Los riesgos asociados con la aceptación de los términos contractuales
- La viabilidad de cumplir con cada una de las obligaciones contractuales
- La disponibilidad de servicios y métodos alternativos en función del propósito del uso de la IA
- El esfuerzo necesario para la negociación del contrato
- La posibilidad de reducir riesgos mediante métodos fuera del contrato (como la operación práctica)
Conclusión: Consulte a un experto en contratos de IA
Hasta aquí, hemos examinado detalladamente los puntos de discusión contractuales relacionados con los inputs y outputs, los tipos de contratos y las consideraciones a tener en cuenta al utilizarlos, basándonos en la “Lista de verificación de contratos para el uso y desarrollo de IA” publicada por el Ministerio de Economía, Comercio e Industria de Japón.
Se espera que las tecnologías de IA, incluida la IA generativa, se integren cada vez más en el núcleo de los negocios en el futuro. Sin embargo, su uso implica numerosos puntos legales y prácticos que deben organizarse cuidadosamente, como derechos de autor, información personal, confidencialidad, posibilidad de reutilización y distribución de responsabilidades.
Para utilizar la IA de manera adecuada, no basta con implementar la tecnología; es esencial clarificar los derechos y obligaciones entre las partes a través de los “contratos” y prevenir los riesgos antes de que ocurran. Especialmente en el caso de los complejos contratos de IA, avanzar con el asesoramiento del departamento legal y de propiedad intelectual de la empresa, así como de expertos externos, resultará en una respuesta segura y práctica.
Mientras se promueve el uso de la IA, no descuide la revisión del contenido del contrato y la colaboración con expertos para minimizar los riesgos legales.
Presentación de Estrategias por Monolith Law Office
Monolith Law Office es un despacho de abogados especializado en IT, con un enfoque particular en la intersección entre Internet y el derecho. Ofrecemos una amplia gama de apoyo legal y servicios de redacción y revisión de contratos para empresas que van desde aquellas listadas en la Bolsa de Tokio hasta startups en etapas iniciales. Para más información, por favor consulte el artículo a continuación.
Áreas de práctica de Monolith Law Office: Asuntos legales corporativos de IT y startups[ja]
Category: IT
