¿Cuáles son los riesgos de fuga de información al implementar IA generativa? Estrategias de defensa mediante "regulaciones internas de IA" explicadas por un abogado

La IA generativa ha evolucionado más allá de ser una simple herramienta para la eficiencia operativa, convirtiéndose en una infraestructura esencial que determina la competitividad de las empresas. Sin embargo, a la sombra de su rápida adopción, los riesgos de “filtración de información” y “violación de la privacidad”, que son esencialmente diferentes de los sistemas de TI tradicionales, se están agravando. En muchas organizaciones, la priorización de la conveniencia ha llevado a un fenómeno de “TI en la sombra”, donde el personal utiliza la tecnología sin reglas claras, lo que resulta en la incorporación no intencionada de información confidencial en el aprendizaje de modelos de IA.

En este artículo, se desentrañará el mecanismo de filtración derivado de las características técnicas de la IA generativa y se organizarán los riesgos significativos que pueden surgir desde la perspectiva de la ley japonesa, como la Ley de Prevención de la Competencia Desleal y la Ley de Protección de Información Personal. Además, se explicará la importancia de establecer regulaciones internas efectivas sobre IA para prevenir estos riesgos y acelerar el crecimiento del negocio.

La Necesidad de una “Regulación Interna de IA” Propia en la Implementación de IA Generativa en Japón

En Japón, a medida que se acelera la implementación social de la IA generativa, muchas organizaciones tienden a avanzar en su adopción solo porque es “conveniente”, sin realizar una evaluación de riesgos adecuada.

Especialmente en las pequeñas y medianas empresas, se señala que la brecha en la alfabetización digital y la falta de recursos legales han llevado a un uso improvisado que provoca una “espiral negativa”. Esta espiral negativa se refiere a que, debido a la falta de criterios claros de uso, el personal se confunde y el riesgo de fuga de información se hace evidente por entradas inapropiadas de algunos empleados. Las organizaciones, al sentir esta amenaza, optan por medidas de “prohibición total” antes de considerar contramedidas específicas. Sin embargo, el personal que busca conveniencia continúa utilizando cuentas privadas a escondidas de la empresa, lo que se conoce como “Shadow IT (Shadow AI)”.

El temor a la transformación en Shadow IT radica en que, en lugares donde el control organizacional no alcanza, secretos comerciales importantes y datos personales de clientes, que pueden determinar el futuro de la empresa, se envían a plataformas externas y se reutilizan como datos de aprendizaje para modelos de IA. Ignorar esta situación no solo aumenta la posibilidad de incidentes de fuga de información, sino que también puede llevar a la pérdida de “gestión de secretos” bajo la Ley de Prevención de la Competencia Desleal de Japón, lo que podría resultar en la renuncia a la protección de los derechos de propiedad intelectual de la empresa.

Por lo tanto, lo que realmente necesitan las organizaciones no es una prohibición total ni dejar todo en manos del personal, sino la formulación de una “Regulación Interna de IA” propia basada en una comprensión correcta de las características de la IA generativa. Simplemente reutilizar las directrices para servicios en la nube generales no aborda los procesos únicos de la IA generativa, como el uso de datos de entrada para el aprendizaje de IA (riesgos como el aprendizaje contextual o el ajuste fino). Es crucial comprender la necesidad de construir una gobernanza que garantice la seguridad de la información y permita a la organización utilizar de manera justa y segura la IA generativa como una herramienta poderosa.

https://monolith.law/corporate/establishment-of-ai-internal-regulations

Mecanismo y Ejemplos de Fugas de Información por Generación de IA en Japón

Al utilizar la generación de IA, lo más importante es tener en cuenta que los prompts (instrucciones) o datos que los usuarios ingresan pueden ser enviados a los servidores de las empresas que desarrollan y proporcionan el modelo de IA, donde podrían ser utilizados como “datos de aprendizaje”. La diferencia crucial con los motores de búsqueda o servicios de traducción tradicionales es que fragmentos de la información ingresada se integran en el modelo de IA, lo que conlleva el riesgo de que, en el futuro, se utilicen como “parte de la respuesta” a preguntas de otros usuarios, incluidos empleados de empresas competidoras.

Caso de Fuga de Código Fuente Confidencial en Samsung Electronics

El caso de fuga de código fuente en Samsung Electronics de Corea del Sur, ocurrido en mayo de Reiwa 5 (2023), dio a conocer al mundo los riesgos específicos de este mecanismo. Un ingeniero de la empresa ingresó código fuente altamente confidencial en ChatGPT durante tareas de depuración de programas relacionados con semiconductores. Además, se descubrió que otro empleado había pegado actas de reuniones internas, que incluían estrategias de productos no publicadas, para que el sistema las resumiera.

Estos datos fueron absorbidos como material de aprendizaje interno del modelo de IA debido al mecanismo que OpenAI adoptaba por defecto en ese momento, que utilizaba los datos ingresados para el aprendizaje del modelo. La lección esencial de este caso es que, incluso sin mala intención por parte de los empleados, el deseo natural de “mejorar la eficiencia laboral” puede resultar en fugas de información que causen daños críticos a la organización.

Fugas “Externas e Internas” por Fallos del Sistema o Configuraciones Incorrectas

Además, el riesgo de fuga no se limita al uso secundario para el aprendizaje. En marzo de Reiwa 5 (2023), un fallo en el sistema de ChatGPT permitió que algunos usuarios visualizaran los títulos del historial de chat de otros. Este defecto en el programa del proveedor del servicio sugiere que, independientemente de cuán bien los usuarios sigan las reglas, la vulnerabilidad de las plataformas externas puede exponer información.

Asimismo, herramientas como Microsoft 365 Copilot, que se integran con documentos dentro de la organización, presentan el riesgo de “fugas internas” si las configuraciones de permisos de acceso no son adecuadas, permitiendo que empleados sin autorización accedan a documentos confidenciales a través de la IA.

Pérdida de “No Divulgación” y Disminución de la Competitividad Empresarial

El daño a los secretos comerciales implica que una vez que la información se aprende, pierde su “no divulgación” de manera permanente en el espacio digital.

Ya no es una fantasía que, cuando una empresa competidora consulte a la IA sobre un problema técnico específico, se le presente como respuesta una solución innovadora que otra empresa haya ingresado. Es crucial reconocer que el ingreso imprudente de información en la generación de IA no solo resulta en la fuga de información, sino que también amenaza los logros de investigación y desarrollo de años y la ventaja estratégica de una empresa.

Riesgo de Pérdida de Protección de Secretos Comerciales Bajo la Ley Japonesa de Prevención de la Competencia Desleal

La entrada de información confidencial en IA generativa puede llevar a consecuencias legales extremadamente graves, como la pérdida de protección legal como “secreto comercial” bajo la ley. Según la Ley Japonesa de Prevención de la Competencia Desleal, para que la información esté protegida como secreto comercial, debe cumplir con los siguientes tres requisitos:

Primero, sobre la “gestión de secretos”, según las “Directrices de Gestión de Secretos Comerciales” y el “Manual de Protección de Información Confidencial” del Ministerio de Economía, Comercio e Industria de Japón, el titular de la información debe gestionarla con la intención de mantenerla en secreto, y los empleados deben poder reconocer esta gestión. Si un empleado ingresa un secreto comercial en IA generativa sin el consentimiento de la empresa, o si la empresa no impone configuraciones adecuadas (como la exclusión voluntaria), es muy probable que un tribunal determine que “la empresa no tomó medidas adecuadas para proteger el secreto”, negando así la gestión de secretos.

Referencia: 経済産業省｜営業秘密～営業秘密を守り活用する～

En cuanto a la “no divulgación pública”, si la información ingresada se utiliza para el aprendizaje del modelo de IA y se convierte en una fuente para responder a usuarios de todo el mundo, ya no se puede considerar “no conocida públicamente”. Una vez que se pierde este requisito legal, incluso si otra empresa imita la información o un empleado que cambia de trabajo la lleva consigo, no se pueden reclamar medidas cautelares o daños y perjuicios bajo la Ley Japonesa de Prevención de la Competencia Desleal. En otras palabras, ingresar información descuidadamente en IA generativa equivale a renunciar al valor de los derechos de propiedad intelectual de la empresa.

Como tendencia reciente, en abril de Reiwa 6 (2024), se publicó la “Guía para Operadores de IA (Versión 1.0)”, que enfatiza la mitigación de riesgos a lo largo del ciclo de vida de la IA. En esta guía, se indica como “directriz común” que los usuarios de IA deben ser cuidadosos con el manejo de datos de entrada y prompts, y prevenir la entrada inapropiada de información confidencial. Si una organización no construye una gobernanza adecuada de acuerdo con esta guía, el riesgo de quedar fuera del marco de protección legal aumenta significativamente.

Referencia: 経済産業省｜AI事業者ガイドライン

Violación de Acuerdo de Confidencialidad (NDA) y Riesgos Contractuales en Japón

En muchas transacciones comerciales en Japón, se firma un acuerdo de confidencialidad (NDA) para proteger la información confiada por la otra parte. La entrada de información en inteligencia artificial generativa puede contravenir estas obligaciones contractuales y conlleva el riesgo de asumir una responsabilidad significativa por daños y perjuicios.

Normalmente, un NDA incluye cláusulas que prohíben “el uso de la información para fines distintos a los del contrato (prohibición de uso fuera del propósito)” y “la divulgación a terceros sin el consentimiento previo por escrito de la otra parte (prohibición de divulgación a terceros)”. Las acciones de los empleados que introducen documentos revelados por socios comerciales en inteligencia artificial generativa para resumirlos o analizarlos pueden considerarse una clara violación de estas cláusulas.

Los proveedores de servicios de inteligencia artificial se consideran “terceros” desde la perspectiva de las partes del contrato. Exceptuando el uso de API o planes corporativos de pago, los servicios ofrecidos bajo términos y condiciones generales suelen almacenar los datos introducidos en los servidores del desarrollador y utilizarlos para sus propios fines (como la mejora del modelo). Esto equivale a utilizar la información confiada “fuera del propósito del contrato” y proporcionarla a “terceros”.

Además, según una advertencia publicada en febrero del año 7 de la era Reiwa (2025) por la Agencia Digital y el Centro de Ciberseguridad del Gabinete (NISC) de Japón, al utilizar servicios de inteligencia artificial con sede en el extranjero como DeepSeek, existe el riesgo de que los datos se almacenen en servidores fuera de Japón y se apliquen las leyes locales (posibilidad de censura o incautación). Colocar la información de los socios comerciales en un entorno tan incierto puede constituir una fuerte base para alegar una violación del deber de diligencia debida bajo el contrato.

Infracción de la Ley de Protección de Información Personal y Riesgos de Privacidad en Japón

Al manejar datos personales en el uso de IA generativa, se requiere cumplir estrictamente con la Ley de Protección de Información Personal de Japón y las directrices relacionadas. La Comisión de Protección de Información Personal publicó una advertencia en junio de Reiwa 5 (2023) considerando la proliferación de servicios de IA generativa, aclarando los puntos que las empresas deben cumplir.

Especificación de los Propósitos de Uso y Consideraciones sobre el Perfilado

Según el Artículo 21, párrafo 1 de la Ley de Protección de Información Personal de Japón, cuando se obtiene información personal, se debe notificar o publicar rápidamente el propósito de uso al individuo, a menos que dicho propósito ya se haya hecho público de antemano. Al entrenar datos personales obtenidos con inteligencia artificial, surge la cuestión de si esta acción se encuentra dentro del alcance del propósito de uso existente o si se debe especificar nuevamente el propósito como “aprendizaje y generación de resultados por AI”.

Especialmente en el contexto de la selección de personal y la evaluación de recursos humanos en Japón, cuando se utiliza AI para analizar (perfilado) la personalidad y aptitudes de los candidatos, existe la posibilidad de que esto afecte significativamente los derechos e intereses del individuo. Por lo tanto, se requiere especificar y clarificar de manera más concreta este tipo de procesamiento analítico como un propósito de uso. En las discusiones hacia la reforma legal a partir del año 2025 (Reiwa 7), se enfatiza el “derecho a no ser sujeto a decisiones basadas en perfilado” y la garantía de transparencia, y se está avanzando hacia un fortalecimiento de las regulaciones sobre decisiones automáticas realizadas por AI.

La Línea Divisoria entre la Provisión a Terceros y la “Delegación” en Japón

Al ingresar datos personales en servicios de IA en Japón, es crucial determinar si esto se considera una “provisión a terceros” según el Artículo 27, párrafo 1 de la ley japonesa, o si se clasifica como “delegación”. Generalmente, cuando los datos ingresados se utilizan para el aprendizaje de modelos por parte de los desarrolladores de IA, no se puede afirmar que el delegante controle completamente el propósito de uso, lo que aumenta la probabilidad de que se considere una provisión a terceros. En este caso, es necesario obtener el consentimiento previo de la persona, pero en la práctica, es extremadamente difícil obtener el consentimiento individual de un número indeterminado de personas para la entrada de datos en IA.

Por otro lado, si se garantiza contractualmente que los datos ingresados no se utilizarán para el aprendizaje (como en el uso de API o algunos planes corporativos de pago), se facilita la organización dentro del marco legal de “delegación” en Japón. Sin embargo, incluso en estos casos, las empresas tienen la obligación de supervisar de manera necesaria y adecuada al delegado (proveedor de servicios de IA) según el Artículo 25 de la Ley de Protección de Información Personal de Japón.

Cuestiones Relacionadas con la Provisión a Terceros en el Extranjero

Cuando se utilizan servicios de inteligencia artificial proporcionados por empresas extranjeras como OpenAI (Estados Unidos) o DeepSeek (China), se aplica la “restricción de provisión a terceros en el extranjero” según el artículo 28 de la ley japonesa. Al proporcionar datos a empresas ubicadas en países que no se consideran con un nivel de protección equivalente al de Japón, es necesario tomar medidas como proporcionar información sobre el sistema legal local a la persona interesada y obtener su consentimiento individual.

En particular, en la advertencia emitida en febrero del año 7 de la era Reiwa (2025) por la Comisión de Protección de Información Personal y la Agencia Digital de Japón, se expresó preocupación por la violación de la privacidad debido a riesgos geopolíticos. Esto se refiere a servicios donde los datos se almacenan en servidores ubicados en China, ya que podrían estar sujetos a censura o confiscación de datos por parte del gobierno, según la “Ley de Seguridad Nacional” local, entre otras. Ingresar datos personales en servicios con tales riesgos podría considerarse una violación indebida de los derechos e intereses de la persona, por lo que es esencial una consideración cuidadosa.

Medidas del Sistema para Minimizar Riesgos

Para que las normativas internas de AI sean efectivas, no basta con depender únicamente de la conciencia personal de los empleados; es fundamental construir “barreras de seguridad” sistemáticas. Al combinar la tecnología AI más avanzada con regulaciones, se puede aumentar significativamente la seguridad legal bajo el contexto japonés.

Configuración de Opt-out y Seguridad a través del Uso de API

La medida más básica es asegurar el “opt-out” para que los datos ingresados no se utilicen en el aprendizaje de AI. En servicios personales como ChatGPT, es posible rechazar el aprendizaje desactivando la función de historial desde la pantalla de configuración, pero no se recomienda dejar esta operación en manos de los empleados individuales desde el punto de vista del control organizacional en Japón.

Una opción más segura es el uso a través de API (Interfaz de Programación de Aplicaciones). Los principales proveedores de AI especifican en sus términos que los datos enviados a través de API, en principio, no se utilizan para el aprendizaje del modelo. Al construir un frontend interno propio que utilice API, es posible bloquear sistemáticamente el uso secundario de los datos ingresados para el aprendizaje.

Garantías Contractuales a través de Planes de Pago para Empresas

Cuando se introduce AI en toda la organización, vale la pena considerar la adopción de planes de pago para empresas como ChatGPT Enterprise o Azure OpenAI Service. Estos servicios aplican regulaciones Negocios estrictas, diferentes de los planes personales, garantizando contractualmente que los derechos sobre los datos pertenecen a la empresa usuaria, que no se utilizarán para el aprendizaje del modelo, y que se cifran durante la transferencia y almacenamiento de datos (AES-256, TLS 1.2+, etc.).

Además, elegir servicios que hayan sido auditados de manera independiente, como SOC 2 Type 2, proporciona evidencia objetiva de que el sistema de gestión de seguridad cumple con ciertos estándares, lo cual es útil para explicar la racionalidad en la selección de proveedores y la adecuación en la gestión de riesgos. Sin embargo, la mera existencia de estas certificaciones no se considera automáticamente como cumplimiento del deber de diligencia, y se requiere una consideración adicional según el uso específico y los riesgos involucrados.

Procesamiento de Enmascaramiento y Anonimización de Datos

Como operación técnica, es efectivo implementar un “procesamiento de enmascaramiento” que reemplace automáticamente con asteriscos o símbolos los nombres personales o nombres de proyectos específicos incluidos en los prompts antes de ingresarlos. Esto ayuda a prevenir que, en caso de una fuga inesperada por parte de la plataforma, la información se vincule a individuos específicos o secretos comerciales específicos, minimizando así el daño real.

Puntos Clave de las Normas Internas de IA para Prevenir Fugas de Información en Japón

Las normas internas efectivas no deben ser simplemente una “lista de prohibiciones”. Deben proporcionar directrices de acción concretas que permitan a los empleados en el campo determinar de inmediato hasta qué punto pueden utilizar la IA y, al mismo tiempo, evitar riesgos legales bajo el sistema legal japonés.

“Redefinición” y Jerarquización de la Información Prohibida para Ingreso

Es importante evitar expresiones ambiguas como “prohibición de ingreso de información confidencial” y definir la información jerárquicamente según su naturaleza.

• Nivel 1 (Información Absolutamente Prohibida): Información no divulgada recibida de socios comerciales bajo un NDA, resultados financieros no anunciados de la empresa, algoritmos propios, datos personales como nombres y direcciones de clientes.
• Nivel 2 (Información Permitida Condicionalmente): Actas de reuniones con nombres propios anonimizados, organización de información técnica ya conocida públicamente, corrección de correos electrónicos de negocios estándar.
• Nivel 3 (Ámbito de Uso Recomendado): Verificación de sintaxis de lenguajes de programación, explicación de conceptos generales, generación de ideas.

Al definir de esta manera con ejemplos concretos, se puede reducir el costo de decisión de los empleados y, al mismo tiempo, suprimir violaciones inconscientes.

Proceso de Aprobación de Excepciones e Informe de Uso Previsto (Context Report)

Una prohibición uniforme puede llevar al uso de IA en la sombra, por lo que se debe establecer un “proceso de aprobación de excepciones” cuando sea necesario ingresar información avanzada en IA para tareas específicas (como la revisión de ciertos contratos). En este caso, se debe regular un flujo que requiera la presentación de un “Informe de Uso Previsto (Context Report)” que incluya los siguientes tres elementos, en lugar de una simple solicitud de “quiero usarlo”.

1. Tool (Herramienta): Qué modelo de IA se utilizará y con qué configuración (opt-out, uso de API, etc.).
2. Input (Entrada): Qué tipo de datos se ingresarán (si contienen información personal, etc.).
3. Output (Salida): Con qué propósito se utilizará el producto generado (uso interno, presentación a clientes, publicación en la web, etc.).

Al revisar este informe previamente por los departamentos legales o de TI, se puede controlar organizativamente el equilibrio entre riesgos y beneficios.

Reglas Especiales sobre el Manejo de Información Personal

Las normas deben incluir reglas especiales para mantener la coherencia con la Ley de Protección de Información Personal de Japón. Como principio, se prohíbe el ingreso de datos personales en un estado en el que la persona pueda ser identificada, y en casos donde sea indispensable para el trabajo, se debe especificar un flujo de trabajo que incluya la obtención de consentimiento adecuado basado en la ley o la adición a la política de privacidad de antemano.

Además, cuando se utilice para la elaboración de perfiles en procesos de selección de personal, se debe comprender las limitaciones del juicio de la IA (riesgo de alucinaciones) e incorporar el principio de “Human-in-the-loop”, donde la decisión final siempre la toma un humano.

Sistema de Monitoreo y Respuesta Posterior

En Japón, no es suficiente establecer y difundir regulaciones para garantizar una buena gobernanza. Es necesario incluir en las regulaciones un sistema que verifique continuamente si las reglas establecidas se están cumpliendo y que prepare para cualquier eventualidad.

Registro de Uso y Autoridad de Auditoría

La empresa debe especificar claramente su autoridad para registrar los logs de uso de la IA a través de la red interna y auditar su contenido periódicamente. El almacenamiento de logs funciona como una “fuerza disuasoria preventiva” para detectar de manera temprana el uso inapropiado, como la entrada excesiva de información personal. Además, en caso de un incidente, estos logs sirven como base para la preservación de pruebas digitales (forense digital), permitiendo identificar con precisión cuándo, quién y qué tipo de información se ingresó.

Respuesta Inicial en Caso de Incidente

Es crucial establecer rutas de reporte y procedimientos de respuesta para casos en los que se sospeche una filtración de información. A diferencia de la pérdida física, la filtración de información a través de la entrada en IA es extremadamente difícil de detener. Por lo tanto, se debe considerar inmediatamente solicitar la eliminación al proveedor de IA tras la detección del incidente, y al mismo tiempo, formar un equipo de respuesta de emergencia para cumplir con las obligaciones legales de reporte a las partes afectadas y a la Comisión de Protección de Información Personal, según la ley japonesa (artículo 26, etc.).

Actualización Continua (Gobernanza Ágil)

La evolución tecnológica de la IA generativa y las regulaciones legales tanto en Japón como en el extranjero están cambiando a una velocidad sin precedentes. La formulación de las “Guías para Proveedores de IA” en el año 6 de la era Reiwa (2024) y las enmiendas previstas a la Ley de Protección de Información Personal entre los años 7 y 8 de la era Reiwa (2025-2026) son ejemplos de cómo las reglas se actualizan constantemente.

Por lo tanto, no se debe considerar que las regulaciones internas son definitivas una vez creadas. Se requiere una revisión periódica en ciclos cortos de seis meses a un año, para adaptarse a las características técnicas y a los nuevos riesgos geopolíticos, como el surgimiento de servicios emergentes como DeepSeek. Esto implica la práctica de una “gobernanza ágil”.

Resumen: “Reglamento Interno de IA” para Avanzar con Precaución y Aceleración Máxima

La conveniencia disruptiva que ofrece la IA generativa ya no es una opción para una sola empresa, sino que se ha convertido en una fuente esencial de competitividad para la supervivencia. Por otro lado, el riesgo de “filtración de información” detallado en este artículo representa una amenaza real que puede despojar a los secretos comerciales, construidos con años de esfuerzo, de su valor de la noche a la mañana, hacerlos perder protección legal y socavar la confianza social. Sin embargo, temer excesivamente estos riesgos y prohibir completamente el uso de la IA solo conlleva otro gran riesgo: estancar la organización y fomentar un uso desordenado y subrepticio.

Lo que realmente se necesita es establecer “barreras de protección” sólidas basadas en conocimientos legales, para crear un entorno donde los empleados puedan utilizar el poder de la IA de manera segura y al máximo, sin dudas. Un reglamento interno claro no es solo un documento regulador. Es una declaración de la organización para definir el valor de su información y protegerla, y en última instancia, se convierte en la base de “confianza” hacia los socios comerciales y la sociedad. Solo cuando una organización comprende correctamente los mecanismos de la IA y los riesgos legales en Japón, y hace que las medidas técnicas y los reglamentos internos funcionen como las dos ruedas de un carro, la IA generativa se convierte en un verdadero motor impulsor para el avance del negocio.

Guía de Medidas por Parte de Nuestra Firma

El despacho de abogados Monolith es una firma legal con amplia experiencia en IT, especialmente en internet y leyes japonesas. El negocio de la inteligencia artificial (IA) conlleva numerosos riesgos legales, por lo que es esencial contar con el apoyo de abogados familiarizados con los problemas legales relacionados con la IA. Nuestra firma ofrece un soporte legal avanzado para negocios de IA que utilizan herramientas como ChatGPT, a través de un equipo compuesto por abogados y ingenieros expertos en IA. Proveemos servicios como la redacción de contratos, evaluación de la legalidad de modelos de negocio, protección de derechos de propiedad intelectual, cumplimiento de privacidad y establecimiento de regulaciones internas de IA. Detallamos más información en el artículo a continuación.