¿Qué es la gobernanza de IA que las empresas deben abordar? Explicación de puntos clave basados en las "Directrices para Operadores de IA"
El 19 de abril de 2024 (Reiwa 6), el Ministerio de Asuntos Internos y Comunicaciones y el Ministerio de Economía, Comercio e Industria de Japón publicaron las “Directrices para Operadores de IA”. El objetivo de estas directrices es promover el uso seguro de la IA y avanzar en la implementación social de la inteligencia artificial. Estas directrices están dirigidas a empresas, instituciones públicas, instituciones educativas y organizaciones como NPO y NGO que están involucradas en el desarrollo, la oferta y el uso de la IA.
Las “Directrices para Operadores de IA” subrayan la importancia de establecer una gobernanza de IA para cada entidad que desarrolla, ofrece y utiliza la tecnología. Entonces, ¿qué acciones deben tomar las empresas para construir una gobernanza de IA efectiva?
En este artículo, explicaremos los puntos clave de la gobernanza de IA que las empresas deben abordar, basándonos en las “Directrices para Operadores de IA”.
¿Qué son las Directrices para Operadores de IA en Japón?
Las Directrices para Operadores de IA, establecidas en 2024 (Reiwa 6) por el Ministerio de Asuntos Internos y Comunicaciones y el Ministerio de Economía, Comercio e Industria de Japón, tienen como objetivo promover el uso seguro y confiable de la IA, proporcionando una guía unificada para la gobernanza de la IA en nuestro país.
Referencia: Directrices para Operadores de IA (Versión 1.0) | Ministerio de Economía, Comercio e Industria[ja]
Estas directrices integran y revisan las previamente establecidas “Directrices para el Desarrollo de IA”, “Directrices para la Utilización de IA” y “Directrices de Gobernanza para la Implementación de Principios de IA”, y han sido formuladas para que los operadores que utilizan IA puedan verificar las directrices deseables para un uso seguro y confiable de la IA.
Para obtener más información sobre las Directrices para Operadores de IA, consulte “Explicación de las Directrices para Operadores de IA del Ministerio de Economía, Comercio e Industria por un Abogado Japonés” como referencia.
Artículo relacionado: Explicación de las Directrices para Operadores de IA del Ministerio de Economía, Comercio e Industria por un Abogado Japonés[ja]
¿Qué es la Gobernanza de la IA bajo la Ley Japonesa?
La gobernanza de la inteligencia artificial (IA), según las Directrices para Operadores de IA en Japón, se define como “el diseño y operación de sistemas técnicos, organizativos y sociales por parte de los stakeholders, con el objetivo de gestionar los riesgos derivados del uso de la IA a un nivel aceptable para los stakeholders, al tiempo que se maximiza el impacto positivo (beneficios) que se obtiene de ella”.
Además, en cuanto a esta gobernanza de la IA, las Directrices para Operadores de IA en Japón establecen que “para utilizar la IA de manera segura y con confianza, es importante construir una gobernanza de la IA que gestione los riesgos relacionados con la IA a un nivel aceptable para los stakeholders y maximice los beneficios derivados de ella, practicando un conjunto común de directrices en toda la cadena de valor y en colaboración entre todas las partes interesadas”.
En otras palabras, la construcción de una gobernanza de la IA es crucial para cada entidad involucrada en el desarrollo, la oferta y el uso de la IA.
Práctica del “Agile Governance” en la Construcción de la Gobernanza de la IA en Japón
Se considera esencial para la construcción de la gobernanza de la inteligencia artificial (IA) en Japón la práctica del “Agile Governance”.
El “Agile Governance” es un enfoque que, en lugar de establecer reglas fijas de antemano, implica un ciclo continuo de “análisis de entorno y riesgos”, “establecimiento de objetivos”, “diseño de sistemas”, “operación” y “evaluación” para responder de manera flexible a los cambios en el entorno externo y los riesgos.
En los negocios relacionados con la IA, los objetivos cambian constantemente debido a la complejidad y la rapidez de los cambios.
Por lo tanto, en la construcción de la gobernanza de la IA, en lugar de fijar reglas o procedimientos de antemano, se requiere una respuesta flexible adaptada al tamaño y al tipo de negocio de cada empresa. Por esta razón, las directrices para operadores de IA recomiendan la construcción de gobernanza mediante métodos de “Agile Governance”.
Cabe señalar que “agile” en inglés significa “rápido” o “ágil”.
La implementación del “Agile Governance” se describe en el cuerpo principal de las directrices para operadores de IA de la siguiente manera:
- Realizar un “análisis de entorno y riesgos” que evalúe los cambios en el entorno social de aceptación de los sistemas y servicios de IA, así como los beneficios y riesgos asociados con su uso.
- Decidir si desarrollar, ofrecer y utilizar sistemas y servicios de IA y, en caso afirmativo, “establecer objetivos”.
- Diseñar un “sistema de gestión de IA” para alcanzar los objetivos de gobernanza de la IA establecidos y operar dicho sistema. En este proceso, las empresas deben asegurar la transparencia y la rendición de cuentas (equidad, etc.) hacia los stakeholders externos con respecto a los objetivos de gobernanza de la IA y su estado operativo.
- Monitorear continuamente si el sistema de gestión de IA está funcionando efectivamente y realizar una “evaluación”.
- Después del inicio de la operación de los sistemas y servicios de IA, realizar nuevamente un “análisis de entorno y riesgos” teniendo en cuenta los cambios en el entorno externo y revisar los objetivos según sea necesario.
Los objetivos de acción específicos para practicar estos pasos del 1 al 5 están detallados en el anexo de las Directrices para operadores de IA[ja], por lo que es importante revisar cada punto en detalle.
Objetivos de acción para la práctica de la gobernanza ágil
Confirmemos los objetivos de acción para la práctica de la gobernanza ágil, basándonos en el anexo de la guía para operadores de IA en Japón.
Análisis de Riesgos y Medioambientales
Para llevar a cabo un “Análisis de Riesgos y Medioambientales” bajo la gobernanza ágil, los objetivos de acción se establecen en el anexo de la Guía para Operadores de IA, que incluye los siguientes tres puntos:
- Comprensión de los beneficios/riesgos
- Comprensión de la aceptación social de la IA
- Comprensión del nivel de madurez en IA de la propia empresa
Comprensión de Beneficios/Riesgos
Uno de los objetivos de acción para la implementación del “análisis de ambiente y riesgos” es la “comprensión de beneficios/riesgos”.
En el anexo de la Guía para Operadores de IA se explica de la siguiente manera:
Objetivo de acción 1-1【Comprensión de Beneficios/Riesgos】
Bajo el liderazgo de la alta dirección, cada entidad debe clarificar el propósito del desarrollo, oferta y uso de la IA, y luego comprender concretamente, en relación con sus propios negocios, no solo los beneficios obtenidos de la IA sino también los riesgos no intencionados, reportar estos a la alta dirección, compartirlos dentro de la misma y actualizar la comprensión oportunamente.
Fuente: Anexo de la Guía para Operadores de IA
Los puntos particularmente importantes son los siguientes:
- Definir claramente el propósito del desarrollo, oferta y uso de la IA en términos de creación de valor en el negocio y solución de problemas sociales.
- Comprender de manera concreta los beneficios y riesgos vinculados al propio negocio.
- Atender a los “riesgos” que deben evitarse y a los temas que abarcan múltiples entidades, asegurando beneficios y reduciendo riesgos a lo largo de toda la cadena de valor/riesgo.
- Establecer un sistema para reportar/compartir rápidamente con la alta dirección.
Comprensión de la aceptación social de la IA bajo la ley japonesa
Un segundo objetivo de acción mencionado para la implementación del “análisis de riesgos y medio ambiente” es la “comprensión de la aceptación social de la IA”.
En el anexo de las Directrices para Operadores de IA se explica de la siguiente manera:
Objetivo de acción 1-2【Comprensión de la aceptación social de la IA】
Se espera que cada entidad, bajo el liderazgo de la alta dirección, comprenda el estado actual de la aceptación social basándose en las opiniones de los stakeholders antes de proceder con el desarrollo, la oferta y el uso a gran escala de la IA. Además, después del desarrollo, la oferta y el uso a gran escala de sistemas y servicios de IA, se espera que las entidades reconfirmen oportunamente las opiniones de los stakeholders teniendo en cuenta los cambios en el entorno externo.
Fuente: Anexo de las Directrices para Operadores de IA
Los puntos clave para la implementación son los siguientes:
- Identificar a los stakeholders
- Esforzarse por entender la aceptación social de la IA y desarrollar, ofrecer y utilizarla con la participación de los stakeholders
- Después del inicio de la oferta de sistemas y servicios de IA, considerar el entorno externo que cambia rápidamente y, cuando sea necesario, reconfirmar oportunamente las opiniones de los stakeholders
Comprensión del Nivel de Dominio de la IA en su Propia Empresa
El tercer objetivo de acción mencionado para la implementación del “Análisis de Riesgos y Medio Ambiente” es la “Comprensión del Nivel de Dominio de la IA en su Propia Empresa”.
En el Anexo de la Guía para Operadores de IA se explica de la siguiente manera:
Objetivo de Acción 1-3【Comprensión del Nivel de Dominio de la IA en su Propia Empresa】
Bajo el liderazgo de la capa directiva, y tras la implementación de los Objetivos de Acción 1-1 y 1-2, cada entidad debe evaluar su nivel de dominio de la IA, considerando el uso previsto de la IA, el ámbito y tamaño de su negocio, entre otros factores. A menos que se determine que el riesgo es menor, se evaluará el grado de experiencia en el desarrollo, oferta y uso de sistemas y servicios de IA de la empresa, el número y la experiencia de los empleados, incluidos los ingenieros, que participan en el desarrollo, oferta y uso de sistemas y servicios de IA, así como el nivel de alfabetización en tecnología y ética de IA de dichos empleados. Se espera que se reevalúe periódicamente el nivel de dominio de la IA y, si es posible, se publiquen los resultados dentro de un rango razonable para los stakeholders. Si se decide no evaluar el nivel de dominio de la IA porque se considera que el riesgo es menor, se espera que se publique este hecho junto con sus razones para los stakeholders.
Cita: Anexo de la Guía para Operadores de IA
Los puntos clave para la implementación son los siguientes:
- Considerar la necesidad de evaluar el nivel de dominio de la IA en función del ámbito y tamaño del negocio de cada entidad.
- Si se determina que es necesario evaluar el nivel de dominio de la IA, visualizar la capacidad de respuesta a los riesgos de la IA y evaluar el nivel de dominio.
- Incluso si se decide que no es necesario evaluar el nivel de dominio de la IA, si es posible, publicar este hecho y sus razones dentro de un rango razonable para los stakeholders.
Establecimiento de Objetivos
Como objetivos de acción para la implementación del establecimiento de objetivos en la gobernanza ágil, el Anexo de la Guía para Operadores de IA en Japón establece los siguientes objetivos de acción.
Objetivo de Acción 2-1【Establecimiento de Objetivos de Gobernanza de IA】
Bajo el liderazgo de la alta dirección, cada entidad debe considerar los beneficios/riesgos que los sistemas y servicios de IA pueden aportar, la aceptación social del desarrollo, oferta y uso de sistemas y servicios de IA, y el grado de competencia en IA de la propia empresa. Mientras se presta atención a la importancia del proceso que lleva al establecimiento de objetivos de gobernanza de IA, se debe considerar si establecer o no los propios objetivos de gobernanza de IA de la empresa (por ejemplo, una política de IA) y proceder a establecerlos. Además, se espera que los objetivos establecidos se hagan públicos a los stakeholders. Si se decide no establecer objetivos de gobernanza de IA debido a que los riesgos potenciales son menores, se espera que se publique esa decisión y sus razones a los stakeholders. Si se considera que las “Directrices Comunes” de esta guía funcionan adecuadamente, se pueden adoptar estas directrices comunes como objetivos de gobernanza de IA en lugar de establecer objetivos propios.
Incluso si se decide no establecer objetivos, se espera que se comprenda la importancia de esta guía y que se implementen las acciones relacionadas con los Objetivos de Acción 3 a 5 según corresponda.
Cita: Anexo de la Guía para Operadores de IA
Los puntos clave para la implementación son los siguientes:
- Considerar si cada entidad debe establecer sus “Objetivos de Gobernanza de IA”.
- Si se determina que es necesario establecer objetivos, proceder a establecerlos.
- Incluso si se determina que no es necesario establecer objetivos, si es posible, publicar ese hecho y sus razones dentro de un rango razonable a los stakeholders.
Diseño de Sistemas (Construcción de un Sistema de Gestión de IA)
Para implementar el “Diseño de Sistemas (Construcción de un Sistema de Gestión de IA)” bajo la gobernanza ágil, los objetivos de acción se establecen en el Apéndice de la Guía para Operadores de IA, que incluyen los siguientes cuatro puntos:
- La obligatoriedad de evaluar los objetivos y las desviaciones, así como de responder a dichas desviaciones
- El aumento de la alfabetización en gestión de IA del personal
- El fortalecimiento de la gestión de IA mediante la cooperación entre diferentes entidades y departamentos
- La reducción de la carga relacionada con incidentes para los usuarios mediante la prevención y respuesta temprana
Evaluación de Objetivos y Desviaciones y la Obligatoriedad de Responder a las Desviaciones
Uno de los objetivos de acción para la implementación del “Diseño de Sistemas (construcción de sistemas de gestión de IA)” es la “Evaluación de Objetivos y Desviaciones y la Obligatoriedad de Responder a las Desviaciones”.
Las Directrices para Operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 3-1【Evaluación de Objetivos y Desviaciones, y la Obligatoriedad de Responder a las Desviaciones】
Se espera que cada entidad, bajo el liderazgo de la capa de gestión, identifique las desviaciones de los Objetivos de Gobernanza de IA de la entidad, evalúe el impacto que dichas desviaciones puedan generar y, en caso de reconocerse algún riesgo, considere su magnitud, alcance y frecuencia de ocurrencia para determinar la racionalidad de su aceptación. Si se considera que no hay racionalidad en la aceptación, se espera que se promueva un proceso de reconsideración sobre la forma de desarrollar, ofrecer y utilizar la IA. Este proceso debe incorporarse en todas las etapas apropiadas del sistema de gestión de IA, así como en las etapas de diseño, desarrollo, antes del inicio del uso y después del inicio del uso de los sistemas y servicios de IA. Es importante que la capa de gestión establezca políticas básicas para el proceso de reconsideración, mientras que la capa operativa debe concretar este proceso. Además, se espera que en la evaluación de las desviaciones participen personas que no estén directamente involucradas en el desarrollo, oferta y uso de la IA en cuestión. Sin embargo, no es apropiado responder prohibiendo arbitrariamente el desarrollo, la oferta y el uso de la IA solo porque existan desviaciones. Por lo tanto, la evaluación de desviaciones es un paso para evaluar riesgos y no es más que un punto de partida para la mejora.
Cita: Anexo de las Directrices para Operadores de IA
Los puntos clave para la práctica son los siguientes:
- Identificar y evaluar cuánto se desvían los sistemas y servicios de IA actuales de los “Objetivos de Gobernanza de IA”.
- Si se reconoce algún riesgo en el uso de los sistemas y servicios de IA, determinar la racionalidad de su aceptación.
- Si no se reconoce racionalidad en la aceptación, reconsiderar la forma de desarrollar, ofrecer y utilizar, e incorporar el proceso de reconsideración en las etapas apropiadas del desarrollo, oferta y uso, así como en los procesos de toma de decisiones dentro de la organización de cada entidad.
- Que la capa de gestión tome el liderazgo en estas acciones, asuma la responsabilidad de las decisiones y que la capa operativa las concrete y las implemente de manera continua.
- Para fomentar la comprensión dentro de cada entidad, compartir los ítems de evaluación de desviaciones decididos internamente.
Mejora de la Alfabetización en Gestión de IA para el Talento Humano
Un segundo objetivo de comportamiento para la implementación del “Diseño de Sistemas (construcción de sistemas de gestión de IA)” es la “mejora de la alfabetización en gestión de IA para el talento humano”.
En las Directrices para Operadores de IA en Japón se establece lo siguiente:
Objetivo de comportamiento 3-2【Mejora de la Alfabetización del Personal en Sistemas de Gestión de IA】
Se espera que, bajo el liderazgo de la alta dirección, cada entidad considere la utilización de materiales educativos externos para operar adecuadamente el sistema de gestión de IA y mejorar estratégicamente la alfabetización en IA. Por ejemplo, se puede proporcionar educación para mejorar la alfabetización general en ética de IA y confiabilidad de IA a los directivos, equipos de gestión y personal responsable de los aspectos legales y éticos de los sistemas y servicios de IA; formación sobre tecnología de IA, incluida la IA generativa, a los responsables de proyectos de desarrollo, oferta y uso de sistemas y servicios de IA; y educación sobre la posición y la importancia del sistema de gestión de IA a todos los involucrados.
Cita: Anexo de las Directrices para Operadores de IA
Los puntos clave para la práctica incluyen los siguientes:
- Utilizar formación y materiales educativos adecuados para el cargo y las responsabilidades para mejorar la alfabetización en IA.
- Aplicar formación y materiales educativos adecuados según el rol que cada persona debe desempeñar.
- Implementar medidas como la obligatoriedad de cursos sobre ética de IA para todos los empleados, dada su importancia.
Fortalecimiento de la gestión de IA mediante la cooperación entre entidades y departamentos
El tercer objetivo de acción mencionado para la implementación del “Diseño de Sistemas (construcción de un sistema de gestión de IA)” es el “Fortalecimiento de la gestión de IA mediante la cooperación entre entidades y departamentos”.
Las directrices para operadores de IA en Japón indican lo siguiente:
Objetivo de acción 3-3【Fortalecimiento de la gestión de IA mediante la cooperación entre entidades y departamentos】
Se espera que las entidades, excepto cuando realicen todas las actividades desde la preparación del conjunto de datos para el aprendizaje hasta el desarrollo, la oferta y el uso de sistemas y servicios de IA dentro de su propio departamento, identifiquen bajo el liderazgo de la dirección y teniendo en cuenta los secretos comerciales, los desafíos operativos de los sistemas y servicios de IA que no pueden implementarse adecuadamente por sí solos o por su departamento, así como la información necesaria para resolver dichos desafíos. Se espera que, bajo la garantía de una competencia justa, compartan esta información en la medida de lo posible y razonable. En este proceso, se espera que acuerden de antemano el alcance de la divulgación de la información entre las entidades y consideren la firma de acuerdos de confidencialidad para facilitar el intercambio de información necesario.
Referencia: Anexo de las directrices para operadores de IA
Los puntos clave para la práctica incluyen los siguientes:
- Identificar los desafíos operativos de los sistemas y servicios de IA que no pueden ser resueltos por una entidad por sí sola y la información necesaria para resolverlos.
- Compartir, en la medida de lo posible y razonable, entre las entidades, teniendo en cuenta los derechos de propiedad intelectual y la privacidad, entre otros aspectos.
※Estos puntos deben tener en cuenta diversas leyes y regulaciones, políticas de IA de cada entidad, secretos comerciales, datos de oferta limitada, etc., siempre con la premisa de garantizar una competencia justa.
Reducción de la carga para los usuarios mediante la prevención y respuesta temprana a incidentes
El cuarto objetivo de acción para la implementación del “Diseño de Sistemas (construcción de sistemas de gestión de IA)” es la “reducción de la carga para los usuarios mediante la prevención y respuesta temprana a incidentes”.
Las Directrices para Operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 3-4 [Reducción de la carga relacionada con incidentes para usuarios de IA y usuarios no relacionados con la operación mediante prevención y respuesta temprana]
Se espera que cada entidad, bajo el liderazgo de la alta dirección, reduzca la carga relacionada con incidentes para los usuarios de IA y para aquellos que no están relacionados con la operación, a través de la prevención de incidentes y una respuesta temprana a los mismos.
Fuente: Anexo de las Directrices para Operadores de IA
- Prevenir incidentes como fallos del sistema, fugas de información y la aparición de reclamaciones, y responder a ellos de manera temprana en caso de que ocurran.
- Establecer un sistema para la prevención de incidentes y la respuesta temprana a los mismos.
Operaciones
Para la implementación de las operaciones de la gobernanza ágil, los objetivos de acción que se enumeran en el anexo de las directrices para operadores de IA son los siguientes:
- Asegurar un estado explicable de la situación operativa del sistema de gestión de IA
- Asegurar un estado explicable de la situación operativa de cada sistema de IA
- Considerar la divulgación proactiva del estado de la práctica de la gobernanza de IA
Aseguramiento de un Estado Explicable de la Operación del Sistema de Gestión de IA
Un objetivo de acción para la implementación de la “operación” es el “aseguramiento de un estado explicable de la operación del sistema de gestión de IA”.
Las directrices para operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 4-1【Aseguramiento de un Estado Explicable de la Operación del Sistema de Gestión de IA】
Se espera que cada entidad, bajo el liderazgo de la capa gerencial, por ejemplo, al registrar el estado de implementación del proceso de evaluación de desviaciones como se menciona en el objetivo de acción 3-1, asegure la transparencia y la responsabilidad hacia los stakeholders relevantes con respecto al estado de operación del sistema de gestión de IA.
Fuente: Anexo de las Directrices para Operadores de IA
Como punto clave de la operación, se destaca la importancia de mantener un estado en el que se pueda explicar adecuada y razonablemente la situación de operación del sistema de gestión de IA a los stakeholders relevantes.
Aseguramiento del estado explicable de la operación individual de sistemas de IA
El segundo objetivo de acción mencionado para la implementación de la “operación” es “Asegurar el estado explicable de la operación de sistemas de gestión de IA”.
Las Directrices para Operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 4-2 [Aseguramiento del estado explicable de la operación individual de sistemas de IA]
Se espera que cada entidad, bajo el liderazgo de la capa de gestión, monitoree continuamente la evaluación de discrepancias en la operación provisional y plena de cada sistema y servicio de IA, y registre los resultados mientras ejecuta el ciclo PDCA. Además, se espera que las entidades que desarrollan sistemas de IA apoyen dicho monitoreo por parte de las entidades que ofrecen y utilizan los sistemas de IA.
Fuente: Anexo de las Directrices para Operadores de IA
Los puntos clave para la práctica son los siguientes:
- Monitorear la situación de la operación de IA de cada entidad y registrar los resultados mientras se ejecuta el ciclo PDCA.
- Si es difícil para una entidad manejar sola, colaborar entre las entidades.
Consideración de la divulgación proactiva del estado de la práctica de la gobernanza de la IA
El tercer objetivo de acción para la implementación de la “operación” es “Asegurar un estado explicable de la situación operativa del sistema de gestión de IA y considerar la divulgación proactiva del estado de la práctica de la gobernanza de la IA”.
Las directrices para operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 4-3 [Consideración de la divulgación proactiva del estado de la práctica de la gobernanza de la IA]
Se espera que las entidades consideren divulgar información relacionada con la configuración de objetivos de gobernanza de IA, el establecimiento y operación de sistemas de gestión de IA, etc., posicionándolos dentro de la información no financiera del código de gobernanza corporativa. Se espera que incluso las empresas no cotizadas consideren divulgar información sobre sus actividades de gobernanza de IA. Además, se espera que, como resultado de la consideración, si deciden no divulgar, publiquen ese hecho y sus razones a los stakeholders.
Fuente: Anexo de las directrices para operadores de IA
Los puntos clave para la práctica son los siguientes:
- Considerar asegurar la transparencia de la información relacionada con la gobernanza de IA, desde la filosofía básica de la empresa sobre la IA hasta el establecimiento y operación de sistemas de gestión de IA.
- Al divulgar información sobre la gobernanza de IA, considerar su posicionamiento dentro de la información no financiera del código de gobernanza corporativa.
- Si se decide no divulgar información sobre la gobernanza de IA, publicar ese hecho y sus razones a los stakeholders.
Evaluación
Para la implementación de la “evaluación” en la gobernanza ágil, los objetivos de acción que se enumeran en el anexo de la Guía para Operadores de IA son los siguientes:
- Verificación de la funcionalidad del sistema de gestión de IA
- Consideración de las opiniones de los stakeholders externos
Verificación de la funcionalidad del sistema de gestión de IA
El primer objetivo de acción mencionado para la implementación de la “evaluación” es la “verificación de la funcionalidad del sistema de gestión de IA”.
La Guía para Operadores de IA establece lo siguiente:
Objetivo de acción 5-1【Verificación de la funcionalidad del sistema de gestión de IA】:
Se espera que cada entidad, bajo el liderazgo de la alta dirección, asigne a personas con la especialización relevante e independiente del diseño y operación del sistema de gestión de IA, para evaluar si dicho sistema está diseñado y operando adecuadamente en relación con los objetivos de gobernanza de IA, es decir, si a través de la práctica de los objetivos de acción 3 y 4, el sistema de gestión de IA está funcionando adecuadamente para alcanzar los objetivos de gobernanza de IA y se solicita su evaluación y mejora continua.
Cita: Guía para Operadores de IA
Los puntos clave para la práctica son los siguientes:
- Que la alta dirección exprese claramente los puntos focales de la evaluación para la mejora continua en sus propias palabras
- Asignar a personas con la especialización relevante e independiente del diseño y operación del sistema de gestión de IA
- Monitorear si el sistema de gestión de IA está funcionando adecuadamente
- Implementar mejoras continuas basadas en los resultados del monitoreo
Consideración de las opiniones de los stakeholders externos
El segundo objetivo de acción mencionado para la implementación de la “evaluación” es la “consideración de las opiniones de los stakeholders externos”.
La Guía para Operadores de IA establece lo siguiente:
Objetivo de acción 5-2【Consideración de las opiniones de los stakeholders】:
Se espera que cada entidad, bajo el liderazgo de la alta dirección, considere solicitar opiniones sobre el sistema de gestión de IA y su operación a los stakeholders. Además, si se decide no implementar el contenido de dichas opiniones, se espera que se expliquen las razones a los stakeholders.
Cita: Anexo de la Guía para Operadores de IA
Los puntos clave para la práctica son los siguientes:
- Considerar solicitar opiniones sobre el sistema de gestión de IA y su operación a los stakeholders
- Si se decide no implementar el contenido de dichas opiniones, explicar las razones a los stakeholders
Reanálisis de Medio Ambiente y Riesgos Bajo la Ley Japonesa
Un objetivo de acción para implementar el “Reanálisis de Medio Ambiente y Riesgos” bajo la gobernanza ágil es la “reimplementación oportuna de los objetivos de acción 1-1 a 1-3”.
Las directrices para operadores de IA en Japón establecen lo siguiente:
Objetivo de acción 6-1【Reimplementación oportuna de los objetivos de acción 1-1 a 1-3】:
Se espera que cada entidad, bajo el liderazgo de la alta dirección, comprenda rápidamente los cambios en el entorno externo, como la aparición de nuevas tecnologías y cambios en los sistemas sociales como las regulaciones, y realice una reevaluación oportuna, actualización del entendimiento y adquisición de nuevas perspectivas para los objetivos de acción del 1-1 al 1-3. Sobre esta base, se espera que mejoren o reconstruyan los sistemas de IA y optimicen su operación. Además, al implementar el objetivo de acción 5-2, no solo se considerará el sistema de gestión de IA existente y su operación, sino que también se contemplará obtener opiniones externas dirigidas a revisar toda la gobernanza de IA en línea con la gobernanza ágil enfatizada en estas directrices, incluyendo el análisis de medio ambiente y riesgos.
Fuente: Anexo de las Directrices para Operadores de IA
Los puntos clave para la práctica incluyen:
- Comprender los cambios en el entorno externo, como la aparición de nuevas tecnologías, innovaciones tecnológicas relacionadas con la IA y cambios en los sistemas sociales como las regulaciones.
- Realizar una reevaluación oportuna, actualizar la comprensión y adquirir nuevas perspectivas, y en base a ello, mejorar, reconstruir o cambiar la operación de los sistemas de IA.
- Integrar la filosofía de gobernanza de IA como parte de la cultura organizacional.
Aspectos clave al construir la gobernanza de la IA bajo la ley japonesa
Lo anterior representa métodos concretos de gobernanza de la IA basados en la metodología de gobernanza ágil, según las “Directrices para Proveedores de IA” en Japón.
No obstante, estos métodos se han creado como aplicables a todos los proveedores de IA en general, y es necesario considerar individualmente qué tipo de modelo de negocio corresponde a su propia empresa, ya sea desarrollo, provisión o uso, así como qué tipo de sistemas o servicios de IA está ofreciendo.
Qué tipo de organización o estructura es necesaria para su empresa, qué acciones o documentación son necesarias, varía según el caso y debe realizarse teniendo en cuenta cómo esto se traducirá en beneficios comerciales futuros y la prevención de desventajas.
Además, existen diversos riesgos legales ocultos en el negocio de la IA. Por lo tanto, recomendamos obtener el apoyo de un abogado desde las primeras etapas de la implementación de medidas.
Conclusión: La optimización de las directrices para operadores de IA requiere de abogados especializados
En este artículo, hemos explicado cómo construir una gobernanza de IA alineada con las Directrices para Operadores de IA en Japón.
Las Directrices para Operadores de IA en Japón establecen en detalle cómo debe ser la gobernanza de IA, y los gerentes necesitan crear organizaciones internas y redactar documentos como parte de la gobernanza.
En el negocio de la IA, donde la velocidad del cambio es rápida, optimizar las directrices que son nuevas y complejas es extremadamente desafiante. Recomendamos encarecidamente que, desde las primeras etapas, busque el consejo de expertos familiarizados tanto con el campo de la IT como con el derecho japonés para construir la gobernanza de IA más adecuada para su empresa.
Guía de Medidas de Nuestra Firma
Monolith Law Office es un despacho de abogados con una amplia experiencia en IT, especialmente en Internet y derecho.
El negocio de la IA conlleva numerosos riesgos legales, y el apoyo de abogados especializados en cuestiones legales relacionadas con la IA es esencial. Nuestra firma cuenta con un equipo de abogados y profesionales como ingenieros familiarizados con la IA, que proporcionan un avanzado soporte legal para negocios de IA, incluyendo ChatGPT, como la creación de contratos, la evaluación de la legalidad de modelos de negocio, la protección de derechos de propiedad intelectual y la gestión de la privacidad. Los detalles se encuentran en el siguiente artículo.
Áreas de práctica de Monolith Law Office: Asuntos legales de IA (como ChatGPT)[ja]
Category: IT
