O que é a Governança de IA que as empresas devem adotar? Explicação dos pontos baseados nas "Diretrizes para Operadores de IA"
No dia 19 de abril de 2024 (Reiwa 6), o Ministério de Assuntos Internos e Comunicações e o Ministério da Economia, Comércio e Indústria do Japão publicaram as “Diretrizes para Empresas de IA”. O objetivo destas diretrizes é promover a utilização segura da IA e impulsionar a sua implementação na sociedade. As diretrizes destinam-se a empresas, instituições públicas, instituições educacionais e organizações como NPOs e NGOs que estão envolvidas no desenvolvimento, fornecimento e uso da IA.
As “Diretrizes para Empresas de IA” enfatizam a importância da construção de uma governança de IA para todas as entidades envolvidas no seu desenvolvimento, fornecimento e uso. Mas que medidas específicas as empresas devem tomar para estabelecer uma governança eficaz de IA?
Este artigo explica os pontos-chave da governança de IA que as empresas devem abordar com base nas “Diretrizes para Empresas de IA”.
O que são as Diretrizes para Operadores de IA no Japão?
As Diretrizes para Operadores de IA, estabelecidas em 2024 pelo Ministério dos Assuntos Internos e Comunicações e pelo Ministério da Economia, Comércio e Indústria do Japão, têm como objetivo promover a utilização segura e confiável da Inteligência Artificial, apresentando um conjunto unificado de orientações para a governança de IA no nosso país.
Referência: Diretrizes para Operadores de IA (Versão 1.0) | Ministério da Economia, Comércio e Indústria[ja]
Estas diretrizes foram formuladas após a integração e revisão das anteriormente estabelecidas “Diretrizes para o Desenvolvimento de IA”, “Diretrizes para a Utilização de IA” e “Diretrizes de Governança para a Prática dos Princípios de IA”, e foram criadas para que os operadores que utilizam IA possam verificar as diretrizes desejáveis para uma utilização segura e confiável da IA.
Para mais informações sobre as Diretrizes para Operadores de IA, consulte “Explicação das ‘Diretrizes para Operadores de IA’ do Ministério da Economia, Comércio e Indústria por um Advogado” como referência.
Artigo relacionado: Explicação das ‘Diretrizes para Operadores de IA’ do Ministério da Economia, Comércio e Indústria por um Advogado[ja]
O que é a Governança de IA no Japão
A governança de IA, conforme definido pelas Diretrizes para Operadores de IA no Japão, é “o design e a operação de sistemas técnicos, organizacionais e sociais pelos stakeholders, com o objetivo de gerir os riscos decorrentes da utilização de IA a um nível aceitável para os stakeholders, enquanto se maximiza o impacto positivo (benefícios) que dela advém”.
Além disso, as Diretrizes para Operadores de IA enfatizam que “para utilizar a IA de forma segura e com confiança, é crucial estabelecer uma governança de IA que permita gerir os riscos relacionados com a IA a um nível aceitável para os stakeholders e maximizar os benefícios resultantes, praticando um conjunto comum de princípios em toda a cadeia de valor e em colaboração entre todas as partes envolvidas”.
Portanto, a construção de uma governança de IA é essencial para todas as entidades envolvidas no desenvolvimento, fornecimento e uso de IA.
A Prática de “Agile Governance” na Construção da Governança de IA no Japão
Considera-se crucial na construção da governança de IA a prática de “Agile Governance”.
“Agile Governance” refere-se a uma abordagem que, em vez de estabelecer regras fixas antecipadamente, envolve um ciclo contínuo de “análise de ambiente e riscos”, “definição de objetivos”, “design de sistema”, “operação” e “avaliação” para responder de forma flexível às mudanças no ambiente externo e nos riscos.
Nos negócios relacionados com IA, os objetivos são complexos e mudam rapidamente.
Por isso, na construção da governança de IA, em vez de fixar regras ou procedimentos antecipadamente, é necessário uma resposta flexível que se adapte ao tamanho e ao tipo de negócio de cada empresa. Assim, as diretrizes para operadores de IA recomendam a construção de governança através do método de “Agile Governance”.
Além disso, “agile” em inglês significa “rápido” ou “ágil”.
A implementação de “Agile Governance” está descrita no corpo principal das diretrizes para operadores de IA da seguinte forma:
- Realizar a “análise de ambiente e riscos”, que é a análise das mudanças no ambiente externo, como a aceitação social dos sistemas e serviços de IA, e dos benefícios e riscos associados ao uso desses sistemas e serviços.
- Decidir se desenvolve, fornece ou utiliza sistemas e serviços de IA e, em caso afirmativo, “definir objetivos”.
- Desenhar um “sistema de gestão de IA” para alcançar os objetivos de governança de IA estabelecidos e operá-lo. Neste processo, as empresas devem garantir transparência e responsabilidade (como equidade) em relação aos objetivos de governança de IA e ao seu estado operacional para os stakeholders externos.
- Monitorizar continuamente se o sistema de gestão de IA está a funcionar eficazmente e realizar uma “avaliação”.
- Após o início da operação dos sistemas e serviços de IA, realizar novamente a “análise de ambiente e riscos” tendo em conta as mudanças no ambiente externo e, se necessário, rever os objetivos.
Os objetivos de ação específicos para praticar estes passos de 1 a 5 estão detalhados no anexo das diretrizes para operadores de IA, que pode ser consultado aqui[ja]. Vamos verificar cada item em detalhe.
Objetivos de Ação para a Prática de Governança Ágil no Japão
Vamos confirmar os objetivos de ação para a prática de governança ágil com base no anexo das diretrizes para operadores de IA no Japão.
Análise Ambiental e de Risco sob a Perspetiva Japonesa
Para a implementação da análise ambiental e de risco no âmbito da governança ágil, os objetivos de ação destacados no anexo das diretrizes para operadores de IA no Japão incluem os seguintes três pontos:
- Compreensão dos benefícios e riscos
- Compreensão da aceitação social da IA
- Compreensão do nível de proficiência em IA da própria empresa
Compreensão de Benefícios/Riscos
Um dos objetivos de ação para a realização de “Análise Ambiental e de Riscos” é a “Compreensão de Benefícios/Riscos”.
É explicado no anexo das Diretrizes para Operadores de IA da seguinte forma:
Objetivo de Ação 1-1【Compreensão de Benefícios/Riscos】
Sob a liderança da gestão, cada entidade deve esclarecer o propósito do desenvolvimento, fornecimento e uso de IA e, com base nas atividades de cada entidade, compreender concretamente não apenas os benefícios obtidos através da IA, mas também os riscos não intencionais, reportar estes à gestão, compartilhá-los com a gestão e atualizar o entendimento oportunamente.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos particularmente importantes são os seguintes:
- Definir claramente o propósito do desenvolvimento, fornecimento e uso de IA na criação de valor empresarial e na resolução de problemas sociais;
- Compreender de forma concreta os benefícios e riscos associados à própria empresa;
- Estar atento aos “riscos” que devem ser evitados e às questões que abrangem múltiplas entidades, garantindo benefícios e reduzindo riscos em toda a cadeia de valor/risco;
- Construir um sistema para reportar/compartilhar rapidamente com a gestão.
Compreensão da Aceitação Social da IA no Japão
Um dos objetivos de ação para a realização de “Análises de Risco Ambiental” é a “Compreensão da Aceitação Social da IA”.
Conforme explicado no anexo das Diretrizes para Operadores de IA:
Objetivo de Ação 1-2【Compreensão da Aceitação Social da IA】
Espera-se que, sob a liderança da gestão, cada entidade compreenda o estado atual da aceitação social da IA, com base nas opiniões dos stakeholders, antes do desenvolvimento, fornecimento e uso efetivo da IA. Além disso, mesmo após o início do desenvolvimento, fornecimento e uso efetivo dos sistemas e serviços de IA, espera-se que as entidades reconfirmem as opiniões dos stakeholders em tempo hábil, levando em consideração as mudanças no ambiente externo.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a implementação são os seguintes:
- Identificar os stakeholders
- Esforçar-se para compreender a aceitação social junto aos stakeholders no desenvolvimento, fornecimento e uso da IA
- Após o início do fornecimento dos sistemas e serviços de IA, considerar o ambiente externo que muda rapidamente e, conforme necessário, reconfirmar as opiniões dos stakeholders em tempo hábil
Compreensão do Nível de Proficiência em IA da Sua Empresa
O terceiro objetivo de ação mencionado para a implementação da “Análise de Risco e Ambiente” é a “Compreensão do Nível de Proficiência em IA da Sua Empresa”.
Os Anexos das Diretrizes para Operadores de IA explicam da seguinte forma:
Objetivo de Ação 1-3【Compreensão do Nível de Proficiência em IA da Sua Empresa】
Sob a liderança da gestão, e tendo em conta a implementação dos Objetivos de Ação 1-1 e 1-2, cada entidade deve avaliar o nível de proficiência em IA da sua empresa, com base no grau de experiência no desenvolvimento, oferta e utilização de sistemas e serviços de IA, no número e experiência dos funcionários, incluindo engenheiros, envolvidos no desenvolvimento, oferta e utilização de IA, bem como no grau de literacia em tecnologia e ética de IA desses funcionários. Exceto quando se considera que o risco é mínimo, deve-se avaliar a proficiência em IA da empresa e reavaliá-la oportunamente. Espera-se que, se possível, os resultados sejam divulgados aos stakeholders dentro de um âmbito razoável. Caso se decida não avaliar a proficiência em IA por se considerar que o risco é mínimo, espera-se que se divulgue essa decisão e as suas razões aos stakeholders.
Referência: Anexos das Diretrizes para Operadores de IA
Os pontos-chave para a implementação são os seguintes:
- Avaliar a necessidade de avaliar o nível de proficiência em IA, tendo em conta a área de negócio e o tamanho de cada entidade;
- Se se considerar necessária a avaliação da proficiência em IA, tornar visível a capacidade de resposta aos riscos de IA e avaliar o nível de proficiência;
- Mesmo que se decida que não é necessário avaliar a proficiência em IA, se possível, divulgar essa decisão e as suas razões aos stakeholders dentro de um âmbito razoável.
Definição de Objetivos
Como objetivos de ação para a implementação da “Definição de Objetivos” na governança ágil, os Anexos das Diretrizes para Operadores de IA destacam os seguintes objetivos de ação:
Objetivo de Ação 2-1【Definição de Objetivos de Governança de IA】
Cada entidade, sob a liderança da sua gestão, deve considerar os benefícios/risos que os sistemas e serviços de IA podem trazer, a aceitação social do desenvolvimento, fornecimento e uso de sistemas e serviços de IA, e o nível de proficiência em IA da própria empresa. Enquanto presta atenção à importância do processo que leva à definição de Objetivos de Governança de IA, deve ponderar se estabelece ou não os seus próprios Objetivos de Governança de IA (por exemplo, uma Política de IA) e, se os estabelecer, espera-se que os divulgue aos stakeholders. Se decidir não estabelecer Objetivos de Governança de IA com base no argumento de que os riscos potenciais são insignificantes, espera-se que divulgue essa decisão e as suas razões aos stakeholders. Se considerar que as “Diretrizes Comuns” deste guia funcionam adequadamente, pode usar essas diretrizes comuns como objetivos em vez dos seus próprios Objetivos de Governança de IA.
Mesmo que decida não estabelecer objetivos, espera-se que compreenda a importância deste guia e implemente as ações relacionadas com os Objetivos de Ação 3 a 5 conforme apropriado.
Fonte: Anexos das Diretrizes para Operadores de IA
Os pontos-chave para a implementação são os seguintes:
- Considerar se estabelece os “Objetivos de Governança de IA” para cada entidade;
- Se considerar necessário estabelecer objetivos, então deve fazê-lo;
- Mesmo que decida que não é necessário estabelecer objetivos, se possível, deve divulgar essa decisão e as suas razões aos stakeholders dentro de um âmbito razoável.
Desenho de Sistemas (Construção de um Sistema de Gestão de IA)
Para a implementação do “Desenho de Sistemas (Construção de um Sistema de Gestão de IA)” sob a governança ágil, os objetivos de ação destacados no anexo das Diretrizes para Operadores de IA são os seguintes quatro:
- Essencialização da avaliação de metas e desvios e da resposta a desvios
- Melhoria da literacia dos profissionais de gestão de IA
- Reforço da gestão de IA através da cooperação entre diferentes entidades e departamentos
- Redução do encargo dos utilizadores relacionado com incidentes através de prevenção e resposta precoce
Avaliação de Objetivos e Desvios e a Obrigatoriedade de Resposta aos Desvios no Japão
Um dos objetivos de ação para a implementação do “Design de Sistemas (construção de um Sistema de Gestão de IA)” é a “Avaliação de Objetivos e Desvios e a Obrigatoriedade de Resposta aos Desvios”.
As Diretrizes para Operadores de IA no Japão estabelecem o seguinte:
Objetivo de Ação 3-1【Avaliação de Objetivos e Desvios, e a Obrigatoriedade de Resposta aos Desvios】
É esperado que cada entidade, sob a liderança da sua gestão, identifique os desvios dos Objetivos de Governança de IA da entidade, avalie os impactos causados por esses desvios e, caso se reconheçam riscos, considere a magnitude, o alcance e a frequência de ocorrência desses riscos para determinar a racionalidade da sua aceitação. Se a aceitação não for considerada racional, espera-se que a entidade repense a abordagem de desenvolvimento, fornecimento e uso da IA, incorporando esse processo de reconsideração em todas as fases apropriadas do Sistema de Gestão de IA, bem como nas fases de design, desenvolvimento, antes do início do uso e após o início do uso dos sistemas e serviços de IA. É crucial que a gestão estabeleça políticas básicas para o processo de reconsideração e que a operação concretize esse processo. Além disso, espera-se que pessoas que não estão diretamente envolvidas no desenvolvimento, fornecimento e uso da IA em questão participem da avaliação de desvios. No entanto, não é apropriado proibir arbitrariamente o desenvolvimento, fornecimento e uso da IA apenas porque existem desvios. Portanto, a avaliação de desvios é um passo para avaliar riscos e não deve ser mais do que um ponto de partida para melhorias.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a prática são os seguintes:
- Identificar e avaliar o grau de desvio dos sistemas e serviços de IA atuais e dos “Objetivos de Governança de IA”.
- Se o uso dos sistemas e serviços de IA apresentar riscos, determinar a racionalidade da sua aceitação.
- Se a aceitação não for considerada racional, repensar a abordagem de desenvolvimento, fornecimento e uso, e incorporar o processo de reconsideração nas fases apropriadas de desenvolvimento, fornecimento e uso, bem como nos processos de tomada de decisão dentro da organização de cada entidade.
- A gestão deve liderar essas ações, assumir responsabilidade pelas decisões e garantir que a operação as concretize e as implemente continuamente.
- Para fomentar a compreensão dentro de cada entidade, compartilhar os itens de avaliação de desvios decididos internamente.
Melhoria da Literacia em Gestão de IA
Um dos objetivos de ação para a implementação do “Design de Sistema (construção de um sistema de gestão de IA)” é a “melhoria da literacia dos talentos em gestão de IA”.
As diretrizes para operadores de IA estipulam o seguinte:
Objetivo de Ação 3-2 [Melhoria da Literacia dos Talentos no Sistema de Gestão de IA]
Espera-se que, sob a liderança da gestão executiva, cada entidade melhore estrategicamente a literacia em IA para operar adequadamente o sistema de gestão de IA, considerando também a utilização de materiais educativos externos. Por exemplo, para os membros da direção, equipas de gestão e responsáveis que assumem a responsabilidade pelos aspetos legais e éticos dos sistemas e serviços de IA, pode-se considerar a oferta de formação para melhorar a literacia geral em ética de IA e confiabilidade de IA. Para os profissionais envolvidos no desenvolvimento, fornecimento e uso de projetos de sistemas e serviços de IA, pode-se considerar a formação não apenas em ética de IA, mas também em tecnologias de IA, incluindo IA gerativa. Para todos, é possível oferecer educação sobre o posicionamento e a importância do sistema de gestão de IA.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a prática incluem:
- Utilizar formações e materiais didáticos adequados às funções e responsabilidades para melhorar a literacia em IA;
- Adaptar a utilização de formações e materiais didáticos de acordo com o papel que cada um desempenha;
- Implementar medidas como a formação obrigatória em ética de IA para todos os funcionários, dada a sua importância.
Reforço da Gestão de IA através da Cooperação entre Entidades e Departamentos
O terceiro objetivo de ação mencionado para a implementação do “Design de Sistema (construção de um sistema de gestão de IA)” é o “Reforço da Gestão de IA através da Cooperação entre Entidades e Departamentos”.
As Diretrizes para Operadores de IA no Japão estipulam o seguinte:
Objetivo de Ação 3-3 [Reforço da Gestão de IA através da Cooperação entre Entidades e Departamentos]
As entidades, exceto quando realizam todas as atividades desde a preparação do conjunto de dados para aprendizagem até o desenvolvimento, oferta e uso de sistemas e serviços de IA dentro do seu próprio departamento, são encorajadas, sob a liderança da gestão, a identificar claramente os desafios operacionais dos sistemas e serviços de IA que não podem ser suficientemente abordados apenas pela sua empresa ou departamento, bem como as informações necessárias para resolver esses desafios. Espera-se que, mantendo a atenção aos segredos comerciais e sob a premissa de garantir a concorrência leal, compartilhem essas informações na medida do possível e razoável. Nesse processo, espera-se que acordem previamente o escopo da divulgação de informações entre as entidades e considerem a celebração de acordos de confidencialidade para facilitar a troca de informações necessárias.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a prática incluem:
- Identificar os desafios operacionais dos sistemas e serviços de IA que não podem ser resolvidos apenas por uma entidade e as informações necessárias para a resolução desses desafios;
- Compartilhar essas informações entre as entidades, tendo em conta os direitos de propriedade intelectual e a privacidade, na medida do possível e razoável.
※ É importante notar que estas práticas devem ter como premissa a manutenção da concorrência leal, respeitando as diversas leis e regulamentos, as políticas de IA de cada entidade, os segredos comerciais e os dados de oferta limitada.
Redução do Encargo dos Utilizadores Através da Prevenção e Resposta Rápida a Incidentes
Um dos objetivos de ação para a implementação do “Design de Sistemas (construção de sistemas de gestão de IA)” é a “redução do encargo dos utilizadores através da prevenção e resposta rápida a incidentes”.
As Diretrizes para Operadores de IA no Japão estipulam o seguinte:
Objetivo de Ação 3-4 [Redução do Encargo dos Utilizadores de IA e dos Utilizadores Fora do Âmbito Profissional Através da Prevenção e Resposta Rápida a Incidentes]
Espera-se que, sob a liderança da gestão, todas as partes reduzam o encargo dos utilizadores de IA e dos utilizadores fora do âmbito profissional relacionado com incidentes, através da prevenção e resposta rápida a tais eventos.
Fonte: Anexo das Diretrizes para Operadores de IA
- Prevenir incidentes como falhas no sistema, vazamentos de informação e o surgimento de reclamações, e responder rapidamente quando ocorrem
- Construir um sistema para a prevenção de incidentes e resposta rápida
Operacionalização
Para a implementação da operacionalização da “Agile Governance”, os objetivos de ação estabelecidos no anexo das Diretrizes para Operadores de IA incluem os seguintes três pontos:
- Garantir um estado explicável da situação operacional do sistema de gestão de IA
- Garantir um estado explicável da situação operacional de cada sistema de IA
- Considerar a divulgação proativa do estado da prática da governança de IA
Garantia de um Estado Explicável da Operação do Sistema de Gestão de IA
Um dos objetivos de ação para a implementação da “operação” é a “Garantia de um Estado Explicável da Operação do Sistema de Gestão de IA”.
As Diretrizes para Operadores de IA estabelecem o seguinte:
Objetivo de Ação 4-1【Garantia de um Estado Explicável da Operação do Sistema de Gestão de IA】
Espera-se que todas as partes interessadas, sob a liderança da gestão executiva, por exemplo, registrem o estado da implementação do processo de avaliação de desvios do Objetivo de Ação 3-1, entre outros, para assegurar transparência e responsabilidade perante os stakeholders relevantes em relação ao estado da operação do sistema de gestão de IA.
Fonte: Anexo das Diretrizes para Operadores de IA
Como ponto chave da operação, destaca-se a necessidade de manter o estado da operação do sistema de gestão de IA num estado que possa ser explicado de forma adequada e razoável aos stakeholders relevantes.
Garantia de um Estado Explicável da Operação Individual dos Sistemas de IA
O segundo objetivo de ação mencionado para a implementação da “operação” é a “Garantia de um Estado Explicável da Operação dos Sistemas de Gestão de IA”.
As Diretrizes para Operadores de IA no Japão estabelecem o seguinte:
Objetivo de Ação 4-2 [Garantia de um Estado Explicável da Operação Individual dos Sistemas de IA]
Espera-se que, sob a liderança da gestão, cada entidade realize avaliações contínuas de discrepâncias nas operações provisórias e plenas de cada sistema e serviço de IA, monitorizando a situação e registrando os resultados enquanto opera o ciclo PDCA. As entidades que desenvolvem sistemas de IA devem apoiar o monitoramento por parte das entidades que fornecem e utilizam os sistemas de IA.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos práticos são os seguintes:
- Monitorizar a situação da operação de IA de cada entidade, operando o ciclo PDCA e registrando os resultados.
- Se for difícil para uma entidade lidar sozinha, deve haver colaboração entre as entidades.
Consideração sobre a Divulgação Proativa do Estado da Prática de Governança de IA
O terceiro objetivo de ação para a implementação da “operação” é “Garantir um estado explicável da operação do sistema de gestão de IA e considerar a divulgação proativa do estado da prática de governança de IA”.
As diretrizes para operadores de IA no Japão indicam o seguinte:
Objetivo de Ação 4-3 [Consideração sobre a Divulgação Proativa do Estado da Prática de Governança de IA]
Espera-se que as entidades considerem divulgar informações relacionadas à definição de metas de governança de IA, ao estabelecimento e operação de sistemas de gestão de IA, posicionando-as como informações não financeiras no código de governança corporativa. Espera-se que mesmo as empresas não listadas considerem divulgar informações sobre suas atividades de governança de IA. Além disso, espera-se que, após a consideração, as entidades publiquem para os stakeholders o fato de não divulgarem tais informações, juntamente com as razões para tal.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a prática são os seguintes:
- Considerar garantir a transparência das informações relacionadas à governança de IA, desde a abordagem fundamental da própria empresa em relação à IA até o estabelecimento e operação de sistemas de gestão de IA.
- Ao divulgar informações sobre governança de IA, considerar posicioná-las como informações não financeiras no código de governança corporativa.
- Se não divulgar informações sobre governança de IA, publicar esse fato juntamente com as razões para os stakeholders.
Avaliação
Para a implementação da “avaliação” na governança ágil, os objetivos de ação destacados no anexo das diretrizes para operadores de IA são os seguintes:
- Verificação da funcionalidade do sistema de gestão de IA
- Consideração das opiniões dos stakeholders externos
Verificação da funcionalidade do sistema de gestão de IA
O primeiro objetivo de ação mencionado para a implementação da “avaliação” é a “verificação da funcionalidade do sistema de gestão de IA”.
As diretrizes para operadores de IA descrevem o seguinte:
Objetivo de ação 5-1【Verificação da funcionalidade do sistema de gestão de IA】:
Espera-se que as entidades, sob a liderança da gestão executiva, atribuam a indivíduos com a especialização relevante e independente do desenho e operação do sistema de gestão de IA, para avaliar se o sistema de gestão de IA está adequadamente desenhado e operacional, ou seja, através da prática dos objetivos de ação 3 e 4, se o sistema de gestão de IA está funcionando apropriadamente em direção ao alcance dos objetivos de governança de IA, e se busca a avaliação e melhoria contínua.
Citação: Diretrizes para operadores de IA
Os pontos-chave para a prática são os seguintes:
- Os executivos devem explicitar os pontos focais para a avaliação visando a melhoria contínua em suas próprias palavras
- Atribuir indivíduos com a especialização relevante e independente do desenho e operação do sistema de gestão de IA
- Monitorizar se o sistema de gestão de IA está funcionando apropriadamente
- Implementar melhorias contínuas com base nos resultados do monitoramento
Consideração das opiniões dos stakeholders externos
O segundo objetivo de ação mencionado para a implementação da “avaliação” é a “consideração das opiniões dos stakeholders externos”.
As diretrizes para operadores de IA descrevem o seguinte:
Objetivo de ação 5-2【Consideração das opiniões dos stakeholders】:
Espera-se que as entidades, sob a liderança da gestão executiva, considerem solicitar opiniões sobre o sistema de gestão de IA e sua operação dos stakeholders. Além disso, se decidirem não implementar o conteúdo das opiniões recebidas, espera-se que expliquem as razões aos stakeholders.
Citação: Anexo das Diretrizes para operadores de IA
Os pontos-chave para a prática são os seguintes:
- Considerar solicitar opiniões sobre o sistema de gestão de IA e sua operação dos stakeholders
- Se decidirem não implementar o conteúdo das opiniões recebidas, explicar as razões aos stakeholders
Reanálise de Ambiente e Risco
Um dos objetivos de ação para a implementação da “Reanálise de Ambiente e Risco” sob a governança ágil é a “reimplementação oportuna dos objetivos de ação 1-1 a 1-3”.
As diretrizes para operadores de IA no Japão indicam o seguinte:
Objetivo de Ação 6-1【Reimplementação oportuna dos objetivos de ação 1-1 a 1-3】:
Espera-se que, sob a liderança da gestão, cada entidade compreenda rapidamente as mudanças no ambiente externo, como o surgimento de novas tecnologias e alterações em sistemas sociais, como regulamentações, e realize uma reavaliação oportuna, atualização do entendimento e aquisição de novas perspectivas para os objetivos de ação 1-1 a 1-3. Com base nisso, espera-se a melhoria ou reconstrução dos sistemas de IA, bem como a melhoria das operações. Além disso, ao implementar o objetivo de ação 5-2, espera-se que se considere obter opiniões externas não apenas sobre o sistema de gestão de IA existente e suas operações, mas também sobre a análise de ambiente e risco, incluindo uma revisão geral da governança de IA alinhada com a governança ágil, que é enfatizada nestas diretrizes.
Fonte: Anexo das Diretrizes para Operadores de IA
Os pontos-chave para a prática incluem:
- Compreender as mudanças no ambiente externo, como o surgimento de novas tecnologias, inovações tecnológicas relacionadas à IA e alterações em sistemas sociais, como regulamentações;
- Realizar uma reavaliação oportuna, atualização do entendimento e aquisição de novas perspectivas, e com base nisso, melhorar, reconstruir ou alterar as operações dos sistemas de IA;
- Enraizar a abordagem de governança de IA como parte da cultura organizacional.
Pontos de Atenção na Construção de Governança de IA sob as Diretrizes de Negócios de IA no Japão
Estas são as metodologias concretas para a governança de Inteligência Artificial (IA) baseadas na abordagem de governança ágil, conforme estabelecido pelas “Diretrizes para Operadores de IA” no Japão.
No entanto, essas diretrizes foram criadas como um padrão comum para todos os operadores de IA, e é necessário considerar individualmente qual modelo de negócios a sua empresa se enquadra, seja no desenvolvimento, oferta ou utilização, bem como o tipo de sistemas ou serviços de IA que está a fornecer.
Dependendo do caso, é necessário determinar que tipo de organização e estrutura são necessárias para a sua empresa, que ações e documentação são requeridas, e como isso pode levar a vantagens comerciais futuras e à prevenção de desvantagens.
Além disso, existem vários riscos legais ocultos nos negócios de IA. Por isso, recomendamos que obtenha o apoio de um advogado desde as primeiras etapas de implementação de medidas.
Resumo: A Otimização das Diretrizes para Operadores de IA Deve Ser Feita por Advogados
Neste artigo, explicamos como construir uma governança de IA em conformidade com as Diretrizes para Operadores de IA no Japão.
As Diretrizes para Operadores de IA detalham métodos de governança de IA, e os gestores precisam criar organizações internas e preparar documentação escrita como parte dessa governança.
No negócio de IA, onde as mudanças ocorrem rapidamente, otimizar para diretrizes que são novas e complexas pode ser extremamente desafiador. Recomendamos que, desde o início, você construa a governança de IA mais adequada para a sua empresa com o conselho de especialistas que são proficientes tanto em TI quanto em direito japonês.
Apresentação das Medidas da Nossa Firma
A Monolith Law Office é uma firma de advocacia com vasta experiência em TI, especialmente na interseção entre a Internet e o direito.
Os negócios de IA envolvem muitos riscos legais e o apoio de advogados especializados em questões legais relacionadas à IA é essencial. A nossa firma oferece suporte jurídico avançado para negócios de IA, incluindo ChatGPT, através de uma equipe de advogados e engenheiros especializados em IA. Prestamos serviços como a elaboração de contratos, análise da legalidade de modelos de negócios, proteção de direitos de propriedade intelectual e questões de privacidade. Mais detalhes podem ser encontrados no artigo abaixo.
Áreas de atuação da Monolith Law Office: Assuntos Legais de IA (incluindo ChatGPT)[ja]
Category: IT
