Um dos objetivos de a\u00e7\u00e3o para a realiza\u00e7\u00e3o de “An\u00e1lise Ambiental e de Riscos” \u00e9 a “Compreens\u00e3o de Benef\u00edcios\/Riscos”.<\/p>\n\n\n\n
\u00c9 explicado no anexo das Diretrizes para Operadores de IA da seguinte forma:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 1-1\u3010Compreens\u00e3o de Benef\u00edcios\/Riscos\u3011<\/p>\n\n\n\n
Sob a lideran\u00e7a da gest\u00e3o, cada entidade deve esclarecer o prop\u00f3sito do desenvolvimento, fornecimento e uso de IA e, com base nas atividades de cada entidade, compreender concretamente n\u00e3o apenas os benef\u00edcios obtidos atrav\u00e9s da IA, mas tamb\u00e9m os riscos n\u00e3o intencionais, reportar estes \u00e0 gest\u00e3o, compartilh\u00e1-los com a gest\u00e3o e atualizar o entendimento oportunamente.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos particularmente importantes s\u00e3o os seguintes:<\/p>\n\n\n\n
\nDefinir claramente o prop\u00f3sito do desenvolvimento, fornecimento e uso de IA na cria\u00e7\u00e3o de valor empresarial e na resolu\u00e7\u00e3o de problemas sociais;<\/li>\n\n\n\n Compreender de forma concreta os benef\u00edcios e riscos associados \u00e0 pr\u00f3pria empresa;<\/li>\n\n\n\n Estar atento aos “riscos” que devem ser evitados e \u00e0s quest\u00f5es que abrangem m\u00faltiplas entidades, garantindo benef\u00edcios e reduzindo riscos em toda a cadeia de valor\/risco;<\/li>\n\n\n\n Construir um sistema para reportar\/compartilhar rapidamente com a gest\u00e3o.<\/li>\n<\/ul>\n\n\n\n<\/span>Compreens\u00e3o da Aceita\u00e7\u00e3o Social da IA no Jap\u00e3o<\/span><\/h4>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a realiza\u00e7\u00e3o de “An\u00e1lises de Risco Ambiental” \u00e9 a “Compreens\u00e3o da Aceita\u00e7\u00e3o Social da IA”.<\/p>\n\n\n\n
Conforme explicado no anexo das Diretrizes para Operadores de IA:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 1-2\u3010Compreens\u00e3o da Aceita\u00e7\u00e3o Social da IA\u3011<\/p>\n\n\n\n
Espera-se que, sob a lideran\u00e7a da gest\u00e3o, cada entidade compreenda o estado atual da aceita\u00e7\u00e3o social da IA, com base nas opini\u00f5es dos stakeholders, antes do desenvolvimento, fornecimento e uso efetivo da IA. Al\u00e9m disso, mesmo ap\u00f3s o in\u00edcio do desenvolvimento, fornecimento e uso efetivo dos sistemas e servi\u00e7os de IA, espera-se que as entidades reconfirmem as opini\u00f5es dos stakeholders em tempo h\u00e1bil, levando em considera\u00e7\u00e3o as mudan\u00e7as no ambiente externo.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a implementa\u00e7\u00e3o s\u00e3o os seguintes:<\/p>\n\n\n\n
\nIdentificar os stakeholders<\/li>\n\n\n\n Esfor\u00e7ar-se para compreender a aceita\u00e7\u00e3o social junto aos stakeholders no desenvolvimento, fornecimento e uso da IA<\/li>\n\n\n\n Ap\u00f3s o in\u00edcio do fornecimento dos sistemas e servi\u00e7os de IA, considerar o ambiente externo que muda rapidamente e, conforme necess\u00e1rio, reconfirmar as opini\u00f5es dos stakeholders em tempo h\u00e1bil<\/li>\n<\/ul>\n\n\n\n<\/span>Compreens\u00e3o do N\u00edvel de Profici\u00eancia em IA da Sua Empresa<\/span><\/h4>\n\n\n\nO terceiro objetivo de a\u00e7\u00e3o mencionado para a implementa\u00e7\u00e3o da “An\u00e1lise de Risco e Ambiente” \u00e9 a “Compreens\u00e3o do N\u00edvel de Profici\u00eancia em IA da Sua Empresa”.<\/p>\n\n\n\n
Os Anexos das Diretrizes para Operadores de IA explicam da seguinte forma:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 1-3\u3010Compreens\u00e3o do N\u00edvel de Profici\u00eancia em IA da Sua Empresa\u3011<\/p>\n\n\n\n
Sob a lideran\u00e7a da gest\u00e3o, e tendo em conta a implementa\u00e7\u00e3o dos Objetivos de A\u00e7\u00e3o 1-1 e 1-2, cada entidade deve avaliar o n\u00edvel de profici\u00eancia em IA da sua empresa, com base no grau de experi\u00eancia no desenvolvimento, oferta e utiliza\u00e7\u00e3o de sistemas e servi\u00e7os de IA, no n\u00famero e experi\u00eancia dos funcion\u00e1rios, incluindo engenheiros, envolvidos no desenvolvimento, oferta e utiliza\u00e7\u00e3o de IA, bem como no grau de literacia em tecnologia e \u00e9tica de IA desses funcion\u00e1rios. Exceto quando se considera que o risco \u00e9 m\u00ednimo, deve-se avaliar a profici\u00eancia em IA da empresa e reavali\u00e1-la oportunamente. Espera-se que, se poss\u00edvel, os resultados sejam divulgados aos stakeholders dentro de um \u00e2mbito razo\u00e1vel. Caso se decida n\u00e3o avaliar a profici\u00eancia em IA por se considerar que o risco \u00e9 m\u00ednimo, espera-se que se divulgue essa decis\u00e3o e as suas raz\u00f5es aos stakeholders.<\/p>\nRefer\u00eancia: Anexos das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a implementa\u00e7\u00e3o s\u00e3o os seguintes:<\/p>\n\n\n\n
\nAvaliar a necessidade de avaliar o n\u00edvel de profici\u00eancia em IA, tendo em conta a \u00e1rea de neg\u00f3cio e o tamanho de cada entidade;<\/li>\n\n\n\n Se se considerar necess\u00e1ria a avalia\u00e7\u00e3o da profici\u00eancia em IA, tornar vis\u00edvel a capacidade de resposta aos riscos de IA e avaliar o n\u00edvel de profici\u00eancia;<\/li>\n\n\n\n Mesmo que se decida que n\u00e3o \u00e9 necess\u00e1rio avaliar a profici\u00eancia em IA, se poss\u00edvel, divulgar essa decis\u00e3o e as suas raz\u00f5es aos stakeholders dentro de um \u00e2mbito razo\u00e1vel.<\/li>\n<\/ul>\n\n\n\n<\/span>Defini\u00e7\u00e3o de Objetivos<\/span><\/h3>\n\n\n\nComo objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o da “Defini\u00e7\u00e3o de Objetivos” na governan\u00e7a \u00e1gil, os Anexos das Diretrizes para Operadores de IA destacam os seguintes objetivos de a\u00e7\u00e3o:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 2-1\u3010Defini\u00e7\u00e3o de Objetivos de Governan\u00e7a de IA\u3011<\/p>\n\n\n\n
Cada entidade, sob a lideran\u00e7a da sua gest\u00e3o, deve considerar os benef\u00edcios\/risos que os sistemas e servi\u00e7os de IA podem trazer, a aceita\u00e7\u00e3o social do desenvolvimento, fornecimento e uso de sistemas e servi\u00e7os de IA, e o n\u00edvel de profici\u00eancia em IA da pr\u00f3pria empresa. Enquanto presta aten\u00e7\u00e3o \u00e0 import\u00e2ncia do processo que leva \u00e0 defini\u00e7\u00e3o de Objetivos de Governan\u00e7a de IA, deve ponderar se estabelece ou n\u00e3o os seus pr\u00f3prios Objetivos de Governan\u00e7a de IA (por exemplo, uma Pol\u00edtica de IA) e, se os estabelecer, espera-se que os divulgue aos stakeholders. Se decidir n\u00e3o estabelecer Objetivos de Governan\u00e7a de IA com base no argumento de que os riscos potenciais s\u00e3o insignificantes, espera-se que divulgue essa decis\u00e3o e as suas raz\u00f5es aos stakeholders. Se considerar que as “Diretrizes Comuns” deste guia funcionam adequadamente, pode usar essas diretrizes comuns como objetivos em vez dos seus pr\u00f3prios Objetivos de Governan\u00e7a de IA.<\/p>\n\n\n\n
Mesmo que decida n\u00e3o estabelecer objetivos, espera-se que compreenda a import\u00e2ncia deste guia e implemente as a\u00e7\u00f5es relacionadas com os Objetivos de A\u00e7\u00e3o 3 a 5 conforme apropriado.<\/p>\nFonte: Anexos das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a implementa\u00e7\u00e3o s\u00e3o os seguintes:<\/p>\n\n\n\n
\nConsiderar se estabelece os “Objetivos de Governan\u00e7a de IA” para cada entidade;<\/li>\n\n\n\n Se considerar necess\u00e1rio estabelecer objetivos, ent\u00e3o deve faz\u00ea-lo;<\/li>\n\n\n\n Mesmo que decida que n\u00e3o \u00e9 necess\u00e1rio estabelecer objetivos, se poss\u00edvel, deve divulgar essa decis\u00e3o e as suas raz\u00f5es aos stakeholders dentro de um \u00e2mbito razo\u00e1vel.<\/li>\n<\/ul>\n\n\n\n<\/span>Desenho de Sistemas (Constru\u00e7\u00e3o de um Sistema de Gest\u00e3o de IA)<\/span><\/h3>\n\n\n\nPara a implementa\u00e7\u00e3o do “Desenho de Sistemas (Constru\u00e7\u00e3o de um Sistema de Gest\u00e3o de IA)” sob a governan\u00e7a \u00e1gil, os objetivos de a\u00e7\u00e3o destacados no anexo das Diretrizes para Operadores de IA s\u00e3o os seguintes quatro:<\/p>\n\n\n\n
\nEssencializa\u00e7\u00e3o da avalia\u00e7\u00e3o de metas e desvios e da resposta a desvios<\/li>\n\n\n\n Melhoria da literacia dos profissionais de gest\u00e3o de IA<\/li>\n\n\n\n Refor\u00e7o da gest\u00e3o de IA atrav\u00e9s da coopera\u00e7\u00e3o entre diferentes entidades e departamentos<\/li>\n\n\n\n Redu\u00e7\u00e3o do encargo dos utilizadores relacionado com incidentes atrav\u00e9s de preven\u00e7\u00e3o e resposta precoce<\/li>\n<\/ul>\n\n\n\n<\/span>Avalia\u00e7\u00e3o de Objetivos e Desvios e a Obrigatoriedade de Resposta aos Desvios no Jap\u00e3o<\/span><\/h3>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o do “Design de Sistemas (constru\u00e7\u00e3o de um Sistema de Gest\u00e3o de IA)” \u00e9 a “Avalia\u00e7\u00e3o de Objetivos e Desvios e a Obrigatoriedade de Resposta aos Desvios”.<\/p>\n\n\n\n
As Diretrizes para Operadores de IA no Jap\u00e3o estabelecem o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 3-1\u3010Avalia\u00e7\u00e3o de Objetivos e Desvios, e a Obrigatoriedade de Resposta aos Desvios\u3011<\/p>\n\n\n\n
\u00c9 esperado que cada entidade, sob a lideran\u00e7a da sua gest\u00e3o, identifique os desvios dos Objetivos de Governan\u00e7a de IA da entidade, avalie os impactos causados por esses desvios e, caso se reconhe\u00e7am riscos, considere a magnitude, o alcance e a frequ\u00eancia de ocorr\u00eancia desses riscos para determinar a racionalidade da sua aceita\u00e7\u00e3o. Se a aceita\u00e7\u00e3o n\u00e3o for considerada racional, espera-se que a entidade repense a abordagem de desenvolvimento, fornecimento e uso da IA, incorporando esse processo de reconsidera\u00e7\u00e3o em todas as fases apropriadas do Sistema de Gest\u00e3o de IA, bem como nas fases de design, desenvolvimento, antes do in\u00edcio do uso e ap\u00f3s o in\u00edcio do uso dos sistemas e servi\u00e7os de IA. \u00c9 crucial que a gest\u00e3o estabele\u00e7a pol\u00edticas b\u00e1sicas para o processo de reconsidera\u00e7\u00e3o e que a opera\u00e7\u00e3o concretize esse processo. Al\u00e9m disso, espera-se que pessoas que n\u00e3o est\u00e3o diretamente envolvidas no desenvolvimento, fornecimento e uso da IA em quest\u00e3o participem da avalia\u00e7\u00e3o de desvios. No entanto, n\u00e3o \u00e9 apropriado proibir arbitrariamente o desenvolvimento, fornecimento e uso da IA apenas porque existem desvios. Portanto, a avalia\u00e7\u00e3o de desvios \u00e9 um passo para avaliar riscos e n\u00e3o deve ser mais do que um ponto de partida para melhorias.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica s\u00e3o os seguintes:<\/p>\n\n\n\n
\nIdentificar e avaliar o grau de desvio dos sistemas e servi\u00e7os de IA atuais e dos “Objetivos de Governan\u00e7a de IA”.<\/li>\n\n\n\n Se o uso dos sistemas e servi\u00e7os de IA apresentar riscos, determinar a racionalidade da sua aceita\u00e7\u00e3o.<\/li>\n\n\n\n Se a aceita\u00e7\u00e3o n\u00e3o for considerada racional, repensar a abordagem de desenvolvimento, fornecimento e uso, e incorporar o processo de reconsidera\u00e7\u00e3o nas fases apropriadas de desenvolvimento, fornecimento e uso, bem como nos processos de tomada de decis\u00e3o dentro da organiza\u00e7\u00e3o de cada entidade.<\/li>\n\n\n\n A gest\u00e3o deve liderar essas a\u00e7\u00f5es, assumir responsabilidade pelas decis\u00f5es e garantir que a opera\u00e7\u00e3o as concretize e as implemente continuamente.<\/li>\n\n\n\n Para fomentar a compreens\u00e3o dentro de cada entidade, compartilhar os itens de avalia\u00e7\u00e3o de desvios decididos internamente.<\/li>\n<\/ul>\n\n\n\n<\/span>Melhoria da Literacia em Gest\u00e3o de IA<\/span><\/h4>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o do “Design de Sistema (constru\u00e7\u00e3o de um sistema de gest\u00e3o de IA)” \u00e9 a “melhoria da literacia dos talentos em gest\u00e3o de IA”.<\/p>\n\n\n\n
As diretrizes para operadores de IA estipulam o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 3-2 [Melhoria da Literacia dos Talentos no Sistema de Gest\u00e3o de IA]\n\n\n\n
Espera-se que, sob a lideran\u00e7a da gest\u00e3o executiva, cada entidade melhore estrategicamente a literacia em IA para operar adequadamente o sistema de gest\u00e3o de IA, considerando tamb\u00e9m a utiliza\u00e7\u00e3o de materiais educativos externos. Por exemplo, para os membros da dire\u00e7\u00e3o, equipas de gest\u00e3o e respons\u00e1veis que assumem a responsabilidade pelos aspetos legais e \u00e9ticos dos sistemas e servi\u00e7os de IA, pode-se considerar a oferta de forma\u00e7\u00e3o para melhorar a literacia geral em \u00e9tica de IA e confiabilidade de IA. Para os profissionais envolvidos no desenvolvimento, fornecimento e uso de projetos de sistemas e servi\u00e7os de IA, pode-se considerar a forma\u00e7\u00e3o n\u00e3o apenas em \u00e9tica de IA, mas tamb\u00e9m em tecnologias de IA, incluindo IA gerativa. Para todos, \u00e9 poss\u00edvel oferecer educa\u00e7\u00e3o sobre o posicionamento e a import\u00e2ncia do sistema de gest\u00e3o de IA.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica incluem:<\/p>\n\n\n\n
\nUtilizar forma\u00e7\u00f5es e materiais did\u00e1ticos adequados \u00e0s fun\u00e7\u00f5es e responsabilidades para melhorar a literacia em IA;<\/li>\n\n\n\n Adaptar a utiliza\u00e7\u00e3o de forma\u00e7\u00f5es e materiais did\u00e1ticos de acordo com o papel que cada um desempenha;<\/li>\n\n\n\n Implementar medidas como a forma\u00e7\u00e3o obrigat\u00f3ria em \u00e9tica de IA para todos os funcion\u00e1rios, dada a sua import\u00e2ncia.<\/li>\n<\/ul>\n\n\n\n<\/span>Refor\u00e7o da Gest\u00e3o de IA atrav\u00e9s da Coopera\u00e7\u00e3o entre Entidades e Departamentos<\/span><\/h4>\n\n\n\nO terceiro objetivo de a\u00e7\u00e3o mencionado para a implementa\u00e7\u00e3o do “Design de Sistema (constru\u00e7\u00e3o de um sistema de gest\u00e3o de IA)” \u00e9 o “Refor\u00e7o da Gest\u00e3o de IA atrav\u00e9s da Coopera\u00e7\u00e3o entre Entidades e Departamentos”.<\/p>\n\n\n\n
As Diretrizes para Operadores de IA no Jap\u00e3o estipulam o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 3-3 [Refor\u00e7o da Gest\u00e3o de IA atrav\u00e9s da Coopera\u00e7\u00e3o entre Entidades e Departamentos]\n\n\n\n
As entidades, exceto quando realizam todas as atividades desde a prepara\u00e7\u00e3o do conjunto de dados para aprendizagem at\u00e9 o desenvolvimento, oferta e uso de sistemas e servi\u00e7os de IA dentro do seu pr\u00f3prio departamento, s\u00e3o encorajadas, sob a lideran\u00e7a da gest\u00e3o, a identificar claramente os desafios operacionais dos sistemas e servi\u00e7os de IA que n\u00e3o podem ser suficientemente abordados apenas pela sua empresa ou departamento, bem como as informa\u00e7\u00f5es necess\u00e1rias para resolver esses desafios. Espera-se que, mantendo a aten\u00e7\u00e3o aos segredos comerciais e sob a premissa de garantir a concorr\u00eancia leal, compartilhem essas informa\u00e7\u00f5es na medida do poss\u00edvel e razo\u00e1vel. Nesse processo, espera-se que acordem previamente o escopo da divulga\u00e7\u00e3o de informa\u00e7\u00f5es entre as entidades e considerem a celebra\u00e7\u00e3o de acordos de confidencialidade para facilitar a troca de informa\u00e7\u00f5es necess\u00e1rias.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica incluem:<\/p>\n\n\n\n
\nIdentificar os desafios operacionais dos sistemas e servi\u00e7os de IA que n\u00e3o podem ser resolvidos apenas por uma entidade e as informa\u00e7\u00f5es necess\u00e1rias para a resolu\u00e7\u00e3o desses desafios;<\/li>\n\n\n\n Compartilhar essas informa\u00e7\u00f5es entre as entidades, tendo em conta os direitos de propriedade intelectual e a privacidade, na medida do poss\u00edvel e razo\u00e1vel.<\/li>\n<\/ul>\n\n\n\n\u203b \u00c9 importante notar que estas pr\u00e1ticas devem ter como premissa a manuten\u00e7\u00e3o da concorr\u00eancia leal, respeitando as diversas leis e regulamentos, as pol\u00edticas de IA de cada entidade, os segredos comerciais e os dados de oferta limitada.<\/p>\n\n\n\n
<\/span>Redu\u00e7\u00e3o do Encargo dos Utilizadores Atrav\u00e9s da Preven\u00e7\u00e3o e Resposta R\u00e1pida a Incidentes<\/span><\/h4>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o do “Design de Sistemas (constru\u00e7\u00e3o de sistemas de gest\u00e3o de IA)” \u00e9 a “redu\u00e7\u00e3o do encargo dos utilizadores atrav\u00e9s da preven\u00e7\u00e3o e resposta r\u00e1pida a incidentes”.<\/p>\n\n\n\n
As Diretrizes para Operadores de IA no Jap\u00e3o estipulam o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 3-4 [Redu\u00e7\u00e3o do Encargo dos Utilizadores de IA e dos Utilizadores Fora do \u00c2mbito Profissional Atrav\u00e9s da Preven\u00e7\u00e3o e Resposta R\u00e1pida a Incidentes]\n\n\n\n
Espera-se que, sob a lideran\u00e7a da gest\u00e3o, todas as partes reduzam o encargo dos utilizadores de IA e dos utilizadores fora do \u00e2mbito profissional relacionado com incidentes, atrav\u00e9s da preven\u00e7\u00e3o e resposta r\u00e1pida a tais eventos.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\n\nPrevenir incidentes como falhas no sistema, vazamentos de informa\u00e7\u00e3o e o surgimento de reclama\u00e7\u00f5es, e responder rapidamente quando ocorrem<\/li>\n\n\n\n Construir um sistema para a preven\u00e7\u00e3o de incidentes e resposta r\u00e1pida<\/li>\n<\/ul>\n\n\n\n<\/span>Operacionaliza\u00e7\u00e3o<\/span><\/h3>\n\n\n\nPara a implementa\u00e7\u00e3o da operacionaliza\u00e7\u00e3o da “Agile Governance”, os objetivos de a\u00e7\u00e3o estabelecidos no anexo das Diretrizes para Operadores de IA incluem os seguintes tr\u00eas pontos:<\/p>\n\n\n\n
\nGarantir um estado explic\u00e1vel da situa\u00e7\u00e3o operacional do sistema de gest\u00e3o de IA<\/li>\n\n\n\n Garantir um estado explic\u00e1vel da situa\u00e7\u00e3o operacional de cada sistema de IA<\/li>\n\n\n\n Considerar a divulga\u00e7\u00e3o proativa do estado da pr\u00e1tica da governan\u00e7a de IA<\/li>\n<\/ul>\n\n\n\n<\/span>Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o do Sistema de Gest\u00e3o de IA<\/span><\/h4>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o da “opera\u00e7\u00e3o” \u00e9 a “Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o do Sistema de Gest\u00e3o de IA”.<\/p>\n\n\n\n
As Diretrizes para Operadores de IA estabelecem o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 4-1\u3010Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o do Sistema de Gest\u00e3o de IA\u3011<\/p>\n\n\n\n
Espera-se que todas as partes interessadas, sob a lideran\u00e7a da gest\u00e3o executiva, por exemplo, registrem o estado da implementa\u00e7\u00e3o do processo de avalia\u00e7\u00e3o de desvios do Objetivo de A\u00e7\u00e3o 3-1, entre outros, para assegurar transpar\u00eancia e responsabilidade perante os stakeholders relevantes em rela\u00e7\u00e3o ao estado da opera\u00e7\u00e3o do sistema de gest\u00e3o de IA.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nComo ponto chave da opera\u00e7\u00e3o, destaca-se a necessidade de manter o estado da opera\u00e7\u00e3o do sistema de gest\u00e3o de IA num estado que possa ser explicado de forma adequada e razo\u00e1vel aos stakeholders relevantes.<\/p>\n\n\n\n
<\/span>Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o Individual dos Sistemas de IA<\/span><\/h4>\n\n\n\nO segundo objetivo de a\u00e7\u00e3o mencionado para a implementa\u00e7\u00e3o da “opera\u00e7\u00e3o” \u00e9 a “Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o dos Sistemas de Gest\u00e3o de IA”.<\/p>\n\n\n\n
As Diretrizes para Operadores de IA no Jap\u00e3o estabelecem o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 4-2 [Garantia de um Estado Explic\u00e1vel da Opera\u00e7\u00e3o Individual dos Sistemas de IA]\n\n\n\n
Espera-se que, sob a lideran\u00e7a da gest\u00e3o, cada entidade realize avalia\u00e7\u00f5es cont\u00ednuas de discrep\u00e2ncias nas opera\u00e7\u00f5es provis\u00f3rias e plenas de cada sistema e servi\u00e7o de IA, monitorizando a situa\u00e7\u00e3o e registrando os resultados enquanto opera o ciclo PDCA. As entidades que desenvolvem sistemas de IA devem apoiar o monitoramento por parte das entidades que fornecem e utilizam os sistemas de IA.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos pr\u00e1ticos s\u00e3o os seguintes:<\/p>\n\n\n\n
\nMonitorizar a situa\u00e7\u00e3o da opera\u00e7\u00e3o de IA de cada entidade, operando o ciclo PDCA e registrando os resultados.<\/li>\n\n\n\n Se for dif\u00edcil para uma entidade lidar sozinha, deve haver colabora\u00e7\u00e3o entre as entidades.<\/li>\n<\/ul>\n\n\n\n<\/span>Considera\u00e7\u00e3o sobre a Divulga\u00e7\u00e3o Proativa do Estado da Pr\u00e1tica de Governan\u00e7a de IA<\/span><\/h4>\n\n\n\nO terceiro objetivo de a\u00e7\u00e3o para a implementa\u00e7\u00e3o da “opera\u00e7\u00e3o” \u00e9 “Garantir um estado explic\u00e1vel da opera\u00e7\u00e3o do sistema de gest\u00e3o de IA e considerar a divulga\u00e7\u00e3o proativa do estado da pr\u00e1tica de governan\u00e7a de IA”.<\/p>\n\n\n\n
As diretrizes para operadores de IA no Jap\u00e3o indicam o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 4-3 [Considera\u00e7\u00e3o sobre a Divulga\u00e7\u00e3o Proativa do Estado da Pr\u00e1tica de Governan\u00e7a de IA]\n\n\n\n
Espera-se que as entidades considerem divulgar informa\u00e7\u00f5es relacionadas \u00e0 defini\u00e7\u00e3o de metas de governan\u00e7a de IA, ao estabelecimento e opera\u00e7\u00e3o de sistemas de gest\u00e3o de IA, posicionando-as como informa\u00e7\u00f5es n\u00e3o financeiras no c\u00f3digo de governan\u00e7a corporativa. Espera-se que mesmo as empresas n\u00e3o listadas considerem divulgar informa\u00e7\u00f5es sobre suas atividades de governan\u00e7a de IA. Al\u00e9m disso, espera-se que, ap\u00f3s a considera\u00e7\u00e3o, as entidades publiquem para os stakeholders o fato de n\u00e3o divulgarem tais informa\u00e7\u00f5es, juntamente com as raz\u00f5es para tal.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica s\u00e3o os seguintes:<\/p>\n\n\n\n
\nConsiderar garantir a transpar\u00eancia das informa\u00e7\u00f5es relacionadas \u00e0 governan\u00e7a de IA, desde a abordagem fundamental da pr\u00f3pria empresa em rela\u00e7\u00e3o \u00e0 IA at\u00e9 o estabelecimento e opera\u00e7\u00e3o de sistemas de gest\u00e3o de IA.<\/li>\n\n\n\n Ao divulgar informa\u00e7\u00f5es sobre governan\u00e7a de IA, considerar posicion\u00e1-las como informa\u00e7\u00f5es n\u00e3o financeiras no c\u00f3digo de governan\u00e7a corporativa.<\/li>\n\n\n\n Se n\u00e3o divulgar informa\u00e7\u00f5es sobre governan\u00e7a de IA, publicar esse fato juntamente com as raz\u00f5es para os stakeholders.<\/li>\n<\/ul>\n\n\n\n<\/span>Avalia\u00e7\u00e3o<\/span><\/h3>\n\n\n\nPara a implementa\u00e7\u00e3o da “avalia\u00e7\u00e3o” na governan\u00e7a \u00e1gil, os objetivos de a\u00e7\u00e3o destacados no anexo das diretrizes para operadores de IA s\u00e3o os seguintes:<\/p>\n\n\n\n
\nVerifica\u00e7\u00e3o da funcionalidade do sistema de gest\u00e3o de IA<\/li>\n\n\n\n Considera\u00e7\u00e3o das opini\u00f5es dos stakeholders externos<\/li>\n<\/ul>\n\n\n\n<\/span>Verifica\u00e7\u00e3o da funcionalidade do sistema de gest\u00e3o de IA<\/span><\/h4>\n\n\n\nO primeiro objetivo de a\u00e7\u00e3o mencionado para a implementa\u00e7\u00e3o da “avalia\u00e7\u00e3o” \u00e9 a “verifica\u00e7\u00e3o da funcionalidade do sistema de gest\u00e3o de IA”.<\/p>\n\n\n\n
As diretrizes para operadores de IA descrevem o seguinte:<\/p>\n\n\n\n
\nObjetivo de a\u00e7\u00e3o 5-1\u3010Verifica\u00e7\u00e3o da funcionalidade do sistema de gest\u00e3o de IA\u3011:<\/p>\n\n\n\n
Espera-se que as entidades, sob a lideran\u00e7a da gest\u00e3o executiva, atribuam a indiv\u00edduos com a especializa\u00e7\u00e3o relevante e independente do desenho e opera\u00e7\u00e3o do sistema de gest\u00e3o de IA, para avaliar se o sistema de gest\u00e3o de IA est\u00e1 adequadamente desenhado e operacional, ou seja, atrav\u00e9s da pr\u00e1tica dos objetivos de a\u00e7\u00e3o 3 e 4, se o sistema de gest\u00e3o de IA est\u00e1 funcionando apropriadamente em dire\u00e7\u00e3o ao alcance dos objetivos de governan\u00e7a de IA, e se busca a avalia\u00e7\u00e3o e melhoria cont\u00ednua.<\/p>\n\n\n\n
Cita\u00e7\u00e3o: Diretrizes para operadores de IA<\/p>\n<\/blockquote>\n\n\n\n
Os pontos-chave para a pr\u00e1tica s\u00e3o os seguintes:<\/p>\n\n\n\n
\nOs executivos devem explicitar os pontos focais para a avalia\u00e7\u00e3o visando a melhoria cont\u00ednua em suas pr\u00f3prias palavras<\/li>\n\n\n\n Atribuir indiv\u00edduos com a especializa\u00e7\u00e3o relevante e independente do desenho e opera\u00e7\u00e3o do sistema de gest\u00e3o de IA<\/li>\n\n\n\n Monitorizar se o sistema de gest\u00e3o de IA est\u00e1 funcionando apropriadamente<\/li>\n\n\n\n Implementar melhorias cont\u00ednuas com base nos resultados do monitoramento<\/li>\n<\/ul>\n\n\n\n<\/span>Considera\u00e7\u00e3o das opini\u00f5es dos stakeholders externos<\/span><\/h4>\n\n\n\nO segundo objetivo de a\u00e7\u00e3o mencionado para a implementa\u00e7\u00e3o da “avalia\u00e7\u00e3o” \u00e9 a “considera\u00e7\u00e3o das opini\u00f5es dos stakeholders externos”.<\/p>\n\n\n\n
As diretrizes para operadores de IA descrevem o seguinte:<\/p>\n\n\n\n
\nObjetivo de a\u00e7\u00e3o 5-2\u3010Considera\u00e7\u00e3o das opini\u00f5es dos stakeholders\u3011:<\/p>\n\n\n\n
Espera-se que as entidades, sob a lideran\u00e7a da gest\u00e3o executiva, considerem solicitar opini\u00f5es sobre o sistema de gest\u00e3o de IA e sua opera\u00e7\u00e3o dos stakeholders. Al\u00e9m disso, se decidirem n\u00e3o implementar o conte\u00fado das opini\u00f5es recebidas, espera-se que expliquem as raz\u00f5es aos stakeholders.<\/p>\nCita\u00e7\u00e3o: Anexo das Diretrizes para operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica s\u00e3o os seguintes:<\/p>\n\n\n\n
\nConsiderar solicitar opini\u00f5es sobre o sistema de gest\u00e3o de IA e sua opera\u00e7\u00e3o dos stakeholders<\/li>\n\n\n\n Se decidirem n\u00e3o implementar o conte\u00fado das opini\u00f5es recebidas, explicar as raz\u00f5es aos stakeholders<\/li>\n<\/ul>\n\n\n\n<\/span>Rean\u00e1lise de Ambiente e Risco<\/span><\/h3>\n\n\n\nUm dos objetivos de a\u00e7\u00e3o para a implementa\u00e7\u00e3o da “Rean\u00e1lise de Ambiente e Risco” sob a governan\u00e7a \u00e1gil \u00e9 a “reimplementa\u00e7\u00e3o oportuna dos objetivos de a\u00e7\u00e3o 1-1 a 1-3”.<\/p>\n\n\n\n
As diretrizes para operadores de IA no Jap\u00e3o indicam o seguinte:<\/p>\n\n\n\n
\nObjetivo de A\u00e7\u00e3o 6-1\u3010Reimplementa\u00e7\u00e3o oportuna dos objetivos de a\u00e7\u00e3o 1-1 a 1-3\u3011:<\/p>\n\n\n\n
Espera-se que, sob a lideran\u00e7a da gest\u00e3o, cada entidade compreenda rapidamente as mudan\u00e7as no ambiente externo, como o surgimento de novas tecnologias e altera\u00e7\u00f5es em sistemas sociais, como regulamenta\u00e7\u00f5es, e realize uma reavalia\u00e7\u00e3o oportuna, atualiza\u00e7\u00e3o do entendimento e aquisi\u00e7\u00e3o de novas perspectivas para os objetivos de a\u00e7\u00e3o 1-1 a 1-3. Com base nisso, espera-se a melhoria ou reconstru\u00e7\u00e3o dos sistemas de IA, bem como a melhoria das opera\u00e7\u00f5es. Al\u00e9m disso, ao implementar o objetivo de a\u00e7\u00e3o 5-2, espera-se que se considere obter opini\u00f5es externas n\u00e3o apenas sobre o sistema de gest\u00e3o de IA existente e suas opera\u00e7\u00f5es, mas tamb\u00e9m sobre a an\u00e1lise de ambiente e risco, incluindo uma revis\u00e3o geral da governan\u00e7a de IA alinhada com a governan\u00e7a \u00e1gil, que \u00e9 enfatizada nestas diretrizes.<\/p>\nFonte: Anexo das Diretrizes para Operadores de IA<\/cite><\/blockquote>\n\n\n\nOs pontos-chave para a pr\u00e1tica incluem:<\/p>\n\n\n\n
\nCompreender as mudan\u00e7as no ambiente externo, como o surgimento de novas tecnologias, inova\u00e7\u00f5es tecnol\u00f3gicas relacionadas \u00e0 IA e altera\u00e7\u00f5es em sistemas sociais, como regulamenta\u00e7\u00f5es;<\/li>\n\n\n\n Realizar uma reavalia\u00e7\u00e3o oportuna, atualiza\u00e7\u00e3o do entendimento e aquisi\u00e7\u00e3o de novas perspectivas, e com base nisso, melhorar, reconstruir ou alterar as opera\u00e7\u00f5es dos sistemas de IA;<\/li>\n\n\n\n Enraizar a abordagem de governan\u00e7a de IA como parte da cultura organizacional.<\/li>\n<\/ul>\n\n\n\n