Quais são os riscos contratuais da implementação de IA nas empresas? Explicação da "Checklist" elaborada pelo Ministério da Economia, Comércio e Indústria para evitar crises antes que aconteçam.
Nos últimos anos, a adoção de Inteligência Artificial (IA) tem avançado no mundo dos negócios. No entanto, o uso e desenvolvimento de IA apresentam riscos e desafios legais específicos, diferentes dos sistemas tradicionais.
Com este contexto em mente, em fevereiro de Reiwa 7 (2025), o Ministério da Economia, Comércio e Indústria do Japão desenvolveu e publicou uma “Checklist de Contratos para Uso e Desenvolvimento de IA”. Esta checklist foi desenhada como uma ferramenta prática de apoio para que as empresas envolvidas em contratos e uso de serviços de IA possam organizar e verificar as condições contratuais de forma eficiente.
Neste artigo, com base na “Checklist de Contratos para Uso e Desenvolvimento de IA” do Japão, vamos explicar como tipificar contratos relacionados com IA e em que aspectos se deve prestar atenção ao celebrar contratos, de modo a utilizar a IA de forma eficiente nos negócios.
Checklist de Contratos para a Utilização e Desenvolvimento de IA: Serviços de IA Abrangidos
A “Checklist de Contratos para a Utilização e Desenvolvimento de IA” destina-se a uma ampla gama de serviços relacionados com IA, incluindo IA gerativa, e não está limitada a nenhum setor específico ou tecnologia de IA.
A checklist é estruturada a partir de duas perspetivas, “Input” e “Output”, para organizar sistematicamente os pontos práticos relacionados com a oferta e utilização dos serviços. Isto permite abranger as questões a considerar em todo o ciclo de vida dos serviços de IA, ao mesmo tempo que facilita aos intervenientes a extração dos itens relevantes para as suas próprias empresas.
Checklist de Contratos para a Utilização e Desenvolvimento de IA: Inputs e Outputs Explicados
A checklist é estruturada com base em duas fases distintas dos serviços de IA:
[Input]
Refere-se à informação e dados fornecidos e utilizados na construção, aprendizagem e operação dos serviços de IA, bem como às especificações e condições associadas. Inclui, por exemplo, dados de treino, algoritmos, regras de negócio e condições do sistema. Se estes inputs forem insuficientes ou inadequados, podem afetar diretamente o desempenho e a fiabilidade dos outputs da IA, tornando-se, assim, itens críticos a serem considerados.
[Output]
Refere-se aos resultados processados, inferidos ou gerados pela IA, e como esses resultados são tratados, utilizados ou divulgados. Inclui, por exemplo, textos e imagens gerados, resultados de inferência, fundamentos das decisões, escopo da oferta externa e localização das responsabilidades.
Os resultados dos outputs da IA exigem verificações de precisão, transparência e riscos legais. A “Checklist de Contratos para a Utilização e Desenvolvimento de IA” organiza os pontos de discussão críticos na prática contratual a partir de ambas as perspectivas: input (fornecimento de informações preliminares) e output (resultados da IA e seu tratamento).
Definição das Partes Envolvidas
Em contratos relacionados com IA, os papéis dos intervenientes, como ‘a pessoa que desenvolve a IA’, ‘a pessoa que fornece a IA’ e ‘a pessoa que utiliza a IA’, podem variar dependendo do tipo de serviço de IA.
Por exemplo, consideremos o caso de um serviço de IA genérico que é afinado e implementado especificamente para uma determinada empresa (ver a secção seguinte 【Tipo 2: Personalizado】). Neste cenário, está implícito um serviço que integra um serviço de IA genérico fornecido por outra empresa e o ajusta (personaliza) de acordo com as especificações da empresa cliente.
Neste caso, o prestador de serviços de personalização B, na relação com a empresa A (utilizadora da IA) que recebe a personalização (ver diagrama abaixo ①), assume a posição de ‘fornecedor do serviço de IA (vendedor)’.
Por outro lado, na relação com a empresa C (desenvolvedor e fornecedor de IA) que fornece a IA genérica (ver diagrama abaixo ②), o prestador de serviços B assume a posição de utilizador do serviço de IA (usuário).
Assim, uma vez que uma única empresa pode tornar-se ‘fornecedor’ ou ‘utilizador’ dependendo da contraparte envolvida, é importante esclarecer as posições e os limites das responsabilidades de cada um ao celebrar contratos.
Tipos de Contratos na Verificação de Contratos Relacionados com o Uso e Desenvolvimento de IA no Japão
Esta checklist categoriza os contratos relacionados com serviços de Inteligência Artificial (IA), organizando três tipos principais de contratos. O objetivo é facilitar a compreensão dos itens de verificação pelos contratantes, de acordo com a sua posição e objetivos.
Cada tipo de contrato apresenta questões e riscos característicos, sendo crucial compreender o tipo adequado, dependendo do propósito da implementação da IA e do formato de prestação de serviços.
A seguir, apresentamos detalhadamente os três tipos de contratos.
Tipo 1: Utilização de Serviços Genéricos
Este tipo caracteriza-se pela utilização de serviços de IA já completos e disponíveis ao público, onde os utilizadores aderem ao contrato tal como ele é oferecido.
Um exemplo típico seria o uso de serviços de IA geradores, como o ChatGPT ou IA de geração de imagens (por exemplo, DALL·E, Stable Diffusion), diretamente através da web.
Normalmente, estes serviços requerem que o utilizador concorde com os termos de uso e condições de serviço previamente estabelecidos pelo fornecedor. Raramente é possível para o utilizador negociar ou alterar o conteúdo do contrato.
Na checklist, o foco principal é como os utilizadores compreendem e gerem os riscos ao utilizar serviços de IA que são fornecidos sob condições pré-determinadas.
Tipo 2: Personalizado
Este tipo de contrato envolve a personalização de modelos e tecnologias existentes detidos pelo fornecedor de serviços de IA, de acordo com as necessidades da empresa utilizadora.
Por exemplo, corresponde aos casos em que se adiciona ao modelo de IA do fornecedor dados e regras detidos pelo utilizador para aprendizagem adicional, ou se ajusta e modifica partes do sistema. Imagine-se o desenvolvimento de um chatbot de marketing que será implementado dentro de uma empresa. Ao ensinar a uma IA geradora genérica existente a base de dados de produtos da empresa e a aprender com as perguntas dos clientes, torna-se possível fornecer respostas afinadas especificamente para essa empresa.
Neste tipo de contrato, a tecnologia e o know-how originalmente desenvolvidos pelo fornecedor são utilizados, ao mesmo tempo que se satisfazem as exigências específicas do utilizador. Na checklist, os principais pontos a considerar incluem a atribuição de propriedade intelectual das partes personalizadas, a possibilidade de reutilização e a divisão de responsabilidades.
Além disso, dependendo do conteúdo da personalização, a natureza do produto final e o tipo de contrato podem mudar, tornando crucial definir claramente os papéis de ambas as partes e as definições de input e output.
Tipo 3: Desenvolvimento de Novos Sistemas
Este tipo de contrato envolve a encomenda, por parte do utilizador, do desenvolvimento de um sistema de IA completamente novo ao fornecedor de serviços de IA. Comummente referido como “desenvolvimento do zero”, este processo implica a construção de um modelo ou sistema de IA dedicado, personalizado para as operações e necessidades específicas do utilizador.
Neste caso, os dados de treino e as especificações são frequentemente fornecidos pelo utilizador, e o modelo de IA ou os produtos desenvolvidos são desenhados com base nos requisitos exclusivos do utilizador.
Assim, os seguintes pontos são particularmente importantes no contrato:
- Clarificação do âmbito e conteúdo dos produtos entregues
- Definição de metas de precisão e desempenho
- Fornecimento e tratamento dos dados de treino
- Propriedade intelectual e atribuição dos produtos entregues
- Divisão de responsabilidades na manutenção e atualização
Devido à necessidade de uma coordenação detalhada do design e das especificações entre o fornecedor e o utilizador, a lista de verificação exige uma consideração detalhada.
A seguir, vamos novamente examinar exemplos concretos de inputs e outputs, com base no diagrama abaixo.
Checklist: Inputs
Como mencionado anteriormente, os inputs referem-se ao conteúdo que é inserido na IA. Exemplos concretos incluem dados de treino, algoritmos e prompts (instruções ou comandos dirigidos à IA).
Nos serviços de IA, os inputs são essenciais. Sem eles, os fornecedores não podem avançar com o design, aprendizagem e processamento de inferência da IA. Então, quais aspetos devemos ter em atenção ao fornecer inputs nestas circunstâncias?
Tratamento dos Inputs dos Utilizadores para os Fornecedores Sob a Lei Japonesa
Assim, é necessário estabelecer claramente nas cláusulas contratuais se os utilizadores têm a obrigação de fornecer informações (ou seja, inputs) como dados de aprendizagem, regras e especificações aos fornecedores, bem como o conteúdo dessas informações. Especificamente, os detalhes incluem:
- Que tipo de inputs os utilizadores devem fornecer
- O momento, formato e critérios de qualidade da entrega
- Se existem condições que os utilizadores devem cumprir em relação ao conteúdo (natureza, quantidade, granularidade, entre outros) dos inputs fornecidos aos fornecedores
- Se o conteúdo acima é aceitável tendo em conta o propósito de utilização do serviço por parte dos utilizadores
Tratamento da Informação de Input de Vendedores para Terceiros Sob a Lei Japonesa
Nos serviços de IA, os vendedores constroem e fornecem inteligência artificial utilizando inputs (por exemplo, dados e especificações) recebidos dos utilizadores.
Contudo, é importante verificar no contrato a possibilidade e as condições de “fornecimento externo”, pois pode haver casos em que o vendedor forneça ou reutilize esses inputs a terceiros.
Especialmente porque os inputs podem incluir know-how empresarial do utilizador, informações confidenciais, dados pessoais e propriedade intelectual, o fornecimento a terceiros pode resultar em riscos significativos.
Assim, é necessário confirmar se os seguintes pontos estão claramente estabelecidos no contrato:
- Se o vendedor pode fornecer os inputs recebidos do utilizador a terceiros
- Se o fornecimento externo for permitido, existem restrições quanto aos destinatários, alcance e finalidade desse fornecimento?
- O tratamento de direitos de propriedade intelectual e informações confidenciais incluídas nos inputs do utilizador
Se houver preocupações com os pontos acima, podem ser consideradas medidas como “não fornecer informações desnecessárias” ou “considerar desistir da celebração do contrato se o fornecimento de inputs a terceiros não for aceitável”.
Gestão dos Inputs dos Fornecedores sob a Lei Japonesa
Nos serviços de IA, não é raro que os inputs fornecidos pelos utilizadores aos fornecedores (como dados de treino, regras de negócio, especificações, etc.) incluam informações pessoais, confidenciais ou propriedade intelectual.
Por isso, é crucial esclarecer que responsabilidades os fornecedores assumem na gestão e no controlo desses inputs.
Então, sob que perspetivas contratuais devemos organizar a gestão dos inputs? Apresentamos alguns exemplos abaixo.
(Existência e nível de obrigações de gestão)
- Que obrigações de gestão o fornecedor assume em relação aos inputs recebidos dos utilizadores
- Se o fornecedor tem obrigações de gestão, qual o nível de gestão e as medidas de resposta exigidas
- Se os utilizadores podem solicitar auditorias ou fornecimento de informações sobre o sistema de gestão do fornecedor
- Se o sistema de gestão é adequado aos objetivos de utilização do serviço pelo utilizador
(Período de retenção dos inputs)
- Por quanto tempo o fornecedor pode reter os inputs
- Que medidas o fornecedor deve tomar após o término do período de retenção
(Obrigação de eliminação)
- Se o fornecedor é obrigado a eliminar os inputs a pedido do utilizador ou no final do contrato
- Se existe a obrigação de emitir um certificado de eliminação (como um certificado de destruição)
- Se tais medidas de eliminação são razoáveis face aos objetivos de negócio do utilizador
Quando a provisão de dados pessoais está envolvida, é necessário organizar um esquema de tratamento de dados pessoais, considerando que o uso dos dados pelo fornecedor para os seus próprios fins ou a comparação com outros dados pode não ser classificado como subcontratação, mas sim como fornecimento a terceiros, o que pode exigir o consentimento do titular dos dados.
No caso de subcontratação de dados pessoais, é necessário avaliar se os poderes de supervisão que podem ser exercidos sobre o fornecedor são suficientes para o tratamento como subcontratação (caso contrário, considerar o tratamento como fornecimento a terceiros). Além disso, quando a transferência de dados pessoais para o estrangeiro está envolvida, é importante ter em conta que pode ser necessário fornecer informações sobre os dados pessoais retidos, independentemente de ser considerado um “fornecimento” sob a lei de proteção de dados pessoais.
Quando a provisão de informações pessoais está envolvida, em caso de fuga de informações pessoais pelo fornecedor, o utilizador pode ter a obrigação de reportar às autoridades de supervisão, o que requer atenção especial.
Quanto à obrigação de eliminação, se a legislação aplicável exigir a eliminação por parte do fornecedor, é possível solicitar a eliminação como um direito fora do contrato.
Checklist: Output
O output, de forma simplificada, refere-se ao resultado gerado por IA. Geralmente, são textos ou imagens, mas também podem incluir códigos de programação, desenhos técnicos ou materiais de estratégias de marketing, com formatos de saída variados. Informações de alta confidencialidade podem estar incluídas, exigindo cuidado no seu manuseio.
Quando o Utilizador Fornece Output a Terceiros
Ao utilizar serviços de IA, como a geração de IA, os utilizadores podem obter diversos outputs (textos gerados, imagens, resultados de inferência, etc.).
Estes outputs podem ser utilizados internamente, mas também é comum que sejam fornecidos ou divulgados a terceiros, como clientes, parceiros comerciais ou utilizadores em geral.
No entanto, os outputs gerados por IA podem conter riscos, como informações imprecisas, violação de direitos ou problemas éticos. É essencial implementar um sistema de gestão e educação interna adequados para evitar a divulgação não intencional a terceiros, incluindo vazamentos de informações.
Portanto, quando os utilizadores fornecem outputs externamente, é crucial considerar os acordos contratuais e a gestão de riscos. Verifique os seguintes pontos:
- Se o utilizador pode fornecer o output a terceiros
- Se o utilizador pode fornecer a terceiros, quais são as condições de fornecimento (destinatários, escopo de fornecimento e outras condições). No caso de serviços baseados em utilização, pode ser necessário indicar que o serviço é fornecido através de IA
- Se o conteúdo acima é aceitável, tendo em conta o propósito de utilização do serviço pelo utilizador
Output do Fornecedor para o Utilizador (b-5-1)
Os outputs obtidos através do uso de serviços de IA (textos gerados, imagens, desenhos técnicos, relatórios, etc.) são valiosos para os utilizadores.
Contudo, é fundamental esclarecer nos contratos quem detém os direitos sobre esses outputs e se podem ser utilizados livremente, para evitar conflitos futuros. Especificamente, é necessário esclarecer os seguintes pontos:
- Se o utilizador adquire certos direitos, como direitos de propriedade intelectual, sobre o output
- Se o utilizador adquire direitos, quais são as condições de aquisição de direitos (objetos de transferência de direitos, existência ou não de contrapartida, existência e termos de licenças e outras condições)
- Se o conteúdo acima é aceitável, tendo em conta o propósito de utilização do serviço pelo utilizador
Pontos de Atenção ao Utilizar uma Checklist
Esta checklist não possui força legal como um contrato, mas serve para organizar os pontos de discussão contratuais do ponto de vista de ambos os utilizadores e fornecedores em relação à oferta e utilização de serviços relacionados com IA. Assim, ao celebrar um contrato real, é necessário selecionar os itens de verificação necessários com base nos factos concretos em que o contrato é celebrado (como o tipo de contrato, o conteúdo do serviço, a natureza dos inputs e outputs, e os direitos e obrigações das partes) e concretizar as condições contratuais para cada item.
A forma adequada de responder com base na checklist depende das circunstâncias específicas de cada utilizador individual, pelo que é necessário considerar e julgar de forma abrangente as circunstâncias relacionadas, incluindo os seguintes elementos:
- O conteúdo dos serviços relacionados com IA fornecidos pelo fornecedor
- A forma do contrato (termos de uso ou contrato individual)
- Os riscos associados à aceitação dos termos do contrato
- A viabilidade do cumprimento das várias obrigações contratuais
- A existência de serviços e métodos alternativos em relação ao propósito de utilização da IA
- O esforço necessário para a negociação do contrato
- A possibilidade de redução de riscos através de métodos fora do contrato (como a operação prática)
Conclusão: Consulte um especialista sobre contratos de IA
Até agora, examinámos em detalhe os pontos de discussão contratuais relacionados com os inputs e outputs, os tipos de contratos e as considerações a ter em conta na utilização, com base na “Checklist de Contratos para o Uso e Desenvolvimento de IA” publicada pelo Ministério da Economia, Comércio e Indústria do Japão.
Espera-se que as tecnologias de IA, incluindo a IA gerativa, sejam cada vez mais integradas no núcleo dos negócios no futuro. No entanto, o uso dessas tecnologias envolve muitos pontos legais e práticos que precisam ser cuidadosamente organizados, como direitos autorais, informações pessoais, confidencialidade, possibilidade de reutilização e divisão de responsabilidades.
Para utilizar a IA de forma adequada, não basta apenas implementar a tecnologia; é essencial esclarecer os direitos e obrigações entre as partes através de “contratos” e prevenir riscos antes que eles ocorram. Especialmente em contratos complexos de IA, é seguro e prático avançar com o aconselhamento dos departamentos jurídicos e de propriedade intelectual internos, bem como de especialistas externos.
Enquanto promove a utilização da IA, não negligencie a verificação do conteúdo dos contratos e a colaboração com especialistas para minimizar os riscos legais.
Apresentação das Medidas da Nossa Firma
A Monolith Law Office é uma firma de advocacia especializada em TI, com particular ênfase no direito da Internet e outras áreas legais. Prestamos apoio jurídico a uma vasta gama de clientes, desde empresas cotadas na Bolsa de Valores de Tóquio até startups em fase inicial, oferecendo serviços como a elaboração e revisão de contratos. Para mais informações, por favor, consulte o artigo abaixo.
Áreas de atuação da Monolith Law Office: Assessoria Jurídica para TI e Startups[ja]
Category: IT
