IA

O uso de ferramentas de Inteligência Artificial Generativa (IAGen), em muitas circunstâncias, infringe a seguinte determinação da IN GSI/PR nº 05/2021 (ainda vigente):

Art. 19. O instrumento contratual a ser firmado … deve conter …, no mínimo, os seguintes procedimentos de segurança: (…)
III – proibição do uso de informações do órgão ou da entidade pelo provedor de serviço de nuvem para propaganda, otimização de mecanismos de inteligência artificial ou qualquer uso secundário não-autorizado;

Adicionalmente, a NC nº 09/IN01/DSIC/GSIPR, indicada pela auditoria cíclica denominada PPSI, determina:

5.3 Toda informação sigilosa – classificada ou não -, independente do algoritmo de criptografia utilizado, somente poderá ser armazenada em centro de processamento de dados fornecido por órgãos e entidades da Administração Pública Federal, conforme legislação em vigor.

Há um rol exemplificativo de informações sigilosas disponível aqui.

Os “termos de uso” equivalem a um contrato por adesão. Dessa forma, o uso de plataformas comerciais de IAGen, em muitas circunstâncias, contraria também o determinado pela Política de Computação em Nuvem da UFRGS, que atende à IN GSI/PR nº 05/2021. 

Isso ocorre quando a plataforma de IAGen mantém os dados fornecidos pelo usuário em sua “base de conhecimento”, para novos usos por demais usuários. Essa circunstância também infringe a legislação sobre sigilo, direito autoral, privacidade e proteção de dados.

As principais precauções a serem adotadas no uso da IAGen são as seguintes:

1) Avaliação dos termos de uso antes de iniciar o uso. Por exemplo, segue abaixo alguns itens mínimos a verificar:

a. Os dados fornecidos ficam retidos na base de conhecimento da ferramenta e podem ser reutilizados? Há como desabilitar essa alternativa? O usuário está apto a desabilitá-la?

b. Os resultados produzidos devem citar a ferramenta utilizada em cada publicação e indicar o revisor humano?

Como exemplo, há as seguintes condições nos Termos de uso do ChatGPT:

O que você não pode fazer. (…) Por exemplo, você não deve:(…)

• • Representar que a saída foi gerada por humanos quando, na verdade, não foi. (…)

Ao utilizar os nossos Serviços, você entende e concorda com o seguinte:(…)

• • Você não deve confiar nos resultados dos nossos serviços como única fonte de verdade ou informação factual, nem como substituto para aconselhamento profissional. (…)
  • Você deve avaliar a precisão e adequação dos Resultados em função das suas necessidades concretas, inclusive por meio de verificação humana, se apropriado, antes de utilizar ou compartilhar os Resultados dos Serviços.(…)
  • Você não deve usar nenhuma informação relacionada a uma pessoa para qualquer finalidade que possa ter um impacto legal ou material sobre essa pessoa, como tomar decisões importantes a seu respeito em relação a crédito, educação, emprego, moradia, seguro, questões legais, saúde ou outras.

2) Devido ao risco de resultados incorretos, motivados por alucinações ou fontes de informações incorretas, o resultado e as referências devem ser verificados por um revisor humano, mesmo que pareçam logicamente corretos (paralogismo).
Inclusive, os códigos fontes, em linguagem de programação, gerados pela IAGen devem ser detalhadamente revisados, pois se a base de conhecimento dessa programação tem riscos à segurança, os resultados gerados podem replicá-los.

3) Devido à proteção ao direito autoral e ao risco de plágio, deve ser solicitada à ferramenta de IAGen as referências do resultado gerado, verificá-las e adicioná-las ao resultado. Caso não sejam fornecidas referências específicas, o resultado não deve ser utilizado devido aos riscos supracitados. 

4) As principais ferramentas de IAGen estão disponibilizadas em plataformas de computação em nuvem fora do território nacional. Desse modo, o fornecimento de dados pessoais a essas plataformas deve atender aos arts. 33 a 36 da Lei nº 13.709/2018 (LGPD), devido à transferência internacional de dados pessoais. Detalhes constam em https://www.ufrgs.br/proprivacidade/hospedagem.

5) O usuário da ferramenta de IAGen é o responsável, em todas as esferas, pelo fornecimento de dados à ferramenta e pelo resultado da ferramenta, que for publicado ou utilizado em documentos ou em decisões. Adotar as precauções supracitadas e atender aos termos de uso da ferramenta utilizada poderá mitigar ou evitar responsabilizações e sanções.

Considere o resultado da IAGen um rascunho a ser revisado, cujas fontes autênticas devem ser indicadas, pois o usuário continua sendo o responsável pelo resultado.

­­­­Links relacionados:

• Cartilha sobre IA Generativa do MGI/SGD e SERPRO.
• Resumo de precauções em fascículo do Cert.BR.
• Termos de uso do ChatGPT e dados coletados e compartilhados pelo ChatGPT.
• Termos de uso Google Gemini:
  • Condições relacionadas ao supracitado:
    (…) Não insira informações confidenciais nas conversas (…) As respostas dos apps do Gemini não devem ser consideradas recomendações médicas, legais, financeiras ou profissionais de outras áreas.
• Copilot (Política de Privacidade da Microsoft).    
• Claude Consumer Terms of Service (vide: “4. Inputs, Outputs, Actions, and Materials.”) e Claude Usage Policy (vide: “Disclosure”).
• Guia IA Generativa no Serviço Público: Definições, usos e boas práticas.
• Propriedade Intelectual na UFRGS – Guia Prático.
• Política do CNPQ sobre Integridade na Atividade Cientifica (vide art. 9º).  
• Guia de Uso de Inteligência Artificial Generativa no Tribunal de Contas da União (TCU).
• Vieses na IA Generativa.