José Roberto Goldim
O CNPq estabeleceu diretrizes e boas práticas para o uso de ferramentas de Inteligência Artificial Generativa (IAG) e Inteligência Artificial Preditiva (IAP) nas atividades de pesquisa científica apoiada pelo órgão, por meio da Portaria CNPq Nº 3.004, de 16 de novembro de 2026. Estas regras complementam as estabelecidas na Portaria CNPq 2664/2026, que estabeleceu a Política de Integridade na Atividade Científica do CNPq
As diretrizes diferenciam a Inteligência Artificial Generativa (IAG) da Inteligência Artificial Preditiva (IAP). As ferramentas de IAG geram novos conteúdos a partir de grandes volumes de dados. Estas ferramentas têm menor explicabilidade, ou seja, o processamento destas informações nem sempre é de fácil acesso e compreensão. Além disto, A IAG tem maior risco de apresentar vieses em seus algoritmos e resultados com a possibilidade de associações espúrias. As ferramentas de IAP, por outro lado, têm melhor explicabilidade e menor risco associado ao seu uso, pois lidam com dados selecionados com a finalidade de reconhecimento de padrões e de prever cenários probabilísticos de eventos, comportamentos ou resultados futuros.
O principal destaque das diretrizes é enfatizar a centralidade do fator humano associado ao uso das ferramentas de IA. Por serem tecnologias não-triviais, as ferramentas de IA necessitam de medidas de contingência associadas ao seu uso, que incluem medidas desde a proposição, supervisão, validação, correção e atribuição de sentido às respostas geradas. Em todas estas etapas a presença humana é fundamental e necessária. É neste contexto que as diretrizes são propostas.
As novas diretrizes para o uso de IA em pesquisa normatizam as questões básicas associadas ao uso destas ferramentas. O presente texto apresenta as principais propostas das diretrizes, de maneira sistemática e de acordo com os temas abordados e não com a ordem na qual constam na portaria, O conteúdo das diretrizes será abordado em termos de: vieses; segurança; explicabilidade e visibilidade; responsabilidade e prestação de contas; e proteção de dados.
1 Vieses
O texto da Portaria foi extremamente prudente ao abordar a questão dos vieses das ferramentas, que nem sempre são evidentes aos usuários. Os pesquisadores, por serem responsáveis pelos conteúdos produzidos com ferramentas de IAG, devem, se possível, verificar a existência de vieses nos materiais produzidos.
2 Segurança
É permitido o uso de ferramentas de IAG em tarefas como revisão gramatical, sumarização de texto, estruturação de tabelas, análise de consistência e geração ou correção de códigos. Este uso deve ser formalmente declarado. Isto envolve a utilização de ferramentas de IAG em todas as fases da pesquisa, desde a concepção, coleta, análise de dados, redação, revisão ou submissão do artigo.
A elaboração de pareceres sobre documentos de outras pessoas com o uso de IA está proibida. As diretrizes vedam estritamente ao parecerista submeter, total ou parcialmente, projetos ou propostas de terceiros a ferramentas de IAG. Nesta proibição estão incluídas a avaliação de plágio ou similaridade dos materiais que estão sendo avaliados. De acordo com a Portaria, o objetivo desta proibição é evitar os riscos de exposição indevida de dados não publicados, assim como as questões referentes à autoria.
Outra proibição é a de delegar à ferramenta de IA a responsabilidade final de checar ou validar a veracidade dos dados produzidos. A supervisão humana de todas as tarefas é estritamente necessária. Por este mesmo motivo, a avaliação realizada por pessoas, incluindo a revisão por pares, não pode ser substituída por processos de revisão realizados apenas por ferramentas de IA.
Uma questão importante que a Portaria destaca é o risco associado ao uso de versões gratuitas das ferramentas de IA. Nestas versões existe a possibilidade das informações compartilhadas serem utilizadas para armazenamento e treinamento das próprias ferramentas.
3 Explicabilidade e visibilidade (transparência)
Com relação a IA Preditiva (IAP) a Portaria do CNPq exige que seja declarado formalmente o uso destas ferramentas em projetos de pesquisa que envolvem treinamento de modelos utilizando estas técnicas de aprendizado de máquina (machine learning).
Da mesma forma, nas ferramentas de IAG deve ser elaborada uma declaração formal de seu uso indicando explicitamente qual a ferramenta e a versão utilizada, a fase do projeto na qual foi utilizado e a sua finalidade específica.
Esta declaração tem a finalidade de dar visibilidade ao uso das ferramentas, garantindo a transparência dos métodos utilizados. A omissão desta declaração, ou seu conteúdo sendo inadequado, sujeita o pesquisador à apuração de responsabilidades em função da possível infração à integridade científica já prevista na Política de Integridade na Atividade Científica do CNPq (Portaria CNPq 2664/2026).
Esta declaração pode ser feita em separado, caso haja previsão para a sua inclusão nos sistemas de submissão, ou incorporada no próprio texto do documento a ser submetido. A rigor, a descrição do uso de ferramentas de IA deve seguir o mesmo estilo da descrição de outros programas de computador utilizados nos projetos, como os programas estatísticos, por exemplo. Vale ressaltar que na declaração o pesquisador deverá divulgar as ferramentas que foram utilizadas intencionalmente, em qualquer etapa da sua pesquisa.
4 Responsabilidade e prestação de contas
A responsabilidade final de checar ou validar a veracidade dos dados produzidos é do pesquisador. Não é aceito que esta checagem seja delegada a uma ferramenta de IA. A supervisão humana de todas as tarefas é estritamente necessária.
É importante destacar que em muitos processos envolvidos no planejamento, execução e divulgação de projetos de pesquisa existem ferramentas de IAG embutidas em outros processos, que são opacos para os pesquisadores. A opacidade impede que o usuário tenha conhecimento direto de que o seu material está sendo submetido a ferramentas de IAG.
Muitas ferramentas de planejamento já incorporam IAG em seus processos, sem que o pesquisador tenha qualquer conhecimento ou controle sobre as mesmas. Na geração de dados para uma pesquisa, inúmeras fontes de informações também utilizam ferramentas de IAG para processamentos de imagens ou análise de materiais ou geração de dados. Desta forma, estas utilizações não deverão ser passíveis de responsabilização para os pesquisadores em função do desconhecimento destas utilizações em função da opacidade dos recursos utilizados.
A Portaria ressalta que a responsabilidade final é sempre dos pesquisadores, que respondem integralmente por todos os conteúdos de seus projetos e produções, incluindo os gerados com apoio de IA. São incluídas nesta responsabilidade as citações, as referências bibliográficas e as análises realizadas.
Da mesma forma, os materiais encaminhados para avaliação deverão ter esta atividade realizada por pessoas. A Portaria cita especificamente a questão da revisão por pares, que não pode ser substituída por processos de revisão realizados apenas por ferramentas de IAG.
5 Proteção de dados
A Portaria estabelece que a observância da Lei Geral de Proteção de Dados na pesquisa é um dos pontos centrais para a garantia da sua integridade.
A anonimização prévia à submissão de dados a qualquer ferramenta é fundamental. Vale relembrar que, mesmo anonimizados, os dados podem ser reidentificados por técnicas mais elaboradas utilizando também ferramentas de IAG.
Com a finalidade de garantir a adequada proteção dos dados, a Portaria ressalta que é proibida a inserção de quaisquer materiais que contenham dados pessoais sensíveis ou informações que estejam associadas a cláusulas de confidencialidade ou de restrição de acesso.
Estas questões já estão reguladas na própria Lei Geral de Proteção de Dados (LGPD). A Portaria ressalta, contudo, que esta proibição inclui as propostas e outros documentos que são submetidos à avaliação do próprio CNPq.
