domingo, 15 de novembro de 2026

Bioética, Pesquisa Clínica e Inteligência Artificial

 José Roberto Goldim


Os avanços científicos e tecnológicos devem ser acompanhados de uma adequada reflexão de seus aspectos éticos associados. É crucial estabelecer padrões éticos, monitorar conteúdos e reavaliar nossas práticas de pesquisa e educação para incorporar a Inteligência Artificial (IA) de forma responsável.

A disponibilização de novas ferramentas de IA para serem utilizadas na área de saúde deveria ser equiparada à prevista para novos medicamentos e dispositivos. Ou seja, antes da sua utilização assistencial estas ferramentas deveriam ser testadas em termos de segurança e eficácia por meio de estudos especificamente delineados para este fim.

A Comissão Europeia que publicou um relatório específico para a o uso de IA em cuidados de saúde, propôs, em uma de suas considerações que a implantação de IA em saúde requer a realização de testes de desempenho local, que realizem a avaliação do valor agregado da sua utilização no mundo real e o monitoramento pós-implantação destas ferramentas de IA. Dentre estas medidas poderiam ser implantados de laboratórios de garantia da qualidade destas ferramentas.

A Organização Mundial da Saúde, em 2024, publicou um documento refletindo sobre os riscos e benefícios associados ao uso de IA na pesquisa farmacêutica. Foram elencadas cinco grandes áreas de interesse, quais sejam: a questão dos vieses; a segurança associada ao seu uso; a explicabilidade e a visibilidade; a responsabilidade e a prestação de contas; e a privacidade e o consentimento associados ao seu uso.


1) Vieses

A questão relativa aos vieses é fundamental de ser discutida em termos bioéticos. Os vieses podem distorcer a realidade, gerando conclusões distorcidas ou injustas, ao favorecer indevidamente um resultado. 

Os vieses, preconceitos e discriminações previamente existentes nas pessoas e instituições podem ser replicados no desenvolvimento de uma ferramenta de IA.  

Além da etapa do desenvolvimento em si da ferramenta, os modelos podem utilizar bases de dados para treinamento onde alguns grupos podem estar subrepresentados ou até mesmo não terem qualquer representação. Em função dos dados utilizados, os modelos podem assumir e reiterar as disparidades verificadas nos atendimentos assistenciais.

O resultado desta falta de equidade em função do treinamento dos modelos e ferramentas com baixa diversidade pode ser a geração de novos medicamentos e tratamentos eficazes apenas em grupos específicos que serviram de base ao estudo. 

Outra questão importante é a que diz respeito ao tipo de abordagens para fins de recrutamento. Algumas abordagens de recrutamento vem utilizando bases de potenciais participantes de pesquisa que já se manifestaram previamente como potenciais participantes de pesquisas, inclusive com alguns critérios de exclusão. Estas abordagem de seleção e recrutamento podem gerar vieses nos estudos, pois o caráter de randomização fica comprometido com esta forma de seleção. 

2) Segurança

Quanto a segurança, as ferramentas de IA não tem, habitualmente, uma testagem prévia que permita identificar adequadamente a presença de eventuais erros, como a caracterização de falsos positivos ou de falsos negativos. A liberação de ferramentas de IA para a área da saúde deveria ter uma regulamentação semelhante a utilizada para novas drogas ou dispositivos.

Por outro lado, as mesmas ferramentas que permitem desenvolver computacionalmente novas moléculas com potencial terapêutico, também podem gerar moléculas com alta toxicidade visando aplicações destrutivas. Esta alteração de finalidade é a mais difícil de ser controlada, pois depende do uso que as ferramentas terão. 

3) Explicabilidade e Visibilidade

A explicabilidade e a visibilidade dos modelos e ferramentas é um tema muito sensível. Eu prefiro utilizar a denominação de visibilidade, ao invés de transparência, na mesma perspectiva proposta por Byung Chul Han, quando afirma que "apenas o vazio é totalmente transparente". O que importa é dar visibilidade, é permitir que os processos sejam conhecidos, no limite do possível. 

As ferramentas de IA utilizam processos que são opacos, mesmo quando os desenvolvedores permitem uma ampla visibilidade. A utilização de redes neurais e de modelos de alta complexidade dificultam fortemente o seu entendimento de como funcionam. Este é mais um motivo para a necessidade de testar rigorosamente as ferramentas de IA antes da sua liberação para uso assistencial. 

Da mesma forma, os desenvolvedores deveriam abrir as fontes de dados que foram utilizadas para o treinamento de suas ferramentas. Conhecer as entradas e processos de uma ferramenta é fundamental para a credibilidade dos seus resultados. 

A possibilidade de realização sistemática de auditorias por agencias ou organismos regulatórios independentes poderia minimizar estes riscos.

4) Responsabilidade e Prestação de Contas 

A responsabilidade e a prestação de contas, entendida como accountability, é uma decorrência do uso das ferramentas. 

A responsabilidade é inerente à ação. Existe uma cadeia de responsabilidades difusa entre pesquisadores, empresas e desenvolvedores das ferramentas.

Os desenvolvedores e instituições que utilizam ferramentas de IA na área da saúde deveriam garantir a prevenção, o atendimento e a reparação de eventuais danos e prejuízos decorrentes do seu uso. Contudo, existem muitas brechas na caracterização e atribuição da responsabilidade associada ao uso de ferramentas da IA. A presença de muitos agentes ao longo de sua concepção, desenvolvimento e utilização dificulta esta questão. Isto pode acarretar uma perda da confiança em função da dificuldade em estabelecer adequadamente as responsabilidades dos agentes participantes. Contudo, a Resolução CFM 2454/2026 estabelece que seu artigo 7o que: 

"No   campo   da   responsabilidade   ético-profissional,   o   médico   permanece   integralmente responsável  pelos  atos  médicos  por  ele  praticados  mediante  a  utilização  de  modelos,  sistemas  e aplicações de IA".

Melhor seria dizer que, independentemente da utilização ou não de modelos, sistemas e aplicações de IA, o médico é sempre responsável pelas suas decisões profissionais.

Outra importante questão para permitir uma adequada avaliação continuada das ferramentas seria a possibilidade de rastrear os danos decorrentes da sua utilização. Isto poderia seguir o mesmo modelo dos sistemas já existentes de comunicação de eventos adversos, que deveriam incorporar este novo tipo de situação: os danos e incidentes decorrentes do uso de ferramentas de IA.

Assim, deve haver uma visibilidade das informações sobre a proveniência, rastreabilidade, objetivos de uso, armazenamento, retenção e descarte de dados da pesquisa.

5) Privacidade e Consentimento

A questão da preservação do direito à privacidade das pessoas e de seus dados é um tema central na discussão dos aspectos éticos associados às ferramentas de IA. 

A utilização de grande bases de dados, já disponíveis e coletadas com fins diversos é um tema de grande preocupação. A utilização destas informações gera a necessidade de estabelecer controles de acesso e do uso destas informações. O uso secundário das informações não retira o direito do paciente poder se manifestar de forma contrária ao seu uso não autorizado. Muitas instituições já tem políticas e estratégias estabelecidas para que o detentor das informações possa se manifestar sobre o seu uso, ou não, em outras finalidades diversas das que foram originalmente propostas.

O processamento de informações e imagens de pacientes devem ser criteriosamente anonimizadas. Não basta retirar o nome e outros identificadores usuais. Todas as informações digitais tem metadados que permitem a plena identificação ainda que não aparente inicialmente. Mesmo anonimizando os dados e metadados ainda assim existe a possibilidade de reidentificar os dados e imagens. Esta possibilidade deve ser minimizada.

O compartilhamento de dados pessoais sensíveis com setores de desenvolvimento de ferramentas de IA deve sempre ser precedido de medidas a garantir a confidencialidade. Todos os profissionais, independentemente da usa formação ou atuação, deverão ter um compromisso formal com a preservação e não divulgação destas informações, salvo no melhor interesse da própria pessoa.

A utilização de meios digitais de acompanhamento remoto de pacientes, para fins de recrutamento e adesão, pode ser interpretada como tanto como uma medida de suporte e segurança ou como uma vigilância indevida destas pessoas. O acompanhamento em tempo real de atividades pode se constituir em uma invasão da privacidade dos participantes.

O desenvolvimento e o uso das ferramentas de IA são um grande desafio ao processo de consentimento.  As ferramentas de IA podem auxiliar mas não substituir o processo de consentimento realizado pelos pesquisadores. No conjunto das informações a serem compartilhadas com o potencial participante da pesquisa os diferentes usos e ferramentas de IA devem ser esclarecidos.

Os novos delineamentos de pesquisa clínica exigem uma adequação do próprio processo de consentimento. O processo usual caracterizado por um momento de informação e esclarecimento seguido de uma obtenção ou não de uma autorização continua sendo necessário, mas não é suficiente. Existem múltiplas formas de realização deste processo, como a obtenção de consentimentos amplos (broad consent), de consentimento escalonado (rolling consent) e a posteriori (defferred consent). São diferentes maneiras de garantir a adequada autorização do potencial participante. O Termo de Consentimento é apenas o documento que formaliza a autorização, mas não substitui todas as etapas de relacionamento interpessoal necessárias.

O uso inadequado das ferramentas de IA no processo de consentimento envolve o risco de respostas incorretas decorrentes de associações espúrias; de não informar ao CEP nem aos participantes sobre o uso destas ferramentas; da não compreensão de histórias sensíveis e complexas; da reprodução de vieses e estereótipos e da desumanização em situações sensíveis.

O uso adequado das ferramentas de IA no processo de consentimento se referem à geração de materiais de apoio; na simplificação de documentos complexos; na facilitação para a tradução em outras línguas; no aprimoramento da organização visual; ou para melhorar a eficiência e a acessibilidade às informações.

A título de conclusão, existem inúmeros aspectos bioéticos associados ao uso de ferramentas de inteligência artificial na pesquisa clínica. Todos os envolvidos, sejam pesquisadores, instituições ou avaliadores, devem estar atentos à importância de considerar estas questões com a finalidade de minimizar eventuais danos ou prejuízos. A questão não é utilizar ou não as ferramentas de inteligência artificial, mas sim utiizar de modo adequado. 

Referências

Han B-C. A Sociedade da Transparência. Petrópolis: Vozes; 2017.