José Roberto Goldim
Os avanços científicos e tecnológicos devem ser acompanhados de uma adequada reflexão de seus aspectos éticos associados. É crucial estabelecer padrões éticos, monitorar conteúdos e reavaliar nossas práticas de pesquisa e educação para incorporar a Inteligência Artificial (IA) de forma responsável.
A disponibilização de novas ferramentas de IA para serem utilizadas na área de saúde deveria ser equiparada à prevista para novos medicamentos e dispositivos. Ou seja, antes da sua utilização assistencial estas ferramentas deveriam ser testadas em termos de segurança e eficácia por meio de estudos especificamente delineados para este fim.
A Comissão Europeia que publicou um relatório específico para a o uso de IA em cuidados de saúde, propôs, em uma de suas considerações que a implantação de IA em saúde requer a realização de testes de desempenho local, que realizem a avaliação do valor agregado da sua utilização no mundo real e o monitoramento pós-implantação destas ferramentas de IA. Dentre estas medidas poderiam ser implantados de laboratórios de garantia da qualidade destas ferramentas.
4) Responsabilidade e Prestação de Contas
"No campo da responsabilidade ético-profissional, o médico permanece integralmente responsável pelos atos médicos por ele praticados mediante a utilização de modelos, sistemas e aplicações de IA".
Melhor seria dizer que, independentemente da utilização ou não de modelos, sistemas e aplicações de IA, o médico é sempre responsável pelas suas decisões profissionais.
Outra importante questão para permitir uma adequada avaliação continuada das ferramentas seria a possibilidade de rastrear os danos decorrentes da sua utilização. Isto poderia seguir o mesmo modelo dos sistemas já existentes de comunicação de eventos adversos, que deveriam incorporar este novo tipo de situação: os danos e incidentes decorrentes do uso de ferramentas de IA.
Assim, deve haver uma visibilidade das informações sobre a proveniência, rastreabilidade, objetivos de uso, armazenamento, retenção e descarte de dados da pesquisa.
5) Privacidade e Consentimento
A questão da preservação do direito à privacidade das pessoas e de seus dados é um tema central na discussão dos aspectos éticos associados às ferramentas de IA.
A utilização de grande bases de dados, já disponíveis e coletadas com fins diversos é um tema de grande preocupação. A utilização destas informações gera a necessidade de estabelecer controles de acesso e do uso destas informações. O uso secundário das informações não retira o direito do paciente poder se manifestar de forma contrária ao seu uso não autorizado. Muitas instituições já tem políticas e estratégias estabelecidas para que o detentor das informações possa se manifestar sobre o seu uso, ou não, em outras finalidades diversas das que foram originalmente propostas.
O processamento de informações e imagens de pacientes devem ser criteriosamente anonimizadas. Não basta retirar o nome e outros identificadores usuais. Todas as informações digitais tem metadados que permitem a plena identificação ainda que não aparente inicialmente. Mesmo anonimizando os dados e metadados ainda assim existe a possibilidade de reidentificar os dados e imagens. Esta possibilidade deve ser minimizada.
O compartilhamento de dados pessoais sensíveis com setores de desenvolvimento de ferramentas de IA deve sempre ser precedido de medidas a garantir a confidencialidade. Todos os profissionais, independentemente da usa formação ou atuação, deverão ter um compromisso formal com a preservação e não divulgação destas informações, salvo no melhor interesse da própria pessoa.
A utilização de meios digitais de acompanhamento remoto de pacientes, para fins de recrutamento e adesão, pode ser interpretada como tanto como uma medida de suporte e segurança ou como uma vigilância indevida destas pessoas. O acompanhamento em tempo real de atividades pode se constituir em uma invasão da privacidade dos participantes.
O desenvolvimento e o uso das ferramentas de IA são um grande desafio ao processo de consentimento. As ferramentas de IA podem auxiliar mas não substituir o processo de consentimento realizado pelos pesquisadores. No conjunto das informações a serem compartilhadas com o potencial participante da pesquisa os diferentes usos e ferramentas de IA devem ser esclarecidos.
Os novos delineamentos de pesquisa clínica exigem uma adequação do próprio processo de consentimento. O processo usual caracterizado por um momento de informação e esclarecimento seguido de uma obtenção ou não de uma autorização continua sendo necessário, mas não é suficiente. Existem múltiplas formas de realização deste processo, como a obtenção de consentimentos amplos (broad consent), de consentimento escalonado (rolling consent) e a posteriori (defferred consent). São diferentes maneiras de garantir a adequada autorização do potencial participante. O Termo de Consentimento é apenas o documento que formaliza a autorização, mas não substitui todas as etapas de relacionamento interpessoal necessárias.
O uso inadequado das ferramentas de IA no processo de consentimento envolve o risco de respostas incorretas decorrentes de associações espúrias; de não informar ao CEP nem aos participantes sobre o uso destas ferramentas; da não compreensão de histórias sensíveis e complexas; da reprodução de vieses e estereótipos e da desumanização em situações sensíveis.
O uso adequado das ferramentas de IA no processo de consentimento se referem à geração de materiais de apoio; na simplificação de documentos complexos; na facilitação para a tradução em outras línguas; no aprimoramento da organização visual; ou para melhorar a eficiência e a acessibilidade às informações.
A título de conclusão, existem inúmeros aspectos bioéticos associados ao uso de ferramentas de inteligência artificial na pesquisa clínica. Todos os envolvidos, sejam pesquisadores, instituições ou avaliadores, devem estar atentos à importância de considerar estas questões com a finalidade de minimizar eventuais danos ou prejuízos. A questão não é utilizar ou não as ferramentas de inteligência artificial, mas sim utiizar de modo adequado.