sábado, 15 de fevereiro de 2025

Inteligência Artificial e Saúde

 José Roberto Goldim


A Percepção da Opinião Pública sobre a Inteligência Artificial

Em 2024, em uma pesquisa de opinião pública, 73% das pessoas de 20 diferentes países disseram que compreendiam o que é Inteligência Artificial (IA), com uma variação de 53% no Japão e 80% na Indonésia e em Portugal. No Brasil a compreensão declarada foi de 76%.

Foram questionadas, também, a aprovação ou não para nove situações específicas de atendimento à saúde. Tanto no Brasil como nas respostas da amostra como um todo, a maior aprovação foi para os procedimentos envolvendo diagnósticos por imagem. A prescrição de medicamentos foi a atividade que teve a menor aceitação nos grupos estudados (tabela 1). É sempre bom relembrar que estas pesquisas, mais do que a opinião pública, avaliam a opinião publicizada pelas pessoas, ou seja, podem ocorrer viéses nas respostas em função de múltiplos fatores associados.

Tabela 1 - Resultados de uma pesquisa de opinião pública envolvendo 23882 pessoas de 23 diferentes países, sendo 1121 no Brasil, em maio de 2024.

Área
Brasil
n=1121
Global
n=23882
Aprova
(%)
Desaprova
(%)
Aprova
(%)
Desaprova
(%)
Diagnósticos por imagem641559 (38-74)18 ( 6-30)
Cirurgia robótica581951 (40-63)23 (12-38)
Triagem de paciente572047 (29-70)25 ( 8-40)
Recomendar Tratamentos571851 (33-77)22 ( 8-35)
Robôs acompanhantes542153 (36-75)26 ( 6-32)
Dispensar medicamentos512448 (31-62)24 ( 8-34)
Decidir tratamento482446 (31-62)25 (12-34)
Recomendar medicamentos472746 (33-63)25 (12-34)
Prescrever medicamentos433146 (28-68)25 ( 7-38)

Global Public Opinion on Artificial Intelligence (GPO-AI). Schwartz Reisman Institute / University of Toronto (May 16, 2024). 


As Origens da Inteligência Artificial

A Inteligência Artificial se baseia no uso de computadores e sistemas que permitem realizar inúmeras tarefas e atividades que simulam o funcionamento do cérebro humano. Inúmeras contribuições de diferentes pesquisadores permitiram construir as bases do hoje denominamos de Inteligência Artificial.

Goldim JR. Linha do Tempo: "Do ábaco à Inteligência Artificial". Sutori, 2024. 

A expressão Inteligência Artificial foi utilizada pela primeira vez em 1955, em um projeto de pesquisa, na Universidade de Dartmouth, nos Estados Unidos. Os quatro autores -John McCarthy, Marvin L. Minsky, Nathaniel Rochester e Claude Shannon -  utilizaram esta expressão - Inteligência Artificial - como alternativa para Cibernética, que era a mais utilizada naquele momento. Ao mudança da denominação foi uma maneira de se independizar do pensamento vigente, naquela época, para a abordagem de alguns problemas na área da computação.  O objetivo do projeto era discutir, ao longo de um seminário de dois meses, sete pontos principais:  

  1. uma calculadora automática pode ser programada para simular o funcionamento de uma máquina?
  2. um computador ser programado para utilizar uma linguagem?
  3. um conjunto de "neurônios hipotéticos" podem ser arranjados para formarem conceitos?
  4. é possível desenvolver um teoria do tamanho do cálculo?
  5. é possível o auto-aprimoramento das próprias máquinas?
  6. é possível ter abstrações realizadas pelas máquinas?
  7. os computadores têm capacidade de lidar com aleatoriedade e criatividade? 

McCarthy J, Minsky ML, Rochester N, Shannon CE. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Dartmouth; 1955, Aug, 31. 

 

Definição de Inteligência Artificial

A UNESCO define que:

"Os sistemas de IA são tecnologias de processamento de informação que integram modelos e algoritmos com capacidade de aprender e de realizar tarefas cognitivas que conduzem a resultados como previsão e tomada de decisão em ambientes materiais e virtuais. (...) Os sistemas de IA são concebidos para funcionar com vários graus de autonomia, através da modelagem e representação do conhecimento,  da exploração de dados e do cálculo de correlações"

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: Unesco; 2021. 

Outra definição  é de que a Inteligência artificial 

"é o estudo dos sistemas que agem de um modo que, a um observador qualquer, pareceria ser inteligente. (...)  Inteligência Artificial envolve a utilização de métodos baseados no comportamento inteligente de humanos e outros animais para solucionar problemas complexos". 

Silveira SR, DeVit ARD. Inteligência Artificial: os computadores podem ser criativos? In: Fernandes MS, Caldeira CM de G, editors. Inteligência Artificial e Propriedade Intelectual. Rio de Janeiro: GZ; 2023:7–30.

Russel e Norvig, que escreveram o livro texto que é utilizado em mais de 1500 universidades, definem que 

"o campo da inteligência artificial, ou IA, se preocupa não apenas em compreender, mas também em construir entidades inteligentes—máquinas que podem processar como agir de forma efetiva e segura em uma ampla variedade de novas situações".

Russell SJ, Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. Hoboken, NJ: Pearson; 2024. 


A Classificação da Inteligência Artificial

A Inteligência Artificial, que não tem uma classificação muito clara e uniforme entre diferentes autores e instituições. As duas classificações mais usualmente utilizadas são pelos critérios de capacidade e de finalidade.

classificação por capacidade parte da comparação entre a inteligência humana, tomada como controle, com a das máquinas. São utilizadas três categorias: fraca, forte e  superinteligente.  

A Inteligência Artificial Fraca ou Restrita, denominada de Narrow em inglês (ANI) é aquela que realiza tarefas e funções específicas. Todas as ferramentas de Inteligência Artificial atualmente disponíveis estão neste estágio. 

A Inteligência Artificial Forte o Geral, General, em inglês (AGI), já possibilita simular atividades intelectuais humanas de forma independente. A Prova de Turing é que poderá identificar o início deste estágio, quando não mais será possível diferenciar os resultados humanos e de máquinas. 

A Inteligência Artificial classificada como Superinteligent em inglês, ou Superinteligente, talvez fosse melhor traduzida por Suprainteligente, pois estará além da inteligência humana. É neste estágio teórico que supostamente as máquinas ultrapassarão a inteligência humana.

Fernandes MS, Goldim JR. Aspectos éticos, legais e sociais associados à Inteligência Artificial. In: Fernandes MS, Caldeira CM de G, editors. Inteligência Artificial e Propriedade Intelectual. Rio de Janeiro: GZ; 2023:31–44. 

A classificação por finalidade, ou purpose em inglês, tem como objetivo verificar a abrangência das tarefas realizadas pelas ferramentas de inteligência artificial, que pode ser específica ou geral. A utilização destes mesmos termos em duas classificações pode gerar confusões e ambiguidades entre elas próprias, dificultando a sua compreensão. 

A Inteligência Artificial Específica, ou Narrow em inglês, é aquela na qual os modelos ou sistemas informatizados tem finalidades restritas. São as ferramentas dedicadas a algumas tarefas, que podem ser complexas, mas que ficam restritas em termos de uso. As ferramentas de tratamento de imagem, tanto na publicidade, no cinema e na medicina, são exemplo disto, assim as aplicações para fins financeiros e os sistemas autônomos de direção de veículos. Na área de armamentos, os sistemas de armas letais autônomas, LAWS - Lethal Autonomous Weapon Systems, em inglês, também tem esta classificação. 

A Inteligência Artificial Geral, ou general em inglês, é a utilizada pelos modelos e sistemas com finalidades amplas, tais como os chatbot que utilizam modelos generativos. Estes modelos de grande abrangência de linguagem, ou large language models (LLM) em inglês, conseguem entender e gerar conteúdos de linguagem que são interativos. Os melhores exemplos deste tipo de inteligência artifical geral de grande abrangência são as ferramentas ChatGPT, Gemini, Claude AI, Perplexity, o1 e DeepSeek, entre outros. São sistemas poderosos que tem uma excelente interação com pessoas, mas que podem apresentar problemas de conteúdo nas suas mensagens geradas. 

Bengio Y. International AI Safety Report: The International Scientific Report on the Safety of Advanced AI. London: UK Government; 2025:27.

A classificação por criatividade ou originalidade, segundo Denis Hassabis, premio Nobel e CEO do Google DeepMind, pode ser um elemento para caracterizar o salto de capacidade da Inteligência Artificial Restrita para a Geral.  O nivel de criatividade básica apenas interpola dados, pode encaminhar soluções que representem a média dos conhecimentos existentes, mas se baseia apenas no que já é existente. O nível de criatividade intermediário é o que já é capaz de extrapolar, ou seja, é capaz de criar algo novo a partir de um conjunto de dados já disponíveis. Extrapolar é ir além do já conhecemos. O nível avançado de criatividade é o que permite a invenção, que é criar algo totalmente inovador, com grande grau de abstração.



O Desempenho da Inteligência Artificial

É inegável que as máquinas apresentam maior volume de armazenamento de informações e maior velocidade na realização de cálculos matemáticos, mas isto não necessariamente representa melhor desempenho cognitivo.

Um pesquisador dos Países Baixos testou diferentes ferramentas de Inteligência Artificial utilizando testes de QI desenvolvidos para seres humanos. Utilizou o teste de QI padrão desenvolvido pela Mensa da Noruega. 

Em setembro de 2024, a maioria das ferramentas teve um desempenho inferior a QI=80, indicando um desempenho que poderia ser melhor. Nesta avaliação apenas o o1, da Open AI, se aproximou de QI=100, que seria considerado Bom. Um dia após, a maioria das ferramentas já tinha um desempenho na faixa entre 80 e 100 pontos. o o1 já tinha atingido 120 pontos, que é considerado um resultado Excelente.

Em janeiro de 2025 foi feita uma nova avaliação, já incluindo o DeepSeek. Esta nova ferramenta teve um desempenho de cerca de 100 pontos. Este desempenho foi semelhante ao Gemini Advanced, com ambos superando todas as demais ferramentas, exceto o o1, que manteve o seu resultado ao redor dos 120 pontos. 



Este tipo de avaliação, contudo, tem alguns importantes problemas associados:
  1. Estes testes foram desenvolvidos para avaliar a cognição humana, e ainda recebem críticas quanto a sua validade;
  2. Ainda não se tem uma clara definição e diferenciação da inteligência humana e da inteligência das máquinas;
  3. As máquinas tem claros viéses de aprendizado, em função dos dados utilizados para o seu treinamento prévio.
Uma outra forma de medir o desempenho das máquinas é avaliar outras características como a quantidade e qualidade das informações e a empatia associada à comunicação. Em 2023 foi publicado um artigo no periódico JAMA, que comparou as respostas dadas por médicos e pelo ChatGPT,. versão 2022, a questionamentos encaminhados por pacientes por meio de sites de perguntas para médicos. Foram selecionadas 195 interações por escrito de pacientes e médicos e as mesmas questões encaminhadas foram submetidas ao ChatGPT. Um painel de especialistas avaliou as respostas, sem identificação da sua origem ser do médico ou da máquina, quanto a qualidade, quantidade e empatia. Em todas estas características as respostas do ChatGPT foram avaliadas melhor que a dos médicos, de forma estatisticamente significativa.


Estes resultados devem ser avaliados em seus aspectos mais amplos e não apenas em termos de desempenho pontual destas variáveis. A melhor maneira de avaliar é, talvez, reconhecer aspectos que devam ser aprimorados na comunicação entre médicos e pacientes, ao invés de fazer a proposta de substituição de pessoas por máquinas. É importante relembrar que os conhecimentos utilizados pelas máquinas, assim como os algoritmos e programas que as fazem funcionar, foram desenvolvidos por seres humanos.


Os Benefícios da Inteligência Artificial

Os benefícios resultantes do uso da Inteliegência Artificial são inúmeros e já estão sendo incorporados à rotina diária das pessoas, em maior ou menor grau. É possível destacar:

  1. Melhor processamento de informações não estruturadas
  2. Análises de grandes volumes de dados
  3. Consolidação de conhecimentos
  4. Interação com linguagem natural
  5. Facilidade de tradução de textos e linguagem verbal
  6. Produção audiovisual
  7. Reconhecimento de imagens
  8. Precisão de movimentos
  9. Padronização de processos


Os Riscos da Inteligência Artificial

Os riscos associados à Inteligência Artificial também são inúmeros. Muitos deles são fáceis de identificar e prever e outros apresentam enormes desafios par a sua prevenção. Uma breve lista de riscos inclui aspectos referentes a:
  1. Privacidade e confidencialidade 
  2. Viéses algorítmicos (GIGO)
  3. Origem não confiável dos dados (GIGO)
  4. Associações espúrias (alucinações)
  5. Falta de avaliação prévia à liberação das ferramentas
  6. Má intenção associada ao uso das ferramentas (dolo)
  7. Sistemas autônomos de tomada de decisão (responsabilidade)
  8. Arrogância tecnológica - Infocracia (Han, 2022)
  9. Estupidez artificial” e “Burrice natural


Os Aspectos Éticos, Legais e Sociais da Inteligência Artificial

Em um recente estudo publicado, o setor de Cuidados à Saúde foi um dos três como maiores barreiras éticas e legais associadas. Desta forma, é fundamental que seja feita uma reflexão sobre os aspectos éticos e regulatórios associados a Inteligência Artificial em todos os estágios de desenvolvimento.



Existem inúmeros documentos refletindo ou estabelecendo normas de como entender e enfrentar os problemas decorrentes da Inteligência Artificial. 

Em 2021 a UNESCO publicou as suas recomendações sobre a Ética da Inteligência Artificial que baseavam quatro valores centrais:
  1. Respeito, proteção e promoção dos direitos humanos, das liberdades fundamentais e da dignidade humana;
  2. Prosperidade ambiental e ecossistêmica;
  3. Garantir diversidade e inclusão; e
  4. Viver em sociedades pacíficas, justas e interconectadas.


A Organização para a Cooperação e Desenvolvimento Econômico (OCDE) também divulgou um documento sobre princípios para a Inteligência Artificial. O enfoque deste documento não é exatamente o mesmo da UNESCO, ele apresenta uma perspectiva mais operacional. Os cinco valores que embasaram as reflexões foram:
  1. Desenvolvimento, inclusivo e sustentável, e bem-estar;
  2. Direitos humanos e valores democráticos, incluindo justiça e privacidade;
  3. Transparência e explicabilidade;
  4. Robustez, segurança física e patrimonial; e
  5. Responsabilidade pelos resultados.


O Senado Federal brasileiro, ao longo de 2023 e 2024, discutiu o Projeto de Lei 2338/2023 que estabelece um marco legal para o uso da Inteliegência Articial no Brasil. Este projeto já foi aprovado no Senado Federal em 18/12/2024, e aguarda tramitação na Câmara dos Deputados. É um projeto de aborda estas questões de forma contemporânea e dentro do enquadramento legal que está sendo discutido em muitos outros países.



A Europa já aprovou, em junho de 2024, o seu regulamento para a Inteligência Artificial, é um documento que todos os países vinculados à Europa deverão discutir internamente e adequar as suas legislação nacionais para atenderem aos padrões estabelecidos.


Mais recentemente, em 28 de janeiro de 2025, o Vaticano publicou um documento elaborado por dois órgãos internos: o Discatério da Fé e o Dicastério da Cultura e da Educação. O documento, intitulado de Antigo e Novo faz uma reflexão moral e religiosa sobre as questões envolvidas com a Inteleigência Artificial.



É importante que a abordagem ética seja feita de forma multidimensional, e não apenas princípios. A maioria dos documentos que estabelecem reflexões éticas se limitam ao estabelecimento de princípios, que são recomendações.

A existência de uma marco regulatório é fundamental, mas ele deve ser precedido e  monitorado de uma reflexão ética continuada. Sem esta reflexão poderemos ter muitos documentos regulatórios, porém com pouca ação prática efetiva. 

Atualmente, temos muitas gerações com diferentes culturas e perspectivas convivendo. Podem ocorrer diferentes percepções a respeito da adequação ou não de práticas envolvendo Inteligência Artificial em grupos de “imigrantes digitais” e de “nativos digitais”. Estas diferenças culturais e geracionais ainda estão sem dados que permitam verificar a sua importância na condução de políticas a respeito desta área tão importante.

Fernandes MS, Goldim JR. Artificial Intelligence and Decision Making in Health: Risks and Opportunities. In: Sousa Antunes, H., Freitas, P.M., Oliveira, A.L., Martins Pereira, et al editor. Multidisciplinary Perspectives on Artificial Intelligence and the Law. Cham, Switzerland: Springer; 2024:187–204. 

Perspectivas Futuras na Saúde

A utilização de ferramentas de Inteligência Artificial na área da Saúde deve levar em conta as seguintes perspectivas futuras:

  • Benefício potencial nas áreas de diagnóstico, com mais precisão e precocidade; de tratamento, com maior especificidade e eficácia; e de gestão dos pacientes e recursos;
  • Risco de reversão, sendo fundamental evitar a “estupidez artificial, quando a Inteligência artificial se converte em uma ferramenta rígida e ineficaz, incapaz de se adaptar a situações complexas;
  • Necessidade de discutir e estabelecer padrões éticos e legais que garantam o uso da inteligência artificial, de maneira  justa e responsável, especialmente na área da saúde.


O que nos faz humanos

É sempre importante lembrar que o futuro da Inteligência Artificial ​​não se refere apenas aos algoritmos – refere-se aos valores que codificamos neles. e que o futuro da humanidade não depende apenas de ações individuais, mas sim de discussões e reflexões que envolvam as diferentes comunidades e países.

As máquinas não foram feitas para entender uma mentira.

Adela Cortina. Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Madrid: Paidós; 2024.

Apesar de todo o seu desempenho computacional, o computador é burro, na medida em que lhe falta a capacidade de hesitar.

Byung-Chul Han. Sociedade do Cansaço. Petrópolis: Vozes; 2015:54. 

Como queremos viver? O que há de humano no ser humano, de natural na natureza, que precisa ser protegido? (...) Essas perguntas antigas-novas podem ser jogadas de um lado para o outro entre a vida cotidiana, a política e a ciência. No estágio mais avançado do processo civilizatório, elas voltam a ocupar uma posição prioritária na agenda – também, ou precisamente, em tempos em que estão envoltas no disfarce de fórmulas matemáticas e controvérsias metodológicas. 

Ulrich Beck. Sociedade de risco: rumo a uma outra modernidade. São Paulo: 34, 2011.




segunda-feira, 3 de fevereiro de 2025

Comitê de Bioética Clínica do HCPA: História, Atuação e Desafios

 José Roberto Goldim


O Comitê de Bioética Clínica do Hospital de Clínicas de Porto Alegre (HCPA) tem desempenhado um papel essencial na análise e orientação de questões éticas na prática clínica desde sua criação. Seu histórico remonta a 1993, quando foi estabelecido como um órgão consultivo e propositivo dentro da Diretoria Médica do hospital. Desde então, o comitê expandiu sua atuação e consolidou-se como referência na área. O próprio Conselho Federal de Medicina (CFM) quando publicou a Recomendação CFM 08/2015 incentivando a participação dos médicos em Comitês de Bioética, em sua Exposição de Motivos, reconheceu o pioneirismo nacional do Comitê de Bioética do HCPA.

Histórico e Desenvolvimento

A trajetória da bioética clínica no HCPA envolve diversas iniciativas ao longo dos anos. Em 1993, foi criado o Programa de Atenção aos Problemas de Bioética, vinculado à Diretoria Médica do HCPA. Em 2015, este Programa passou a ter a denominação de Comitê de Bioética Clínica.  

As consultorias de Bioética Clínica são prestadas pelos consultores vinculados ao Núcleo de Bioética Clínica, igualmente vinculado à Diretoria Médica do HCPA. As consultorias vinculadas às demandas individuais de pacientes, ou de questões institucionais, tiveram início em 1994. Em 1997, foram iniciados os rounds semanais de Bioética Clínica na UTI Pediátrica, atividade que se mantém até os dias de hoje. 

Além disso, a partir de 1995, foram oferecidas seis diferentes disciplinas sobre temas de Bioética, no Programa de Pós-Graduação em Ciências Médicas da UFRGS. Assim como outras atividades de formação para profissionais de saúde, envolvendo temas como a comunicação em situações difíceis, Estas atividades têm contribuído para a disseminação de conhecimentos e boas práticas na área da Bioética Clínica.

A Atuação do Comitê de Bioética Clínica

O Comitê de Bioética Clínica realiza reuniões mensais desde 1993, somando até o momento 295 encontros. Sua composição é multiprofissional e interdisciplinar, contando com 29 membros de 12 diferentes profissões de diversas áreas de conhecimento, tais como Medicina, Psicologia, Direito, Serviço Social, Enfermagem e outras.

O Comitê de Bioética Clínica serve como uma instância de reflexão sobre a adequação bioética de práticas realizadas na instituição. As principais demandas do comitê envolvem temas como privacidade e confidencialidade; situações de violência envolvendo profissionais de saúde como vítimas; questões de início e final de vida; limites de atuação dos profissionais de saúde; atendimento a demandas específicas de grupos minoritários, entre outras 

Além das atividades internas, o Comitê tem auxiliado inúmeras instituições de saúde, incluindo hospitais universitários, hospitais públicos e privados, e unidades especializadas, a constituírem comitês de bioética. Até o presente momento, 12 instituições, de diferentes locais do Brasil, já foram atendidas em suas demandas.

A Atuação do Núcleo de Bioética Clínica

As consultorias de Bioética Clínica tem mantido uma demanda frequente. Desde 1994, foram atendidas e registradas 6.853 consultorias, sendo 454 apenas no ano de 2024. Os temas mais frequentes abordados nestas consultorias são demandas na área de conflitos, envolvendo as equipes assistenciais e os ocorridos entre familiares; a comunicação entre as pessoas envolvidas; os processos de tomada de decisão, incluindo o processo de consentimento e as diretivas antecipadas de vontade; e as questões sociais presentes nas situações. Os dados das consultorias estão disponíveis no Painel das Consultorias de Bioética Clínica do HCPA.

As atividades educacionais do Núcleo de Bioética Clínica incluem a realização semanal de um round de Bioética Clínica, com a participação regular dos consultores e dos residentes da Psiquiatria Forense. Nestas atividades também participam outros residentes que estão com estágios em Bioética. Com os residentes médicos é realizado um seminário semanal para discutir questões teóricas envolvidas no atendimento das consultorias. Os residentes multiprofissionais tem uma atividade mensal para discussão de temas de Bioética. De forma periódica, são oferecidos cursos de pequena duração para a comunidade de profissionais da instituição sobre temas específicos, como os que envolvem habilidades de comunicação.

Desafios e Perspectivas

Entre os desafios atuais, destaca-se a implantação do credenciamento de consultores em Bioética Clínica, previsto para o primeiro semestre de 2025. Está prevista a oferta de um novo Curso de Formação de Consultores, internos e externos à instituição, visando uma capacitação mais aprofundada para os profissionais que queiram realizar este tipo de atividade.

Outros pontos prioritários que merecem ser objeto de reflexão para aprimorar as atividades de Bioética Clínica, incluem:

  • o aperfeiçoamento da comunicação verbal e escrita, especialmente nos registros em prontuário dos pacientes;
  • o melhor entendimento dos processos de tomada de decisão em Bioética;
  • o desenvolvimento de habilidades para lidar com conflitos entre familiares e equipes de profissionais de saúde;
  • o entendimento da importância da diversidade de referenciais éticos a serem utilizados na elaboração das reflexões e pareceres, mantendo uma perspectiva de argumentação baseada na complexidade inerente às questões da área da saúde.

As atividades do Comitê de Bioética Clínica do HCPA têm contribuído para um cuidado mais humanizado e responsável, reconhecendo as inúmeras vulnerabilidades presentes em todas as situações que ocorrem na área da saúde.