Dez desafios da Inteligência Artificial

José Roberto Goldim

,

Estes desafios foram propostos por diferentes pessoas com a finalidade de gerar uma reflexão sobre os diferentes aspectos envolvidos com a Inteligência Artificial.(IA). Estas reflexões visam gerar um debate que é necessário para o adequado entendimento das relações sociais neste novo cenário.

1. Como você avalia o movimento sobre os Neurodireitos, liderado pelos próprios neuro-cientistas que estão trabalhando para desenvolver o uso médico de IA ?

A expressão Neurodireitos é uma maneira de chamar a atenção para uma questão particular, quando na realidade estamos tendo um desafio que é de âmbito geral. Neurodireitos são uma nova denominação para a garantia dos direitos humanos, dos direitos da pessoa, dos direitos fundamentais, como queiram chamar. A garantia dos direitos humanos, abrange o todo de cada pessoa e não apenas uma de suas características. 

O direito à vida, o direito à liberdade, o direito à privacidade são exemplos de questões que emergiram no final do século XVIII e permanecem cada vez mais atuais nos dias de hoje.  Mais do que estabelecer uma nova denominação ou classificação, temos é que garantir as questões centrais que nos dão identidade ao longo do nosso viver.

2. O que pensar sobre a ameaça à democracia a que alude carta assinada por Elon Musk e  Yuval Harari?

A ameaça à democracia, que extrapola os termos da carta citada, é clara e real. A disseminação de informações em grande escala e em velocidade crescente gera esta saturação de informações. 

Quem tem melhor abordado esta questão é o Prof. Byung-Chul Han, catedrático de Ética da Universidade de Berlim. Ele criou o termo Infocracia para denominar este fenômeno. A seleção de informações gerada pelos algoritmos das redes sociais e dos sites de busca acaba por dar uma visão extremamente estreita da realidade. O contraditório fica quase que eliminado, existe apenas a reiteração do que se sabe e se pensa. É a eliminação do desafio, do desconforto, mas apenas a mesma matriz de conhecimentos que se repete monotonamente, reiterando posições já assumidas anteriormente. A discussão fica substituída pela simples repetição de ideias e noções. A ausência de discussão gera a perda de reflexão.

3. Como podemos compreender o mau uso da IA, expressa na maldade a que estamos imersas pela Internet? 

O mau está sempre presente. Não é a internet que criou a maldade, ela deu uma dimensão de divulgação e de acesso nunca antes vista. Este mesmo fenômeno ocorreu quando as bibliotecas foram criadas, quando o livro impresso foi disponibilizado, quando o rádio, o cinema e a televisão se difundiram. São novos meios de expressar, de comunicar. Os meios de comunicação em massa, surgidos nos anos 1960, fizeram com que esta reflexão assumisse uma amplitude global. Mais do que estabelecer medidas de controle e contenção, o importante é desenvolver um pensamento crítico capaz de discernir e lidar com estas situações: é educar. Infelizmente, este não tem sido o caminho. A simples repressão gera mais problemas do que solução a este fenômeno.

4. E a Saúde Mental, estará sendo afetada pelo excesso de uso indiscriminado das mídias e IA pelo sujeito comum?

Sem dúvida nenhuma, a saúde mental das pessoas está sendo afetada por esta avalanche acrítica de informações. Os programas de jornalismo mudaram o seu foco informativo para ser um conjunto de comentários sobre um mesmo monótono tema de impacto. Passado o impacto, um novo tema é abordado e assim sucessivamente. A história não é mais contada, é apenas comentada em um breve período de tempo. Um tema fica sendo exposto, em média, por um período de até duas semanas. O foco não é mais informar, mas sim gerar novos impactos. Esta sucessão de impactos é que tem gerado uma certa apatia, uma perda da solidariedade, da perspectiva empática e compassiva com o outro. Tudo é espetáculo, os outros são substituídos constantemente. Assim, as relações se tornam apenas ligações, sem comprometimento associado.

5. Que tipo de legislação regulamenta o uso da IA? Quem fiscaliza?

O uso de Inteligência Artificial tem gerado uma necessidade de um novo marco regulatório que permita de alguma forma estabelecer parâmetros de adequação a estas atividades. O Brasil vem discutindo um projeto de lei neste sentido, a Europa está elaborando um regulamento para estabelecer um uso minimamente adequado à Inteligência Artificial. As leis atuais já permitem resolver muitas destas questões, mas novos temas se apresentam, como por exemplo, a questão da responsabilidade sobre as ações geradas pelos algoritmos. Quem é o responsável? É o desenvolvedor, é quem vende, é quem utiliza? Esta questão pode ser exemplificada por uma situação já existente: o uso de algoritmos para a direção de automóveis. Se ocorrer um acidente causado por um destes sistemas de navegação, quem será o responsável? Alguns sistemas são divulgados como não permitindo que as pessoas externas sejam atingidas. São sistemas que impedem os atropelamentos de pessoas e animais. Outros sistemas protegem os passageiros do próprio veículo. Em uma situação de risco o algoritmo irá proteger as pessoas externas e o outro as internas. O primeiro seria um algoritmo altruísta e o segundo egoísta. É fácil imaginar os desdobramentos de um acidente onde ocorreram danos pessoais: de quem será a culpa? A escolha por um desses algoritmos, na hora da compra, implica em uma responsabilidade para o motorista?

6. Impacto nas crianças

Inúmeros estudos têm demonstrado os impactos nas crianças com a utilização de equipamentos com o uso de imagens e sons. Os estudos realizados na década de 1960, por Edward Palmer sobre a atenção de crianças ao assistirem televisão, mudaram a própria produção destes programas para crianças. Eles mediam a atenção das crianças e provocavam elementos de distração. As sequências de maior atenção eram editadas e divulgadas. Isto fez com que o programa Vila Sésamo tivesse um impacto enorme na produção de programas infantis. Esta mesma técnica é hoje utilizada para manter a atenção em jogos, programas e telas de redes sociais. Existem setores que avaliam continuamente a atenção dos usuários e os elementos distratores presentes.

7. A IA é uma ameaça à criatividade, ao sonhar?

Como qualquer atividade humana, o uso das novas ferramentas de Inteligência Artificial podem ser consideradas como uma ameaça ou como um desafio. A questão é identificar a intenção associada, os interesses envolvidos e a finalidade à qual estão sendo desenvolvidas estas novas ferramentas. Se utilizadas de forma acrítica, podem ser uma ameaça, mas também podem ser um enorme incentivo à criatividade. 

8. Qual o lugar da inteligência emocional? Existe inteligência não artificial?

Esta questão é central: por que chamar de inteligência artificial? Esta expressão foi cunhada para substituir a palavra “cibernética” em uma atividade realizada no MIT, na década de  1960. A inteligência artificial nada mais é do que uma automatização dos processos de tomada de decisão. Cada vez mais a fronteira entre o natural e o artificial fica difícil de ser estabelecida. Isto já havia sido proposto por Jacques Monod, em 1970, em seu livro O Acaso e a Necessidade.

A incorporação de modelos de linguagem natural fez com que a interface fosse alterada. Do uso de um teclado, que é um meio muito precário de interação, surge a possibilidade de utilizar a voz. A comunicação fica mais fluida e facilitada. O uso do teclado dá a dimensão de uma interação com uma máquina, mas a voz parece estreitar esta ligação.  

Os algoritmos podem ser programados e treinados para “expressarem” emoções, mas que nada mais são do que conjuntos de processos previamente programados para reagir desta maneira. As pessoas podem se sentir confusas perante uma manifestação de uma máquina com uma característica emocional presente. 

O uso da palavra artificial gerou esta expectativa de um distanciamento ou de uma nova aproximação. Uma excelente provocação foi feita por Philip Dick, quando deu a uma novela o seguinte título:  “Os andróides sonham com ovelhas elétricas?” Foi esta novela que foi utilizada para elaborar o roteiro para o filme Blade Runner, de Ridley Scott. Esta oposição, entre o natural e o artificial, é sempre desafiadora e nem sempre tão simples de identificar.

9. O uso da IA poderia beneficiar a relação médico-paciente? De que forma?

A inteligência artificial pode beneficiar a relação médico-paciente ao gerar melhores informações, melhores meios diagnósticos, novos métodos de interação. O risco é a despersonalização, é a padronização, é a perda da singularidade. O problema não é a inteligência artificial em si, mas sim o uso que se faz destas novas ferramentas. O uso das ferramentas de IA devem ser auxiliares, devem melhorar a relação médico-paciente e não substituí-la. O profissional não deve se sentir ameaçado, mas sim incentivado a ser que esclarece, que explica aquilo que outras ferramentas apresentam apenas como dados. Gerar informações e sabedoria é o papel de todos os profissionais e a expectativa dos pacientes.

10. Como impacta a subjetivação e como fica o espelhamento do qual necessitamos para nos tornar alguém único e diferenciado do Outro?

Este é um ponto central e pouco abordado na questão da IA. Não é a introdução de ferramentas de IA que geram problemas, mas sim a falta de discussão da Alteridade, da relação efetiva com o outro. Isto sim é que pode gerar inúmeros problemas, que podem ser agravados com o uso de meios tecnológicos que podem distanciar ainda mais as pessoas. 

Entender que o outro é uma pessoa diferente de mim, com características próprias e singularidades. Esta interação efetiva gera corresponsabilidade, que a necessidade de cuidar do outro, que implica em cuidar de si mesmo, independe do uso de uma ferramenta, mas depende de um entendimento do que é viver, do que é se relacionar. Este é desafio proposto a todos nós. Muitas vezes desviamos o foco para outras questões, mas na essência é isto: reconhecer a si próprio e reconhecer o outro. 

Nota

Estes desafios e as notas associadas foram discutidos no evento promovido pela Sociedade Psicanalítica de Porto Alegre (SPPA) em 17/08/2023.