Dez desafios da Inteligência Artificial

José Roberto Goldim

,

Estes desafios foram propostos por diferentes pessoas com a finalidade de gerar uma reflexão sobre os diferentes aspectos envolvidos com a Inteligência Artificial.(IA). Estas reflexões visam gerar um debate que é necessário para o adequado entendimento das relações sociais neste novo cenário.

1. Como você avalia o movimento sobre os Neurodireitos, liderado pelos próprios neuro-cientistas que estão trabalhando para desenvolver o uso médico de IA ?

A expressão Neurodireitos é uma maneira de chamar a atenção para uma questão particular, quando na realidade estamos tendo um desafio que é de âmbito geral. Neurodireitos são uma nova denominação para a garantia dos direitos humanos, dos direitos da pessoa, dos direitos fundamentais, como queiram chamar. A garantia dos direitos humanos, abrange o todo de cada pessoa e não apenas uma de suas características. 

O direito à vida, o direito à liberdade, o direito à privacidade são exemplos de questões que emergiram no final do século XVIII e permanecem cada vez mais atuais nos dias de hoje.  Mais do que estabelecer uma nova denominação ou classificação, temos é que garantir as questões centrais que nos dão identidade ao longo do nosso viver.

2. O que pensar sobre a ameaça à democracia a que alude carta assinada por Elon Musk e  Yuval Harari?

A ameaça à democracia, que extrapola os termos da carta citada, é clara e real. A disseminação de informações em grande escala e em velocidade crescente gera esta saturação de informações. 

Quem tem melhor abordado esta questão é o Prof. Byung-Chul Han, catedrático de Ética da Universidade de Berlim. Ele criou o termo Infocracia para denominar este fenômeno. A seleção de informações gerada pelos algoritmos das redes sociais e dos sites de busca acaba por dar uma visão extremamente estreita da realidade. O contraditório fica quase que eliminado, existe apenas a reiteração do que se sabe e se pensa. É a eliminação do desafio, do desconforto, mas apenas a mesma matriz de conhecimentos que se repete monotonamente, reiterando posições já assumidas anteriormente. A discussão fica substituída pela simples repetição de ideias e noções. A ausência de discussão gera a perda de reflexão.

3. Como podemos compreender o mau uso da IA, expressa na maldade a que estamos imersas pela Internet? 

O mau está sempre presente. Não é a internet que criou a maldade, ela deu uma dimensão de divulgação e de acesso nunca antes vista. Este mesmo fenômeno ocorreu quando as bibliotecas foram criadas, quando o livro impresso foi disponibilizado, quando o rádio, o cinema e a televisão se difundiram. São novos meios de expressar, de comunicar. Os meios de comunicação em massa, surgidos nos anos 1960, fizeram com que esta reflexão assumisse uma amplitude global. Mais do que estabelecer medidas de controle e contenção, o importante é desenvolver um pensamento crítico capaz de discernir e lidar com estas situações: é educar. Infelizmente, este não tem sido o caminho. A simples repressão gera mais problemas do que solução a este fenômeno.

4. E a Saúde Mental, estará sendo afetada pelo excesso de uso indiscriminado das mídias e IA pelo sujeito comum?

Sem dúvida nenhuma, a saúde mental das pessoas está sendo afetada por esta avalanche acrítica de informações. Os programas de jornalismo mudaram o seu foco informativo para ser um conjunto de comentários sobre um mesmo monótono tema de impacto. Passado o impacto, um novo tema é abordado e assim sucessivamente. A história não é mais contada, é apenas comentada em um breve período de tempo. Um tema fica sendo exposto, em média, por um período de até duas semanas. O foco não é mais informar, mas sim gerar novos impactos. Esta sucessão de impactos é que tem gerado uma certa apatia, uma perda da solidariedade, da perspectiva empática e compassiva com o outro. Tudo é espetáculo, os outros são substituídos constantemente. Assim, as relações se tornam apenas ligações, sem comprometimento associado.

5. Que tipo de legislação regulamenta o uso da IA? Quem fiscaliza?

O uso de Inteligência Artificial tem gerado uma necessidade de um novo marco regulatório que permita de alguma forma estabelecer parâmetros de adequação a estas atividades. O Brasil vem discutindo um projeto de lei neste sentido, a Europa está elaborando um regulamento para estabelecer um uso minimamente adequado à Inteligência Artificial. As leis atuais já permitem resolver muitas destas questões, mas novos temas se apresentam, como por exemplo, a questão da responsabilidade sobre as ações geradas pelos algoritmos. Quem é o responsável? É o desenvolvedor, é quem vende, é quem utiliza? Esta questão pode ser exemplificada por uma situação já existente: o uso de algoritmos para a direção de automóveis. Se ocorrer um acidente causado por um destes sistemas de navegação, quem será o responsável? Alguns sistemas são divulgados como não permitindo que as pessoas externas sejam atingidas. São sistemas que impedem os atropelamentos de pessoas e animais. Outros sistemas protegem os passageiros do próprio veículo. Em uma situação de risco o algoritmo irá proteger as pessoas externas e o outro as internas. O primeiro seria um algoritmo altruísta e o segundo egoísta. É fácil imaginar os desdobramentos de um acidente onde ocorreram danos pessoais: de quem será a culpa? A escolha por um desses algoritmos, na hora da compra, implica em uma responsabilidade para o motorista?

6. Impacto nas crianças

Inúmeros estudos têm demonstrado os impactos nas crianças com a utilização de equipamentos com o uso de imagens e sons. Os estudos realizados na década de 1960, por Edward Palmer sobre a atenção de crianças ao assistirem televisão, mudaram a própria produção destes programas para crianças. Eles mediam a atenção das crianças e provocavam elementos de distração. As sequências de maior atenção eram editadas e divulgadas. Isto fez com que o programa Vila Sésamo tivesse um impacto enorme na produção de programas infantis. Esta mesma técnica é hoje utilizada para manter a atenção em jogos, programas e telas de redes sociais. Existem setores que avaliam continuamente a atenção dos usuários e os elementos distratores presentes.

7. A IA é uma ameaça à criatividade, ao sonhar?

Como qualquer atividade humana, o uso das novas ferramentas de Inteligência Artificial podem ser consideradas como uma ameaça ou como um desafio. A questão é identificar a intenção associada, os interesses envolvidos e a finalidade à qual estão sendo desenvolvidas estas novas ferramentas. Se utilizadas de forma acrítica, podem ser uma ameaça, mas também podem ser um enorme incentivo à criatividade. 

8. Qual o lugar da inteligência emocional? Existe inteligência não artificial?

Esta questão é central: por que chamar de inteligência artificial? Esta expressão foi cunhada para substituir a palavra “cibernética” em uma atividade realizada no MIT, na década de  1960. A inteligência artificial nada mais é do que uma automatização dos processos de tomada de decisão. Cada vez mais a fronteira entre o natural e o artificial fica difícil de ser estabelecida. Isto já havia sido proposto por Jacques Monod, em 1970, em seu livro O Acaso e a Necessidade.

A incorporação de modelos de linguagem natural fez com que a interface fosse alterada. Do uso de um teclado, que é um meio muito precário de interação, surge a possibilidade de utilizar a voz. A comunicação fica mais fluida e facilitada. O uso do teclado dá a dimensão de uma interação com uma máquina, mas a voz parece estreitar esta ligação.  

Os algoritmos podem ser programados e treinados para “expressarem” emoções, mas que nada mais são do que conjuntos de processos previamente programados para reagir desta maneira. As pessoas podem se sentir confusas perante uma manifestação de uma máquina com uma característica emocional presente. 

O uso da palavra artificial gerou esta expectativa de um distanciamento ou de uma nova aproximação. Uma excelente provocação foi feita por Philip Dick, quando deu a uma novela o seguinte título:  “Os andróides sonham com ovelhas elétricas?” Foi esta novela que foi utilizada para elaborar o roteiro para o filme Blade Runner, de Ridley Scott. Esta oposição, entre o natural e o artificial, é sempre desafiadora e nem sempre tão simples de identificar.

9. O uso da IA poderia beneficiar a relação médico-paciente? De que forma?

A inteligência artificial pode beneficiar a relação médico-paciente ao gerar melhores informações, melhores meios diagnósticos, novos métodos de interação. O risco é a despersonalização, é a padronização, é a perda da singularidade. O problema não é a inteligência artificial em si, mas sim o uso que se faz destas novas ferramentas. O uso das ferramentas de IA devem ser auxiliares, devem melhorar a relação médico-paciente e não substituí-la. O profissional não deve se sentir ameaçado, mas sim incentivado a ser que esclarece, que explica aquilo que outras ferramentas apresentam apenas como dados. Gerar informações e sabedoria é o papel de todos os profissionais e a expectativa dos pacientes.

10. Como impacta a subjetivação e como fica o espelhamento do qual necessitamos para nos tornar alguém único e diferenciado do Outro?

Este é um ponto central e pouco abordado na questão da IA. Não é a introdução de ferramentas de IA que geram problemas, mas sim a falta de discussão da Alteridade, da relação efetiva com o outro. Isto sim é que pode gerar inúmeros problemas, que podem ser agravados com o uso de meios tecnológicos que podem distanciar ainda mais as pessoas. 

Entender que o outro é uma pessoa diferente de mim, com características próprias e singularidades. Esta interação efetiva gera corresponsabilidade, que a necessidade de cuidar do outro, que implica em cuidar de si mesmo, independe do uso de uma ferramenta, mas depende de um entendimento do que é viver, do que é se relacionar. Este é desafio proposto a todos nós. Muitas vezes desviamos o foco para outras questões, mas na essência é isto: reconhecer a si próprio e reconhecer o outro. 

Nota

Estes desafios e as notas associadas foram discutidos no evento promovido pela Sociedade Psicanalítica de Porto Alegre (SPPA) em 17/08/2023.

Immanuel Kant - 300 anos (22/04/1724-22/04/2024)

José Roberto Goldim

Immanuel Kant é um dos pensadores mais influentes da história humana. Mais de 480 biografias foram escritas sobre a sua pessoa. Ao refletir sobre a Dignidade Humana, Kant permitiu um novo olhar para toda a humanidade. Com isso, temas como a Autonomia, a Universalidade das Ações, a Liberdade e a Paz foram interligados e discutidos.

Kant foi um homem pequeno, com 1,57m de altura, de pele muito clara e olhos azuis, com muitos amigos, que nunca se afastou de sua cidade natal, Königsberg, principalmente em função de sua frágil saúde.   Königsberg era parte do Reino da Prússia. A partir de 1946, com o final da II Guerra Mundial, esta cidade passou a ser chamada de Kaliningrado, que foi anexada ao território da Rússia.

Esta cidade já era conhecida na história da Ciência, mesmo antes da obra de Kant, em função de um problema discutido pelos seus moradores no início do século XVIII. A questão era relacionada à possibilidade de fazer um trajeto pelas sete pontes, então existentes na cidade, passando apenas uma única vez por cada uma das pontes. Das sete pontes originais, restam apenas duas. Em 1736, quando Kant tinha apenas 12 anos de idade, o matemático suíço, Leonard Euler demonstrou que era impossível fazer este trajeto. Para resolver este problema, Euler desenvolveu novas formas de pensar as questões da Matemática, que serviu de base para a Topologia e para a Teoria dos Grafos. 

Kant nasceu em uma família, cujo pai - Johann Georg - era um artesão que fabricava arreios e a mãe - Anna Regina - se dedicava a cuidar da casa e dos nove filhos. Immanuel era o quarto filho. Quatro filhos morreram na infância. As mortes de pessoas afetivamente próximas, tais como o pai, a mãe, seus irmãos e amigos acompanharam e marcaram a vida de Kant. Em uma carta endereçada à mãe de um amigo, Johann Daneil Funk, que morreu em 1764, ele finalizou escrevendo que: "até que a morte, que sempre pareceu distante, de repente acaba com todo o jogo".

Em boa parte de sua vida, Kant foi governado por Frederico II, considerado por muitos como um déspota esclarecido. As suas ideias e formas de governar influenciaram o seu pensamento.

Uma característica importante foi a sólida formação moral recebida de seus pais que eram Pietistas. Esta denominação religiosa, derivada do Luteranismo, dá uma ênfase importante à dimensão religiosa individual, baseada na simplicidade e obediência às regras morais. Desta formação religiosa familiar, Kant incorporou o valor da correção, que pautou toda a sua vida em termos de honradez pessoal e de respeito às pessoas. Não há registro de uma situação desabonadora ao longo de sua vida. Kant, pessoalmente, não professava esta perspectiva pietista, que era predominante na sua escola e, posteriormente, na Universidade, onde foi professor. Fez todos os seus estudos com a ajuda financeira de um tio. 

Kant trabalhava muito como professor de filhos de famílias abastadas da cidade e, posteriormente na Universidade de Königsberg. Mesmo com este emprego de professor, a sua situação financeira nunca foi cômoda. Foi, talvez, por este motivo econômico que ele nunca se casou. Ele mesmo brincava com os seus amigos que quando o casamento poderia lhe dar algum proveito ele não tinha dinheiro. Porém, quando tinha dinheiro, já era demasiado velho para ter algum proveito.

Joseph Green, um comerciante inglês que foi morar em Königsberg, em função de seus negócios, foi um grande amigo e companheiro de Kant. Green era uma pessoa muito erudita,  que apresentou a Kant algumas ideias que circulavam no Reino Unido e na Europa continental, especialmente as obras de David Hume e de Jean Jacques Rousseau. Green era uma pessoa metódica e com uma rigidez para a pontualidade, que também nunca se casou. Alguns hábitos atribuídos a Kant eram, na realidade, de Green. Eles se reuniam diariamente para trocar ideias, tendo discutido a Crítica a Razão Pura, palavra por palavra, antes da sua publicação em 1781. Kant ficou muito abalado com a sua morte em 1786.

Kant já havia sido influenciado pelas obras de Lucrécio e de Isaac Newton, porém foi a  leitura da obra de David Hume que provocou uma profunda reflexão. Kant estava com cerca de 46 anos quando isto ocorreu. Kant achava as conclusões de Hume inaceitáveis, mas reconhecia que os seus argumentos eram irrefutáveis. Ficou uma década sem divulgar seus textos, até que em 1871 publicou a Crítica da Razão Pura.

Na passagem de 1783 para 1784 foi publicado o ensaio "Uma resposta à questão: o que é o Iluminismo?", A palavra Aufklärung pode ser melhor traduzida como sendo Esclarecimento. Este pequeno texto definiu questões que deram base para uma série de reflexões posteriores. Kant afirmava que era o Esclarecimento que daria a "maioridade" à pessoa, ou seja, a possibilidade de poder ser autônomo.

A partir da Crítica da Razão Pura, a sua obra se desenvolveu com uma força impressionante. Foi neste conjunto de publicações que se inseriram a Fundamentação da Metafísica dos Costumes, publicada em 1785, e a Crítica da Razão Prática, em 1788. Na Fundamentação da Metafísica dos Costumes foi proposto Imperativo Categórico, que teve três diferentes formulações: 

"Age como se a máxima de tua ação devesse ser transformada em lei universal da Natureza".

"Age de tal maneira que trates a humanidade, tanto na tua pessoa como na outra pessoa, sempre como um fim e nunca como um meio".

"Age como se a máxima de tua ação devesse servir de lei universal para todos os seres racionais".

Kant no livro Crítica da Faculdade do Juízo, de 1790, também refletiu sobre a música. Uma das questões mais relevantes foi a de pensar, de forma integrada, na unidade e na multiplicidade contidas em uma composição. Ele denominava de "linguagem dos afetos" este arranjo entre harmonia e melodia. Kant entendia que a Estética era sensibilidade. Esta discussão sobre a sensibilidade e o entendimento acompanhou toda a sua obra.

Nas suas reflexões tardias, de 1795, Kant argumentava em torno da Paz Perpétua, que seria a culminância do processo civilizatório. Nesta obra Kant cita Frederico II e enaltece a Revolução Francesa  como uma possibilidade na constituição de uma federação de nações republicanas.

Em 1796 Kant de aposentou  da carreira de professor, com 72 anos. No ano seguinte publica a Metafísica dos Costumes. A partir de 1800, ele apresentou um considerável declínio cognitivo, vindo a falecer em 1804.

Ele próprio reconheceu, na Crítica à Razão Pura, que a sua obra teria repercussão equivalente à "revolução copernicana" ocorrida na Astronomia. Posteriormente foi criada a expressão "virada kantiana" para reconhecer a importância da sua obra para toda a humanidade. O pensamento crítico reformulou a forma de entender o mundo como tal.

Talvez a frase que melhor expresse o pensamento de Kant, com sua expressão de unidade e multiplicidade seja aquela contida na Crítica da Razão Prática:

“Duas coisas enchem a alma de uma admiração e de uma veneração sempre novas e sempre crescentes, à medida que a reflexão se aplica com mais frequência e constância: o céu estrelado acima de mim e a lei moral de mim”.

Sugestão de Leitura Complementar

Kuehn, Manfred. Kant - A Biography. Edimburgh, Cambridge, 2001.