Será que uma máquina pode pensar, no sentido pleno do termo? Será que pode equiparar-se totalmente a um ser humano com a sua vida intelectual integral? Essas são algumas das questões mais profundas e radicais que os desenvolvimentos da Inteligência Artificial colocam à humanidade. Até hoje, uma máquina que reproduza os detalhes da organização cerebral e que saiba exibir todas as características mais altas da inteligência humana, incluindo a autoconsciência, parece estar além do alcance dos desenvolvimentos técnicos atuais ou concretamente previsíveis. No entanto, existem máquinas (ou programas de computador) capazes de realizar operações complexas com desempenho comparável – ou às vezes, para contextos específicos, até superior – ao das humanas. Isso anima um otimismo de fundo que deixa aberta, pelo menos para alguns, a possibilidade – não importa quão remota – de um dia alcançar os desejos de uma Inteligência Artificial “forte”, ou seja, máquinas tão semelhantes ao homem que possam desenvolver até mesmo uma autoconsciência.

Há, na minha opinião, pelo menos três aspectos que tornam difícil pensar que um dia as máquinas poderão substituir completamente a inteligência humana: a dimensão afetiva, a dimensão semântica, e uma terceira dimensão que, por enquanto, chamaria de “motivacional”.

Hoje parece claro também do ponto de vista experimental que os estados emocionais influenciam nos processos decisórios e racionais: nas escolhas. Portanto, uma Inteligência Artificial “forte”, que pretendesse reproduzir totalmente a inteligência humana, deveria reproduzir também os aspectos emocionais e afetivos. Mas introduzir essa dimensão nas “máquinas pensantes” tornaria o seu proceder menos “racional”. Essas considerações trazem uma questão profunda para aqueles que, do ponto de vista técnico, lidam com a Inteligência Artificial: qual deve ser o objetivo desses desenvolvimentos tecnológicos? Reproduzir e imitar a inteligência humana, ou apoiá-la em contextos e âmbitos específicos, deixando os aspectos integrais e complexos ao homem de carne e osso, razão e sentimento?

Um segundo aspecto problemático da Inteligência Artificial “forte” diz respeito à distinção – agora clássica na filosofia da linguagem moderna e contemporânea – entre sintaxe e semântica. É uma opinião difundida que os computadores, incluindo os que deveriam suportar uma inteligência artificial, podem apenas tratar de ligações sintáticas entre símbolos sem significado, enquanto não seriam capazes de tratar os conteúdos semânticos atribuíveis a tais símbolos. Isso, por si só, imporia um enorme limite à possibilidade de realizar uma Inteligência Artificial que possa imitar completamente a inteligência humana, que encontra no universo dos significados uma dimensão fundamental. Frequentemente, pensa-se que a semântica seja apenas a rede de relações entre termos. Por exemplo, se alguém busca no dicionário um termo, este é definido por outros termos relacionados. “Calendário” é definido como um conjunto de folhas que marcam os dias, as semanas e os meses em um ano. Quem conhecesse o significado de todos os termos usados nesta definição poderia entender o termo “calendário”; quem não conhecesse alguns, poderia continuar procurando no dicionário, recursivamente. No entanto, por mais que se leve adiante esse processo, o indivíduo que nunca viu ou possuiu um calendário dificilmente teria uma verdadeira compreensão desse termo: ela depende profundamente também das experiências reais vividas pelo falante em sua vida. O significado de palavras como “pobreza” ou “liberdade” muda muito de acordo com a situação pessoal, a própria história de vida e também o contexto histórico e/ou geográfico geral em que se está. Os significados são emocionalmente conotados tanto quanto o são racionalmente. Com base nisso, então, realizar máquinas que possam reproduzir cada aspecto da inteligência humana necessitaria, além de suficiente poder de cálculo, também de viver como um ser humano. Não apenas computar símbolos, mas ter experiências: sofrer e alegrar-se, desejar e temer, ver, ouvir, tocar, cheirar e degustar. Neste ponto, então, a Inteligência Artificial implicaria também uma “vida artificial”, e os problemas encontrados nas tentativas de produzir “máquinas vivas” são pelo menos tantos, e tão graves, quanto os enfrentados pela Inteligência Artificial.

Chegamos à terceira dimensão, a que chamei de “motivacional”. É claro, hoje, que muitos aspectos da inteligência humana vêm do longo percurso evolutivo que levou à nossa espécie biológica. Alguns desses aspectos são também compartilhados – pelo menos em parte – por outras espécies animais não humanos. Também é conhecido que, segundo as teorias sobre a evolução biológica, as novidades que surgiram na história natural, inclusive do ponto de vista comportamental e cognitivo, respondem a uma lógica de necessidade: ao longo da história evolutiva, emerge o que, para as várias espécies biológicas nos diversos contextos ambientais, é necessário para sobreviver sem sucumbir aos desafios ambientais. Esse quadro conceitual, embora certamente válido para muitos aspectos até da cognição humana, parece, no entanto, não ser capaz de explicar inteiramente a evolução cultural característica da história humana. A domesticação de plantas e animais, a construção de cidades e locais de culto, a invenção da escrita e da aritmética, o nascimento da chamada cultura teórica, das universidades, da ciência moderna, as revoluções industriais que marcaram os últimos séculos: tudo isso é dificilmente atribuível apenas à necessidade no sentido mencionado acima. Nenhuma dessas inovações (e as miríades de invenções específicas que as acompanharam), estritamente falando, eram necessárias para a sobrevivência do ser humano. A questão torna-se ainda mais profunda se vista do ponto de vista dos indivíduos que deram contribuições essenciais a esses avanços. Pense em Sócrates, que por amor à verdade e à justiça se deixou levar ao suicídio; ou em Galileu Galilei, que, convicto de suas ideias cosmológicas, enfrentou dois julgamentos. Essas reflexões colocam com força o problema das motivações que impulsionam o ser humano a pesquisar, a querer conhecer e inventar, a se aproximar da verdade e a querer melhorar suas condições materiais e espirituais além das estritas necessidades.

Este tema levanta um problema adicional ao objetivo da Inteligência Artificial “forte”. Uma máquina pensante que queira reproduzir por inteiro a inteligência humana também deveria ser capaz de reproduzir esse aspecto “motivacional”. Em outras palavras, deveria ser capaz não só de realizar operações inteligentes para resolver tarefas atribuídas por outros, mas também de autoatribuir-se tarefas e objetivos, de ter aspirações. Hoje, redes neurais sofisticadas e os chamados “sistemas especialistas” são capazes de realizar operações inteligentes de maneira comparável – e às vezes até superior – à do ser humano. Em alguns casos, podem fazê-lo até mesmo concebendo soluções não previamente inseridas no sistema. No entanto, não só podem fazer isso apenas em domínios limitados e circunscritos, mas, sobretudo, não se atribuem autonomamente os objetivos a serem alcançados. Uma verdadeira Inteligência Artificial “forte” deveria, ao contrário, ser capaz de fazer isso. Não por acaso, muitos filmes sobre o assunto abordam, de uma forma ou de outra, o tema da máquina que se rebela, que quer autodeterminar-se, ou que deseja “tornar-se humana”, ou que pretende proteger a humanidade em vez de subjugá-la e conquistar a Terra. Não me parece que nenhum dos desenvolvimentos atualmente em andamento ou realisticamente previsíveis possa realmente levar a tal resultado.

* Observador Permanente da Santa Sé junto à UNESCO de 2002 a 2021. A “Recomendação sobre a ética da Inteligência Artificial” foi adotada pela Assembleia Geral da UNESCO em 23 de novembro de 2021.