“Escancarando a alma adormecida”: este é o título, uma frase de Gregório Magno, da edição 2024 do New York Encounter. O Pavilhão Metropolitano, o centro de convenções de Chelsea, a poucos passos do icônico Flatiron Building, voltará a se animar de 16 a 18 de fevereiro para uma nova edição do evento organizado pela comunidade de CL dos Estados Unidos.
«O que está acontecendo com nossa humanidade?», questionam os organizadores no texto de apresentação do tema: «Não faltam razões para refletir sobre esta questão. Imagens diárias de violência gratuita, uma epidemia de suicídios, o sentimento de ser sufocado pela imposição de ideologias opostas e sua linguagem (a começar pela escola), a potencial ameaça da inteligência artificial generativa, o sentimento de paralisia diante do futuro, o sofrimento e o mal sem significado ou redenção, o cansaço geral, o mal-estar, o entorpecimento e a falta de desejo… Esses sinais sugerem que nossa humanidade está adormecida. O que pode despertá-la?» Debates, exposições e espetáculos tentarão dar vida a questões que parecem ser, nos Estados Unidos certamente, mas em todas as latitudes, cada vez mais urgentes. Um programa rico que você encontra aqui. Entre os temas que nos últimos meses têm gerado mais discussão – que também é o tema da edição de fevereiro da Tracce – está o da inteligência artificial. O Encounter dedicou a ela uma exposição intitulada “AI and I: Wonder, Create, Work” (“Inteligência Artificial e o eu: maravilhar-se, criar, trabalhar”). Conversamos sobre isso com o curador Davide Bolchini, reitor da Escola Luddy de Informática, Computação e Engenharia da Universidade de Indiana em Indianápolis.

Como surgiu a exposição?
No final da última edição do New York Encounter, eu estava conversando com alguns colegas que trabalham em universidades, como eu: o ChatGPT já era utilizado por colegas e alunos, e o fenômeno levantava muitas questões. Pensamos que o Encounter era um lugar privilegiado para falar sobre esse tema, indo realmente a fundo na nossa relação com essas novas ferramentas tecnológicas. Discutindo com os organizadores do Encounter e outros amigos do setor com quem trabalhei na exposição, surgiu a grande questão em torno da qual tentamos desenvolver o percurso da exposição.

Qual questão?
Como disse Melvin Krantzberg, um historiador da tecnologia, a tecnologia não é boa nem má, mas também não é neutra. Por sua natureza, ela abre, ilumina novos horizontes, mas necessariamente faz outros desaparecerem ou os põe em xeque, muitas vezes de forma poderosa. Quando você tem ferramentas que parecem replicar o produto da atividade humana, ou pelo menos sabem fazer o que eu chamo de uma primeira versão de qualquer coisa, e são destinadas a fazer isso cada vez melhor, há algo irredutível na contribuição humana? Há algo que a máquina não pode replicar? Se o produto da atividade criativa é replicável, o que o ser humano traz?

A exposição é intitulada “a IA e o eu”.
Sim, porque ao aprofundar a questão sobre qual é a contribuição insubstituível do ser humano, chega-se a questionar o que é o eu.

Como vocês decidiram proceder?
A primeira constatação é que se fala muito de Inteligência Artificial generativa, mas poucos têm uma experiência direta com ela. Assim, o primeiro passo do nosso percurso é fazer com que as pessoas experimentem algumas ferramentas disponíveis hoje, experimentando exemplos de seu uso de acordo com as necessidades que têm, seja como professor, cientista, profissional… Depois, tentamos explicar os modelos que fazem essas aplicações funcionarem, que são essencialmente de natureza estatística.

Em que sentido?
Significa que o texto gerado como resposta é formado com base no cálculo das probabilidades de como as palavras se combinam em textos de sentido completo já existentes. O ChatGPT não sabe o que está respondendo, mas sabe que o texto que fornece tem uma alta probabilidade de fazer sentido em relação à pergunta que foi feita. E os resultados são realmente surpreendentes.

Mas já se sabe que o ChatGPT não é confiável.
Mas é interessante entender por que não é. São sistemas quase imbatíveis em gerar conteúdo sobre qualquer assunto, em dar ideias sobre tudo e até em resolver problemas em poucos segundos, mas é claro que não têm nenhum entendimento das informações que nos fornecem. Tanto é que, em alguns casos, deparamos com “alucinações”: respostas falsas, mas tão plausíveis que poderiam ser verdadeiras.

Por exemplo?
Aconteceu de o ChatGPT fornecer referências de artigos de jornalistas de grandes veículos, mas que nunca foram escritos. Ou, pelo menos as primeiras versões, não sabiam fazer raciocínios que para nós parecem simples. Se, por exemplo, você diz: «Se uma camiseta molhada leva uma hora para secar, quanto tempo três levam para secar?» O sistema responde que leva três horas. Ou: «Meu gato estava vivo às 10. Ficou doente às 16. O gato estava vivo às duas da tarde?» O algoritmo responde: «Não». O sistema estatístico não fornece à máquina o senso comum ou, de qualquer forma, o senso da realidade. Isso porque a inteligência, para citar São Tomás de Aquino, tem muito a ver com a verdade, que é adaequatio rei et intellectus, ou seja, a correspondência entre a mente, ou a linguagem, e a realidade.

Portanto, a máquina é burra.
Mas esses, afinal, são limites que poderiam até ser superados em versões mais sofisticadas dessas ferramentas. Existem questões ainda mais profundas. Na exposição, damos o exemplo de Vauhini Vara, que é uma das primeiras escritoras profissionais a experimentar a IA generativa no processo de criação de um romance. Num artigo para a Wired, ela explicou que há muito tempo queria escrever um livro sobre o que experimentou com a morte de sua irmã, mas não conseguia. Ela conseguiu com a ajuda da IA, e muitas pessoas se identificaram com a descrição da experiência do luto. No entanto, Vara acrescenta: «Mas eu sei que o que está escrito no livro não corresponde ao que vivi». E continua: «Escrever é comunicar uma possível expressão de uma consciência particular, uma certa experiência do mundo, que é única». Portanto, o que eu crio não depende apenas do refinamento das palavras do texto, mas é a tentativa de «esclarecer o que é o mundo do ponto de onde eu o observo». E isso não tem nada a ver com o método estatístico usado pela IA para gerar textos. Falta uma “coerência” que deriva de uma relação íntima, irrepetível com a realidade.

É essa relação com a realidade que nos distingue das máquinas?
O grande linguista Noam Chomsky escreveu um belo artigo no início do ano passado, no qual dizia, em resumo, que todo ato criativo do homem, por definição, contém um elemento de moralidade. Ou seja, a criatividade implica o desejo de contribuir para o mundo. É a tentativa – como Steve Jobs dizia, to make a dent in the universe – de arranhar o mistério.

E o mistério não pode ser inserido num banco de dados…
Como explicamos na exposição, há um belo diálogo de Platão em que Sócrates e Fedro discutem a relação entre a vida e a expressão “técnica” ou artística, que também pode ser a escrita ou a pintura. Diz-se, em certo ponto do texto, que as obras das mãos do homem parecem ter elementos de vida e parecem falar com você. Mas se você tenta interrogar esses artefatos, eles não respondem. Sócrates diz: a produção artística é apenas uma imagem muda de uma alma em trabalho. Então, o tema é, voltando aos dias de hoje e à relação com os produtos da tecnologia contemporânea, o que decidimos delegar a essas imagens.#OutrosMeetings