#04 — A IA entende o significado das palavras?

Por dentro da conversa com a IA · Capítulo 4 de 6

Uma criança ouve “chuva”, olha pela janela e vê a água cair. Mais tarde, aprende que a chuva molha o chão, atrasa o jogo e pode trazer alívio depois de dias de calor. A palavra se liga a imagens, ações, consequências e experiências.

Um modelo treinado com texto encontra “chuva” perto de “nuvem”, “guarda-chuva” e “previsão do tempo”. Se conversar bem sobre o assunto, isso basta para dizer que sabe o que a palavra significa? A resposta depende do que exigimos da palavra entender.

Forma e significado

Emily Bender e Alexander Koller propuseram uma distinção importante: a forma é o que aparece na mensagem — sons, palavras, sua ordem. O significado envolve aquilo a que a mensagem se refere e o uso que fazemos dela no mundo. Eles argumentaram que aprender somente relações entre formas linguísticas não garante, por si só, aprender significado no mesmo sentido em que pessoas o aprendem. Essa é uma tese em debate, não uma medição que encerrou a questão para todos os modelos. Bender e Koller, 2020

Pense na palavra “quente”. Uma pessoa pode ler uma definição, segurar uma caneca de chá e recuar da borda de uma panela. Essas relações entre linguagem, percepção e ação são frequentemente chamadas de aterramento: a ligação de símbolos com algo além dos próprios símbolos. O desafio é perguntar quais ligações um sistema de IA possui e se são suficientes para diferentes tipos de tarefa.

Nem todo sistema atual recebe apenas texto. Alguns também processam imagens, áudio ou vídeo e podem usar ferramentas. Isso amplia os tipos de relação que conseguem aprender. Não transforma automaticamente essas entradas em corpo, vida social ou sensação subjetiva. “Tem acesso a imagens” e “experimenta ver” são afirmações diferentes.

Uma sala cheia de instruções

Em 1980, o filósofo John Searle apresentou o experimento do Quarto Chinês. Imagine alguém que não entende chinês dentro de uma sala. Essa pessoa recebe símbolos escritos e segue instruções tão detalhadas que consegue devolver respostas convincentes. Quem está fora talvez conclua que há compreensão do idioma. Searle pergunta: seguir regras para produzir as respostas basta para entender?

O experimento é poderoso porque separa o resultado visto de fora da experiência atribuída a quem está dentro. Mas há uma objeção clássica: talvez a pessoa isolada não entenda e o conjunto formado por pessoa, instruções e sala entenda de algum modo. Searle rejeitou respostas desse tipo; outros filósofos discordaram dele. A Enciclopédia de Filosofia de Stanford apresenta o argumento e suas respostas. Ele não é uma experiência de laboratório realizada com um modelo moderno.

E os “papagaios estocásticos”?

Emily Bender, Timnit Gebru, Angelina McMillan-Major e Shmargaret Shmitchell usaram a expressão papagaios estocásticos para chamar atenção aos riscos de sistemas que geram texto convincente a partir de padrões aprendidos. “Estocástico” indica que probabilidades participam do processo. O estudo discute também dados de treinamento, custos e danos sociais; reduzi-lo à frase “a IA só repete palavras” empobrece o argumento. Bender e colaboradores, 2021

Há, por outro lado, evidências de representações internas úteis em certas tarefas. Isso desafia a ideia de que todo acerto é simples cópia. Não elimina a pergunta filosófica sobre o que constitui significado, nem prova que toda palavra produzida está bem ligada à realidade.

Quando o contexto fornece uma ponte para o mundo

Considere duas perguntas: “O que é um limão?” e “Este limão da foto parece maduro?”. A primeira pode ser respondida com informações aprendidas em textos. A segunda exige relacionar uma imagem concreta com a pergunta, caso o sistema tenha capacidade visual e a foto esteja disponível. Acrescente “o limão está bom para comer?” e a situação muda de novo: a aparência talvez não revele o interior ou as condições de armazenamento. Mesmo uma pessoa que vê a foto pode precisar dizer “não sei”.

Esse exemplo mostra por que “entender” não é uma medalha única que se ganha de uma vez. Para responder a uma definição, uma rede de relações linguísticas pode ser suficiente. Para decidir sobre uma fruta concreta, visão e contexto podem ajudar, mas não garantem a resposta. Para experimentar o azedo, estamos falando de outro tipo de relação. O requisito depende da pergunta que queremos responder.

Também explica por que o argumento de Searle segue vivo: a pessoa no quarto produz uma resposta correta, e ainda queremos saber quem, se alguém, compreende. A crítica dos “sistemas” propõe olhar para o conjunto inteiro. Podemos discordar da conclusão sem descartar a pergunta. Em vez de usar o experimento como martelo para encerrar a conversa, vale deixá-lo funcionar como ferramenta para separar desempenho, representação e experiência.

Uma pergunta melhor que “sim ou não”

Quando alguém disser “a IA entende”, pergunte: entende o quê, para qual tarefa e segundo qual critério? Pode explicar uma regra? Aplicá-la a um caso novo? Reconhecer quando faltam dados? Relacionar a palavra com percepção e ação? Ter a sensação de compreender? As respostas podem variar.

No próximo artigo, examinaremos um teste incômodo. Se o modelo aprendeu uma relação, por que às vezes falha quando apenas a invertemos? Essa falha ajuda a medir os limites do que chamamos de entendimento.

Leituras e fontes: Bender e Koller (2020); Bender, Gebru, McMillan-Major e Shmitchell (2021); Cole, The Chinese Room Argument, Stanford Encyclopedia of Philosophy.

Continue a leitura: ← Capítulo #03 · Capítulo #05 →