#03 — A IA pensa antes de responder ou inventa palavra por palavra?

Por dentro da conversa com a IA · Capítulo 3 de 6

Peça a alguém um verso que termine rimando com “coração”. A pessoa talvez escolha “canção” antes de escrever o começo. Então procura um caminho até o final. Agora imagine observar apenas a caneta no papel: uma palavra depois da outra. Você conseguiria saber, por esse movimento, se houve um plano? Provavelmente não.

Modelos de linguagem geram a resposta em partes sucessivas, chamadas tokens — pedaços de palavra, palavras ou sinais, conforme o sistema. Essa descrição fala da saída: o texto aparece em sequência. Ela não resolve sozinha o que foi representado internamente antes de cada parte. “Sai um pedaço por vez” não significa “não existe nenhum estado interno que ajude a organizar o que vem depois”.

Olhar a resposta não basta

Se um assistente disser “Primeiro pensei em uma rima, depois escrevi o verso”, isso pode ser uma explicação convincente. Mas o relato do próprio modelo não é uma janela transparente para todos os cálculos que produziram a frase. Pesquisas sobre a fidelidade do raciocínio expresso investigam justamente se os passos apresentados correspondem às causas reais da resposta. A equipe da Anthropic encontrou situações em que não correspondem de forma completa. Anthropic, 2025

Por isso alguns pesquisadores tentam observar atividades dentro do modelo. Não encontram frases secretas perfeitamente legíveis. Encontram padrões de ativação numérica. O desafio é relacionar esses padrões com comportamentos específicos e verificar se mudar um padrão altera a resposta.

O exemplo da rima

Em um estudo de interpretabilidade, pesquisadores da Anthropic examinaram a produção de versos por Claude. Encontraram evidências de um candidato à palavra final ativado antes da escrita de parte da linha. Quando intervieram no circuito associado a esse candidato, a rima final mudou. Isso sugere planejamento naquele comportamento examinado. Não significa que toda resposta seja planejada da mesma forma nem que “planejar” aqui tenha todas as características do planejamento humano. Anthropic, Tracing the thoughts of a large language model, 2025

O verbo intervir importa. Apenas encontrar um sinal correlacionado com “canção” seria parecido com notar que pessoas carregam guarda-chuva quando chove: uma coisa acompanha a outra, mas não sabemos qual papel ela exerce. Alterar cuidadosamente a atividade interna e observar uma mudança previsível na saída dá uma pista mais forte de participação causal. Mesmo assim, o método cobre partes do processo, não uma reconstrução completa da resposta.

Conceitos entre idiomas

No mesmo programa de pesquisa, foram observados padrões compartilhados em perguntas equivalentes feitas em idiomas diferentes. Uma forma simples de entender a hipótese: antes de escolher uma palavra em português ou em inglês, o modelo pode usar alguma representação que não seja apenas a palavra impressa numa das línguas. A pesquisa oferece evidências de mecanismos compartilhados nos casos estudados; não demonstra uma “língua universal” completa escondida na máquina. Anthropic, 2025

Também não devemos trocar o problema de lugar. Se um circuito participa da escolha de uma rima, ainda precisamos perguntar: o que ele representa exatamente, em quais contextos opera e onde a interpretação dos pesquisadores pode falhar? Interpretabilidade é o nome da área que tenta ligar mecanismos internos a comportamentos observáveis. Seus mapas atuais são parciais.

Uma pista útil não é um filme completo

Imagine um médico que identifica uma região cerebral envolvida numa tarefa. Isso ajuda a estudar a tarefa, mas não significa que cada lembrança, intenção e sensação da pessoa tenha sido lida. Com redes neurais, a cautela é semelhante, embora os métodos e os objetos de estudo sejam diferentes. Pesquisadores podem identificar um conjunto de ativações relacionado a um conceito e depois testá-lo com intervenções. Ainda pode haver mecanismos que o método não captou, ou contextos em que a relação observada não se mantém.

O estudo da Anthropic também analisou casos de respostas em que o modelo parecia apresentar um raciocínio coerente enquanto mecanismos internos contavam uma história mais complicada. É um aviso contra tratar toda explicação em primeira pessoa como um diário fiel. “Eu primeiro pensei nisso” pode ser uma frase gerada para explicar a resposta, sem corresponder exatamente à sequência causal dos cálculos. A maneira responsável de falar desses resultados é indicar o caso investigado, a técnica usada e o limite da inferência.

Há uma distinção que vale guardar: planejar uma palavra futura é uma capacidade funcional observada num experimento; ter intenção consciente é uma tese muito mais forte. O mesmo verbo cotidiano, “planejar”, pode servir aos dois sentidos. Defini-lo evita que a pesquisa pareça provar mais do que mediu.

O que isso muda na prática?

Muda a resposta a uma simplificação frequente: “A IA só sorteia a próxima palavra, sem nenhuma estrutura.” A geração é sequencial, mas estudos mostram atividades internas organizadas que podem contribuir para decisões futuras em alguns casos. Também corrige o exagero oposto: um mapa parcial de circuitos não autoriza dizer que conhecemos cada passo de uma resposta nem que o sistema pensa como nós.

Experimente manter as duas ideias ao mesmo tempo: o texto sai por partes; dentro do modelo, relações entre partes podem ser preparadas. No próximo artigo, iremos um passo além. Ter representações internas já é o mesmo que entender o significado daquilo que se diz?

Leituras e fontes: Anthropic, estudo de circuitos (2025); Anthropic, limites do raciocínio relatado (2025); Anthropic, mapeamento de conceitos (2024).

Continue a leitura: ← Capítulo #02 · Capítulo #04 →