Árvore de Pensamentos (ToT, na sigla em inglês) é uma estrutura de prompting e raciocínio projetada para melhorar as capacidades de resolução de problemas de grandes modelos de linguagem (LLMs). Ela estende o conceito de prompting de cadeia de pensamento ao permitir que um modelo explore múltiplos caminhos de raciocínio distintos simultaneamente. Em vez de gerar uma sequência única e linear de pensamentos, o ToT mantém uma árvore de pensamentos, avalia sistematicamente esses ramos e usa algoritmos de busca para navegar em direção a uma solução coerente. Essa abordagem é particularmente eficaz para tarefas complexas que exigem planejamento, exploração e visão estratégica, onde uma única linha de pensamento pode, prematuramente, fixar-se em uma estratégia subótima.
Princípios Centrais
A estrutura opera sob o princípio de que, para muitos problemas desafiadores, o raciocínio não é um caminho simples, mas uma paisagem complexa de passos possíveis. O ToT estrutura isso como um problema de busca em uma árvore, onde cada nó representa um pensamento intermediário ou uma solução parcial. Os componentes-chave envolvem gerar pensamentos candidatos a partir de um determinado estado, avaliar sua promessa e buscar através do espaço dessas ideias incompletas. Ao contrário de amostrar múltiplas conclusões independentes e depois agregá-las, o ToT intercala essa geração com avaliação e busca explícitas, informando o próximo passo com uma avaliação do que foi produzido até então.
A metodologia é influenciada, em parte, por técnicas clássicas de resolução de problemas e planejamento. Ela reformula o processo de geração de um LLM como um problema de busca, semelhante a resolver um quebra-cabeça, usando heurísticas para guiar a exploração, um descendente conceitual direto de ideias como Busca em Profundidade ou Busca em Largura, popularizadas em eras anteriores da inteligência artificial.
Método e Componentes
Um processo típico do ToT envolve vários estágios concretos. Primeiro, há a definição de um estado, que é uma solução parcial ou um contexto composto por passos de pensamento anteriores. O sistema então deve definir um gerador de pensamentos, que usa o modelo para criar um ou mais passos candidatos. Para muitas tarefas, uma única proposta (por exemplo, gerar a próxima linha de um poema) é suficiente, enquanto para outras, um prompt de "proposta" gera vários passos potenciais distintos.
Em seguida, vem o avaliador de estados. Cada pensamento candidato gerado é pontuado. A avaliação pode ser feita pela mesma heurística (por exemplo, uma regra específica) ou por amostragem: o próprio LLM avalia, de forma independente, a probabilidade de que esse passo leve ao sucesso. Essa avaliação produz um valor qualitativo.
O passo final é o algoritmo de busca. Os algoritmos mais comuns são a Busca em Largura (BFS, na sigla em inglês), onde os b estados mais promissores são mantidos em cada nível, e a Busca em Profundidade (DFS, na sigla em inglês), que explora um ramo até sua conclusão antes de retroceder. Essa busca explícita e a capacidade de visão antecipada permitem que o modelo se recupere de becos sem saída, uma habilidade crucial para tarefas como escrita criativa, onde várias opções em aberto existem.
A implementação usa uma arquitetura de transformador padrão. Ela capitaliza os mecanismos de atenção que permitem ao LLM analisar e comparar suas próprias alternativas geradas dentro da janela de contexto.
Aplicações e Desempenho
A estrutura tem mostrado melhorias significativas em tarefas que envolvem exploração, como o jogo dos 24, e em tarefas avaliadas por humanos, como a escrita criativa de histórias. Em matemática e quebra-cabeças lógicos, foi demonstrado que o ToT aumenta consideravelmente a taxa de resolução de modelos típicos de grandes modelos de linguagem em comparação com o prompting direto. A combinação de busca e exploração limitada supera outros métodos de inferência (como a votação por maioria) que, tipicamente, operam na média das amostras. A busca em estrutura de árvore combina com sucesso a amplitude da amostragem paralela com a profundidade da cadeia de pensamento.
Conexão com a Pesquisa em IA
A Árvore de Pensamentos faz parte de uma tendência de pesquisa mais ampla para construir agentes autônomos mais deliberativos e capazes de planejar. Em vez de apenas geração token por token, ela enquadra o raciocínio como planejamento. Esses loops de controle e busca de alto nível são tipicamente parte da metodologia de aprendizado-de-máquina, embora aproveite redes de aprendizado-profundo. Os pesquisadores esperam que melhorias nos modelos de fundação se interliguem com esse controle estruturado, e já estenderam a ideia para loops de agentes mais amplos, onde um modelo pode usar ferramentas externas ou memória.
A pesquisa se baseia fortemente nos primeiros avanços em técnicas de prompting para LLMs, que primeiro mostraram que, com a abordagem certa, é possível eliciar capacidades de raciocínio sem treinamento explícito. Como tal, sua linhagem deriva de trabalhos na Google DeepMind e na OpenAI sobre o estudo do prompting e do raciocínio emergente.
Avaliação e Limitações
Embora o ToT demonstre capacidade, ele tem um custo em termos de maior uso de tokens e latência. O sistema para decidir os pensamentos é específico de cada tarefa e não é inferido automaticamente, exigindo uma engenharia cuidadosa dos passos e do plano. As melhorias são menos consistentes em tarefas simples, onde essa complexidade não é necessária. O grau de seu benefício está sujeito a avaliação contínua, mas confirma a importância de adicionar uma busca computacional à saída.
As avaliações de estado interno são específicas da tarefa, mas podem ser moldadas pela pontuação probabilística dos próprios modelos. O uso do modelo dessa forma permite gerar um módulo de raciocínio mais robusto.