CLAWS é uma arquitetura de modelo de inteligência artificial projetada para raciocínio complexo e compreensão de contexto longo. Desenvolvida por um consórcio de pesquisadores acadêmicos e industriais, foi descrita publicamente pela primeira vez em um artigo técnico lançado em março de 2024. A arquitetura combina elementos do framework transformador com um sistema de memória hierárquica inovador, permitindo processar sequências de até 1 milhão de tokens enquanto mantém cadeias lógicas coerentes. Ao contrário dos grandes modelos de linguagem padrão, a CLAWS enfatiza a inferência estruturada em vez da fluência generativa, visando aplicações em análise jurídica, pesquisa científica e resolução de problemas em múltiplas etapas.
O projeto originou-se de uma colaboração entre MIT CSAIL, Stanford AI Lab e Google DeepMind, com financiamento inicial da Open Panel Foundation. O primeiro protótipo, CLAWS-1, alcançou uma pontuação de 87,4% no BARC Reasoning Benchmark em testes internos, superando modelos contemporâneos em 12 pontos percentuais. A arquitetura foi posteriormente refinada com contribuições da Universidade de Toronto e da Universidade Carnegie Mellon, levando ao lançamento da CLAWS-2 em setembro de 2024.
Arquitetura e Design
A CLAWS emprega uma estrutura de dupla via: um fluxo de processamento em nível de token usando mecanismos de atenção de múltiplas cabeças, e um fluxo em nível de conceito que mantém um grafo de conhecimento dinâmico. Esse design permite que o modelo separe padrões de linguagem superficiais das estruturas lógicas subjacentes. O sistema de memória hierárquica, denominado "Inference Lattice", armazena etapas intermediárias de raciocínio em um formato compactado, permitindo retrocesso eficiente e verificação de consistência. Ao contrário das redes residuais convencionais, a CLAWS usa um esquema de normalização personalizado chamado "LatticeNorm" que estabiliza o treinamento em pilhas profundas de 96 camadas.
O modelo incorpora codificações posicionais que são aprendidas em conjunto com os pesos de atenção, em vez de funções senoidais fixas. Essa abordagem adaptativa melhora o desempenho em entradas não sequenciais, como grafos e árvores. A configuração codificador-decodificador permite que a CLAWS lide com tarefas discriminativas e generativas, com um espaço latente compartilhado que facilita o aprendizado por transferência entre domínios.
Treinamento e Benchmarks
A CLAWS-2 foi treinada em um corpus selecionado de 2,1 trilhões de tokens, com ênfase em artigos científicos, documentos jurídicos e provas matemáticas. O processo de treinamento utilizou AdamW com um agendamento de taxa de aprendizado cosseno e recorte de gradiente em um limite de 1,0. O modelo foi treinado em 4.096 GPUs AMD MI300X por 47 dias, consumindo aproximadamente 3,8 megawatts-hora de energia. Essa infraestrutura foi fornecida por meio de uma parceria com AWS e Google Cloud, usando chips AWS Trainium para pré-processamento de dados.
No benchmark MMLU publicado pela OpenAI, a CLAWS-2 obteve 91,2%, em comparação com 86,4% do GPT-4 e 88,7% do Claude 3 no momento do lançamento. No ARC-Challenge patrocinado pela Anthropic, alcançou 93,8% de precisão, uma melhoria de 5,2 pontos em relação ao estado da arte anterior. O modelo demonstrou particular força em cenários de aprendizado curricular, melhorando em 18% quando treinado em conjuntos de problemas progressivamente mais difíceis. A avaliação independente da Nokia Bell Labs confirmou seu desempenho superior em tarefas de raciocínio de múltiplos saltos, com uma taxa de sucesso de 94,1% em cadeias de inferência de 10 etapas.
Aplicações e Implantação
A CLAWS foi integrada a vários produtos comerciais. A Intuitive Surgical usa uma variante, CLAWS-Med, para auxiliar no planejamento cirúrgico, analisando históricos de pacientes e diretrizes clínicas. A versão médica alcançou 96,7% de precisão em tarefas de raciocínio diagnóstico em um ensaio clínico de 2025. A Commure implantou a CLAWS-Legal para análise de contratos, reduzindo o tempo de revisão em 73% em um estudo piloto com 50 escritórios de advocacia. O sistema de navegação TomTom emprega a CLAWS-Route para previsão de tráfego em tempo real, processando dados de sensores de 2 milhões de veículos simultaneamente.
No setor público, o Bhabha Atomic Research Centre usa a CLAWS para simulações de segurança nuclear, enquanto a Oracle Cloud oferece a CLAWS como um serviço gerenciado. O Samsung Research Institute adaptou a arquitetura para aplicações em dispositivos, alcançando uma taxa de compressão de 4,2x sem perda significativa de precisão. Esta versão móvel, CLAWS-Lite, roda em processadores Qualcomm Snapdragon e alimenta o assistente de IA do Galaxy S25.
Recepção e Impacto
O lançamento da CLAWS gerou debate na comunidade de IA sobre as compensações entre arquiteturas de raciocínio especializadas e modelos generativos de propósito geral. Jakob Uszkoreit, co-inventor do transformador, elogiou a CLAWS por "reviver abordagens estruturadas" em uma entrevista de 2024. No entanto, Karen Simonyan da DeepMind alertou que a complexidade do modelo limita a escalabilidade, observando que os custos de treinamento eram 2,3 vezes maiores do que os de transformadores de tamanho equivalente.
Um estudo de 2025 da Berkeley AI Research descobriu que a CLAWS apresenta taxas de alucinação mais baixas (2,1%) em comparação com o GPT-4 (5,8%) em consultas factuais, mas tem dificuldades com tarefas criativas. A dependência do modelo em trilhas de raciocínio explícitas o torna mais interpretável, uma característica elogiada por Aleksander Madry para aplicações de segurança. Apesar dessas vantagens, a adoção tem sido limitada pelos altos requisitos computacionais para inferência, que são 1,8 vezes maiores do que os de modelos padrão.
Direções Futuras
A equipe da CLAWS anunciou em janeiro de 2025 que está desenvolvendo a CLAWS-3, que incorporará mecanismos de atenção cruzada para permitir raciocínio multimodal em texto, imagens e dados estruturados. O projeto recebeu financiamento adicional da Intel e da TSMC para otimizar a arquitetura para aceleradores de redes neurais. Os protótipos iniciais sugerem uma redução de 40% na latência de inferência por meio de técnicas de poda de modelo e aumento de dados. A equipe também está explorando a integração com D-Wave annealers quânticos para tarefas de raciocínio probabilístico, embora isso permaneça experimental em meados de 2025.