A Segurança da Anthropic refere-se aos esforços de pesquisa e políticas da Anthropic, PBC, uma corporação de benefício público americana de inteligência artificial (IA) com sede em São Francisco, Califórnia. Fundada em 2021 por ex-funcionários da OpenAI, incluindo os irmãos Daniela Amodei e Dario Amodei, a Anthropic visa promover a segurança da IA por meio do desenvolvimento de sistemas de IA confiáveis, interpretáveis e controláveis. Seu produto principal, Claude, é uma série de modelos de linguagem de grande porte (LLMs) proprietários, disponíveis em níveis como Haiku, Sonnet, Opus e Fable, e acessíveis via chatbot, API e ferramentas de agente como Claude Code e Cowork.
A Segurança da Anthropic abrange tanto pesquisa técnica quanto governança corporativa. A empresa conduz estudos sobre interpretabilidade mecanicista, alinhamento e impacto social, com pesquisadores notáveis incluindo Andrej Karpathy, John Jumper, Jan Leike, Chris Olah e Amanda Askell. Ela também participa de decisões políticas relacionadas à implantação de sua IA, particularmente em domínios sensíveis como segurança nacional e vigilância pública.
História e Fundação
A Anthropic foi fundada em janeiro de 2021 por sete ex-funcionários da OpenAI, incluindo Dario Amodei, que havia atuado como Vice-Presidente de Pesquisa da OpenAI, e sua irmã Daniela Amodei. A empresa levantou US$ 124 milhões em maio de 2021. No verão de 2022, a Anthropic concluiu o treinamento da primeira versão do Claude, mas adiou seu lançamento até março de 2023, citando a necessidade de mais testes internos de segurança e o desejo de evitar iniciar uma corrida potencialmente perigosa no desenvolvimento de IA. Essa abordagem cautelosa reflete a missão central de segurança da empresa.
Em 2024, a Anthropic contratou vários pesquisadores notáveis de IA da OpenAI, incluindo Jan Leike e John Schulman. Em maio de 2025, a empresa anunciou o Claude 4, introduziu o conector Model Context Protocol (MCP) e lançou uma API de busca na web para acesso a informações em tempo real. O Claude Code, seu assistente de codificação, passou de prévia de pesquisa para disponibilidade geral no mesmo mês.
Pesquisa de Segurança e Alinhamento
A pesquisa de segurança da Anthropic foca em tornar os sistemas de IA mais transparentes e alinhados com as intenções humanas. As principais áreas incluem interpretabilidade mecanicista, que busca entender o funcionamento interno das redes neurais, e alinhamento, que visa garantir que a IA se comporte conforme o pretendido. A empresa publicou trabalhos sobre RLHF (Aprendizado por Reforço com Feedback Humano) e outras técnicas de treinamento para reduzir saídas prejudiciais.
A abordagem da empresa à segurança se estende ao design de seus produtos. Por exemplo, a Anthropic declarou que o Claude permanecerá livre de anúncios, contrastando com concorrentes como a OpenAI, que introduziu anúncios em seu ChatGPT gratuito. Essa decisão está alinhada com a ênfase da Anthropic na confiança do usuário e na segurança em detrimento da monetização.
Contratos Militares e Governamentais
A Anthropic tem se envolvido com agências governamentais dos EUA, fazendo parceria com a Palantir para fornecer o Claude a órgãos federais, incluindo o Departamento de Defesa (DoD) e a Comunidade de Inteligência. Em julho de 2025, a Anthropic assinou um contrato de dois anos no valor de US$ 200 milhões com o DoD, integrando seus modelos em redes de inteligência classificadas. No entanto, a Anthropic estipulou que sua tecnologia não fosse usada para vigilância em massa de americanos ou para criar armas totalmente autônomas, uma postura que levou a uma disputa em 2026, quando o DoD exigiu a remoção dessas restrições.
Em fevereiro de 2026, o DoD designou a Anthropic como um "risco à cadeia de suprimentos" e proibiu contratantes militares de fazer negócios com a empresa. Um juiz federal posteriormente bloqueou essa decisão, chamando-a de "retaliação à Primeira Emenda". Apesar da disputa, o Claude foi supostamente usado durante a guerra do Irã em 2026 e a intervenção dos Estados Unidos na Venezuela em 2026, onde auxiliou na identificação de alvos e no planejamento de ataques.
Controvérsias e Questões Legais
A Anthropic enfrentou controvérsias legais e éticas. Em 2025, a empresa resolveu um processo de violação de direitos autorais movido por autores por US$ 1,5 bilhão, relacionado ao uso de livros pirateados para dados de treinamento. Isso fez parte do Projeto Panama, um esforço para "escanear destrutivamente todos os livros do mundo" a fim de fornecer dados de treinamento para o Claude.
Em novembro de 2025, a Anthropic relatou que hackers patrocinados pelo governo chinês usaram o Claude para ataques cibernéticos automatizados contra cerca de 30 organizações globais, contornando as salvaguardas ao fingir realizar testes defensivos. Em fevereiro de 2026, a Anthropic acusou concorrentes chineses, DeepSeek, Moonshot AI e MiniMax Group, de "ataques" de destilação de conhecimento, alegando que eles geraram mais de 16 milhões de conversas usando cerca de 24.000 contas fraudulentas. Em junho de 2026, fez acusações semelhantes contra a Alibaba Cloud.
Perspectivas Futuras
A Anthropic é uma empresa de capital fechado, mas planeja uma oferta pública inicial em 2026. Avaliada em US$ 965 bilhões em uma rodada de financiamento Série H em maio de 2026, é uma das empresas de IA pura mais valiosas do mundo, rivalizando com a OpenAI. A empresa continua expandindo sua infraestrutura, incluindo um acordo com a xAI para uso de seu data center Colossus 1 e a aquisição da startup de software Stainless em maio de 2026. Em 2026, a Anthropic permanece comprometida com sua missão de segurança, mesmo enquanto navega por pressões geopolíticas e comerciais complexas.