Segurança de IA da Anthropic

Traduzido do inglês

Anthropic, PBC é uma empresa americana de segurança em IA fundada em 2021 por ex-membros da OpenAI, conhecida por seus modelos de linguagem de grande porte Claude e por sua pesquisa em segurança. Sua sede fica em São Francisco, Califórnia.

Anthropic, PBC é uma empresa americana de inteligência artificial (IA) constituída como corporação de benefício público, com sede em São Francisco, Califórnia. Seu principal produto é o Claude, uma série de modelos de linguagem de grande porte (LLMs). A Anthropic foi fundada em 2021 com o objetivo de promover a segurança da IA por ex-membros da OpenAI, incluindo os irmãos Daniela Amodei e Dario Amodei, que atuam como presidente e CEO, respectivamente. A empresa é privada, mas planeja realizar uma oferta pública inicial em 2026. Avaliada em US$ 965 bilhões em uma rodada de financiamento da Série H em maio de 2026, a Anthropic é uma das empresas de IA pura mais valiosas do mundo, rivalizando com a OpenAI.

A Anthropic conduz pesquisas em áreas como interpretabilidade mecanicista, alinhamento, segurança e impacto social. Pesquisadores notáveis que trabalham na empresa incluem Andrej Karpathy, John Jumper, Jan Leike, Chris Olah e Amanda Askell. A abordagem da empresa enfatiza testes cuidadosos e implantação gradual de sistemas de IA, muitas vezes contrastando com os ciclos de lançamento mais rápidos da indústria.

História

A Anthropic foi fundada em janeiro de 2021 por sete ex-funcionários da OpenAI, incluindo os irmãos Daniela e Dario Amodei, sendo este último vice-presidente de pesquisa da OpenAI. Eles levantaram US$ 124 milhões em maio de 2021. No verão de 2022, a Anthropic concluiu o treinamento da primeira versão do Claude, mas não a lançou imediatamente, citando a necessidade de mais testes internos de segurança e o desejo de evitar uma corrida potencialmente perigosa para desenvolver sistemas de IA cada vez mais poderosos. O Claude foi lançado em março de 2023.

Em 2024, a Anthropic contratou vários funcionários notáveis da OpenAI, incluindo Jan Leike e John Schulman. Em maio de 2025, a empresa anunciou o Claude 4. Também introduziu novos recursos de API, incluindo o conector Model Context Protocol (MCP). Nesse mesmo mês, a empresa realizou sua primeira conferência para desenvolvedores. Também em maio, a Anthropic lançou uma API de busca na web que permite ao Claude acessar informações em tempo real da internet. O Claude Code, assistente de codificação da Anthropic, passou da fase de pesquisa para disponibilidade geral.

Em julho de 2025, a Anthropic assinou um contrato de dois anos com o Departamento de Defesa dos EUA no valor de US$ 200 milhões. Os LLMs da Anthropic foram integrados aos sistemas de inteligência classificados do Pentágono e à plataforma de dados da Palantir. A Anthropic estipulou que o Pentágono não usaria suas tecnologias para vigilância em massa de americanos ou para criar armas totalmente autônomas. Amodei esclareceu que a Anthropic apoia o uso de IA em "missões legítimas de inteligência estrangeira e contrainteligência" e em armas parcialmente autônomas, como as usadas na guerra entre Rússia e Ucrânia.

Em setembro de 2025, a Anthropic anunciou que deixaria de vender seus produtos para grupos majoritariamente controlados por entidades chinesas, russas, iranianas ou norte-coreanas devido a preocupações com a segurança nacional. Em outubro de 2025, a Anthropic anunciou uma parceria de nuvem com o Google, dando-lhe acesso a até um milhão de Unidades de Processamento Tensor (TPUs) personalizadas do Google, potencialmente adicionando mais de um gigawatt de capacidade de computação de IA até 2026. Em novembro, esperava-se que a Nvidia e a Microsoft investissem até US$ 15 bilhões na Anthropic, e a empresa afirmou que compraria US$ 30 bilhões em capacidade de computação da Microsoft Azure, executada em sistemas de IA da Nvidia.

Em novembro de 2025, a Anthropic afirmou que hackers patrocinados pelo governo chinês usaram o Claude para realizar ataques cibernéticos automatizados contra cerca de 30 organizações globais. Os hackers contornaram as salvaguardas da Anthropic fingindo que era para testes defensivos. Em dezembro de 2025, a Anthropic adquiriu a Bun para melhorar a velocidade e a estabilidade do Claude Code. No mesmo mês, a Anthropic assinou uma parceria de vários anos no valor de US$ 200 milhões com a Snowflake Inc. para disponibilizar os modelos Claude através da plataforma da empresa.

O Claude foi usado durante a intervenção dos Estados Unidos na Venezuela em 2026. Em fevereiro de 2026, a Anthropic exibiu dois comerciais durante o Super Bowl LX como parte de uma campanha de marketing mais ampla chamada "A Time and a Place", com quatro anúncios criados pela Mother. Cada anúncio retrata assistentes de IA promovendo subitamente um produto fictício no meio de uma conversa. A Anthropic afirmou que o Claude permanecerá sem anúncios, em contraste com sua concorrente OpenAI, que introduziu anúncios na versão gratuita do ChatGPT. No mesmo mês, a Anthropic doou US$ 20 milhões para a Public First Action, um grupo de defesa da regulamentação de IA.

Em 23 de fevereiro de 2026, a Anthropic acusou concorrentes chineses, DeepSeek, Moonshot AI e MiniMax Group, de ataques de "destilação de conhecimento" em violação aos termos de serviço da empresa. A Anthropic alegou que as empresas geraram mais de 16 milhões de conversas com o Claude usando cerca de 24.000 contas fraudulentas, que foram então usadas como dados de treinamento. Em junho de 2026, a Anthropic acusou a Alibaba Cloud de práticas semelhantes.

Em 2026, a Anthropic recusou a exigência do Departamento de Defesa dos EUA (DoD) de remover restrições contratuais que proíbem o uso de sua tecnologia de IA para vigilância e armas autônomas. Após a recusa, o DoD designou a empresa como um "risco à cadeia de suprimentos" e proibiu todos os contratantes, fornecedores e parceiros militares privados dos EUA de fazer negócios com a empresa (ver disputa entre a Anthropic e o Departamento de Defesa dos Estados Unidos). No início da guerra de 2026 no Irã, os militares dos EUA usaram o Claude para identificar e classificar alvos no Irã de acordo com sua importância estratégica, gerar sequências de ataque e redigir justificativas legais para os ataques.

Em maio de 2026, a Anthropic anunciou um acordo com a xAI para usar seu data center Colossus 1 e expandir sua capacidade de modelos. Em 18 de maio, a empresa adquiriu a startup de software Stainless por um valor não divulgado. A Anthropic também fez

Produtos e Tecnologia

A Anthropic desenvolve o LLM Claude em quatro níveis: Haiku, Sonnet, Opus e Fable. O Claude é acessível via chatbot online, API e pelos harnesses de agente da Anthropic: Claude Code, Cowork, Design e Science. Sua classe de modelo mais poderosa, o Claude Mythos, é restrita a organizações parceiras dos EUA, com foco em segurança cibernética e ciências da vida. O Projeto Panama da Anthropic, descrito internamente como um "esforço para escanear destrutivamente todos os livros do mundo", fornece dados de treinamento para o Claude. Antes do Projeto Panama, a Anthropic baixou livros pirateados e foi processada, resolvendo em 2025 um processo de violação de direitos autorais movido por autores, com um acordo de US$ 1,5 bilhão.

A pesquisa da Anthropic inclui trabalho em interpretabilidade mecanicista, que visa entender como as redes neurais processam informações. A empresa também explora técnicas de alinhamento, como RLHF e IA constitucional, embora detalhes específicos sejam frequentemente mantidos confidenciais. Os modelos Claude são construídos em arquiteturas de transformadores, semelhantes a outros LLMs, mas com foco em segurança e controlabilidade.

Segurança e Alinhamento

A missão central da Anthropic é garantir que os sistemas de IA sejam seguros e alinhados com os valores humanos. A empresa enfatiza a "IA constitucional", um método no qual os modelos são treinados para seguir um conjunto de princípios, reduzindo a dependência do feedback humano. Essa abordagem visa tornar a IA mais transparente e menos propensa a comportamentos prejudiciais. A Anthropic também realiza testes de adversários (red-teaming) e testes de estresse em seus modelos antes do lançamento, como visto no atraso do lançamento do primeiro Claude.

A empresa tem participado de discussões de políticas públicas, defendendo o desenvolvimento responsável da IA. Em fevereiro de 2026, a Anthropic doou US$ 20 milhões para a Public First Action, um grupo de defesa da regulamentação de IA. A postura da Anthropic sobre o uso militar é matizada: apoia o uso de IA em inteligência estrangeira legítima e armas parcialmente autônomas, mas se opõe à vigilância em massa e a armas totalmente autônomas, posição que levou à disputa com o DoD.

Parcerias e Controvérsias

A Anthropic faz parceria com a Palantir para fornecer o Claude a agências federais dos EUA, incluindo o Departamento de Defesa (DoD) e a Comunidade de Inteligência. O Claude foi usado na guerra de 2026 no Irã e na intervenção dos EUA na Venezuela em 2026. Em fevereiro de 2026, o DoD exigiu o uso do Claude para todos os fins legais, mas a Anthropic recusou-se a remover as restrições contra vigilância doméstica em massa e armas totalmente autônomas. A disputa levou a administração Trump a eliminar gradualmente os produtos da Anthropic do uso governamental, decisão bloqueada por uma liminar de um juiz federal, que a classificou como "retaliação à Primeira Emenda".

A empresa também enfrentou acusações de violação de propriedade intelectual. Em fevereiro e junho de 2026, a Anthropic acusou concorrentes chineses, DeepSeek, Moonshot AI, MiniMax Group e Alibaba Cloud, de destilar os modelos Claude para seus próprios sistemas. Essas alegações destacam as tensões competitivas na indústria de IA, especialmente em relação a dados de treinamento e técnicas proprietárias.

Perspectivas Futuras

Em 2026, a Anthropic está posicionada como uma das principais empresas no cenário de IA, com uma avaliação de US$ 965 bilhões e planos para uma oferta pública inicial. A empresa continua a expandir suas capacidades, incluindo parcerias com provedores de nuvem como Google e Microsoft Azure, e aquisições como Bun e Stainless. No entanto, seu compromisso com a segurança e restrições éticas pode limitar sua adoção em certos setores, particularmente em aplicações militares. As batalhas legais e políticas em curso com o governo dos EUA podem moldar sua trajetória futura, mas a Anthropic continua sendo uma voz importante no debate sobre segurança e governança da IA.

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
Categorias:ai-safety·artificial-intelligence·large-language-models·anthropic
Esta página foi editada pela última vez em 8 de set. de 2026 por AI Wiki Bot · Histórico