Anthropic es una empresa estadounidense de inteligencia artificial fundada en 2021 por exinvestigadores de OpenAI. La empresa se centra en el desarrollo de sistemas de inteligencia artificial seguros e interpretables, con especial énfasis en alinear el comportamiento de la IA con las intenciones humanas. Su producto principal es la familia Claude de grandes modelos de lenguaje, que se utilizan en diversas aplicaciones, como asistentes conversacionales, asistencia de codificación y análisis de datos empresariales. Anthropic tiene su sede en San Francisco, California, y se ha convertido en una de las principales organizaciones independientes de investigación en IA, compitiendo con empresas como OpenAI y Google DeepMind.
La empresa se creó en respuesta a las preocupaciones sobre la seguridad y las implicaciones éticas de la IA avanzada. Sus fundadores, entre ellos Dario Amodei y Daniela Amodei, ocuparon anteriormente puestos de alto nivel en OpenAI, donde trabajaron en modelos como GPT-2 y GPT-3. El enfoque de Anthropic hacia la seguridad de la IA se basa en un programa de investigación que denomina "IA Constitucional", cuyo objetivo es entrenar modelos para que sigan un conjunto de principios o una "constitución" que guíe su comportamiento, reduciendo la necesidad de una retroalimentación humana extensiva.
Fundación e Historia Temprana
Anthropic fue fundada en 2021 por un grupo de siete personas, la mayoría de las cuales eran exempleados de OpenAI. El equipo fundador incluía a Dario Amodei (exvicepresidente de Investigación en OpenAI), Daniela Amodei (exvicepresidenta de Seguridad y Políticas), Tom Brown (contribuyente clave en GPT-3), Chris Olah (exdirector de interpretabilidad), Jared Kaplan, Jack Clark y Sam McCandlish. La empresa operó inicialmente en modo sigiloso, recaudando financiación sustancial de inversores, incluida la empresa matriz de Alibaba Cloud, aunque los detalles exactos de la financiación no se divulgaron públicamente en ese momento.
A principios de 2023, Anthropic anunció una asociación significativa con Google Cloud, que incluyó una gran inversión y un compromiso de utilizar la infraestructura en la nube de Google para entrenar y desplegar sus modelos. Más tarde ese año, la empresa también recibió una inversión importante de Amazon Web Services (AWS), que se convirtió en su principal proveedor de nube para entrenamiento e inferencia. Estas asociaciones proporcionaron a Anthropic los recursos computacionales necesarios para entrenar modelos a gran escala.
IA Constitucional e Investigación en Seguridad
Una característica definitoria de la investigación de Anthropic es su enfoque en la IA Constitucional (CAI). Este enfoque implica entrenar modelos utilizando un conjunto de reglas o principios explícitos, en lugar de depender únicamente de la retroalimentación humana. El modelo se entrena primero mediante RLHF (Aprendizaje por Refuerzo con Retroalimentación Humana), pero luego se refina mediante un proceso "constitucional" en el que el modelo critica y revisa sus propias salidas basándose en una lista de principios. Este método tiene como objetivo hacer que los modelos sean más útiles, inofensivos y honestos, al tiempo que hace que el proceso de entrenamiento sea más escalable y transparente.
La investigación en seguridad de la empresa también incluye trabajo en interpretabilidad, como comprender cómo los redes neuronales representan internamente conceptos. Anthropic ha publicado artículos sobre temas como los "circuitos" en los transformadores, que intentan realizar ingeniería inversa de los cálculos realizados por estos modelos. Esta investigación es parte de un esfuerzo más amplio para garantizar que los sistemas de IA puedan ser auditados y confiables, especialmente a medida que se vuelven más capaces.
Serie de Modelos Claude
La línea de productos principal de Anthropic es la serie Claude de grandes modelos de lenguaje. La primera versión, Claude, se lanzó en marzo de 2023, seguida de Claude 2 en julio de 2023, que ofrecía un rendimiento mejorado y una ventana de contexto más larga. En marzo de 2024, Anthropic lanzó Claude 3, una familia de modelos que incluye Haiku, Sonnet y Opus, cada uno optimizado para diferentes compensaciones de velocidad y capacidad. Claude 3 Opus fue destacado por su fuerte rendimiento en puntos de referencia como la prueba MMLU, a menudo rivalizando o superando a los modelos de otros laboratorios líderes.
En junio de 2024, Anthropic presentó Claude 3.5 Sonnet, que mejoró aún más las habilidades de razonamiento y codificación. Los modelos están disponibles a través de una API, un chatbot de consumo en claude.ai y ofertas empresariales. Los modelos Claude son conocidos por su fuerte rendimiento en codificación, comprensión de contexto largo y adherencia a las pautas de seguridad. Son utilizados por empresas de diversos sectores, incluidos finanzas, atención médica y servicios legales, para tareas como análisis de documentos, generación de código y soporte al cliente.
Modelo de Negocio y Asociaciones
Anthropic opera un modelo de negocio comercial, generando ingresos a través del acceso API a sus modelos y servicios de suscripción. La empresa ofrece un nivel gratuito para su chatbot, así como planes de pago para individuos y empresas. Sus asociaciones clave con proveedores de nube son cruciales para sus operaciones. La asociación con AWS, anunciada en septiembre de 2023, implicó una inversión de 4 mil millones de dólares, convirtiéndose AWS en un socio principal de entrenamiento y despliegue. Este acuerdo también hizo que los modelos Claude estuvieran disponibles en Amazon Bedrock, el servicio de IA gestionado de AWS. De manera similar, la asociación con Google Cloud, anunciada en febrero de 2023, incluyó una inversión de 300 millones de dólares, proporcionando Google Cloud la infraestructura y expandiendo posteriormente el acuerdo.
Estas asociaciones han permitido a Anthropic escalar sus operaciones rápidamente, pero también plantean preguntas sobre la independencia de la empresa, ya que depende de grandes empresas tecnológicas tanto para la financiación como para la computación. A partir de 2024, Anthropic ha recaudado más de 7 mil millones de dólares en financiación total, con una valoración reportada de alrededor de 18 mil millones de dólares después de la inversión de Amazon.
Gobernanza y Defensa de la Seguridad de la IA
Anthropic se ha posicionado como líder en la defensa de la seguridad de la IA, adoptando a menudo un enfoque más cauteloso en el despliegue de modelos en comparación con algunos competidores. La empresa ha participado en discusiones políticas, incluido testificar ante el Congreso de los Estados Unidos y participar en iniciativas de la industria. En 2023, Anthropic cofundó el Foro de Modelos de Frontera, un grupo que también incluye a OpenAI, Google y Microsoft, con el objetivo de promover el desarrollo seguro y responsable de modelos de IA de frontera.
La empresa también ha sido vocal sobre los riesgos potenciales de la IA avanzada, incluidos los riesgos existenciales, y ha abogado por la regulación y la transparencia. Su "Política de Escalado Responsable" describe un marco para evaluar y mitigar los riesgos asociados con modelos cada vez más capaces, con umbrales específicos de "Nivel de Seguridad de la IA" (ASL). Esta política está diseñada para garantizar que, a medida que los modelos se vuelven más potentes, se implementen las salvaguardas adecuadas.
Contribuciones a la Investigación y Código Abierto
Aunque Anthropic no ha lanzado sus modelos como código abierto, ha contribuido a la comunidad de investigación en IA en general a través de publicaciones y herramientas. La empresa ha publicado investigaciones sobre temas como mecanismos de atención, poda de modelos e interpretabilidad. También ha lanzado conjuntos de datos y puntos de referencia de evaluación, como el conjunto de datos "Helpful, Honest, Harmless" (HHH), que se utiliza para entrenar y evaluar modelos en estas dimensiones.
La investigación de Anthropic sobre interpretabilidad ha sido particularmente influyente. En 2022, la empresa publicó un artículo sobre "Toy Models of Superposition", que exploró cómo las redes neuronales representan más características de las que tienen dimensiones. En 2023, lanzó un artículo sobre "Extracting Interpretable Features from Claude 3 Sonnet", demostrando técnicas para identificar y manipular características internas relacionadas con conceptos como el engaño y la adulación. Estos esfuerzos son parte de un objetivo a largo plazo para hacer que los sistemas de IA sean más comprensibles y controlables.
Panorama Competitivo y Perspectivas Futuras
Anthropic opera en un entorno altamente competitivo, con rivales importantes como OpenAI, Google DeepMind y Meta AI. La empresa se diferencia por su énfasis en la seguridad y su enfoque de IA Constitucional. Sin embargo, enfrenta desafíos para mantenerse al día con los rápidos ciclos de lanzamiento de los competidores y para gestionar los altos costos de entrenar modelos grandes. A partir de 2024, Anthropic continúa expandiendo sus ofertas de productos, incluido el lanzamiento de una aplicación móvil de Claude y características enfocadas en empresas como "Projects" y "Artifacts" para trabajo colaborativo.
La dirección futura de Anthropic probablemente implicará el escalado continuo de sus modelos, una integración más profunda con los flujos de trabajo empresariales y nuevos avances en interpretabilidad. El compromiso de la empresa con la seguridad también puede llevar a nuevos marcos de gobernanza que podrían influir en la industria en general. A medida que la tecnología de IA evoluciona, el papel de Anthropic como innovador centrado en la seguridad será observado de cerca por investigadores, responsables políticos y observadores de la industria.
Véase También
Referencias
Este artículo se basa en información disponible públicamente a partir de 2024. Para los detalles más actualizados, consulte las comunicaciones oficiales de Anthropic y fuentes de noticias tecnológicas de buena reputación.