Claude 2 ist ein großes Sprachmodell, das vom amerikanischen Unternehmen Anthropic entwickelt wurde und im Juli 2023 als Nachfolger des ursprünglichen Claude-Chatbots veröffentlicht wurde. Es war Teil der breiteren Welle von großen Sprachmodellen, die auf den Erfolg von OpenAIs ChatGPT folgte, und positionierte Anthropic als Konkurrenten, der sich auf Sicherheit und konstitutionelle KI konzentrierte. Claude 2 war über eine Webschnittstelle und eine API zugänglich, was es Entwicklern ermöglichte, es in verschiedene Anwendungen zu integrieren. Die Veröffentlichung betonte Verbesserungen bei Programmierung, Mathematik und logischem Denken sowie einen längeren Kontextfenster, das die Verarbeitung größerer Dokumente ermöglichte.
Claude 2 basierte auf der Transformer-Architektur, einem Deep-Learning-Framework, das den meisten modernen generativen KI-Systemen zugrunde liegt. Anthropic trainierte das Modell mit einer Technik namens Constitutional AI, die eine Reihe von Prinzipien verwendet, um das Verhalten des Modells in Richtung ethischer und rechtlicher Konformität zu lenken. Dieser Ansatz unterschied Claude 2 von Konkurrenten, indem er darauf abzielte, schädliche Ausgaben ohne umfangreiches menschliches Feedback zu reduzieren. Das Modell wurde in zwei Versionen angeboten: Claude 2.0 und ein späteres Update Claude 2.1, das Verbesserungen bei der Genauigkeit und eine Verringerung der Halluzinationsraten einführte.
Veröffentlichung und Verfügbarkeit
Claude 2 wurde am 11. Juli 2023 angekündigt und der Öffentlichkeit in den Vereinigten Staaten und im Vereinigten Königreich zugänglich gemacht. Im Gegensatz zum früheren Claude 1, das auf genehmigte Partner beschränkt war, wurde Claude 2 über eine Chat-Oberfläche auf der Website von Anthropic für allgemeine Benutzer geöffnet. Der API-Zugang wurde ebenfalls erweitert, wobei die Preise bei 0,008 US-Dollar pro 1.000 Token für Eingaben und 0,024 US-Dollar pro 1.000 Token für Ausgaben lagen, was es mit anderen Modellen wie OpenAIs GPT-4 konkurrenzfähig machte. Die Veröffentlichung folgte auf eine Phase des Beta-Testens mit Unternehmen wie Notion und Quora, die Claude 1 für Zusammenfassungs- und Frage-Antwort-Aufgaben verwendet hatten.
Technische Fähigkeiten
Claude 2 verfügte über ein Kontextfenster von 100.000 Token, was es ermöglichte, Dokumente von etwa 75.000 Wörtern in einem einzigen Durchgang zu verarbeiten. Dies war eine erhebliche Steigerung gegenüber dem 9.000-Token-Limit des ursprünglichen Claude und ermöglichte Aufgaben wie das Zusammenfassen langer Berichte oder das Analysieren ganzer Bücher. Das Modell zeigte verbesserte Leistungen bei Programmier-Benchmarks, wie zum Beispiel eine Punktzahl von 71,2% beim HumanEval-Codierungstest, gegenüber 56,0% für Claude 1.3. In Mathematik erreichte es 88,0% beim GSM8K-Datensatz für Grundschulmathematik, verglichen mit 85,2% für die frühere Version. Diese Gewinne wurden auf Fortschritte bei der Kuratierung von Trainingsdaten und Feinabstimmungsmethoden zurückgeführt.
Sicherheit und Ausrichtung
Anthropic betonte Sicherheit als Kernmerkmal von Claude 2. Das Modell wurde trainiert, schädliche Anfragen abzulehnen und hilfreiche, ehrliche Antworten zu geben. In internen Bewertungen wurde festgestellt, dass Claude 2 im Vergleich zu Claude 1.3 2,3-mal wahrscheinlicher harmlose Antworten produzierte, basierend auf einem Datensatz von adversarischen Eingabeaufforderungen. Das Unternehmen führte auch einen "Red-Team"-Testprozess ein, bei dem externe Experten versuchten, Sicherheitsmaßnahmen zu umgehen. Trotz dieser Bemühungen stellten Forscher fest, dass Claude 2 in bestimmten Szenarien immer noch manipuliert werden konnte, was auf anhaltende Herausforderungen in der KI-Sicherheit hinweist. Der konstitutionelle Ansatz, der eine Liste von Prinzipien zur Verhaltenssteuerung verwendet, wurde als neuartige Alternative zu RLHF (Reinforcement Learning aus menschlichem Feedback) angesehen, das von anderen Labors verwendet wird.
Rezeption und Auswirkungen
Claude 2 erhielt positive Bewertungen für seine Schreibqualität und seine Fähigkeiten im logischen Denken, wobei einige Benutzer es bei Aufgaben wie Zusammenfassung und kreativem Schreiben günstig mit OpenAIs GPT-4 verglichen. Es wurde jedoch dafür kritisiert, übermäßig vorsichtig zu sein und oft harmlose Fragen aufgrund von Sicherheitsbeschränkungen abzulehnen. Die Veröffentlichung trug zur Wettbewerbslandschaft der großen Sprachmodelle bei, wobei Google DeepMind und OpenAI im gleichen Zeitraum ebenfalls Updates veröffentlichten. Der Start von Claude 2 half Anthropic, zusätzliche Finanzierung und Partnerschaften zu sichern, einschließlich einer Investition von 4 Milliarden US-Dollar von Amazon im September 2023, die auch die Integration von Claude in die AWS-Plattform von Amazon umfasste. Der Erfolg des Modells ebnete den Weg für nachfolgende Versionen, einschließlich Claude 3 im Jahr 2024, das die Stufen Haiku, Sonnet und Opus einführte.
Vermächtnis
Claude 2 markierte eine Reifung der Technologie von Anthropic, die sich von einem Forschungsprototyp zu einem kommerziell nutzbaren Produkt entwickelte. Sein Fokus auf Sicherheit und Langkontextverarbeitung beeinflusste spätere Modelle, und seine API wurde zum Standard für Entwickler, die eine Alternative zu OpenAI suchten. Die Veröffentlichung löste auch Diskussionen über die ethischen Implikationen von generativer KI aus, insbesondere in Bezug auf Voreingenommenheit und Missbrauch. Ab 2025 wurde Claude 2 weitgehend durch neuere Versionen ersetzt, bleibt jedoch ein bemerkenswerter Meilenstein in der Entwicklung von Systemen der künstlichen Intelligenz.