Together ist eine KI-Cloud-Plattform, die Infrastruktur und Dienste für das Training, die Feinabstimmung und die Bereitstellung großer Sprachmodelle sowie anderer generativer KI-Systeme bereitstellt. Das 2022 gegründete Unternehmen bietet Zugang zu Open-Source-Modellen über verwaltete APIs und leistungsstarke GPU-Cluster und positioniert sich als Alternative zu proprietären KI-Anbietern wie OpenAI und Anthropic. Together betont die Zusammenarbeit im Open-Source-Bereich und zielt darauf ab, fortschrittliche Künstliche-Intelligenz-Fähigkeiten für Entwickler und Unternehmen zugänglich zu machen.
Die Plattform unterstützt eine Reihe von Arbeitslasten, von maschinellem Lernen-Experimenten bis hin zu Inferenz im Produktionsmaßstab. Sie bietet sowohl serverlose als auch dedizierte Rechenoptionen mit Unterstützung für gängige Frameworks wie Transformer-Architekturen und Deep-Learning-Bibliotheken. Die Infrastruktur von Together ist darauf ausgelegt, die Anforderungen des Trainings und der Bereitstellung von großen Sprachmodellen zu bewältigen, und bietet Antworten mit geringer Latenz sowie skalierbare Ressourcen.
Geschichte und Gründung
Together wurde 2022 von einem Team aus Forschern und Ingenieuren mit Hintergründen in künstlicher Intelligenz und verteilten Systemen gegründet. Das Unternehmen entstand aus dem wachsenden Bedarf an zugänglicher, kostengünstiger KI-Infrastruktur, insbesondere für Open-Source-Modelle. Zu den Gründern gehören Vipul Ved Prakash, Ce Zhang, Chris Re und Percy Liang, die Erfahrung aus Wissenschaft und Industrie mitbrachten. Das Unternehmen erlangte schnell Aufmerksamkeit für seinen Fokus auf Open-Source-KI und hob sich damit von geschlossenen Plattformen ab.
In seinen frühen Jahren sammelte Together erhebliche Finanzmittel von Risikokapitalgesellschaften ein, was eine schnelle Expansion seiner GPU-Cluster und Serviceangebote ermöglichte. Bis 2023 war es zu einem bedeutenden Akteur im KI-Cloud-Markt geworden und konkurrierte mit größeren Anbietern wie Amazon Web Services und Google Cloud. Das Unternehmen ging auch Partnerschaften mit Modellentwicklern und Forschungseinrichtungen ein, was seine Rolle im KI-Ökosystem weiter festigte.
Dienste und Produkte
Together bietet eine Suite von Diensten rund um generative KI an. Zu den wichtigsten Produkten gehören:
- Inference-API: Ein verwalteter Dienst zum Ausführen von Open-Source-Modellen wie Llama und Mistral mit einfachen REST-Endpunkten. Dies ermöglicht Entwicklern, KI-Fähigkeiten zu integrieren, ohne die zugrunde liegende Infrastruktur zu verwalten.
- Training und Feinabstimmung: Werkzeuge zur Anpassung von Modellen an proprietäre Datensätze unter Verwendung von verteiltem Training über mehrere GPUs. Together bietet vorkonfigurierte Umgebungen und Optimierungstechniken, um Kosten zu senken.
- GPU-Cluster: Dedizierte Rechenressourcen für groß angelegte Trainingsaufträge mit Optionen für verschiedene GPU-Typen und Netzwerkkonfigurationen. Diese Cluster sind für hohen Durchsatz und geringe Latenz ausgelegt.
- Together Enterprise: Eine Stufe für Organisationen, die erweiterte Sicherheits-, Support- und Compliance-Funktionen benötigen, einschließlich privater Netzwerke und dedizierter Instanzen.
Die Plattform unterstützt generative KI-Anwendungen wie Chatbots, Codegenerierung und Inhaltserstellung. Sie bietet auch Kompatibilität mit beliebten Bibliotheken wie Hugging Face Transformers, was die Migration für bestehende Benutzer vereinfacht.
Technologie und Infrastruktur
Die Infrastruktur von Together basiert auf einer verteilten Rechenarchitektur, die leistungsstarke GPUs nutzt, einschließlich Hardware von AMD und NVIDIA. Das Unternehmen betreibt Rechenzentren in mehreren Regionen, was Redundanz und Zugriff mit geringer Latenz für globale Benutzer gewährleistet. Sein Software-Stack umfasst benutzerdefinierte Scheduler und Netzwerkoptimierungen, um die Auslastung zu maximieren und Engpässe während des Trainings zu minimieren.
Ein wichtiges Unterscheidungsmerkmal ist die Betonung von Open-Source-Modellen durch Together. Im Gegensatz zu OpenAI oder Anthropic, die hauptsächlich proprietäre Systeme anbieten, gewährt Together Zugang zu gemeinschaftlich entwickelten Modellen, sodass Benutzer sie frei einsehen, modifizieren und bereitstellen können. Dies steht im Einklang mit der breiteren Open-Source-KI-Bewegung, die Transparenz und Zusammenarbeit in der Maschinenlern-Forschung befürwortet.
Das Unternehmen investiert auch in Forschung zur Verbesserung der Effizienz, wie neuartige Aufmerksamkeitsmechanismen und Quantisierungstechniken. Diese Bemühungen zielen darauf ab, die Rechenkosten der Inferenz von großen Sprachmodellen zu senken, was KI nachhaltiger und zugänglicher macht.
Marktposition und Wettbewerb
Der KI-Cloud-Markt ist stark umkämpft, wobei große Akteure wie Amazon Web Services, Google Cloud und Azure KI-spezifische Dienste anbieten. Together differenziert sich durch seinen Fokus auf Open-Source-Modelle und entwicklerfreundliche APIs. Es konkurriert auch mit spezialisierten KI-Cloud-Anbietern wie CoreWeave und Cerebras, die Hochleistungsrechnen für KI-Arbeitslasten anbieten.
Das Preismodell von Together ist nutzungsbasiert, mit Tarifen pro Token oder pro Stunde, was es für Startups und Forschungsgruppen attraktiv macht. Das Unternehmen hat ein starkes Wachstum gemeldet, mit Kunden aus Branchen wie Finanzen, Gesundheitswesen und Medien. Ab 2024 erweitert Together weiterhin sein Angebot, einschließlich Unterstützung für multimodale Modelle und Edge-Bereitstellung.
Gemeinschaft und Open Source
Together trägt aktiv zur Open-Source-KI-Gemeinschaft bei, indem es Werkzeuge, Benchmarks und Modellgewichte veröffentlicht. Es sponsert Forschungsprojekte und veranstaltet Events, um die Zusammenarbeit zwischen Entwicklern und Forschern zu fördern. Das Engagement des Unternehmens für Offenheit spiegelt sich in seiner Unterstützung für Initiativen wie die Open Source Initiative und Partnerschaften mit akademischen Einrichtungen wider.
Durch die Bereitstellung zugänglicher Infrastruktur zielt Together darauf ab, KI zu demokratisieren und kleineren Organisationen zu ermöglichen, mit Technologiegiganten zu konkurrieren. Diese Mission findet bei vielen im Bereich der künstlichen Intelligenz Anklang, die eine breitere Beteiligung an der KI-Entwicklung befürworten.
Zukünftige Richtungen
In Zukunft plant Together, seine Plattform mit fortschrittlicheren Funktionen zu verbessern, wie automatisierter Modelloptimierung und Multi-Cloud-Unterstützung. Es erforscht auch Wege, den Energieverbrauch durch effizientere Hardware und Algorithmen zu senken. Da sich generative KI weiterentwickelt, ist Together gut positioniert, um eine bedeutende Rolle dabei zu spielen, wie diese Technologien bereitgestellt und genutzt werden.
Das Unternehmen steht vor Herausforderungen, einschließlich Konkurrenz durch gut finanzierte Rivalen und dem schnellen Tempo der KI-Innovation. Sein Fokus auf Open-Source-Prinzipien und Entwicklererfahrung bietet jedoch eine starke Grundlage für nachhaltiges Wachstum.