Together Computer ist eine Cloud-Plattform, die für das Training und die Bereitstellung von Open-Source-KI-Modellen entwickelt wurde. Das 2022 gegründete Unternehmen bietet Infrastruktur und Werkzeuge, die Entwicklern und Unternehmen ermöglichen, große Sprachmodelle und andere Systeme des maschinellen Lernens zu erstellen, zu verfeinern und bereitzustellen. Together Computer positioniert sich als Alternative zu proprietären KI-Angeboten und betont Transparenz, Anpassbarkeit und gemeinschaftsgetriebene Entwicklung.
Die Plattform unterstützt eine Reihe von Open-Source-Modellen, einschließlich solcher, die auf Transformer-Architekturen basieren, und bietet Dienste wie verwaltete Trainingscluster, Inferenz-Endpunkte und APIs zur Feinabstimmung. Durch die Nutzung von Hochleistungsrechenressourcen, einschließlich GPUs von Anbietern wie AMD und Nvidia (nicht aufgeführt, aber impliziert), zielt Together Computer darauf ab, die Kosten und die Komplexität der Ausführung großer KI-Workloads zu reduzieren.
Geschichte und Gründung
Together Computer wurde 2022 von einem Team aus Forschern und Ingenieuren mit Hintergrund in maschinellem Lernen und verteilten Systemen gegründet. Die Gründer, darunter Chen Wu und Freddie Sulit, wollten die Herausforderungen der Skalierung von KI-Modellen über die Fähigkeiten einzelner Organisationen hinaus angehen. Das Unternehmen erregte schnell Aufmerksamkeit für seinen Fokus auf Open-Source-KI und sammelte erhebliche Finanzmittel von Risikokapitalgesellschaften ein.
Im Jahr 2023 startete Together Computer seine Flaggschiff-Plattform, die eine Suite von Werkzeugen für das Training und die Bereitstellung von Modellen umfasste. Die Plattform gewann bei Startups und Forschungseinrichtungen an Zugkraft, die nach flexiblen, kostengünstigen Alternativen zu proprietären Cloud-Diensten suchten.
Technologie und Infrastruktur
Die Infrastruktur von Together Computer basiert auf einer verteilten Rechnerarchitektur, die sowohl Training als auch Inferenz unterstützt. Die Plattform nutzt AWS und andere Cloud-Anbieter, um skalierbare GPU-Cluster bereitzustellen, mit Optionen für AWS Trainium und andere spezialisierte Hardware. Dies ermöglicht es Benutzern, große Trainingsaufträge auszuführen, ohne in physische Infrastruktur zu investieren.
Das Unternehmen entwickelt auch Open-Source-Softwarewerkzeuge, wie die Together Inference Engine, die die Modellbereitstellung für niedrige Latenz und hohen Durchsatz optimiert. Diese Werkzeuge sind darauf ausgelegt, mit beliebten Frameworks wie PyTorch (nicht aufgeführt, aber impliziert) und TensorFlow (nicht aufgeführt, aber impliziert) zu arbeiten, und unterstützen Modelle aus Hugging Face (nicht aufgeführt, aber impliziert) und anderen Repositorien.
Produkte und Dienste
Together Computer bietet eine Reihe von Produkten und Diensten, die auf verschiedene Anwendungsfälle zugeschnitten sind:
- Verwaltetes Training: Benutzer können Trainingsaufträge auf dedizierten Clustern starten, mit Unterstützung für verteiltes Training und Checkpointing.
- Inferenz-Endpunkte: Bereitstellung von Modellen als APIs mit automatischer Skalierung und Lastverteilung.
- Feinabstimmung: Werkzeuge zur Anpassung vortrainierter Modelle an spezifische Domänen oder Aufgaben.
- Modellbibliothek: Eine kuratierte Sammlung von Open-Source-Modellen, einschließlich LLMs wie Llama (nicht aufgeführt, aber impliziert) und Mistral (nicht aufgeführt, aber impliziert).
Diese Dienste sind über eine Weboberfläche, eine CLI und eine REST-API zugänglich, was die Integration in bestehende Arbeitsabläufe erleichtert.
Open-Source-Beiträge
Together Computer ist ein starker Befürworter von Open-Source-KI. Das Unternehmen hat mehrere Modelle und Werkzeuge unter offenen Lizenzen veröffentlicht, einschließlich des Together RedPajama-Datensatzes, einem groß angelegten Korpus für das Training von Sprachmodellen. Dieser Datensatz, der 2023 veröffentlicht wurde, wurde erstellt, um die Qualität proprietärer Datensätze zu replizieren, während er frei verfügbar bleibt.
Darüber hinaus hat Together Computer zur Entwicklung der generativen KI-Forschung beigetragen, in Zusammenarbeit mit akademischen Institutionen und Industriepartnern. Die Bemühungen des Unternehmens wurden in der KI-Gemeinschaft anerkannt, wobei seine Modelle auf Ranglisten und Benchmarks erscheinen.
Marktposition und Wettbewerb
Together Computer operiert in einer wettbewerbsintensiven Landschaft, die große Cloud-Anbieter wie AWS, Microsoft Azure und Google Cloud sowie spezialisierte KI-Infrastrukturunternehmen wie CoreWeave, Cerebras und Groq umfasst. Im Gegensatz zu diesen Wettbewerbern konzentriert sich Together Computer ausschließlich auf Open-Source-Modelle und bietet eine flexiblere und anpassbarere Plattform.
Das Unternehmen konkurriert auch mit KI-Forschungsorganisationen wie OpenAI, Anthropic und Google DeepMind, unterscheidet sich jedoch dadurch, dass es keine proprietären Modelle entwickelt. Stattdessen befähigt es Benutzer, ihre eigenen Modelle zu erstellen und bereitzustellen, was Innovation fördert und die Abhängigkeit von geschlossenen Systemen verringert.
Zukünftige Richtungen
Stand 2025 expandiert Together Computer weiterhin sein Angebot, mit Plänen, mehr Hardware-Beschleuniger zu unterstützen und seinen Software-Stack zu verbessern. Das Unternehmen erkundet auch Partnerschaften mit Halbleiterunternehmen wie AMD und Intel, um die Leistung auf verschiedenen Architekturen zu optimieren.
Mit der wachsenden Nachfrage nach KI-Lösungen strebt Together Computer danach, eine führende Plattform für die Entwicklung von Open-Source-KI zu werden, die einer breiteren Gemeinschaft die Teilnahme am Fortschritt des maschinellen Lernens ermöglicht.