Together是一个AI云平台，提供用于训练、微调和部署大型语言模型及其他生成式AI系统的基础设施和服务。成立于2022年，该公司通过托管API和高性能GPU集群提供对开源模型的访问，将自己定位为OpenAI和Anthropic等专有AI提供商的替代方案。Together强调开源协作，旨在使先进的Artificial intelligence能力对开发者和企业可及。
该平台支持从Machine learning实验到生产规模推理的各种工作负载。它提供无服务器和专用计算选项，，支持流行的框架，如Transformer (architecture)架构和Deep learning库。Together的基础设施旨在满足Large language model训练和服务的需求，，提供低延迟响应和可扩展资源。
历史与创立
Together于2022年由一支具有Artificial intelligence和分布式系统背景的研究人员和工程师团队创立。该公司源于对可访问、成本效益高的AI基础设施日益增长的需求，，特别是针对开源模型。其创始人包括Vipul Ved Prakash、Ce Zhang、Chris Re和Percy Liang，，他们带来了学术界和工业界的经验。该公司迅速因其对开源AI的关注而受到关注，，与封闭平台区分开来。
在早期，，Together从风险投资公司筹集了大量资金，，使其GPU集群和服务产品得以快速扩展。到2023年，，它已成为AI云市场中的显著参与者，，与Amazon Web Services和Google Cloud等大型提供商竞争。该公司还启动了与模型开发者和研究机构的合作，，进一步巩固了其在AI生态系统中的角色。
服务与产品
Together提供一系列围绕生成式AI的服务。其主要产品包括：
- 推理API：一种托管服务，，用于运行开源模型，，如Llama和Mistral，，提供简单的REST端点。这允许开发者集成AI能力，，而无需管理底层基础设施。
- 训练与微调：用于在专有数据集上定制模型的工具，，使用跨多个GPU的分布式训练。Together提供预配置环境和优化技术以降低成本。
- GPU集群：用于大规模训练作业的专用计算资源，，提供各种GPU类型和网络配置选项。这些集群设计用于高吞吐量和低延迟。
- Together Enterprise：面向需要增强安全性、支持性和合规性功能的组织层级，，包括私有网络和专用实例。
该平台支持Generative AI应用，，如聊天机器人、代码生成和内容创作。它还提供与Hugging Face Transformers等流行库的兼容性，，简化了现有用户的迁移过程。
技术与基础设施
Together的基础设施构建在分布式计算架构上，，利用高性能GPU，，包括AMD和NVIDIA硬件。该公司在多个地区运营数据中心，，确保全球用户的冗余性和低延迟访问。其软件栈包括自定义调度器和网络优化，，以最大化利用率并减少训练期间的瓶颈。
一个关键区别是Together对开源模型的重视。与主要提供专有系统的OpenAI或Anthropic不同，，Together提供对社区开发模型的访问，，允许用户自由检查、修改和部署它们。这与更广泛的开源AI运动一致，，该运动倡导Machine learning研究中的透明度和协作。
该公司还投资于提高效率的研究，，如新颖的注意力机制和量化技术。这些努力旨在降低Large language model推理的计算成本，，使AI更具可持续性和可及性。
市场定位与竞争
AI云市场竞争激烈，，主要参与者包括Amazon Web Services、Google Cloud和Microsoft Azure，，它们提供AI特定服务。Together通过其对开源模型和开发者友好API的关注来区分自己。它还与Coreweave和Cerebras等专业AI云提供商竞争，，后者为AI工作负载提供高性能计算。
Together的定价模式基于使用量，，按每token或每小时收费，，使其对初创企业和研究团体具有吸引力。该公司报告了强劲增长，，客户涵盖金融、医疗保健和媒体等行业。截至2024年，，Together继续扩展其产品，，包括对多模态模型和边缘部署的支持。
##社区与开源
Together积极为开源AI社区做出贡献，，通过发布工具、基准和模型权重等资源。它赞助研究项目并举办活动以促进开发者和研究人员之间的合作。该公司对开放性的承诺体现在其对开源倡议等倡议的支持以及与学术机构的合作中。
通过提供可访问的基础设施，，Together旨在民主化AI，，使较小的组织能够与技术巨头竞争。这一使命与Artificial intelligence领域中许多倡导更广泛参与AI发展的人士产生共鸣。
##未来方向
展望未来，，Together计划通过更高级的功能增强其平台，，如自动化模型优化和多云支持等。它还在探索通过更高效的硬件和算法减少能源消耗的方法。随着Generative AI的持续发展，，Together有望在塑造这些技术的部署和访问方式方面发挥重要作用。
该公司面临挑战，，包括来自资金充足的竞争对手的竞争以及AI创新的快速步伐等。然而，，其对开源原则和开发者体验的关注为其持续增长提供了坚实基础。
##参见