Together AI是一个基于云计算的平台，提供用于训练、微调以及运行开源大型语言模型推理的基础设施和服务。该公司成立于2022年，旨在通过提供托管计算、优化的模型服务和一套开发工具，让先进的生成式AI对开发者和企业触手可及。
该平台构建于高性能计算栈之上，利用NVIDIA GPU（包括H100和A100加速器）来提供快速且经济高效的推理。Together AI还提供一系列预训练的开源模型，如Llama和Mistral，用户可以通过简单的API调用进行部署。该公司将自己定位为OpenAI和Anthropic等闭源提供商的替代方案，强调透明度、可定制性和社区驱动的创新。
历史与创立
Together AI由一群具有机器学习和分布式系统背景的研究人员和工程师于2022年创立。该公司起源于斯坦福AI实验室，最初是作为一个专注于大型模型去中心化训练的研究项目进行孵化的。创始团队包括Vipul Ved Prakash、Ce Zhang和Percy Liang等人。
2023年，Together AI通过发布开源模型和工具（包括RedPajama数据集和分布式训练平台Together Computer）而获得了广泛关注。该公司于2023年11月在由Kleiner Perkins领投的A轮融资中筹集了1.025亿美元，使其总估值超过5亿美元。到2024年，Together AI已将其客户群扩展到初创公司和财富500强企业，提供按需和专用计算选项。
核心服务
Together AI提供三项主要服务：推理、微调和训练。推理服务允许开发人员以低延迟和高吞吐量部署开源模型，使用支持连续批处理和量化的优化服务引擎。微调服务使用户能够使用自己的数据将基础模型适配到特定领域或任务，并支持LoRA等参数高效方法。
训练服务提供用于预训练自定义模型的托管集群，并配备数据准备、作业调度和监控工具。Together AI还提供了一个模型库，包含流行的架构，如Transformer和神经网络，并与PyTorch和Hugging Face等流行框架集成。该平台可通过REST API、Python SDK和Web控制台访问，适用于原型设计和生产工作负载。
技术与基础设施
Together AI的基础设施专为性能和可扩展性而设计。该公司在美国和欧洲等多个地区运营数据中心，并使用高速网络互连GPU集群。其服务引擎称为Together Inference Engine，融合了张量并行、推测解码和内核融合等技术，以最大化吞吐量。
在微调方面，Together AI支持全量微调和LoRA及QLoRA等高效方法，这些方法可减少内存和计算需求。该平台还提供一项名为“Together Computer”的功能，允许用户从分布式网络租用闲置的GPU容量，类似于CoreWeave，但侧重于开源模型。截至2024年，Together AI已部署数千块GPU，每天服务数十亿个令牌。
生态系统与合作伙伴
Together AI围绕开源AI构建了一个充满活力的生态系统。该公司与模型开发者合作，包括AI21 Labs和Inflection AI，将他们的模型托管在平台上。它还与亚马逊网络服务和谷歌云等云提供商合作提供集成解决方案，同时保持其独立的自主基础设施。
该公司积极为开源项目做出贡献，例如RedPajama数据集（LLaMA训练数据的复现）和OpenChatKit（对话模型集合）。Together AI还赞助研究并举办社区活动，包括黑客马拉松和聚会，以促进人工智能领域的创新。2024年，该公司启动了一项1000万美元的基金，用于支持在其平台上构建的初创公司。
反响与影响
Together AI被认为是AI民主化的关键参与者，为希望使用开源模型的开发者提供了一个易于访问的切入点。行业分析师称赞其性能和成本效益，指出它在延迟基准测试中通常优于闭源替代方案。然而，一些批评者对大规规模GPU计算的环境影响以及开源模型被滥用的可能性表示担忧。
尽管面临这些挑战，Together AI仍在持续增长，其客户群包括金融、医疗保健和技术领域的知名公司。该公司对开源原则的承诺为其赢得了研究人员和开发者的忠实追随者，使其成为生成式AI领域的一股重要力量。截至2025年，Together AI仍然是云推理和微调服务的领先提供商，并计划扩展其产品以包括更多专业化工具和企业功能。
另请参阅
参考文献
- Together AI官方网站和新闻稿。
- TechCrunch，“Together AI筹集1.025亿美元以构建开源AI模型”，2023年11月。
- VentureBeat，“Together AI推出面向开源模型的推理引擎”，2024年。