Nous Research 是一个去中心化的人工智能研究组织,致力于开发开源大语言模型和对齐技术。该实验室由一群独立研究人员和工程师于 2022 年创立,因其对来自 OpenAI 和其他组织的基础模型进行微调变体而声名鹊起,尤其是 Hermes 系列,该系列旨在提高指令遵循和推理能力,同时保持透明度。
该实验室没有传统的企业结构,而是协调跨多个时区的贡献者,并依赖社区驱动的发展。其工作处于 Machine learning 和 Generative AI 的交汇点,重点是通过宽松许可证使先进的模型能力易于获取。与 Anthropic 或 Google DeepMind 等主要实验室不同,Nous Research 强调小团队的敏捷性,并发布关于其微调方法的详细技术报告。
Hermes 模型系列
旗舰 Hermes 系列始于 Hermes 1,这是对 Meta 的 LLaMA-1 13B 模型在 2022 年底发布的微调版本。随后,2023 年发布的 Hermes 2 引入了 Reinforcement Learning from AI Feedback (RLAIF)(基于人工智能反馈的强化学习)以提高响应质量。该系列扩展到包括基于 Mistral AI 和其他开放权重模型的版本,其中 Hermes 2 Pro 和 Hermes 3 于 2024 年发布。这些模型在推理和工具使用的基准测试中表现出色,通常能与更大的专有系统相媲美。
Hermes 系列的一个显著特点是使用由社区策划的多样化、高质量训练数据集。Nous Research 开发了专有的数据管道,用于过滤和混合来源,包括来自更强模型的合成数据,以增强指令遵循能力,同时避免灾难性遗忘。这些模型通常在 Apache 2.0 许可证下发布,允许商业和研究使用。
对齐与评估工作
除了模型发布,Nous Research 还为对齐研究做出了贡献,特别是开发了测试模型拒绝行为的“DangerousQA”基准。2023 年,该实验室推出了用于可解释性的“Nous Puffer”库,并在 2024 年发表了关于“人格条件化”的工作,这是一种通过将用户定义的特征嵌入提示来引导模型输出的方法。这些工具被其他研究人员用于评估 Large language model 的安全性和行为。
该实验室还在 Hugging Face 等平台上维护“Nous Research 排行榜”,以跟踪开放模型的性能,为封闭基准提供透明的替代方案。这使 Nous Research 成为开源生态系统中的关键参与者,经常被 Stanford AI Lab 和 BAIR (Berkeley AI Research) 等机构的学术团体引用。
社区与去中心化结构
Nous Research 以其去中心化运营而闻名,核心贡献者使用化名并通过 Discord 进行协调。该实验室没有正式总部,但在旧金山列出了一个虚拟办公室地址。资金来自研究资助、捐赠以及与 ai-infrastructure 领域公司的选择性咨询合同。这种结构允许快速迭代,在开发高峰期每周发布模型更新。
社区方面延伸到其“Nous Research 论坛”,这是一个在线空间,用户可以在其中分享微调脚本并讨论 Deep learning 技术。该实验室还举办了协作“黑客马拉松”以生成数据集,例如“OpenHermes”集合,该集合聚合了用户生成的指令对。
影响与反响
Nous Research 的模型在学术和商业环境中都被广泛采用。例如,Hermes 3 因其可靠的工具调用能力而被用于多个 Robotics 和 ai-agents 项目。然而,批评者指出,该实验室的快速发布周期有时会导致不同版本之间的质量参差不齐。尽管如此,其开放方法已影响其他实验室,包括 AI21 Labs 和 Inflection AI,促使它们采用更透明的微调实践。
在计算方面,该实验室依赖 Amazon Web Services 和 Google Cloud 等云提供商,通常租用 NVIDIA H100 集群。虽然它没有开发自己的硬件,但它与 Groq 合作优化开放模型的推理。截至 2025 年,该实验室继续发布新的微调版本,重点是多语言和多模态扩展。
Nous Research 的更广泛意义在于它证明了小型分布式团队可以在没有巨额预算的情况下有意义地推进 Artificial intelligence。其工作也引发了关于模型许可和微调专有权重伦理的辩论,这仍然是 AI 政策社区中的一个活跃话题。
未来方向
展望未来,Nous Research 正在探索持续学习和低资源语言支持的方法。他们还宣布了基于扩散的序列生成实验,作为下一个 token 预测的替代方案。然而,这些项目仍处于早期阶段,该实验室的主要产出仍然是对现有 Transformer (architecture) 模型的高质量微调。