Nous Research는 오픈소스 대규모 언어 모델과 정렬 기법을 개발하는 분산형 AI 연구 조직이다. 2022년 독립 연구자와 엔지니어 그룹에 의해 설립된 이 연구소는 OpenAI 및 다른 조직의 기본 모델을 파인튜닝한 변형 모델, 특히 투명성을 유지하면서 지시 수행과 추론 능력을 개선하는 것을 목표로 한 Hermes 시리즈로 주목을 받았다.
이 연구소는 전통적인 기업 구조 없이 운영되며, 여러 시간대에 걸쳐 기여자들을 조정하고 커뮤니티 주도 개발에 의존한다. 그 작업은 Machine learning과 Generative AI의 교차점에 위치하며, 허용적 라이선스를 통해 고급 모델 기능에 대한 접근성을 높이는 데 중점을 둔다. Anthropic이나 Google DeepMind 같은 주요 연구소와 달리, Nous Research는 소규모 팀의 민첩성을 강조하고 파인튜닝 방법론에 대한 상세한 기술 보고서를 공개한다.
Hermes 모델 시리즈
주력인 Hermes 시리즈는 2022년 말 출시된 메타의 LLaMA-1 13B 모델을 파인튜닝한 Hermes 1에서 시작했다. 이후 2023년에는 응답 품질을 개선하기 위해 Reinforcement Learning from AI Feedback (RLAIF)를 통합한 Hermes 2가 출시되었으며, 시리즈는 Mistral AI 등 여러 오픈웨이트 모델 기반 버전으로 확장되었고, 2024년에 Hermes 2 Pro와 Hermes 3가 출시되었다. 이 모델들은 추론과 도구 사용 벤치마크에서 강력한 성능을 보여, 종종 더 큰 독점 시스템에 필적했다.
Hermes 시리즈의 정의적인 특징은 커뮤니티가 큐레이션한 다양한 고품질 학습 데이터셋을 사용한다는 점이다. Nous Research는 강력한 모델의 합성 데이터를 포함한 소스를 필터링하고 혼합하는 독점 데이터 파이프라인을 개발, 파괴적 망각 없이 지시 따라하기 능력을 향상시켰다. 이 모델돌보통 Apache 2.0 라이선스로 출시되어 상업적 및 연구용 사용이 가능하다.
정렬 및 평가 작업
모델 출시 외에도 Nous Research는 정렬 연구에 기여했으며, 특히 모델 거절 행동을 시험하는 'DangerousQA' 벤치마크를 개발했다. 2023년에는 해석 가능성용 'Nous Puffer' 라이이브러리리를 소개했고, 2024년에는 사용자 정의 특성을 프롬트에 포함하여 모델 출력을 조종하는 '페만 성형' 방법에 대한 연구를 발표MD5. 이러한 도구는 다른 연구자들이 Large language model 안전성과 행동을 평가하는 데 사용된다.
또한, 연구소는 Hugging Face 같은 플랫폼에서 'Nous Research Leaderboard'를 운영하여 오픈 모델 성능을 추적하며, 비공개 리포트에 대한 투명한 대안을 제공AFRICA. 덕분에 Nous Research는 오픈소스 생태계의 주요 플레이어로 자리하고 있으며, Stanford AI Lab 및 BAIR (Berkeley AI Research) 같은 기관의 학술 그룹에서 자주 인용된다.
커뮤니티 및 분산 구조
Nous Research는 익명을 유지하는 핵심 기여자들이 Discord를 통해 조화시키는 분산 운영으로 알려져 있다. 연구소는 정식 본부 없이지만, 샌프란시스코의 가상 사무소 주소를 제공한다. 자금은 연구 보조금, 기부, 그리고 ai-infrastructure 분야 기업과의 선택적 컨설in 계약에서 조달된다. 이 구조는 신속한 반복을 가능하게 하며, 개발 초기에는 모델 업데이트가 매주 배포ISIN.
커뮤니티 측면은 'Nous Research 포럼'까지 확장되어, 사용자들이 파인튜닝 스크립트를 공유하고 Deep learning 기술을 논한다. 연구소는 또한 사용자 생성 instruction 쌍을 통합한 'OpenHermes' 데이터셋을 만드는 협력적 '해커톤'도 개최했다.
영향 및 평가
Nous Research의 모델은 학술 및 상업 환경에서 널리 채택되어 있다. 예를 들어 Hermes 3는 신뢰할 수 있는 도구 호출 기능RFC 아니 Robotics와 ai-agents 프로젝트에서 사용되었issed. 그러나 비판가들은 빠른 출시 주기가 때때로 버전별 균일하지 않은 품질을 초래한다고 지적한다. 그럼에도 불구하고, 그 개방적 접근은 AI21 Labs와 Inflection AI를 포함한 다른 연구소에 더 투명한 파인튜닝BERT 관행을 채용하도록 영향을 주었다.
컴퓨팅 측면에서, 연구소는 Amazon Web Services와 Google Cloud 같은 클라우드 제공업체에 의존하며 NVIDIA H100 클러스터를 사용한다. 재산 하드웨어를 개발하지는 않았지만, Groq와 협력하여 개방 모델의 추론을 최적화했다. 2025년 현재, 연구소는 다국어 및 다중 모달 확장에 집중하면서 세로운 파인튜닝 모델을 계속 출시하고 있다.
Nous Research의 광범위한 의미는 소규모 분산 팀이 거대한 예산 없이 Artificial intelligence를 실질적으로 진전시킬 수 있다는 dimostrazion에 있다. 또한, 그 작업은 모델 라이선 및 프라이버시 가중치 파인튜닝의 윤리에 대한 논의를 촉발시켰고, 이는 AI 정책MP에서 여전히 첫동해 있는 주제이다.
미래 방향
앞으로 Nous Research는 지속 학습과 저자원 언어 지원 방법을 탐구하고 있다. 또한 다음 토큰 예측의 대화제로 확산 기반 시퀀스 생성 실험을 발표했다. 그러나 이러한 프로젝트는 조기 단계이며, 연구소의 주요 산출물은 여전히 기존 Transformer (architecture) 모델의 고품질 파이트닝이다.