Nomic AI는 기계 학습 모델을 더 해석 가능하고 접근하기 쉽게 만드는 데 중점을 둔 인공지능 기업이다. 이 회사는 인공지능 분야에서 투명성과 사용성을 높이는 것을 목표로 하는 오픈소스 도구와 플랫폼을 개발한다. Nomic AI는 특히 GPT4All 소프트웨어 제품군과 Nomic Atlas 데이터 시각화 엔진을 포함한 오픈소스 생태계에 대한 기여로 잘 알려져 있다. 이 조직의 작업은 기계 학습, 딥 러닝, 그리고 오픈소스 소프트웨어 개발의 교차점에 위치한다.
이 회사는 2022년 Brandon Duderstadt, Nikhil Garg, Andriy Mulyar에 의해 설립되었다. Nomic AI는 뉴욕시에 본사를 두고 있다. 창립 팀은 AI 분야의 근본적인 과제, 즉 복잡한 신경망과 대규모 언어 모델의 불투명성을 해결하고자 했다. 사용자가 이러한 모델 내부를 들여다보고 정보를 처리하는 방식을 이해할 수 있는 도구를 구축함으로써, Nomic AI는 강력한 AI 시스템과 인간 이해 사이의 격차를 메우는 것을 목표로 한다.
오픈소스 사명
Nomic AI는 오픈소스 원칙에 대한 강한 헌신을 바탕으로 운영된다. 이 회사는 생성형 AI 도구가 독점적 장벽 뒤에 갇히기보다는 더 넓은 커뮤니티에서 자유롭게 사용하고 수정할 수 있어야 한다고 믿는다. 이러한 철학은 GitHub와 Hugging Face와 같은 플랫폼에서 제공되는 주요 제품의 라이선스와 배포 방식에 반영되어 있다. 오픈소스 접근 방식은 연구자, 개발자, 취미 사용자가 회사의 작업을 검사하고 수정하며 개선할 수 있게 하여 AI 개발을 위한 협력적 환경을 조성한다.
회사의 사명은 이름에서 암시되듯이 AI 분야를 더 "nomic"하게 만드는 것으로, 이는 법과 관습의 연구와 관련이 있다. 이러한 맥락에서 Nomic AI는 AI 커뮤니티 내에서 해석 가능성과 투명성에 대한 규범과 표준을 확립하고 촉진하는 것을 목표로 한다. 그들의 도구는 내부 프로젝트에 유용할 뿐만 아니라 다른 개발자와 조직을 위한 기초적인 구성 요소로 설계되었다.
GPT4All
GPT4All은 Nomic AI가 개발한 가장 대표적인 제품 중 하나이다. 이는 사용자가 자신의 컴퓨터에서 대규모 언어 모델을 로컬로 실행할 수 있게 해주는 무료 오픈소스 소프트웨어 생태계이다. 이 프로젝트는 2023년 3월에 출시되어 접근성으로 빠르게 주목을 받았다. GPT4All은 개인과 조직이 클라우드 기반 서비스에 의존하지 않고 대화형 AI와 텍스트 생성 기능을 배포할 수 있게 하며, 이는 프라이버시, 비용, 오프라인 가용성 측면에서 이점을 제공한다.
이 소프트웨어는 다양한 모델 아키텍처를 지원하며 CPU를 포함한 표준 소비자 하드웨어에서 작동하도록 최적화되어 있다. 이는 이러한 모델을 실행하는 데 필요한 계산 리소스를 줄이는 양자화 기술을 통해 달성된다. GPT4All은 간단한 채팅 인터페이스와 Python 라이브러리를 포함하여 기술 사용자와 비기술 사용자 모두에게 접근 가능하게 한다. 이 프로젝트는 수십만 건의 다운로드와 플러그인 및 확장 기능을 기여하는 활발한 커뮤니티로 널리 채택되었다. 2023년 말 기준으로 GPT4All 프로젝트는 다양한 데이터셋으로 훈련된 모델을 지원했으며, 빠르게 변화하는 대규모 언어 모델 환경에 맞춰 계속 진화하고 있다.
Nomic Atlas
Nomic Atlas는 Nomic AI의 또 다른 대표 제품이다. 이는 대규모 데이터셋과 임베딩을 시각화하고 상호작용하기 위해 설계된 오픈소스 데이터 엔진이다. 기계 학습의 맥락에서 임베딩은 단어, 문장, 이미지와 같은 데이터 포인트의 의미적 의미를 포착하는 수치적 표현이다. Atlas는 사용자가 수백만 개의 데이터 포인트를 2차원 또는 3차원 공간에 표시하여 복잡한 데이터 구조를 직관적으로 탐색할 수 있게 한다.
이 플랫폼은 해석 가능성에 중요한 "임베딩 시각화"라는 기술을 지원한다. 서로 다른 데이터 포인트가 어떻게 군집을 이루는지 확인함으로써 연구자는 모델이 정보를 구성하는 방식에 대한 통찰력을 얻을 수 있다. Atlas는 Nomic AI가 트랜스포머 및 기타 모델 아키텍처의 내부 상태를 시각화하는 데 사용되었으며, 이러한 시스템의 불투명한 작동 방식을 들여다보는 창을 제공했다. 이 도구는 과학 문헌 분석과 소셜 미디어 트렌드 분석과 같은 비AI 분야에도 적용되어 다재다능한 데이터 분석 도구로 자리 잡았다.
해석 가능성 연구
제품 개발 외에도 Nomic AI는 모델 해석 가능성에 초점을 맞춘 연구를 수행하고 지원한다. 이 회사는 신경망의 동작을 이해하기 위한 기술에 관한 논문과 기술 보고서를 발표했다. 주요 관심 분야 중 하나는 "기계적 해석 가능성"으로, 모델의 내부 계산을 역설계하여 출력을 구동하는 특정 특징과 회로를 식별하는 것을 추구한다. 이 연구는 잠재적 편향, 실패 모드, 예상치 못한 동작을 식별하는 데 도움이 되므로 AI 시스템의 안전성과 신뢰성을 보장하는 데 중요하다.
Nomic AI의 연구 노력은 협력적이며, 종종 학술 기관과의 파트너십과 해당 분야의 학회 기여를 포함한다. 또한 그들은 고차원 공간의 힘을 활용하여 모델 결정을 더 투명하게 만드는 "임베딩 기반 해석 가능성"이라는 개념을 개발했다. 이러한 연구 결과를 공개함으로써 회사는 업계 전반에 걸쳐 AI 투명성에 대한 모범 사례를 확립하는 더 넓은 목표에 기여한다.
기술 및 아키텍처
Nomic AI 제품의 기술적 기반은 현대 AI의 여러 고급 개념을 포함한다. GPT4All의 경우 회사는 양자화 기술을 통합했으며, 모델 크기를 줄이기 위해 모델 가지치기 작업도 수행했다. 이 소프트웨어는 대부분의 현대 대규모 언어 모델의 기반이 되는 트랜스포머 아키텍처에서 실행된다. Nomic AI는 또한 특정 데이터셋에 모델을 미세 조정하기 위한 맞춤형 파이프라인을 개발했으며, RLHF(인간 피드백 기반 강화 학습)와 같은 방법을 사용하여 모델 출력을 사용자 기대에 맞춘다.
Nomic Atlas 플랫폼은 고차원 임베딩을 시각화를 위한 저차원 공간으로 투영하는 차원 축소 알고리즘에 의존한다. 또한 배치 정규화 및 딥 러닝의 기타 표준 기술을 활용하여 안정적이고 효율적인 데이터 처리를 보장한다. 회사의 엔지니어링 노력은 최종 사용자가 깊은 기술 전문 지식을 요구하지 않고도 이러한 고급 기계 학습 방법에 접근할 수 있도록 하는 데 중점을 둔다.
협업 및 커뮤니티
Nomic AI는 파트너십과 오픈소스 기여를 통해 더 넓은 AI 커뮤니티와 적극적으로 소통한다. 이 회사는 스탠포드 AI 연구소와 MIT CSAIL을 포함한 개방형 AI에 전념하는 조직과 협력해 왔다. 이러한 협력은 공동 연구 이니셔티브와 데이터셋 및 모델 가중치 공유로 이어졌다. Nomic AI는 또한 주요 AI 학회에 참여하여 팀원들이 해석 가능성과 오픈소스 도구에 대한 연구 결과를 발표한다.
Nomic AI의 커뮤니티 중심적 성격은 정체성의 핵심 요소이다. 이 회사는 사용자가 질문하고 사용 사례를 공유하며 문제를 보고할 수 있는 활발한 포럼과 Discord 채널을 유지한다. 이러한 채널의 피드백은 종종 개발 로드맵에 직접 영향을 미쳐 도구가 실제 요구를 충족하도록 진화하게 한다. 2024년 Nomic AI는 아마존 웹 서비스와의 파트너십을 발표하여 GPT4All을 AWS 클라우드 인프라에 통합하고 기업이 하이브리드 클라우드 환경에서 로컬 모델을 더 쉽게 배포할 수 있게 했다.
자금 및 성장
Nomic AI는 책임 있는 AI의 미래에 관심이 있는 벤처 캐피털 회사로부터 상당한 투자를 유치했다. 이 회사는 2022년 Kindred Ventures가 주도하고 여러 엔젤 투자자가 참여한 시드 펀딩 라운드를 마감했다. 이 초기 자본은 팀이 핵심 제품 개발을 확장하고 가속화할 수 있게 했다. 이후 펀딩 라운드에서 Nomic AI는 채용과 연구 노력을 지원하기 위해 추가 자본을 모금했다. 회사는 OpenAI나 Anthropic과 같은 AI 업계의 거대 기업에 비해 아직 크지 않지만, 해석 가능성 분야에서 틈새를 개척했으며 투명한 AI 솔루션에 대한 수요가 증가함에 따라 계속 성장하고 있다.
영향 및 평가
Nomic AI의 작업의 영향은 AI 커뮤니티 내에서 상당했다. GPT4All은 대규모 언어 모델에 대한 접근을 민주화하는 핵심 사례로 널리 인용되며, 사용자가 고급 클라우드 인프라 없이 모델을 실행할 수 있게 한다. 이는 데이터를 외부 서버로 쉽게 보낼 수 없는 의료 및 금융과 같은 분야의 프라이버시에 민감한 사용자와 조직에 특히 관련이 있다. 이 도구의 사용 용이성은 생성형 AI를 배우는 사람들에게 인기 있는 교육 자료로도 만들었다.
Nomic Atlas는 직관적인 인터페이스와 수백만 개의 포인트가 있는 데이터셋을 처리하는 확장성으로 칭찬을 받았다. 이는 학술 연구에서 저널리즘에 이르기까지 다양한 산업에서 데이터 패턴을 발견하는 데 사용되었다. 회사의 오픈소스 라이선스에 대한 헌신은 도구를 자신의 필요에 맞게 사용자 정의하고 확장할 수 있는 개발자들 사이에서 호의를 얻었다.
향후 방향
앞으로 Nomic AI는 제품 제공과 연구 노력을 계속 확장하고 있다. 이 회사는 해석 가능성 기능을 모델 훈련 파이프라인에 직접 통합하는 방법을 탐구하고 있으며, 잠재적으로 설계상 투명한 AI 시스템 개발을 가능하게 할 수 있다. 또한 GPT4All의 효율성을 개선하여 소비자급 하드웨어에서 더 큰 모델을 지원하는 것을 목표로 하고 있다. 생성형 AI 분야가 진화함에 따라 Nomic AI는 이러한 기술을 강력할 뿐만 아니라 이해 가능하고 신뢰할 수 있게 만드는 데 최전선에 서는 것을 목표로 한다. 회사의 궤적은 최첨단 AI 연구와 실용적이고 사용자 중심적인 응용 프로그램 사이의 격차를 메우는 데 지속적인 초점을 맞추고 있음을 시사한다.