Chroma（ChromaDBとも呼ばれる）は、大規模言語モデルを用いて構築されたアプリケーション向けに設計された、オープンソースのデータ基盤システムである。これは埋め込みデータベースとして機能し、開発者がデータのベクトル表現を保存、管理、検索することを可能にする。これは、検索拡張生成などの現代の人工知能ワークフローにおける中核的な要件である。このシステムは、AIパイプラインにベクトル検索を統合するための軽量で開発者に優しいインターフェースを提供し、生成AIアプリケーションを構築するためのフレームワークと併用されることが多い。
サンフランシスコに本社を置くChromaは、2023年に立ち上げられ、すぐにベンチャーキャピタルを集めた。2023年4月、同社はシード資金として1800万米ドルを調達したことを発表し、AI向けデータ基盤への関心の高まりを反映している。このプロジェクトはオープンソースソフトウェアとして維持されており、幅広いコミュニティの貢献と採用を可能にしている。
ベクトル検索と埋め込み
Chromaの主な機能は、埋め込みの保存と検索を処理するニューラルネットワークベースのベクトルデータベースとして機能することである。機械学習の文脈では、埋め込みは、大規模言語モデルなどのモデルによって生成された、テキスト、画像、音声などのデータの数値表現である。Chromaはこれらの埋め込みをインデックス化し、高速な類似性検索をサポートしており、多次元空間内で最も近いベクトルを見つけることで、質問応答やレコメンデーションなどの操作を可能にする。このアプローチは、意味的類似性がキーワード一致に取って代わる自然言語処理タスクで一般的である。
このデータベースは軽量でセットアップが簡単なように設計されており、インメモリと永続ストレージの両方のバックエンドを提供する。開発者はシンプルなAPIを使用してクエリを実行でき、人気のあるAIフレームワークやOpenAI、AnthropicのモデルAPIと統合できる。Chromaはメタデータフィルタリングもサポートしており、カスタム属性によって検索結果を絞り込むことができる。
大規模言語モデルとの統合
Chromaは、検索拡張生成（RAG）スタックの一部として頻繁に使用される。これは、大規模言語モデルとベクトルデータベースを組み合わせて、回答を生成する前に関連ドキュメントを取得する技術である。RAGパイプラインでは、入力クエリが埋め込みに変換され、Chromaが最も類似したデータポイントを取得し、モデルがそれらをコンテキストとして使用する。これにより、幻覚が軽減され、実際のデータに基づいた回答が得られる。
このワークフローは、人工知能に関する学術研究、特にトランスフォーマーアーキテクチャを含む実験で実装されている。この設計は、Google DeepMindやCerebrasなどの企業の慣行と一致しているが、Chroma自体は、多くの環境での統合の容易さを目的として構築された独立したツールである。
技術アーキテクチャ
コアはPythonで構築されており、データサイエンスや機械学習のワークフローでの直接的な使用を可能にしている。高速な最近傍計算のためにベクトルインデックスがメモリ内に維持され、永続ストレージ層も備えている。Chromaには埋め込みを生成するためのランタイムモデルは含まれておらず、代わりに、シンプルなものからユーザー定義のものまで複数の埋め込み関数をサポートしているため、任意のモデルで使用できる。
開発者は、プロトタイピング用にChromaをローカルで実行したり、本番環境用にAmazon Web Servicesやその他のクラウドインフラストラクチャにデプロイしたりできる。これは、パフォーマンスと最小限のリソース消費に重点を置いて構築されており、エッジデバイスやポケットサイズのロボットのような環境でのアプリケーションに適している。また、Oracle CloudやGoogle Cloudなどの他のプラットフォームと同等に連携して動作する。
学術・研究での利用
いくつかの人工知能研究プロジェクト、特に知識集約型の質問応答や情報検索の分野では、技術スタックの一部としてChromaを採用している。そのオープンソースの性質により再現性が可能となり、研究者はテストセット用のベクトルデータベースを簡単にセットアップできる。例えば、科学論文などのコーパスで大規模言語モデルを使用するいくつかの研究では、Chromaが生成モデルが出力を生成する前の検索ステップを提供している。これは、効率的な知識アクセスのためのニューラルネットワークシステムの改善や、他のRAG実装との比較に関する研究で見られている。
このソフトウェアは、従来のデータベースと比較して最小限のセットアップで迅速な反復が可能なため、AI向けデータ管理の新しい方法を探求するためのテストベッドとしても使用されている。
コミュニティと業界
Chromaは、現代のAIフレームワークとの統合の容易さから、生成AIソリューションを構築する開発者の間で支持を得ている。チームは商用サポートとクラウドサービスを提供しているが、オープンソースコードはその価値の中核であり続けている。これは、Amazon AI向けや制約のあるハードウェア環境向けのチャットベースのアシスタントを構築するために使用されてきた標準APIを提供する。
人工知能アプリケーション全体で効率的な検索への重点が高まる中、Chromaは、SambaNovaが使用するものや本社で待機している分散コンピューティングなどの類似ツールと並んで、いわゆるAIデータベース層を構築するための中核的な要素として位置づけられている。