Vectaraは、組織が自社データ上に根拠に基づいた事実ベースの会話型アシスタントや検索体験を構築できるようにする、AIを活用した検索および検索拡張生成（RAG）サービスです。2021年に元Googleエンジニアによって設立された同社は、セマンティック検索、大規模言語モデル生成、引用機能を組み合わせたエンドツーエンドのプラットフォームを提供し、幻覚を減らして回答の信頼性を向上させます。
このサービスは開発者にとって使いやすいように設計されており、APIや統合機能を提供して、企業が深い機械学習の専門知識を必要とせずに、アプリケーションに質問応答や要約機能を追加できるようにします。Vectaraは、データプライバシー、セキュリティ、コンプライアンスを重視した、信頼できるエンタープライズグレードのソリューションとして自らを位置づけています。
歴史と設立
Vectaraは2021年に、Google DeepMindとGoogle Cloudの元エンジニアのチームによって設立されました。その中には、Transformer (architecture)アーキテクチャの共同発明者であるjakub-uszkoreitや、transformer論文への主要な貢献者であるLukasz Kaiserが含まれます。同社は2022年にステルスモードから脱却し、Two Sigma Venturesが主導し、他の投資家も参加したシリーズAラウンドで2850万ドルの資金調達を発表しました。
創業チームの大規模言語モデルとニューラルネットワークに関する深い背景が、検索と生成を単一のプラットフォームで組み合わせるというVectaraの焦点を形作りました。同社の使命は、インデックス作成、検索、生成の複雑さを処理するマネージドサービスを提供することで、生成AIを企業にとって利用しやすいものにすることでした。
技術とアーキテクチャ
Vectaraのプラットフォームは、いくつかの主要コンポーネントを統合した独自のRAGアーキテクチャ上に構築されています。その中核には、キーワードマッチングのみに依存するのではなく、Transformer (architecture)ベースのエンコーダを使用してクエリとドキュメントの意味を理解するセマンティック検索エンジンがあります。これにより、大規模なコーパスから関連情報をより正確に検索できます。
このシステムは、テキストを効果的に処理するためにマルチヘッドアテンションメカニズムと位置エンコーディングを組み込んでいます。Vectaraはまた、生成中にクエリをドキュメントコンテンツと整合させるためにクロスアテンション層を採用しています。このプラットフォームは、特定のユースケースに合わせてモデルを微調整するために、損失関数やAdam、SGDバリアントなどの最適化手法をサポートしています。
Vectaraの特徴的な点は、幻覚、つまりLLMがもっともらしいが不正確な情報を生成する傾向を減らすことに重点を置いていることです。このサービスは、生成された応答を検索された証拠に基づいて接地し、ソースドキュメントへの引用を提供し、RLHFスタイルのフィードバックループを実装して時間の経過とともに精度を向上させることで、これを実現しています。
製品とサービス
Vectaraは、さまざまなユースケース向けに設計された一連の製品を提供しています：
- Vectara Answer：開発者が自社データ上に会話型アシスタントを構築できるようにする質問応答API。マルチターン対話、要約、引用生成などの機能をサポートします。
- Vectara Search：企業がドキュメント、ウェブサイト、データベース全体で自然言語検索を実装できるようにするセマンティック検索API。
- Vectara Summarize：長いドキュメントを簡潔で正確な要約に凝縮し、重要な事実を保持する要約サービス。
- Vectara Grounded Generation：組み込みの接地とファクトチェックを備えたカスタム生成AIアプリケーションを構築するためのプラットフォーム。
同社はまた、一般的なプログラミング言語用のSDK、AWS、Azure、Google Cloudとの統合、インデックス管理とパフォーマンス監視のためのウェブベースのコンソールも提供しています。
エンタープライズ採用とユースケース
Vectaraは、正確な情報検索が重要となる業界、例えば法務、医療、金融、カスタマーサポートなどをターゲットにしています。典型的なユースケースには以下が含まれます：
- カスタマーサポートの自動化：ナレッジベースに基づいて製品の質問に答えるチャットボットを構築し、チケット量を削減します。
- 法務調査：弁護士が関連する判例法や法令を迅速に見つけるのを支援します。
- 医療文書：臨床医が患者記録や医学文献を高精度で検索できるようにします。
- 財務分析：アナリスト向けに決算報告書や規制提出書類を要約します。
2024年時点で、Vectaraはそのプラットフォームがスタートアップからフォーチュン500企業までの顧客向けに年間数十億のクエリを処理していると報告しています。同社は、そのサービスがAWS、Azure、Google Cloud環境に展開でき、厳格なデータガバナンス要件を持つ組織向けにオンプレミス展開のオプションもあることを強調しています。
競争環境と将来の方向性
Vectaraは、OpenAIの検索プラグイン、AnthropicのClaude with citations、LangChainなどのオープンソースフレームワークを含む他の生成AI検索およびRAGプロバイダーと競合しています。しかし、Vectaraは、エンタープライズグレードの信頼性、組み込みの引用、インフラストラクチャの懸念を抽象化する完全マネージドサービスへの焦点を通じて差別化を図っています。
同社は、特にレイテンシを減らすためのモデルプルーニング、一般化を向上させるためのデータ拡張、トレーニング効率を改善するためのカリキュラム学習などの分野で研究開発への投資を続けています。Vectaraはまた、推論コストを最適化するためにAMDやIntelハードウェアアクセラレータとの統合も模索しています。
2023年、Vectaraは開発者向けの無料ティアを開始し、スタートアップや個人開発者の間での採用を加速することを目指しました。同社はまた、幻覚検出と軽減に関する研究を発表し、LLMの信頼性に関するより広範な学術的議論に貢献しています。
今後、Vectaraは画像や音声を含むマルチモーダルデータをサポートするようにプラットフォームを拡張し、データベースやスプレッドシートなどの構造化データを処理する機能を強化する計画です。同社は、すべての組織が信頼できるAIを利用できるようにするという使命に引き続き取り組んでいます。