Togetherは、大規模言語モデルやその他の生成AIシステムのトレーニング、ファインチューニング、デプロイのためのインフラストラクチャとサービスを提供するAIクラウドプラットフォームです。2022年に設立された同社は、マネージドAPIと高性能GPUクラスターを通じてオープンソースモデルへのアクセスを提供し、OpenAIやAnthropicのようなプロプライエタリなAIプロバイダーの代替としての地位を確立しています。Togetherはオープンソースのコラボレーションを重視し、高度な人工知能機能を開発者や企業が利用しやすくすることを目指しています。
このプラットフォームは、機械学習の実験から本番規模の推論まで、さまざまなワークロードをサポートしています。サーバーレスと専用コンピュートの両方のオプションを提供し、トランスフォーマーアーキテクチャや深層学習ライブラリなどの一般的なフレームワークをサポートしています。Togetherのインフラストラクチャは、大規模言語モデルのトレーニングとサービングの要求に対応するように設計されており、低遅延の応答とスケーラブルなリソースを提供します。
歴史と設立
Togetherは、人工知能と分散システムのバックグラウンドを持つ研究者とエンジニアのチームによって2022年に設立されました。同社は、特にオープンソースモデルに対する、アクセスしやすく費用対効果の高いAIインフラストラクチャへのニーズの高まりから生まれました。創業者には、Vipul Ved Prakash、Ce Zhang、Chris Re、Percy Liangが含まれており、彼らは学界と産業界からの経験をもたらしました。同社は、オープンソースAIへの焦点で急速に注目を集め、クローズドなプラットフォームとは一線を画しました。
初期の数年間で、Togetherはベンチャーキャピタル企業から多額の資金を調達し、GPUクラスターとサービス提供の急速な拡大を可能にしました。2023年までに、同社はAIクラウド市場で注目すべきプレーヤーとなり、Amazon Web ServicesやGoogle Cloudのような大手プロバイダーと競合しました。また、モデル開発者や研究機関とのパートナーシップを開始し、AIエコシステムにおける役割をさらに強化しました。
サービスと製品
Togetherは、生成AIを中心とした一連のサービスを提供しています。主な製品は以下の通りです。
- 推論API: LlamaやMistralなどのオープンソースモデルを実行するためのマネージドサービスで、シンプルなRESTエンドポイントを提供します。これにより、開発者は基盤となるインフラストラクチャを管理することなくAI機能を統合できます。
- トレーニングとファインチューニング: 複数のGPUにわたる分散トレーニングを使用して、プロプライエタリなデータセットでモデルをカスタマイズするためのツール。Togetherは、コストを削減するための事前設定済み環境と最適化技術を提供します。
- GPUクラスター: 大規模なトレーニングジョブ用の専用コンピュートリソースで、さまざまなGPUタイプとネットワーク構成のオプションを提供します。これらのクラスターは、高スループットと低遅延を実現するように設計されています。
- Together Enterprise: 強化されたセキュリティ、サポート、コンプライアンス機能（プライベートネットワーキングや専用インスタンスを含む）を必要とする組織向けのティア。
このプラットフォームは、チャットボット、コード生成、コンテンツ作成などの生成AIアプリケーションをサポートしています。また、Hugging Face Transformersなどの一般的なライブラリとの互換性も提供し、既存ユーザーの移行を簡素化します。
テクノロジーとインフラストラクチャ
Togetherのインフラストラクチャは、AMDやNVIDIAハードウェアを含む高性能GPUを活用した分散コンピューティングアーキテクチャに基づいています。同社は複数の地域でデータセンターを運営し、グローバルユーザーに冗長性と低遅延アクセスを保証しています。ソフトウェアスタックには、トレーニング中の利用率を最大化し、ボトルネックを最小化するためのカスタムスケジューラとネットワーク最適化が含まれています。
主な差別化要因は、Togetherがオープンソースモデルに重点を置いていることです。OpenAIやAnthropicが主にプロプライエタリなシステムを提供するのとは異なり、Togetherはコミュニティ開発のモデルへのアクセスを提供し、ユーザーがそれらを自由に検査、変更、デプロイできるようにします。これは、機械学習研究における透明性とコラボレーションを提唱する、より広範なオープンソースAI運動と一致しています。
同社はまた、新しいアテンションメカニズムや量子化技術など、効率を向上させるための研究にも投資しています。これらの取り組みは、大規模言語モデル推論の計算コストを削減し、AIをより持続可能でアクセスしやすくすることを目的としています。
市場での位置づけと競争
AIクラウド市場は非常に競争が激しく、Amazon Web Services、Google Cloud、Azureなどの主要プレーヤーがAI固有のサービスを提供しています。Togetherは、オープンソースモデルと開発者向けAPIへの焦点を通じて差別化を図っています。また、AIワークロード向けの高性能コンピュートを提供するCoreWeaveやCerebrasなどの専門AIクラウドプロバイダーとも競合しています。
Togetherの価格モデルは使用量ベースで、トークン単位または時間単位のレートを提供しており、スタートアップや研究グループにとって魅力的です。同社は力強い成長を報告しており、顧客は金融、ヘルスケア、メディアなどの業界にわたっています。2024年現在、Togetherはマルチモーダルモデルやエッジデプロイメントのサポートを含む、提供内容を拡大し続けています。
コミュニティとオープンソース
Togetherは、ツール、ベンチマーク、モデルウェイトをリリースすることで、オープンソースAIコミュニティに積極的に貢献しています。研究プロジェクトをスポンサーし、開発者と研究者間のコラボレーションを促進するためのイベントを開催しています。同社のオープン性へのコミットメントは、Open Source Initiativeのようなイニシアチブへの支援や学術機関とのパートナーシップに反映されています。
アクセスしやすいインフラストラクチャを提供することで、TogetherはAIを民主化し、小規模な組織がテクノロジー大手と競争できるようにすることを目指しています。このミッションは、AI開発へのより広範な参加を提唱する人工知能分野の多くの人々に共感を呼んでいます。
今後の方向性
今後、Togetherは自動モデル最適化やマルチクラウドサポートなどのより高度な機能でプラットフォームを強化する計画です。また、より効率的なハードウェアとアルゴリズムを通じてエネルギー消費を削減する方法も模索しています。生成AIが進化し続ける中、Togetherはこれらのテクノロジーがどのようにデプロイされ、アクセスされるかを形作る上で重要な役割を果たす位置にあります。
同社は、資金力のあるライバルとの競争やAIイノベーションの急速なペースなど、課題に直面しています。しかし、オープンソースの原則と開発者体験への焦点は、持続的な成長のための強固な基盤を提供しています。