Weights & Biases（W&B）は、機械学習の実験追跡、データセットのバージョン管理、モデル評価のためのプラットフォームを開発するソフトウェア企業である。2017年に設立され、研究者やエンジニアが機械学習の実験（メトリクス、ハイパーパラメータ、出力を含む）を記録、可視化、比較するためのツールを提供している。同プラットフォームは、TensorFlow、PyTorch、Kerasなどの一般的なフレームワークと統合し、大規模言語モデルや生成AIアプリケーションのワークフローをサポートしている。
同社は、データラベリングプラットフォームであるCrowdFlowerで以前に働いていたLukas Biewald、Chris Van Pelt、Shawn Lewisによって共同設立された。W&Bは、モデルを訓練する反復プロセスを効率化する必要性から生まれ、実行の追跡、結果の比較、チーム間での発見の共有のための集中ダッシュボードを提供している。2024年時点で、このプラットフォームは、OpenAI、Anthropic、Google DeepMindを含む1,000以上の組織で使用されており、2億5,000万ドル以上の資金調達を行い、評価額は10億ドルを超えている。
コア機能
W&Bは、実験追跡を中心とした一連のツールを提供している。ユーザーは、損失や精度などのメトリクスをリアルタイムで記録し、インタラクティブなチャートで可視化し、複数の実行を並べて比較できる。また、プラットフォームはハイパーパラメータスイープをサポートし、パラメータ空間の自動検索を可能にし、データセットとモデルのバージョン管理のためのアーティファクト管理も提供する。本番ワークフロー向けには、W&Bはモデルレジストリと評価ツールを提供し、チームがモデルバージョンの追跡、パフォーマンスの監視、共有レポートとコメントを通じたコラボレーションを促進できるようにしている。
統合とエコシステム
このプラットフォームは、主要なAIフレームワークやクラウドサービスと統合している。Amazon Web Services、Microsoft Azure、Google Cloudと連携し、AMD、Intel、NVIDIA（サードパーティライブラリ経由）のハードウェアアクセラレータをサポートしている。W&Bはまた、PythonとR用のSDKを提供し、モデル管理のためのHugging FaceやMLflowとの統合も提供している。そのオープンソースライブラリであるwandbは広く採用されており、2024年時点で月間50万回以上のダウンロードがある。
AI研究における応用
W&Bは、学術研究と産業研究の両方で広く使用されている。数千の論文で引用されており、トランスフォーマーや深層学習アーキテクチャに関する研究を含む。スタンフォードAIラボ、MIT CSAIL、バークレーAIリサーチのチームは、再現性とコラボレーションのためにこのプラットフォームを使用している。産業界では、テスラやウェイモなどの企業が自動運転モデルの訓練にW&Bを活用しており、OpenAIやAnthropicはLLMの開発と評価に使用している。
ビジネスと成長
サンフランシスコに本社を置くW&Bは、ロンドンとソウルにオフィスを構え、グローバルに拡大している。同社は2021年に、Sequoia CapitalとTiger Globalが主導する1億3,500万ドルのシリーズCラウンドを調達し、総資金調達額は2億5,000万ドルを超えた。2023年には、W&Bはデプロイメント機能を強化するためにオープンソースプロジェクトのLaunchpadを買収した。同社は300人以上の従業員に成長し、LLMのプロンプトと応答の追跡ツールを含む生成AI監視のための機能を追加し続けている。
コミュニティとオープンソース
W&Bは、強力なオープンソースプレゼンスを維持している。wandbライブラリはApache 2.0ライセンスで利用可能であり、同社はコミュニティイベントや教育イニシアチブを後援している。学術研究者や学生向けの無料ティアを提供し、主要なAI実践者による講演を特徴とする年次カンファレンスであるW&B Summitを主催している。プラットフォームのドキュメントとチュートリアルは、Courseraやfast.aiのオンラインコースを含む、オンライン教育で広く使用されている。
今後の方向性
機械学習が進化するにつれて、W&BはLLM評価、人間のフィードバックからの強化学習、MLOps自動化のためのツールに焦点を当てている。同社は、GitHubがソフトウェアエンジニアリングに果たす役割と同様に、AI開発の標準インフラストラクチャになることを目指している。生成AIの台頭に伴い、W&Bは大規模な訓練実行とリアルタイム監視を処理するための機能を拡張しており、AIインフラストラクチャスタックの中心に位置づけている。