Weights & Biases(W&B)是一家软件公司,开发用于机器学习实验跟踪、数据集版本管理和模型评估的平台。该公司成立于2017年,提供的工具帮助研究人员和工程师记录、可视化和比较机器学习实验,包括指标、超参数和输出。其平台与TensorFlow、PyTorch和Keras等流行框架集成,并支持大型语言模型和生成式AI应用的工作流程。
该公司由Lukas Biewald、Chris Van Pelt和Shawn Lewis共同创立,他们此前曾参与数据标注平台CrowdFlower的工作。W&B源于简化模型训练迭代过程的需求,提供集中式仪表板,用于跟踪运行、比较结果并在团队间共享发现。截至2024年,该平台已被超过1,000家组织使用,包括OpenAI、Anthropic和Google DeepMind,并已筹集超过2.5亿美元资金,估值超过10亿美元。
核心功能
W&B提供一套以实验跟踪为中心的工具。用户可以实时记录损失和准确率等指标,在交互式图表中可视化,并并排比较多次运行。该平台还支持超参数扫描,实现参数空间的自动搜索,以及用于数据集和模型版本管理的工件管理。对于生产工作流程,W&B提供模型注册和评估工具,使团队能够跟踪模型版本、监控性能,并通过共享报告和评论促进协作。
集成与生态系统
该平台与主要的AI框架和云服务集成。它与Amazon Web Services、Microsoft Azure和Google Cloud兼容,并支持来自AMD、Intel和NVIDIA(通过第三方库)的硬件加速器。W&B还提供Python和R的SDK,并提供与Hugging Face和MLflow的集成以进行模型管理。其开源库wandb被广泛采用,截至2024年每月下载量超过50万次。
在AI研究中的应用
W&B广泛用于学术和工业研究。它已被数千篇论文引用,包括关于Transformer和深度学习架构的工作。斯坦福AI实验室、MIT CSAIL和伯克利AI研究的团队使用该平台进行可重复性和协作。在工业界,特斯拉和Waymo等公司利用W&B训练自动驾驶模型,而OpenAI和Anthropic则将其用于LLM开发和评估。
业务与增长
W&B总部位于旧金山,已在伦敦和首尔设立办公室进行全球扩张。该公司于2021年完成了由红杉资本和老虎环球领投的1.35亿美元C轮融资,使总融资额超过2.5亿美元。2023年,W&B收购了开源项目Launchpad以增强其部署能力。公司已发展到超过300名员工,并继续为生成式AI监控添加功能,包括跟踪LLM提示和响应的工具。
社区与开源
W&B保持着强大的开源影响力。wandb库在Apache 2.0许可证下可用,公司赞助社区活动和教育计划。它为学术研究人员和学生提供免费层级,并举办年度会议W&B Summit,邀请领先的AI从业者发表演讲。该平台的文档和教程广泛用于在线课程,包括Coursera和fast.ai的课程。
未来方向
随着机器学习的发展,W&B正专注于LLM评估、基于人类反馈的强化学习和MLOps自动化的工具。公司旨在成为AI开发的标准基础设施,类似于GitHub服务于软件工程。随着生成式AI的兴起,W&B正在扩展其能力以处理大规模训练运行和实时监控,将自己定位在AI基础设施栈的中心。