张策是一位计算机科学家和学者,以在机器学习系统和数据管理方面的贡献而闻名。他是芝加哥大学的副教授,也是Together AI的联合创始人,该公司专注于开源生成式AI基础设施。他的研究将人工智能与数据库和系统设计相结合,旨在使机器学习更加高效和易于使用。
张策的工作获得了多项奖项的认可,包括斯隆研究奖学金和美国国家科学基金会职业奖。他在SIGMOD、VLDB和NeurIPS等顶级会议上发表了大量论文,其研究对大规模AI模型的部署在学术和工业实践中都产生了影响。
早期职业与教育
张策在多伦多大学获得计算机科学博士学位,师从Renée J. Miller。他的博士研究聚焦于数据集成和清洗,这后来激发了他将这些技术应用于机器学习流程的兴趣。在加入芝加哥大学之前,他是斯坦福AI实验室的博士后研究员,与Christopher Ré合作开发了DeepDive系统,该系统利用统计推断从非结构化数据中提取信息。
研究贡献
张策的研究集中于数据管理与机器学习的交叉领域。他开发了通过利用索引、压缩和查询优化等数据库原理来优化深度学习模型训练和推理的系统。一个 notable 项目是“Hogwild!”风格的并行SGD实现,该实现展示了如何在多核系统上无锁地扩展SGD变体,实现近线性加速。
他还为“Cerebro”系统的开发做出了贡献,该系统用于大规模模型选择和管理,使数据科学家能够高效地探索超参数空间。他在“LazyBatching”和“DataSkipping”技术方面的工作提高了神经网络在关系数据上训练的性能,减少了I/O和计算成本。这些贡献被广泛引用,并影响了ML系统领域的后续研究。
Together AI与行业影响
2022年,张策与其他研究人员和工程师共同创立了Together AI。该公司提供用于训练和运行大型语言模型的云基础设施,专注于开源模型和工具。Together AI的平台支持Llama和Mistral等流行模型,提供微调、推理和部署服务。该公司已筹集了大量资金,并成为生成式AI生态系统中的关键参与者,通过提供专业化的、成本效益高的解决方案与大型云提供商竞争。
张策在Together AI的角色涉及指导技术方向,特别是在分布式系统上优化Transformer架构的性能。他的学术见解直接塑造了公司构建可扩展AI基础设施的方法,他继续在研究与行业实践之间架起桥梁。
教学与指导
在芝加哥大学,张策教授机器学习系统和数据管理课程。他指导了众多博士生和博士后,其中许多人已在学术界和工业界任职。他的教学强调构建和部署AI系统的实践经验,鼓励学生理解理论基础和实际工程挑战。
张策还积极参与组织学术会议和研讨会,担任NeurIPS、ICML和SIGMOD等主要会议的程序委员会委员。他是AI研究可复现性的坚定倡导者,他的实验室维护着他们开发系统的开源代码和基准。
认可与奖项
张策的贡献获得了多项荣誉的认可。他于2021年获得斯隆研究奖学金,该奖项授予具有杰出潜力的早期职业科学家。他还获得了美国国家科学基金会职业奖,这是针对初级教师的 prestigious 资助。他关于“Cerebro”的论文获得了ICDE 2020最佳论文奖,而他关于“Hogwild!”风格算法的工作被认为是并行机器学习的奠基性贡献。
他曾受邀在各种会议和研讨会上发表主题演讲,其研究也被报道AI进展的媒体所关注。他与Together AI的合作也在关于AI基础设施提供商日益增长格局的行业报告中得到强调。
未来方向
张策继续探索机器学习系统的新前沿,包括残差网络等架构的高效训练方法,以及模型剪枝和数据增强技术。他对通过减少训练大型模型所需的计算资源来使AI更具可持续性感兴趣。他正在进行的研究旨在开发能够适应变化的数据分布并支持大规模实时推理的系统。
作为Together AI的联合创始人,张策还专注于使AI的获取民主化,确保研究人员和开发者能够利用强大的模型而无需承担高昂成本。他作为学者和企业家的双重角色,使他在未来几年能够影响人工智能的理论和实践演变。