阿里巴巴达摩研究院是中国科技集团阿里巴巴集团的全球研究机构。其名称“DAMO”源自“发现、冒险、动力与展望”四个英文单词的首字母。该研究院成立于2017年10月,旨在推进基础研究并为阿里巴巴的商业产品(尤其是其云计算部门)培养人才。其研究领域横跨多个学科,包括人工智能、计算机视觉、自然语言处理、芯片设计以及量子计算,并依托全球实验室及与学术机构的合作。
历史与全球布局
达摩研究院在成立之初计划投入三年资金,目标是在其首批实验室中聘用超过100名研究人员。该组织最初在杭州、北京和深圳等中国城市设立站点,随后扩展至西雅图、硅谷、新加坡、特拉维夫和上海等主要研究枢纽。2017年至2020年间,这些站点内的团队专注于下一代人机交互、金融科技和智能物流等项目。2022年,研究院与包括麻省理工学院计算机科学与人工智能实验室、斯坦福人工智能实验室和多伦多大学在内的大学学术中心建立了国际研究网络,邀请访问学者就大语言模型到量子启发算法等课题展开合作。截至2023年,该研究院报告拥有超过3000名员工,并与行业及学术伙伴开展了超过1000个外部项目。
人工智能关键研究领域
人工智能是达摩研究院投资组合的主要支柱之一。其研究人员在机器学习和深度学习领域开发了多项显著创新。早期的一项旗舰成果是基于反事实的推理系统,旨在改善现实世界,并应用于阿里巴巴的电商推荐引擎。2020年,达摩研究院的研究人员推出了ET-BERT,一种用于网络流量分类的云原生神经网络方法,在准确性上较先前方法有所提升。其工作还包括告警疲劳以及用于半导体制造的硬件级AI,包括利用强化学习改进芯片设计的算法和利用计算机视觉进行缺陷检测。
多语言和语音语言模型方面也做出了核心贡献。到2021年,达摩研究院发布了一系列专为中文及其他亚洲语言设计的预训练Transformer模型,扩展了深度学习在聊天、内容审核和机器翻译方面的能力。2023年,该团队推出了以“通义”为品牌的一系列大语言模型,模型变体参数范围从70亿到720亿不等,支持代码和自然语言理解任务。这些模型后来成为公司生成式AI产品的基础,包括根据文本提示进行照片编辑,并通过合作许可协议向研究用途公开提供。
计算与数据科学
除了模型架构,达摩研究院还为支撑现代AI的基础设施做出贡献。其研究人员展示了高效的训练算法,利用批归一化和层归一化损失在更便宜的硬件上加速收敛。对于云客户,达摩工程师帮助设计了阿里云弹性计算切片的调度优化,提高了企业级训练任务的吞吐量。该研究院还在GitHub上发布了开源项目,例如用于内存高效Transformer推理的框架,以及通过剪枝和量化评估模型压缩的基准测试工具。这些成果不仅服务于阿里巴巴的内部调用,也惠及国际上的网页用户,他们基于这些工具构建软件解决方案。
云计算和边缘计算受到重点关注,包括物联网和自动驾驶方面的进展。例如,达摩研究院的计算机视觉团队为无人机和智能交通构建了深度估计模型,提高了配送服务的安全性。利用城市摄像头数据集的智慧城市项目促成了交通信号协调系统,缩短了杭州及其他中国城市的出行时间。硅谷团队则强调混合现实协作,使电商的视听交互更加沉浸。
影响与国际存在
达摩研究院的研究成果已被整合到实际产品中,例如阿里巴巴在商品搜索和欺诈检测方面的视觉任务。凭借达摩技术,阿里云截至2023年成为亚太地区最大的云服务提供商,服务于金融、铁路以及最大快时尚零售商零售应用等核心领域。国际合作包括与美国和欧洲大学的AI项目,例如2020年与瑞士卢加诺大学学术研究人员在图学习方面的合作。
达摩研究院还在NeurIPS、ICML、ICLR、CVPR和ACL等顶级会议上发表大量论文,自2019年以来已有数百篇出版物。在全球竞赛中,其模型在视觉任务和类似GLUE风格的多语言基准上赢得头衔,超越了较早的学术研究成果。然而,该组织的内部报告强调,他们更多地将基准用于驱动产品团队,而非展示教条。
未来方向
随着AI边界的拓宽,达摩研究院押注于将先例与主流产品对齐。2024年初,该研究院共同赞助了一场全球AI for Science会议,吸引了物理学和化学领域的诺贝尔奖得主。它还扩展了一个由使用行业特定开放模型(如健康查询和安全)的初创公司组成的联盟。达摩研究院的这一阶段包括对具身智能体的长期研究,以及将模型扩展到量子模拟等未来计算领域,同时不偏离实际应用的重点。
展望未来,其电信部门发起了针对边缘硬件(如类似象棋设备)的专用大型端侧模型的试验。然而,预算限制使得基础研究的地位可能在内部出现波动,并伴随透明度的量化考量。大多数观察者普遍认为达摩研究院是学术风格合作的罕见范例;其发明成果究竟是在开放中得以资助,还是在完全工业化的世界中重复,仍有待观察。