Salesforce Research是Salesforce的人工智能研究部门，Salesforce是一家总部位于加利福尼亚州旧金山的云端软件公司。该团队开展人工智能、机器学习及相关领域的基础与应用研究，特别侧重于自然语言处理、计算机视觉和强化学习。其研究成果被整合到Salesforce的客户关系管理（CRM）产品中，包括协助销售、服务与营销团队的Einstein AI功能。
该组织于2014年成立，由Richard Socher领导，他担任首席科学家直至2020年。它作为企业研究实验室运作，规模与谷歌深度思维或开放人工智能类似，但侧重于企业软件而非通用人工智能。Salesforce Research已在NeurIPS、ICML和ACL等主要会议上发表了数百篇同行评审论文，并与斯坦福人工智能实验室、麻省理工学院计算机科学与人工智能实验室及多伦多大学等学术机构保持合作。
对人工智能的主要贡献
Salesforce Research最著名的是开发了基于变换器的架构ProTran，该架构于2019年推出，通过使用动态令牌到令牌的注意力机制提高了大型语言模型的训练效率。这项工作影响了该领域的后续模型，尽管其商业知名度不及开放人工智能或人类学的模型。该团队还为序列到序列学习做出了贡献，特别是在对话式人工智能和问答领域。
2020年，Salesforce Research发布了CTRL，这是一种条件变换器语言模型，可通过控制代码生成具有特定风格或主题的文本。这是早期使生成式人工智能输出更具可控性的努力之一，这一概念后来被其他实验室采纳。该团队还开发了用于长文档阅读理解评估的QuALITY数据集，该数据集成为评估深度学习模型在复杂推理任务上表现的基准。
研究领域与项目
该部门的研究涵盖多个核心领域。在自然语言处理方面，它研究了多头注意力机制和位置编码的改进，以更好地处理长序列。在计算机视觉方面，Salesforce Research探索了残差网络变体和数据增强技术，用于零售和电子商务背景下的图像分类。强化学习项目侧重于课程学习和基于人工智能反馈的强化学习，以训练用于客户服务自动化的智能体。
一个值得注意的项目是Einstein平台的开发，该平台使用神经网络模型来预测客户流失、推荐产品和自动化电子邮件回复。研究团队还为基于PyTorch的开源库做出了贡献，包括“transformers”库的早期版本，尽管该项目后来独立发展。此外，Salesforce Research还发表了关于模型剪枝和层归一化的研究，以使模型在亚马逊网络服务和微软Azure等云基础设施上部署时更高效。
领导层与知名研究人员
Richard Socher曾是斯坦福人工智能实验室的研究员，他创立了该团队并领导至2020年，之后他离开创办了一家新企业。随后的领导者包括成为研究副总裁的Caiming Xiong和指导应用研究的Nikhil Naik。该团队还包括知名人物，如以循环神经网络研究闻名的Stephen Merity，以及为编码器-解码器架构做出贡献的Bryan McCann。几位研究人员已转至其他人工智能组织，包括谷歌深度思维和开放人工智能，这反映了该团队在该领域的影响力。
截至2024年，Salesforce Research拥有超过100名研究人员和工程师，在帕洛阿尔托、纽约和伦敦设有办公室。该团队公开其研究成果，但也为专有技术申请专利，在学术开放与商业利益之间取得平衡。其年度预算未公开披露，但由Salesforce的整体研发支出资助，该支出在2023财年超过了40亿美元。
影响与行业地位
Salesforce Research被视为中等级别的企业人工智能实验室，不如谷歌深度思维或开放人工智能那样突出，但更专注于实际的商业应用。其模型已部署在Salesforce的Einstein套件中，服务于超过15万客户。该团队还为开源生态系统做出了贡献，发布了其变换器变体和数据集的代码，这些成果已被超过10,000篇学术论文引用。
与亚马逊网络服务的人工智能实验室或谷歌云的研究团队等竞争对手相比，Salesforce Research强调针对CRM的领域特定解决方案，如情感分析和线索评分。它没有追求通用人工智能或AGI目标，而是专注于狭窄的、任务特定的模型。这一战略选择使其在企业软件市场中保持了相关性，尽管其获得的媒体关注少于大型人工智能研究组织。
未来方向
展望未来，Salesforce Research正在投资面向商业应用的生成式人工智能，包括自动报告生成和客户互动摘要。它还在探索使用损失函数和温度缩放的大型语言模型微调技术，以提高输出可靠性。该团队已宣布与英伟达和超威半导体合作，以优化专用硬件上的模型训练，尽管具体细节仍在开发中。截至2025年，它继续发表关于高效深度学习方法的研究，旨在降低人工智能的计算成本，同时保持准确性。