莎拉·阿尔哈米西是一位开源自然语言处理（NLP）研究者，其工作聚焦于提升Transformer模型的效率并推进阿拉伯语人工智能的发展。她的研究涵盖模型压缩、多语言学习，以及在资源受限环境中大规模语言模型的实际部署。她在机器学习社区中因以开放许可发布可复现代码和预训练模型而受到认可。
阿尔哈米西的职业生涯处于学术研究与应用工程的交汇点，其贡献影响了深度学习理论和实际系统。她的论文发表于主要NLP会议，其工作在研究高效神经网络设计和低资源语言处理的研究中常被引用。
高效Transformer架构
阿尔哈米西研究的核心主线是在不牺牲准确率的前提下降低Transformer模型的计算成本。在2023年发表于计算语言学协会年会（ACL）的一篇论文中，她提出了一种新颖的剪枝方法，可根据注意力头对任务性能的贡献进行选择性移除。该方法在GLUE基准上将推理时间减少了35%，同时在MNLI子集上保持了原始模型F1分数的97%以上。
她2024年发表于《计算语言学协会汇刊》（TACL）的研究提出了一种逐层蒸馏技术，将知识从70亿参数的教师模型迁移至13亿参数的学生模型。该方法在摘要任务上比标准模型剪枝基线提升了4.2分，同时将内存占用削减近一半。代码和蒸馏检查点已在GitHub上发布，下载量超过2万次。
阿拉伯语NLP贡献
阿尔哈米西投入了大量精力开发阿拉伯语的大语言模型，阿拉伯语具有丰富的形态且标注数据相对稀缺。2022年，她共同领导了AraBERTv2的创建，这是一个在60GB多样化阿拉伯语文本（涵盖新闻、书籍和网络论坛）上预训练的开源模型。该模型在阿拉伯语自然语言理解（ArNLU）基准上取得了最先进的结果，在Masader评估套件上比先前多语言模型高出3.8分。
她2023年关于跨语言迁移的论文表明，在阿拉伯语和英语上联合预训练的模型可将方言阿拉伯语任务（包括埃及和黎凡特阿拉伯语）的性能提升多达6.1个F1分，相较于仅使用阿拉伯语训练。这项工作为在双言环境中构建序列到序列系统提供了实用指导，其中现代标准阿拉伯语与口语方言差异显著。
开源生态系统
除了单篇论文外，阿尔哈米西一直是可复现研究的积极倡导者。她维护着一个活跃的仓库，包含训练脚本、评估框架和模型卡片，遵循记录偏见和局限性的最佳实践。她2025年发布的一个30亿参数阿拉伯语指令微调模型，在包含200万示例的精选数据集上训练，对数据来源和失败模式分析提供了全面透明说明。
她还参与了跨语言比较生成式AI系统的基准测试工作。在2024年与多所大学研究者合作的一项研究中，她帮助设计了一个多语言评估协议，在12种语言（包括阿拉伯语、斯瓦希里语和印地语）上测试模型。由此产生的论文突显了非英语语言中的显著性能差距，并呼吁采用更具包容性的训练数据实践。
认可与合作
阿尔哈米西的工作获得了2023年高效自然语言处理研讨会（与ACL同期举办）的最佳论文奖。她曾担任多个顶级会议的程序委员会成员，包括NeurIPS和EMNLP，并受邀在学术机构和行业研究实验室发表演讲。
她的合作者包括来自MIT CSAIL和斯坦福AI实验室的研究人员，与他们共同探索效率与多语言性的交叉领域。她还通过共享研讨会与Google DeepMind和OpenAI的行业团队合作，但她的主要产出仍集中在开源领域。
当前方向
截至2025年，阿尔哈米西正在研究自适应计算方法，使模型能够为困难标记分配更多处理资源，为简单标记分配较少资源。她在预印本中分享的初步结果表明，这种动态路由可将问答任务的平均推理成本降低22%，同时保持精确匹配准确率。她还在探索数据增强技术如何缓解法律和医学等专业领域高质量阿拉伯语语料库的稀缺问题。
她对开放科学的持续承诺体现在其公开的开发日志和对来自人工智能领域代表性不足背景的研究生的指导中。她经常强调，高效模型不仅是学术练习，更是使计算基础设施有限的地区能够民主化获取AI的前提条件。
精选论文
- “面向高效Transformer的注意力头剪枝”（ACL 2023）
- “紧凑语言模型的逐层蒸馏”（TACL 2024）
- “AraBERTv2：扩展阿拉伯语预训练”（2022）
- “方言阿拉伯语的跨语言迁移”（2023）
- “生成模型的多语言评估”（2024）
根据Google Scholar的数据，她的研究已累计获得超过1200次引用，反映了其对学术和工业应用的影响。她继续以开放许可发表成果，确保其方法和模型对更广泛的研究社区保持可访问性。