迪帕克·库马尔是一位计算机科学家和研究员，隶属于加州大学伯克利分校，其研究领域处于计算机安全与机器学习的交叉点。他的研究调查了现代人工智能系统（尤其是深度学习模型）的漏洞，并寻求开发针对对抗性攻击的稳健防御措施。库马尔的贡献增进了学术界对现实应用中安全部署AI的理解，并为其实践方法提供了信息。
库马尔的学术轨迹受到机器学习快速演变的塑造，从传统统计方法到主导当代研究的大规模神经网络。他的工作常常弥合理论安全保证与已部署系统经验现实之间的差距，解决AI模型集成到关键基础设施、消费设备和云平台时出现的挑战。
早期职业与教育
库马尔完成了计算机科学博士学位，专注于安全与应用机器学习。他早期研究考察了机器学习分类器如何通过精心构造的输入被操纵，这一领域被称为对抗性机器学习。他与伯克利AI研究及其他机构的同行合作，以刻画支撑神经网络攻击的威胁模型，包括用于图像识别和自然语言处理的模型。
在研究生工作期间，库马尔参与了对对抗性示例可转移性的研究，即设计用于欺骗一个模型的输入通常也能欺骗具有不同架构或训练数据的其他模型。这一研究方向对部署在异构环境（从云基础设施到边缘设备）中的AI系统安全具有重大意义。
对抗稳健性研究
库马尔研究的核心主题是对抗稳健性，即机器学习模型在面对恶意扰动输入时保持正确预测的属性。他的工作表明，许多最先进的模型，包括基于深度学习和Transformer (architecture)架构的模型，仍然容易受到对人类观察者不可察觉但导致灾难性错误分类的攻击。
库马尔探索了白盒攻击（攻击者完全了解模型参数）和黑盒攻击（攻击者只能将模型作为预言机查询）。他的发现表明，黑盒攻击的效果几乎可以与白盒方法相媲美，尤其是当攻击者利用在相似数据上训练的替代模型时。这推动了对抗训练、输入预处理和认证稳健性保证等防御技术的研究。
大型语言模型的安全影响
随着大型语言模型（LLM）的兴起，例如由OpenAI、Anthropic和Google DeepMind开发的模型，库马尔的研究扩展到解决生成式AI系统带来的独特安全挑战。这些模型基于神经网络架构并在海量文本语料库上训练，容易受到提示注入攻击、数据投毒和绕过安全过滤器的越狱技术的影响。
库马尔调查了LLM如何被利用来泄露敏感信息、生成有害内容，或在集成到更大软件系统时被操纵执行意外操作。他的工作强调了稳健评估框架的重要性，以及对已部署模型进行持续监控的必要性，尤其是当这些系统越来越多地通过云API访问并嵌入消费产品时。
云与边缘计算中的应用
机器学习模型在生产环境中的部署引入了与学术环境不同的安全问题。库马尔研究了托管在Google Cloud和Oracle Cloud Infrastructure等平台上的模型如何通过其推理端点受到攻击，以及专用硬件和加速器如何被利用来实施防御而不牺牲性能。
他的研究还考虑了联邦学习系统的安全性，其中模型在分布式设备上训练而不集中数据。库马尔表明，恶意参与者可以将后门注入全局模型，并提出了在保护隐私的同时减轻这些风险的聚合策略。这项工作对消费电子和移动设备中的应用尤为相关，因为用户数据在本地处理。
与工业界和国家实验室的合作
库马尔与工业研究团队和政府实验室保持着积极合作。他的工作为包括Intel和Qualcomm在内的主要科技公司的安全实践提供了信息，这些公司将机器学习融入其硬件和软件产品中。他还与Nokia Bell Labs和Samsung Research的研究人员就网络安全和设备端AI等主题进行了交流。
在公共部门，库马尔与Bhabha Atomic Research Centre和OpenPanel等组织就AI安全与保障进行了讨论，帮助制定负责任开发AI技术的指导方针。他的见解在关于自主系统监管和安全关键领域AI组件认证的政策辩论中被引用。
方法论贡献
除了具体的攻击和防御技术外，库马尔还推进了机器学习安全研究的方法论。他倡导标准化基准和可复现实验，认为该领域缺乏共同的评估标准。他的论文通常包含对失败模式的详细分析和与先前工作的全面比较，为实证严谨性设定了高标准。
库马尔还探索了机器学习与形式验证的交叉点，试图在对抗条件下提供关于模型行为的数学保证。虽然对于大型模型而言，完全验证的神经网络在计算上仍然难以处理，但他的工作识别了可处理的子问题和近似技术，提供了部分保证。
教学与指导
在加州大学伯克利分校，库马尔参与了计算机安全和机器学习课程的教学，指导研究生和博士后研究员。他强调了跨学科培训的重要性，鼓励学生发展机器学习理论基础和系统安全实践方面的专业知识。
他的指导培养了一批继续研究对抗稳健性、隐私保护AI和生成模型安全部署的研究人员。他的许多前学生已在学术界和工业界任职，为不断增长的AI安全领域做出贡献。
未来方向
展望未来，库马尔的研究议程包括解决日益自主的AI系统的安全挑战，例如用于自动驾驶车辆和高级驾驶辅助的系统。这些系统以创造新攻击面的方式结合感知、规划和控制，确保其安全需要跨越软件栈多个层次的整体方法。
他还对超越文本的生成式AI的安全影响感兴趣，包括图像、音频和视频合成。随着这些技术变得更加能力强大，滥用的可能性（从深度伪造到自动化虚假信息）也在增长，库马尔的工作旨在开发能够跟上底层模型快速进步的检测和缓解策略。
精选出版物与认可
库马尔的研究发表在顶级安全和机器学习场所，包括IEEE安全与隐私研讨会、USENIX安全和国际机器学习会议。他的论文获得了数千次引用，反映了其工作对学术研究和工业实践的影响。
他曾受邀在众多会议和研讨会上发言，其专业知识经常被报道AI安全事件的媒体寻求。虽然他未获得重大公共奖项，但他的贡献通过最佳论文提名和资助机构的合作拨款得到认可。
个人背景
关于库马尔个人生活的细节并未广泛公开，这与许多计算机科学研究人员保持专业公众形象的做法一致。他在同事中以合作精神和开放科学的承诺而闻名，经常在发表论文时发布代码和数据集以促进可复现性。
库马尔的职业生涯反映了AI安全作为一门学科的成熟过程，从一个小众关注点转变为智能系统设计和部署中的核心考虑因素。随着机器学习继续渗透到技术的每个领域，他的工作为构建不仅能力强而且值得信赖的系统奠定了基础。