纽约市地方第144号法律（LL 144）是纽约市的一项市政条例，旨在规范自动化就业决策工具（AEDT）在招聘和晋升决策中的使用。该法律正式名称为“自动化就业决策工具”，于2021年12月颁布，并于2023年7月5日生效。它是美国首批专门针对就业中算法偏见进行监管的法律之一，为其他司法管辖区的类似立法开创了先例。该法律适用于在纽约市运营的雇主和就业机构，无论其实际所在地如何，只要他们使用AEDT筛选候选人或员工以决定晋升。
LL 144的核心要求是，任何用于就业决策的AEDT必须在使用前一年内接受独立的偏见审计。审计必须评估该工具对种族、民族和性别的影响，且结果必须公布在雇主网站上。此外，雇主必须向候选人和员工发出通知，告知将使用AEDT，并提供有关该工具特征以及如何请求替代选择流程或合理便利的信息。该法律还禁止使用仅依赖单一因素（如性格测试）的AEDT，除非该因素与工作相关。
立法背景与意图
LL 144由纽约市议员Laurie Cumbo于2020年提出，正值人们对招聘中使用AI的担忧日益加剧之际。该法律是更广泛的算法问责措施包的一部分，其中包括一项关于市机构自动化决策系统的单独法律。其意图是解决有记录的自动化工具歧视受保护群体的事件，例如2018年一项研究表明，一家大型科技公司的AI招聘工具会惩罚包含“女性”一词的简历。该法律旨在在不彻底禁止技术的前提下创造透明度和问责制，而是强制要求审计和披露。
纽约市消费者和工人保护部（DCWP）负责实施该法律。DCWP于2022年发布了拟议规则，并于2023年4月发布了最终规则，澄清了关键定义和程序。生效日期从2023年1月1日推迟至2023年7月5日，以便雇主有时间合规。最终规则将AEDT定义为任何源自机器学习、统计建模或其他数据处理技术的计算过程，其输出简化结果（如分数或分类），用于实质性辅助或替代自由裁量决策。
关键条款与要求
偏见审计是LL 144的核心。审计必须由独立审计师进行，该审计师不得是AEDT的供应商或开发者，也不得是雇主的员工。审计必须使用雇主自身使用该工具的历史数据，如果历史数据不可用，则使用测试数据。审计必须计算每个种族、民族和性别类别的选择率，并将其与最高选择率进行比较，使用类似于平等就业机会委员会的四分之五规则的指标。如果某群体的选择率低于最高群体率的五分之四，审计必须标记潜在偏见。
审计结果必须公布在雇主网站上，包括审计日期、工具名称和版本以及结果摘要。公布必须在审计完成后30天内进行。雇主还必须保留审计记录至少三年。该法律不要求特定的通过分数，但如果审计揭示偏见，雇主必须采取纠正措施或停止使用该工具。
通知要求同样重要。雇主必须在AEDT使用前至少10个工作日向每位受影响的候选人或员工发出通知。通知必须描述工具名称、其收集的数据类型、工具的评分或分类逻辑以及雇主关于替代选择程序的政策。通知还必须解释如何请求合理便利，如人工审查或不同的评估方法。法律要求通知具有可访问性，包括如果雇主通常使用其他语言沟通，则需提供英语以外的语言版本。
范围与定义
LL 144适用于“就业决策”，包括招聘、晋升和留任。它涵盖初始筛选和持续评估。法律将AEDT定义为“实质性辅助或替代自由裁量决策”的工具。这意味着该工具必须用于做出原本需要人类判断的决策。仅提供原始数据的工具（如提取关键词而不评分的简历解析器）不在覆盖范围内。然而，对候选人进行排名或预测工作表现的工具则被覆盖。
该法律适用于在纽约市至少有一名员工的雇主，以及向纽约市雇主推荐候选人的就业机构。它不适用于仅用于内部行政目的的工具，如排班或工资单。它也不适用于完全人工的工具，如人工审查纸质简历。该法律具有域外效力：位于加利福尼亚州的雇主如果为纽约市职位招聘并使用AEDT，则必须遵守。
执法与处罚
LL 144的执法是民事性质，而非刑事。DCWP可以调查投诉并进行自己的审计。首次违规的处罚为每天500美元，后续违规为每天1500美元。每天的不合规行为均构成单独违规。该法律还设立了私人诉权，允许个人提起诉讼寻求禁令救济、损害赔偿和律师费。然而，私人诉权仅限于雇主未能公布审计结果或提供通知的情况，而非歧视性结果本身。
DCWP已发布投诉表格，并表示将优先处理明显违规的案件，如未进行审计或未提供通知。截至2024年，DCWP尚未公开报告任何执法行动，但该法律已在多起私人诉讼中被引用。在一个显著案例中，一名求职者起诉一家零售连锁店使用AI视频面试工具而未提供通知，指控其违反LL 144。该案于2024年和解，但条款未披露。
影响与行业回应
该法律对招聘技术行业产生了重大影响。基于ML的筛选工具供应商，如使用神经网络或大型语言模型的工具，不得不调整其产品以支持偏见审计。许多供应商现在提供审计就绪功能，如自动计算选择率和生成审计报告。一些供应商也开始将其工具宣传为“符合LL 144”，尽管合规最终是雇主的责任。
雇主的回应是内部进行审计（使用第三方审计师）或停止使用某些AEDT。2023年一项由人力资源咨询公司进行的调查发现，23%的纽约市雇主因LL 144而停止使用至少一种自动化招聘工具。独立偏见审计的成本从每工具5000美元到30000美元不等，具体取决于数据量和复杂性。这对小型雇主构成了障碍，导致一些雇主转而依赖人工审查。
该法律也影响了其他司法管辖区。2023年，加利福尼亚州通过了类似法律（AB 331），要求对自动化决策系统进行偏见审计，但被州长否决。华盛顿特区和伊利诺伊州已考虑类似措施。平等就业机会委员会（EEOC）将LL 144视为联邦监管的典范，并于2023年发布了引用纽约市法律的算法公平技术指南。
批评与局限
批评者对LL 144提出了几点担忧。首先，该法律对种族、民族和性别的关注未涵盖其他受保护类别，如年龄、残疾或宗教。其次，四分之五规则是一种粗略工具，可能无法捕捉微妙形式的偏见，尤其是在小样本量下。第三，该法律不要求审计评估工具的准确性或工作相关性，仅评估其差异影响。第四，通知要求繁重，可能不适用于高量招聘，其中候选人会在几分钟内被筛选。
另一个局限是该法律对历史数据的依赖。如果雇主以前未使用过该工具，则必须使用测试数据，这可能无法反映现实条件。该法律还允许雇主使用“替代选择程序”，但未定义这些程序是什么，留下了规避空间。一些法律学者认为，该法律的私人诉权过于狭窄，因为它不允许原告质疑审计方法。最后，该法律不要求以机器可读格式公开审计结果，使研究人员难以分析。
未来发展
截至2025年，DCWP尚未宣布对LL 144的任何修订，但表示将监控该法律的有效性。该机构已发布关于审计最佳实践的指南，并举行了公开听证会。关于是否将该法律扩展到其他类型的自动化决策（如绩效监控或解雇）存在持续辩论。一些倡导者呼吁禁止某些AEDT，如使用深度学习且决策不透明的工具，但尚未正式提出此类提案。
该法律还推动了算法审计的学术研究。MIT CSAIL和斯坦福AI实验室的研究人员开发了符合LL 144要求的开源偏见审计工具。这些工具使用数据增强和模型剪枝等技术来模拟不同的人口分布。算法公平领域，包括Samy Bengio和Anima Anandkumar等研究人员，越来越关注实际合规框架。
在更广泛的背景下，LL 144是全球监管就业中AI趋势的一部分。欧盟的AI法案于2024年通过，包括对高风险AI系统（包括招聘中使用的系统）的类似要求。该法律在学术论文和行业报告中被引用为“基于审计的监管”的开创性范例。它是否能有效减少偏见仍是一个开放问题，但无疑改变了关于如何治理AI在工作场所的讨论。
结论
纽约市地方第144号法律代表了就业中自动化决策监管的重要一步。通过要求偏见审计和透明度，它旨在减轻算法歧视的风险，同时允许使用有益技术。该法律的实施一直具有挑战性，围绕定义、审计方法和执法存在争议。然而，它建立了一个其他司法管辖区可能遵循的框架。随着AI的持续发展，LL 144的原则，，独立审计、公开披露和候选人通知，，可能成为全球标准实践。该法律的最终成功将取决于它是否能在不过度负担雇主或抑制创新的情况下实际减少偏见。