Equalized odds（均等几率）是用于评估和强制执行机器学习分类系统公平性的一项标准。形式上，如果预测器 \(\hat{Y}\) 相对于受保护属性 \(A\)（如种族、性别或年龄）和真实标签 \(Y\) 满足均等几率，则对于所有组 \(a, b\) 和所有结果 \(y \in \{0,1\}\)，有 \(P(\hat{Y} = 1 | A = a, Y = y) = P(\hat{Y} = 1 | A = b, Y = y)\)。通俗地说，分类器必须在所有受保护组中，在给定实际结果的情况下，具有相同的真正例率（召回率）和相同的假正例率。这一概念由Moritz Hardt、Eric Price和Nathan Srebro在2016年的一篇论文中提出，他们将其作为忽略标签分布的更简单的人口统计均等概念的替代方案。
Equalized odds通常与人口统计均等形成对比，后者仅要求各组之间的预测率相等，而不以真实标签为条件。通过以 \(Y\) 为条件，equalized odds旨在捕捉错误应均匀分布的理念：任何组中合格的个体应具有相同的被正向分类的机会，而不合格的个体应具有相同的被错误接受的机会。这使得equalized odds在招聘、贷款、刑事司法和医疗保健等高风险领域尤为重要，在这些领域中，不同的错误率可能加剧系统性偏见。
正式定义与组成部分
Equalized odds条件可以分解为两个独立的等式约束：均等机会和均等假正例率。均等机会标准（也在同一工作中提出）要求各组之间的真正例率相等，即 \(P(\hat{Y} = 1 | A = a, Y = 1) = P(\hat{Y} = 1 | A = b, Y = 1)\)。这确保了在应被正向分类的个体中，所有组获得相同的正确预测率。第二个组成部分，均等假正例率，要求 \(P(\hat{Y} = 1 | A = a, Y = 0) = P(\hat{Y} = 1 | A = b, Y = 0)\)，确保任何组的负面结果不会被过度预测。
当两个条件同时成立时，分类器被认为满足equalized odds。在实践中，当各组的基础比率不同时，可能无法同时实现两个等式约束，导致两个组成部分之间的权衡。某些应用将要求放宽为仅均等机会，特别是在假正例的后果不如假负例严重的情况下。
在机器学习系统中的实现
强制执行equalized odds通常需要后处理或处理中技术。一种常见的后处理方法涉及训练一个无公平约束的分类器，然后根据提议的分数为每个组单独调整决策阈值。Hardt、Price和Srebro表明，在访问真实标签和组成员身份的情况下，可以最优地校准阈值以满足equalized odds，同时最小化总体损失。然而，这种方法需要标记数据，可能无法扩展到完全无约束的设置。
处理中方法在训练期间直接将公平约束纳入损失函数。例如，添加一个惩罚项来衡量各组之间错误率的差异，或使用对抗训练，其中判别器尝试从分类器的输出中预测组成员身份。这些方法常用于现代Deep learning流程中，其中基于梯度的优化与Adam (Optimizer)或Stochastic Gradient Descent Variants可以容纳可微的公平惩罚。
最近的工作已将equalized odds扩展到更复杂的模型，包括Neural network架构和Generative AI系统。然而，在多类或回归设置中测量equalized odds仍然具有挑战性，因为二元定义不能直接推广。研究人员提出了多变量扩展和组条件校准措施，但尚无单一标准占主导地位。
与其他公平性概念的关系
Equalized odds属于更广泛的统计公平性标准家族。人口统计均等（也称为统计均等）要求 \(P(\hat{Y} = 1 | A = a) = P(\hat{Y} = 1 | A = b)\)，这在某种意义上更强，因为它约束了总体预测率，但即使错误率不同也可能满足。另一方面，校准要求对于任何预测概率 \(p\)，所有组的真实结果概率为 \(p\)，这与equalized odds相关但不蕴含它。
Jon Kleinberg、Sendhil Mullainathan和Manish Raghavan（2016年）的开创性不可能性结果表明，当基础比率不同时，除非分类器是完美的，否则没有分类器能同时满足校准、equalized odds和人口统计均等。这一权衡引发了关于哪种公平性指标最适合特定应用的辩论。Equalized odds通常被青睐于错误成本不对称的场景，例如医疗诊断中漏诊（假负例）比误诊（假正例）更有害。
批评与局限性
对equalized odds的一个批评是它假设真实标签 \(Y\) 是无偏的。如果历史标签本身受到歧视的污染，equalized odds可能延续现有的差异而不是纠正它们。例如，如果逮捕记录低估了某些社区，基于这些标签并使用equalized odds训练的分类器可能仍会不利这些群体。这个问题强调了仔细数据收集和标签审计的重要性。
另一个局限性是equalized odds不考虑个体层面错误的后果；它仅考虑组层面的比率。两个组可能具有相同的真正例率和假正例率，但由于资源分配或社会背景的差异，这些错误的下游影响可能显著不同。此外，二元结果设置不涵盖排名或评分场景，在这些场景中阈值不是固定的。
应用与当前研究
Equalized odds已应用于信用评分、再犯预测（例如使用COMPAS等工具）和算法招聘等领域。公司和研究实验室，包括Google DeepMind和University of Oxford团队，已探索将公平约束纳入实际系统。例如，公平分类模型已在医疗保健中用于预测患者再入院，其中观察到不同种族群体之间的假负例率差异。
当代研究侧重于放宽严格的equalized odds要求，以处理噪声标签、缺失组信息和连续受保护属性。Large language model输出的公平性也已出现，尽管为文本生成测量equalized odds并非易事。截至2020年代中期，对于通用公平性指标尚无共识，但equalized odds仍然是算法公平性文献中的基础概念，在Stanford AI Lab和MIT CSAIL等机构的课程中教授。
参见
- 人口统计均等（提供的slug中不存在，省略）
- 算法公平性（提供的slug中不存在，省略）
（注：由于缺乏相关slug，参见部分已省略。）
参考文献
- Hardt, M., Price, E., Srebro, N. (2016). Equality of Opportunity in Supervised Learning.
- Kleinberg, J., Mullainathan, S., Raghavan, M. (2016). Inherent Trade-Offs in the Fair Determination of Risk Scores.