適合率-再現率曲線(precision-recall curve)は、分類タスクにおいてモデルの性能を評価するためのグラフ表現であり、様々な決定閾値に対して、適合率(陽性的中率)をy軸に、再現率(感度)をx軸にプロットしたものである。曲線上の各点は特定の閾値設定に対応し、閾値を調整するにつれて適合率と再現率がどのように変化するかを示す。この曲線は、一方のクラスが稀である不均衡なデータセットにおいて特に有用であり、真陰性ではなく陽性クラスの性能に焦点を当てる。
適合率は、取得されたインスタンスのうち関連するインスタンスの割合として定義され、同等に、真陽性の数を真陽性と偽陽性の和で割ったものである。再現率は、関連するインスタンスのうち取得された割合、すなわち真陽性の数を真陽性と偽陰性の和で割ったものである。分類タスクにおいて、完璧な分類器は適合率と再現率の両方が1.0となり、右上隅を通る曲線を生成する。しかし実際には、しばしば逆の関係が存在する:再現率を上げると適合率が下がる傾向があり、その逆も同様である。適合率-再現率曲線は通常、低い再現率での高い適合率から、高い再現率での低い適合率へと下向きに傾くが、正確な形状はモデルとデータに依存する。
第一種および第二種過誤との関係
適合率と再現率は、仮説検定の概念と密接に関連している。再現率は第二種過誤率(偽陰性率)の補数であり、高い再現率は見逃された陽性インスタンスが少ないことを意味する。適合率は第一種過誤率(偽陽性率)に関連するが、陽性および陰性インスタンスの事前分布にも依存する。例えば、10匹の猫と12匹の犬がいるデータセットで、犬認識プログラムが8匹を識別し、そのうち5匹が実際の犬である場合、適合率は5/8、再現率は5/12となる。第一種過誤率は3/10(10匹の猫のうち3匹の偽陽性)、第二種過誤率は7/12(12匹の犬のうち7匹の偽陰性)である。適合率は品質の尺度(選択された項目のうちどれだけが関連するか)と見なすことができ、再現率は量の尺度(関連する項目のうちどれだけが選択されたか)と見なすことができる。
トレードオフと実践的な例
適合率と再現率の間のトレードオフは、しばしば文脈に依存する。例えば、煙探知器は再現率を優先するように設計されており、火災を見逃す(偽陰性)コストは壊滅的であるため、多くの誤警報(低い適合率)を許容する。逆に、刑事司法制度はブラックストンの比率、すなわち「十人の有罪者を逃がす方が、一人の無実の者が苦しむよりも良い」に導かれ、適合率を優先し、無実の人を有罪にすることを避けるために低い再現率を受け入れる。脳外科医が腫瘍を除去する場合も同様のジレンマに直面する:より広い領域を除去すると再現率が上がる(すべての癌細胞が除去されることを保証する)が、適合率は下がる(健康な組織を除去する)。一方、保守的なアプローチは適合率を上げるが、癌細胞を残すリスクがある。
構築と解釈
適合率-再現率曲線を構築するには、モデルが各インスタンスに対してスコアまたは確率を出力する。インスタンスが陽性として分類される閾値を変化させることで、異なる適合率と再現率のペアが得られる。これらのペアは曲線としてプロットされる。適合率-再現率曲線の下の面積(PR-AUC)は曲線の単一数値要約であり、値が高いほど全体的な性能が良いことを示す。ランダム分類器は通常、データセット内の陽性インスタンスの割合での水平線を生成するため、有用なモデルのPR-AUCはこのベースラインより上にあるべきである。この曲線は、陽性クラスが稀な場合に特に有益であり、混同行列だけでは誤解を招く可能性がある。
機械学習での使用
適合率-再現率曲線は、機械学習および人工知能において、二値分類器を評価するために広く使用されており、特に情報検索、医療診断、不正検出などの領域で用いられる。これらはしばしば、真陽性率を偽陽性率に対してプロットする受信者動作特性(ROC)曲線と比較される。ROC曲線とは異なり、適合率-再現率曲線は真陰性を含まないため、陽性クラスの性能に対してより敏感である。多くのニューラルネットワークおよび深層学習フレームワークは、適合率-再現率曲線を計算およびプロットする組み込み関数を提供しており、モデル選択と閾値調整を容易にする。例えば、自然言語処理タスクである文書分類では、適合率-再現率曲線は、関連文書の取得と無関係な文書の包含のバランスを取るのに役立つ。
限界と考慮事項
適合率-再現率曲線には限界がある。クラスの不均衡に敏感であり、バランスの取れたデータセットで高い適合率と再現率を持つモデルが、不均衡なデータセットでは性能が低い場合がある。さらに、この曲線はインスタンスの絶対数を伝えないため、異なるデータセット間で曲線を比較することは誤解を招く可能性がある。すべてのインスタンスを取得することで完全な再現率を達成することも可能だが、そのようなモデルは低い適合率を持つ。逆に、最も確信のあるインスタンスのみを選択することで完全な適合率を達成できるが、再現率は低くなる。したがって、適合率と再現率は単独で議論されることはほとんどなく、代わりに曲線はトレードオフの包括的なビューを提供し、実務者がアプリケーションの優先順位に合った閾値を選択できるようにする。