まず一言で

結論: AUCは「陽性例のscoreが陰性例より高い確率」を要約するdiscrimination指標であり、cutoff、calibration、clinical utilityを単独では保証しない。

画像診断・AI・定量MRIでは、連続scoreをどこで陽性/陰性に切るかが臨床判断そのものになります。ROC曲線は閾値をすべて動かした性能地図ですが、実際の運用には、どの閾値を選ぶか、偽陽性をどこまで許すか、予測確率が校正されているかまで必要です。

Sensitivity / Specificity の土台

2x2 confusion matrix と sensitivity / specificity / PPV / NPV
図1. Confusion matrix — 感度、特異度、PPV、NPVの分母がどこにあるかを確認する。
Sensitivity = TP / (TP + FN)
Specificity = TN / (TN + FP)
FPR = 1 - Specificity

PPV/NPVはprevalenceに依存します。低prevalenceのスクリーニングでは、AUCが高くてもPPVが崩れることがあります。

ROC曲線 — 閾値を全部スイープする

ROC 曲線構築の 3 段階
図2. ROC curve construction — score分布、閾値ごとのconfusion matrix、TPR/FPR plotをつなぐ。

ROC曲線は、閾値を最大から最小へ動かしながら、x軸にFPR、y軸にTPRを置いたものです。左上に近いほど、偽陽性を増やさず陽性例を拾えていることを意味します。

AUC — Mann-Whitney確率として読む

AUC を pair-wise ranking 確率として解釈する図
図3. AUC = P(score陽性 > score陰性) — pair-wise ranking の正解率として読む。
AUC = ∫ TPR(FPR) dFPR
AUC = P(spositive > snegative)

AUCは便利な1数ですが、閾値非依存であることが強みであり弱みでもあります。実際の臨床では閾値を1つ選ぶ必要があります。

Cutoff選択 — Youden index と臨床コスト

Youden index による最適 cutoff
図4. Youden index — 感度と特異度を同じ重みで最大化するcutoff。ただし臨床コストが等しい前提。

スクリーニングでは偽陰性を重く見るため、Youdenの最適cutoffより低めの閾値を選ぶことがあります。confirmatory testでは偽陽性を重く見ることが多く、逆方向になります。

AUC比較と partial AUC

2 ROC curve の比較と DeLong test
図5. DeLong test — 同じ被検者で得た2つのcorrelated AUCを比較する。
Partial AUC の概念
図6. Partial AUC — FPR ≤ 0.1など、臨床的に意味のある領域だけを評価する。

full AUCが高くても、臨床で許容できるFPR領域で性能が低ければ使いにくい。特にスクリーニングではpartial AUCの視点が重要です。

Calibration と Decision Curve Analysis

Calibration plot の 2 例
図7. Calibration vs discrimination — 同じAUCでも、予測確率の校正は別軸。
Decision Curve Analysis
図8. Decision Curve Analysis — modelがtreat all / treat noneを上回る閾値範囲を見る。

AUCだけで言わない

「AUC=0.85で有用」と結論する前に、cutoff、感度・特異度、対象prevalence、calibration、decision threshold、外部検証を確認します。

文献軸

  • Hanley JA, McNeil BJ. The meaning and use of the area under a ROC curve. Radiology. 1982.
  • DeLong ER, DeLong DM, Clarke-Pearson DL. Comparing the areas under two or more correlated ROC curves. Biometrics. 1988.
  • McClish DK. Analyzing a portion of the ROC curve. Med Decis Making. 1989.
  • Youden WJ. Index for rating diagnostic tests. Cancer. 1950.
  • Vickers AJ, Elkin EB. Decision curve analysis. Med Decis Making. 2006.