採用AIの公平性監査は、「AIに差別の意図がない」ことを確認する作業ではありません。応募情報の集め方、評価項目、学習データ、担当者の使い方、最終判断、異議申立てまでを通して、職務と無関係な要素が不利益へつながっていないかを調べます。
人事・採用のAI活用事例のうち、求人文の校正や面接記録の整理は比較的始めやすい用途です。一方、合否や順位へ近づくほど説明責任と検証の水準を上げる必要があります。
監査対象を5層に分ける
| 層 | 主な確認 | 問題の例 |
|---|---|---|
| 目的 | AIを使う理由と職務との関係 | 「効率化」だけで評価目的が不明 |
| データ | 収集項目、欠損、偏り、代理変数 | 住所や活動歴が属性の代理になる |
| モデル | 評価基準、再現性、群間差 | 同等の経歴でも通過率が異なる |
| 運用 | 担当者の依存、上書き、ログ | AI順位を確認せず採用担当が追認 |
| 救済 | 説明、再確認、訂正、異議申立て | 応募者が誤情報を訂正できない |
厚生労働省の公正な採用選考は、応募者の適性・能力に基づくこと、本人に責任のない事項や本来自由であるべき事項を把握しないことを基本としています。AI導入後もこの原則は変わりません。収集できるから使うのではなく、職務上必要な項目かを一つずつ説明できるようにします。
データ項目を棚卸しする
履歴書、適性検査、面接音声、表情、話速、SNS、位置情報など、入力候補を一覧にします。各項目について「職務上の必要性」「応募者への説明」「誤りの訂正」「保存期間」「評価への影響」を記録します。直接の属性を削除しても、郵便番号、学校名、空白期間、語彙などが代理変数として働く可能性があります。
公平性指標は一つに固定せず、職種、選考段階、母数に応じて確認します。属性別の応募数、通過率、AIと人の不一致率、上書き率、誤情報の訂正件数を追い、差が出たら業務上の理由と再現性を調べます。母数が小さいときは数値を断定せず、期間を延ばすか質的レビューを併用します。
AIへ任せないこと
- 職務と無関係な属性や推測を使った合否判断
- AIスコアだけによる自動不採用
- 表情、声、言葉遣いから性格や健康状態を断定すること
- 応募者が確認・訂正できない情報を決定的に使うこと
- 苦情や異議申立てをAIだけで処理すること
面接記録を要約する場合も、AI要約だけを評価資料にしません。録音・文字起こしの目的と保存を説明し、担当者が原発言を確認できるようにします。
30日監査の進め方
| 期間 | 実施内容 | 判断材料 |
|---|---|---|
| 1週目 | 選考フロー、データ、評価項目を棚卸し | 職務要件との対応表 |
| 2週目 | 過去データを匿名化し、差と欠損を確認 | 通過率、不一致率、代理変数候補 |
| 3週目 | AIなしの判断と並行比較 | 修正理由、上書き、誤分類 |
| 4週目 | 法務・現場・経営でレビュー | 継続条件、説明文、再監査日 |
監査結果は「公平・不公平」の一語で終わらせず、対象職種、期間、データ、限界、改善策を記録します。求人内容やモデルが変わったとき、または一定期間ごとに再監査できる状態を作ることが重要です。
