AI × HUMAN RIGHTS GLOSSARY
AI×人権 用語集
AI時代の人権リスクを議論するための専門用語40語。企業の人事・情報システム・経営の実務で「どう関係するか」まで踏み込んで解説します。AI時代の人権研修の基礎資料です。
AI × HUMAN RIGHTS GLOSSARY
AI時代の人権リスクを議論するための専門用語40語。企業の人事・情報システム・経営の実務で「どう関係するか」まで踏み込んで解説します。AI時代の人権研修の基礎資料です。
書類選考・適性検査・面接評価などにAIを用いるツールの総称。効率化の一方、学習データに含まれる過去の偏りを引き継ぎ、差別を再生産するリスクが国内外で指摘されている。
録画面接の映像・音声をAIが解析し評価する手法。米イリノイ州は2020年、AI面接の利用を応募者に通知し同意を得ることを義務づける法律（AI Video Interview Act）を施行した。
Automated Employment Decision Tool。ニューヨーク市の条例（Local Law 144・2023年施行）が定義した概念で、採用・昇進の判断に使うAIツールに年1回の第三者バイアス監査と結果公表を義務づけた。採用AI規制の世界的な先行例。
AIツールの判断結果を性別・人種等の属性ごとに集計し、特定属性に不利な偏りがないか検証すること。NYC条例やEU AI Actが求める実務で、日本企業が海外採用にAIを使う場合にも関係する。
応募者の適性・能力のみを基準とし、本人に責任のない事項（本籍・家族・生活環境）や思想信条を把握しない、という厚生労働省が示す採用の基本原則。AIやSNSでの情報収集にもこの原則が適用される。
就職差別につながる項目を排除した新規学卒者用の応募書類。「聞かない仕組み化」の代表例で、AI時代には「取得しないデータ設計」として読み直せる。
採用選考で応募者のSNSを調べる行為。公開情報であっても、思想信条・交友関係・家族の推知に使えば公正採用選考の趣旨に反し得る。実施の有無・目的・範囲のルール化が論点。
応募者の経歴・犯罪歴等を第三者が調査すること。日本では取得できる情報に法的制約があり、本人同意と要配慮個人情報の扱いが論点になる。AIによる自動収集サービスの登場でリスクが再燃している。
従業員データ（勤怠・評価・コミュニケーション）を分析して人事に活用する手法。生産性向上と監視社会化の境界が問われ、労働者のプライバシーとの均衡が論点。
AIの判断に含まれる系統的な偏り。学習データの偏り・設計者の想定・運用方法のいずれからも生じる。「AIは中立」という素朴な信頼こそが最大のリスク要因とされる。
過去のデータに含まれる社会の偏りをAIがそのまま学習してしまう現象。過去に男性ばかり採用してきた企業のデータで学習した採用AIは、男性を高評価する傾向を持ち得る（米大手ECの採用AI開発中止事例が有名）。
性別・人種などの属性を直接使わなくても、居住地・出身校・部活動などの相関する変数を通じて実質的な属性差別が生じること。「差別項目を除外したから公平」とは言えない理由。
個人をその人自身ではなく、属する集団の統計的傾向で判断すること。AIによる与信・採用・保険料設定で顕在化しやすく、「確率的に正しくても個人には不当」という人権上の核心問題。
AI倫理の中心概念。ただし「全属性で合格率を揃える」「予測精度を揃える」など複数の定義が数学的に両立しないことが知られており、どの公平性を採るか自体が経営判断になる。
AIの判断根拠を人間が理解できる形で示せること。不採用理由を説明できないツールは、公正採用選考の観点でも本人対応の観点でも運用リスクが高い。
AIの判断過程に人間の確認・最終判断を組み込む設計。「最終判断は人間が行う」は採用AI運用の国際的なコンセンサスであり、EU AI Actやガイドライン類にも通底する。
人間がAIの出力を過度に信頼し、疑わずに従ってしまう心理傾向。「人間が最終判断する」体制を形骸化させる要因で、研修による自覚づけが対策の第一歩。
表情・声から感情や特性を推定する技術。科学的根拠への疑義が強く、EU AI Actは職場・教育での感情認識AIを原則禁止とした。面接AIの表情分析廃止（米HireVue・2021年）の背景でもある。
個人の行動を点数化し社会的な扱いに反映する仕組み。EU AI Actが「許容できないリスク」として禁止する類型で、信用スコアの設計にも人権上の限界線があることを示す。
人種・信条・病歴・犯罪歴など、不当な差別や偏見が生じ得る個人情報（個人情報保護法）。取得自体に原則本人同意が必要。採用場面とAI分析の交差点で最も注意すべき類型。
個人のデータから行動・嗜好・能力を自動的に推定すること。本人が提供した覚えのない「推知された情報」が生まれる点が、従来の個人情報管理と異なる難所。
会社の許可なく従業員が業務で生成AIを使うこと。入力した顧客情報・機密が外部サービスに渡るリスクがあり、大手企業の社内情報流出を機に利用制限が広がった。禁止一辺倒では地下化するため、「使える範囲を明示するルール」が実務解。
顔画像から個人を識別する技術。誤認識による誤認逮捕（米国で複数報告）や、本人が知らないうちの照合が問題化し、米国では小売企業への利用禁止命令（2023年・FTC）も出ている。
過去の情報の削除を求める権利概念（EU一般データ保護規則で明文化）。破産情報を地図上に公開した日本の「破産者マップ」事件（2019年）は、公開情報でも集約・再公開で人権侵害になり得ることを示した。
一度ネットに出た情報が半永久的に残り続けること。生成AIが過去情報を学習・再生成する時代には、削除対応だけでなく「AIの回答に残る」リスクも視野に入る。
個人を特定できないよう加工したデータの法的類型。AI学習にデータを使う際の適法な設計に関わるが、他データとの照合で再識別されるリスクの管理が前提になる。
AIで生成・合成された本物そっくりの偽画像・偽動画・偽音声。詐欺（役員になりすました送金指示）、偽情報（政治家の偽動画）、性的画像の合成という3類型の被害が世界で急増している。
実在人物の顔を性的画像・動画に合成する行為。日本では2020年に名誉毀損等での摘発例が出て以降、被害相談が増加。海外では未成年被害の深刻化を受け立法が相次ぐ。
生成AIが事実でない内容をもっともらしく出力する現象。実在人物について虚偽の犯罪歴等を生成すれば名誉毀損の問題になり、米国ではAIの回答を巡る名誉毀損訴訟も起きている。
氏名・肖像が持つ経済的価値を守る権利。生成AIによる「声の無断複製」は新しい侵害類型で、日本では俳優・声優団体が2023年以降、無断生成に対する法整備を求める運動を展開している。
コンテンツの来歴（誰がいつ作ったか、AI生成か）を証明する技術規格。ディープフェイク対策の国際標準として、カメラメーカー・プラットフォーム各社が実装を進める。
生成物が既存著作物の権利を侵害するかを判断する枠組み。文化庁は2024年に生成AIと著作権の考え方を整理し、「作風・画風」自体は保護されないが、既存作品に類似した生成・利用は侵害になり得るとした。
世界初の包括的AI規制法（2024年成立）。リスクベースで規制し、雇用・教育・信用評価などのAIを「ハイリスク」に分類、ソーシャルスコアリング等を禁止した。域外適用があり、EUで事業を行う日本企業にも関係する。
EU AI Actで厳格な義務（リスク管理・データ品質・人間による監督・透明性）が課される類型。採用・人事評価のAIが明示的に含まれることは、日本企業の採用AI運用にも示唆を持つ。
日本の経済産業省・総務省が2024年に統合・策定したAIガバナンスの指針。人間中心・安全性・公平性・プライバシー保護・透明性等の原則を、開発者・提供者・利用者の立場別に整理した。
国連が2011年に承認した企業の人権尊重責任の国際基準。「保護・尊重・救済」の3本柱で、企業には人権デューデリジェンスの実施が求められる。日本政府も行動計画とガイドラインを策定済み。
自社・サプライチェーンの人権リスクを特定・予防・軽減・説明する継続的プロセス。AI利用も対象で、「自社が使うAIが誰の人権に影響するか」の棚卸しは人権DDの新しい標準論点になりつつある。
AIの開発・利用を組織的に統制する仕組み（方針・体制・監査・教育）。技術部門任せにせず、人事・法務・現場を巻き込む横断体制が機能の条件とされる。
AIの判断・影響について組織が説明し、責任を引き受けること。「AIがやったこと」は免責にならない——運用者の責任という原則は、あらゆるAI人権論の出発点。
AIの仕組み・限界・リスクを理解し適切に使う能力。EU AI Actは提供者・利用者にAIリテラシー確保の努力義務を課しており、研修は法令対応としての側面も持ち始めている。
情報社会で適正に活動するための考え方と態度。日本の学校教育で定着した概念だが、生成AI・ディープフェイクを含む「AI時代版」への更新が教育現場・企業研修の課題になっている。
TRAINING
用語の暗記ではなく、「明日の面接・SNS運用・社内ルールがどう変わるか」まで落とし込むのが当社のAI時代の人権研修です。