AIキャリア相談に潜むジェンダーバイアス

AIに就職や転職の相談をすると、性別を直接書かなくても、名前や育児、職歴の中断といった情報からこの人にはこの仕事と推測され、選択肢が狭まることがあります。ただし、ここで大切なのは、回答差が見えた瞬間に差別だと断定しないことです。大規模言語モデルは確率的に出力を変えますし、モデル、言語、質問文、会話履歴、試行回数でも結果が変わるからです。研究でも、同じ条件で性別だけを変える反実仮想比較や、複数回の試行が重視されています。

一方で、安心材料だけを見るのも危険です。職業推薦や専攻推薦の研究では、女性に事務・ケア系、男性に技術・管理系を寄せる傾向、ある集団にSTEM系を勧めにくい傾向、国籍やジェンダーの交差で職業候補が変わる傾向が繰り返し報告されています。さらに、採用AIの隣接研究では、名前が性別手掛かりとして働きやすいこと、公平性を指示するプロンプトだけでは偏りが十分減らないことも示されています。日本では、管理職比率、賃金差、正規・非正規の構造差がまだ大きく、AIが現実の偏りを相談のかたちで再生産するおそれがあります。

この記事では、AIキャリア相談のどこにジェンダーバイアスが入りうるのか、研究で何が確認され、何が未確認なのか、日本の利用者は何を比べて確かめればよいのか、さらに支援者や提供者は何を改善すべきかまで整理します。AIを全面否定するのでも、無条件に信頼するのでもなく、補助的に使いながら、人間の専門家と公的情報で要所を確かめるための実務記事として読める構成にしています。

AIキャリア相談は中立とは限らない

結論から言うと、AIキャリア相談は中立とは限りません。学習データに含まれる職業ステレオタイプ、名前や代名詞などの性別手掛かり、会話文脈、推薦ロジックが組み合わさると、本人の能力や希望と無関係に選択肢を狭める可能性があります。実際、職業推薦や専攻推薦の研究では、性別や国籍の違いに応じて勧められる職種や専攻が変わる現象が報告されています。

ただし、ここですべてのAIが同じように偏ると断定することもできません。例えば、職業推薦研究では、モデルの種類、指示チューニングの有無、英語・スペイン語・ドイツ語などの言語、プロンプトの書き方で偏りの出方が変わりました。英語だけ、単発の会話だけ、旧モデルだけを見て現在の日本語キャリア相談すべてを評価するのは不適切です。

したがって、実務上の立場は「AIは候補を広げる補助輪にはなるが、結論を委ねる相手ではない」です。特に、転職、学び直し、育児・介護との両立、昇進挑戦、健康や障害、外国籍、性的指向・ジェンダーアイデンティティが関わるケースでは、AIの提案をそのまま採用せず、公的職業情報や人間の専門家で照合するのが安全です。OECDやUNESCOのAI原則も、人権・非差別・公平性・人間による監督・説明可能性を重視しています。

AIキャリア相談におけるジェンダーバイアスとは

ここでいうジェンダーバイアスとは、同じ能力・希望・条件でも、名前、代名詞、家族情報、職歴中断などの性別手掛かりによって、AIが提示する職業・専攻・研修・キャリアパスの候補、役職、収入見通し、挑戦度、語調が変わる現象を指します。たとえば、女性には事務、教育、ケア、柔軟な働き方を、男性には技術、管理、高収入、起業を優先的に示す、あるいはノンバイナリーの入力を結局二値に寄せて扱う、といった形です。これは本人の適性を見抜いた結果とは限らず、社会に蓄積した職業ステレオタイプの反映である可能性があります。

重要なのは、表象的損害と配分的損害を分けることです。表象的損害とは、「女性は技術より支援職」「男性はケア職に向かない」などの固定観念を再生産する害です。配分的損害とは、その固定観念が進路選択、学び直し、求人探索、昇進志向に影響し、実際の機会差につながる可能性を持つことです。EU AI Actが雇用・労務管理・自営へのアクセスに関わるAIを高リスクに位置づけているのは、雇用・昇進・評価への影響が将来のキャリア見通しや生計に大きいからです。ただし、これは主に雇用判断AIに対する規律であり、一般向けキャリア相談AIと同一ではありません。

観点キャリア相談AI採用・人事AI
主な目的本人への助言、候補提示、情報整理企業による選別、順位付け、評価、配置
典型的な入力希望、経歴、学び直し意向、会話履歴履歴書、面接、適性検査、業務データ
直接の影響選択肢の狭まり、自己評価や応募行動への影響採否、面接通過、昇進、配置転換への影響
主な損害表象的損害と配分的損害の可能性配分的損害がより直接的
研究の使い方直接研究を優先、採用AI研究は隣接証拠雇用法・監督原則の直接対象になりやすい

出典:EU AI Actの高リスク分類、日本のAI事業者ガイドライン、厚生労働省の雇用制度情報に基づく整理です。

ジェンダーバイアスはどこから入り込むのか

第一の入口は学習データと労働市場そのものの偏りです。日本では就業者に占める女性割合は2024年で45.5%ですが、管理的職業従事者に占める女性割合は16.3%にとどまります。常用労働者100人以上企業で見ると、2024年の役職段階別の女性比率は係長級24.4%、課長級15.9%、部長級9.8%でした。つまり、現実の職業・役職分布自体が偏っており、そこから学んだAIは、その構造をもっともらしい助言として返しやすいのです。

第二の入口は代理変数です。性別を明示しなくても、名前、敬称、育児・介護の記述、離職期間、学校名、国籍を想起させる表現が、性別や社会属性の手掛かりになります。日本の採用AI隣接研究では、名前が主要なジェンダーチャネルであり、名前を削ると女性優遇方向の効果がほぼ消えた一方、単なるジェンダーを無視せよというプロンプト指示では有意な改善が乏しかったと報告されています。これは、公平に答えてと書けば根本解決するわけではないことを示します。

第三の入口はサービス設計と会話設計です。AI事業者ガイドラインは、データや外部サービスに含まれるバイアスの検討、AIモデルの入出力と判断根拠の定期評価、判断を恣意的に制限するようなインターフェース上のバイアス検討を求めています。つまり、偏りは基盤モデルだけでなく、UI、ランキング、既定の質問項目、推薦候補の並べ方、過去会話の引き継ぎでも増幅し得ます。

第四の入口は人間との相互作用です。2021年と2023年の大学専攻推薦研究では、アルゴリズム側をデバイアスしても、利用者がもともと持つジェンダー観が公平な推薦を受け入れにくくする場面がありました。つまり、人間が最後に確認すれば安全と単純化できません。人間側にも自動化依存や既存のアンコンシャスバイアスがあり、AIの提案がそれを補強しうるからです。

研究で分かっていること、まだ分からないこと

分かっていることは三点あります。
第一に、職業・専攻推薦を直接扱う研究では、性別や国籍で候補分布が変わる傾向が少なくとも一部モデルで確認されていることです。
第二に、モデル・言語・指示調整で偏りの程度は変わることです。
第三に、公平化のアルゴリズムや公平性プロンプトだけでは足りず、人間の受け止め方やサービス設計も影響することです。

まだ分からないことも明確です。日本語の一般向けキャリア相談文脈で、現行の主要商用モデルを横断比較した十分な直接研究は多くありません。ノンバイナリー、障害、育児・介護、地方在住、学歴、雇用形態などを組み合わせた交差性研究も不足しています。また、専攻推薦や求人推薦の結果が、実際の応募・進学・昇進行動をどれだけ変えるかという因果効果は、現時点では十分に確立していません。したがって、採用AIの研究を参考にしつつも、キャリア相談AIの直接証拠とは分けて読む必要があります。

研究位置づけ年・査読状況モデル・言語・試行主な結果AIキャリア相談への適用可能性
Islam et al. “Debiasing Career Recommendations with Neural Fair Collaborative Filtering”直接研究2021、WWW査読、DOIあり社会メディア由来の推薦、MovieLensとFacebook、フェアネス指標併用キャリア・専攻推薦で公平性改善が可能だが、元データに偏りが入ると推薦が歪むことを示した生成AI以前の推薦系だが、推薦ロジック由来の偏りを理解する土台になる
Wang et al. “User Acceptance of Gender Stereotypes in Automated Career Recommendations”直接研究2021、プレプリント大学生200人超の受容調査デバイアス推薦はオフラインでは公平でも、利用者は偏った元システムを好む傾向があった利用者側バイアスと自動化依存の重要性を示す
Wang et al. “When Biased Humans Meet Debiased AI”直接研究2023、ACM TiiS査読、DOIあり大学専攻推薦公平化モデル単独では不十分で、説明可能性が受容に重要支援現場では説明設計が必要という示唆が強い
Salinas et al. “The Unequal Opportunities of Large Language Models”直接研究2023、EAAMO査読、DOIありgpt-3.5-turbo と LLaMA 65B、20国籍×2性別、各50出力、英語女性に秘書・事務系、男性に技能職・管理系が増える傾向、給与推定も差が出たLLMが職業推薦で偏る可能性の直接証拠
Zheng “Dissecting Bias of ChatGPT in College Major Recommendations”直接研究2024、プレプリントGPT-3.5 Turbo、専攻推薦、複数温度、性別・人種・SES比較LGBTQ+、一部人種、低SESでSTEM推薦率が下がると報告査読前で限界はあるが、教育・進路相談への警告として参考になる
Rodríguez et al. “Colombian Waitresses y Jueces canadienses”直接研究2025、プレプリント英語・スペイン語・ドイツ語、25国、4 pronoun sets、5 Llama系、30万回単独軸で公平に見えても交差的偏りが残り、言語差が大きい日本語を含む多言語検証の必要性を支える
Chen et al. PNAS Nexus 論文隣接研究2025、査読、DOIありGPT-3.5 Turbo、GPT-4o、Gemini 1.5 Flash、Claude 3.5 Sonnet、Llama 3-70b、約36.1万履歴書女性優遇・黒人男性不利など、雇用評価で偏りが見られた採用AI研究であり、キャリア相談AIの直接証拠ではない
Hoffstedde et al. “Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context”隣接研究2026、プレプリント日本語・履歴書様式、5モデル、43,200 API calls日本文脈でも名前が主要チャネルで、プロンプト指示だけでは軽減が乏しい日本語環境で代理変数が効く可能性を示すが、採用評価研究である点に注意

出典:各論文・会議・誌面の公開情報。

日本の利用者が注意すべき背景

日本では、就業者全体に占める女性の割合は欧米と比べて極端に低いわけではありませんが、管理職比率、賃金、正規・非正規の分布では差が残っています。女性の年齢階級別正規雇用比率は25~29歳の59.1%をピークに低下する、いわゆるL字カーブが残り、2025年平均でも非正規雇用者は女性1,450万人、男性678万人でした。こうした構造は、AIが現実に多い選択を本人に合う選択と混同して提示する温床になります。

賃金面でも、2023年の白書では男性一般労働者を100とした女性一般労働者の給与水準は74.8、正社員・正職員同士でも77.5とされ、2024年賃金構造基本統計調査では一般労働者ベースで女性は男性の75.8とされています。数字自体は改善傾向にありますが、依然として差があり、この差は個人の能力差を意味しません。企業内の役職分布、職域分離、勤続年数、雇用形態の違いが重なった結果です。AIがこうした平均値や頻出パターンをそのまま助言に転写すると、利用者の挑戦機会を狭める危険があります。

さらに、日本語は英語以上に名前、敬称、文体、家族語、職歴表現から属性推定が起こりやすい場合があります。加えて、日本向け研究が少ないため、海外研究をそのまま日本へ適用するのは慎重であるべきです。日本語・日本型履歴書の隣接研究では名前チャネルの強さが示されていますが、これはあくまで採用評価文脈です。一般向けキャリア相談AIでも同様の現象が起きうるというのは、現時点では公開情報に基づく推論であり、今後の日本語直接研究で検証が必要です。

偏ったキャリア助言はどのように現れるのか

偏りは、単に推薦職種が違うだけではありません。管理職や起業の提案を控える、収入見通しを低めに置く、女性にだけ育児・介護配慮を強く書く、男性にケア職を出さない、ノンバイナリーの入力を無理に二値へ寄せる、自信を与える言い回しが違う、などの形でも現れます。EMNLP 2025の研究は、職業文脈の自由生成で、テキストの主題、エージェンシー、コミュニオン、誤性別化など複数次元の偏りを見ており、 aligned model でも多面的な偏りが残ると示しました。

現れ方合成例問題になり得る理由偏りとは限らない場合確認方法
推薦職種の偏り事務・教育・ケア職ばかり出る候補が狭まり、探索範囲が縮む本人の希望や資格が明確に反映された可能性同条件で性別手掛かりだけ変えて比較
管理職・技術職・起業の不足挑戦的選択肢に触れない志向形成に影響しやすいリスク許容度を本人が低く設定した可能性リーダー職・技術職・独立案を明示的に追加質問
収入・安定性の差片方だけ安定志向、片方だけ高収入志向将来期待値を左右する市場情報に沿った説明の場合もある同じ評価基準で比較し、根拠出典を求める
育児・介護への言及差女性だけ両立前提が付く性別役割分担を再生産しやすい入力文に家族条件が含まれた可能性家族条件を削除した版でも比較
語調・自信づけの差一方にだけ慎重表現が多い自己効力感に影響する役割や経験差が文面に含まれる場合語調、警告量、行動提案の数を記録する
選択肢の欠落STEMやケア職が片側で出ない最初から見えない進路が生まれる資格要件や経験要件の違い「見落とした職種を列挙して」と追加質問

出典:LLM職業推薦研究、職業文脈自由生成研究、大学専攻推薦研究の知見をもとに構成した実務用整理です。

AIの回答に偏りがないか自分で確認する方法

利用者ができる最も重要なことは、性別以外の条件をそろえた比較です。まず、職歴・能力・希望・勤務地・年収帯・制約条件を同一にした相談文を作ります。そのうえで、性別を示さない条件、女性名や代名詞を含む条件、男性名や代名詞を含む条件、可能なら性別非特定の条件を用意します。比較は必ず新しい会話で行い、質問順も変えて複数回試します。研究でも、確率的出力のため繰り返し試行や複数温度が使われています。

比較時に見るべきなのは、職種だけではありません。役職水準、想定収入、必要な資格、挑戦度、安定性、育児・介護への言及、転勤や海外勤務の想定、リスキリング提案、語調、自信づけ、除外された候補を記録してください。あわせて、モデル名、日付、言語、会話が新規か継続かも残しておくと、後から再確認しやすくなります。

そのうえで、AIには結論ではなく選択肢を求めてください。具体的には、「性別を考慮しない前提で候補を挙げて」「見落としている職種を挙げて」「評価基準を列挙して」「候補ごとのメリット・デメリットを公的情報に沿って説明して」と返させる使い方が有効です。照合先としては、厚生労働省の職業情報提供サイトjob tagや、キャリアコンサルティング、公的なリスキリング支援が使えます。AIの説明文は便利ですが、内部の真因をそのまま開示しているとは限らないため、理由がもっともらしく見えても鵜呑みにしないことが重要です。ここからは公開情報に基づく推論ですが、説明可能性の確保が政策文書で重視されていること自体が、現状の説明が常に十分ではないことを示しています。

個人情報にも注意が必要です。個人情報保護委員会は生成AIサービス利用に関する注意喚起を公表しており、OpenAIも2026年時点で、個人向けサービスでは内容がモデル改善に使われる場合があること、設定でオプトアウトできること、Temporary Chatsは学習に使われず30日後に削除されることを案内しています。履歴書全文、健康情報、妊娠、障害、家族状況、勤務先機密、顧客データは、安易に入れないほうが安全です。

提供者・キャリア支援者に求められる対策

提供者に必要なのは、まずどんな損害を避けたいのかを明確にすることです。キャリア相談AIなら、職種候補の偏り、役職や収入見通しの偏り、見落とし、性別役割の押し付け、ノンバイナリーの誤処理などをリスクとして特定し、反実仮想テストを設計すべきです。AI事業者ガイドラインは、データ公平性の検討、モデル入出力の定期評価、透明性のための文書化、AI利用の通知、問い合わせ窓口、説明責任を求めています。これは、キャリア支援サービスにそのまま重要な視点です。

支援者や学校、企業に必要なのは、AIを判断代行装置ではなく対話補助に位置づけることです。学生や求職者に提示する際は、AI利用を明示し、複数候補を出し、除外された選択肢を確認し、人間が異議を受け止める回路を残すべきです。大学専攻推薦研究が示したように、アルゴリズムのデバイアスだけでは十分でなく、利用者が公平な推薦を受け入れられるようにする説明設計が必要です。

主体最低限必要な対策特に重要な注意点
AI提供者反実仮想テスト、日本語名・敬称・家族情報の検証、モデル更新後の再評価、ログ保存、説明文書、問い合わせ窓口公平性プロンプトだけで解決したとみなさない
キャリア支援者AI利用の開示、複数候補提示、除外候補の確認、公的情報による照合人間側のバイアスと自動化依存にも注意
学校・大学進路指導でAIを補助利用に限定、専攻推薦の偏り監視、異議申立て導線STEMやケア職の固定観念を再生産しない
企業・人事キャリア相談AIと採用AIを分離運用、雇用判断に使う場合は別の法務・監査基準を適用EU/米国の雇用AI規律をそのまま一般相談AIへ転用しない
政府・制度設計者ガイドライン整備、透明性ルール、人材育成、公的職業情報との接続日本語・日本市場の実証研究支援が不足している

出典:日本のAI事業者ガイドライン、厚生労働省のキャリア支援施策、EU・米国の雇用AI政策文書に基づく整理です。

制度上の位置付けとAIキャリア相談との付き合い方

日本では、AI一般については総務省・経済産業省のAI事業者ガイドラインがソフトローとして機能しています。そこでは公平性、透明性、プライバシー、アカウンタビリティ、人間中心が重視され、評価対象となる個人や集団にAI利用を通知し、説明責任を果たすことも推奨されています。一方で、雇用分野では男女雇用機会均等法が募集・採用で性別によらない均等機会を求め、職業安定法改正では求人等に関する情報の的確な表示義務、個人情報の取扱いルール、求人メディア等への届出制が強化されました。

海外では、EU AI Actが雇用・労務管理・自営へのアクセスに使う一部AIを高リスクとし、募集・選考・評価・昇進・終了・監視等を明示しています。欧州委員会は、Annex IIIの高リスクAI義務が2026年8月2日から適用されると案内しています。米国では、EEOCがAIを用いた雇用選抜にTitle VIIやADAが関わると技術支援文書で示し、FTC・DOJ・CFPB・EEOCの共同声明も、AIや自動化システムに法の適用除外はないと明言しています。もっとも、これらは主に雇用判断AIの話であり、一般向けキャリア相談AIにそのまま当てはまるわけではありません。ここを混同しないことが本稿の重要な結論です。

最終的な付き合い方は、次の一文に尽きます。AIには候補を広げる仕事を任せ、人間には価値判断と責任を残す。 具体的には、AIからは候補、比較軸、リスキリング案、見落としの洗い出しを得て、重要判断はjob tag、公的制度、キャリアコンサルタント、学校の進路担当、人事制度の一次情報で確かめる。この使い分けなら、AIの便利さを活かしつつ、ジェンダーバイアスのリスクをかなり抑えられます。

よくある疑問Q&A

Q.AIは必ず偏りますか。
必ずとは言えません。ただし、研究では一部モデルや一部条件で職業・専攻推薦の偏りが確認されています。モデル、言語、質問文、試行回数で結果が変わるため、「常に公平」も「常に差別的」も言い切れません。

Q.性別を伏せれば安全ですか。
安全とは言えません。名前、敬称、家族情報、離職期間などが代理変数になる可能性があります。日本語の隣接研究では、名前が主要なジェンダーチャネルとして働きました。

Q.「公平に答えて」と書けば解決しますか。
現時点の研究では、それだけで十分とは言えません。日本語の採用隣接研究では、ジェンダー中立指示だけでは意味のある改善が見られないと報告されています。

Q.女性以外にも影響しますか。
はい。男性にケア職が提示されにくい、ノンバイナリー表現がうまく扱われない、国籍や人種との交差で候補が変わる、といった可能性があります。

Q.一回の回答で判断してよいですか。
よくありません。LLMは確率的で、研究でも複数回生成が前提です。新しい会話で複数回比較し、条件をそろえる必要があります。

Q.採用AIとの違いは何ですか。
キャリア相談AIは本人への助言、採用AIは企業の意思決定支援です。後者は採否や評価に直結するため、法的・制度的な緊張がより強く、研究も高リスク文脈として扱われます。

Q.履歴書や職務経歴書をそのまま入れてよいですか。
慎重であるべきです。個人情報保護委員会は生成AI利用について注意喚起を出しており、サービスごとに学習利用や保持期間も異なります。OpenAIの個人向けサービスでは内容がモデル改善に使われる場合があり、Temporary Chatsは学習に使われず30日後に削除されます。

Q.いつ人間の専門家へ相談すべきですか。
転職・進学の最終判断前、育児・介護・健康・障害・ハラスメント・差別懸念があるとき、AIの提案で選択肢が狭まったと感じたとき、公的制度や訓練給付の利用判断が関わるときです。厚生労働省のキャリアコンサルティングやリスキリング支援が使えます。

参考

総務省・経済産業省(2026年3月31日)『AI事業者ガイドライン(第1.2版)』
個人情報保護委員会(2023年6月2日、閲覧日2026年7月12日)『生成AIサービスの利用に関する注意喚起等について』
厚生労働省(閲覧日2026年7月12日)『雇用・労働 キャリアコンサルティング・キャリアコンサルタント』
厚生労働省(閲覧日2026年7月12日)『キャリア形成・リスキリング推進事業』
厚生労働省(閲覧日2026年7月12日)『職業情報提供サイト job tag』
内閣府男女共同参画局(2025)『男女共同参画白書 令和7年版 第4節 経済分野』
内閣府男女共同参画局(2024)『男女共同参画白書 令和6年版 第1節 就業』
総務省統計局(2026年)『労働力調査(基本集計)2025年平均結果の要約』
厚生労働省(2026年3月24日)『令和7年賃金構造基本統計調査の概況』
厚生労働省(2025年7月30日)『令和6年度雇用均等基本調査 結果概要』
OECD(2019年採択、2024年更新)“AI Principles”
NIST(2023)“Artificial Intelligence Risk Management Framework 1.0”
UNESCO(2021年採択、2024年更新情報あり)“Recommendation on the Ethics of Artificial Intelligence”
European Union(2024)“Regulation (EU) 2024/1689 Artificial Intelligence Act”
European Commission(2026年5月20日)AI Act高リスクAI適用時期に関する説明資料
U.S. EEOC(2024)“What is the EEOC’s role in AI?”
FTC・DOJ・EEOC・CFPB(2023)“Joint Statement on Enforcement Efforts Against Discrimination and Bias in Automated Systems”
OpenAI(2026年3月13日)“How your data is used to improve model performance”
OpenAI(閲覧日2026年7月12日)“Data Controls FAQ”
Islam, Rashidul et al.(2021)“Debiasing Career Recommendations with Neural Fair Collaborative Filtering,” Proceedings of the Web Conference 2021, DOI: 10.1145/3442381.3449904. 
Wang, Clarice et al.(2021)“User Acceptance of Gender Stereotypes in Automated Career Recommendations,” プレプリント、arXiv:2106.07112。
Wang, Clarice et al.(2023)“When Biased Humans Meet Debiased AI: A Case Study in College Major Recommendation,” ACM Transactions on Interactive Intelligent Systems 13(3), DOI: 10.1145/3611313. 
Salinas, Abel et al.(2023)“The Unequal Opportunities of Large Language Models: Revealing Demographic Bias through Job Recommendations,” EAAMO ’23, DOI: 10.1145/3617694.3623257. 
Zheng, Alex(2024)“Dissecting Bias of ChatGPT in College Major Recommendations,” プレプリント、arXiv:2401.11699。
Forcada Rodríguez, Elisa et al.(2025)“Colombian Waitresses y Jueces canadienses: Gender and Country Biases in Occupation Recommendations from LLMs,” プレプリント、arXiv:2505.02456。
Chen, Lin et al.(2025)PNAS Nexus論文、DOI: 10.1093/pnasnexus/pgaf089. 
Casula, Camilla et al.(2025)“Job Unfair: An Investigation of Gender and Occupational Bias in Free-Form Text Completions by LLMs,” EMNLP 2025
Hoffstedde, Serena A. et al.(2026)“Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies,” プレプリント、arXiv:2606.18649。

コメント

タイトルとURLをコピーしました