一般社団法人ＡＩガバナンス協会 業務執行理事
▶経済産業省、Bain&Coを経て、2023年にAIリスク管理の米スタートアップ・Robust Intelligenceに参画。同社買収まで、日本でのAIガバナンス普及に取り組む。現在はAIガバナンス協会理事として標準化活動や政策形成に関わるほか、スマートガバナンス社にて企業向けアドバイザリーも行う。東京大学学際情報学府にてAIリスクの研究にも取り組む。
■ＨＲ×ＡＩ リスクとチャンス③
連載第３回は、ＨＲにおけるパーソナルデータ活用に関わるリスクを検討する。題材にあつかうのは、就活プラットフォーム「リクナビＤＭＰフォロー」をめぐる事案だ。
ＨＲ領域のＡＩ活用において、鍵となるのがパーソナルデータである。個人の嗜好や能力、適性などを様々なデータから総合的に把握することは、より個々人に合った選択肢を提示したり、きめ細かい対応を行うことにつながる。
しかし、ＡＩを活用してパーソナルデータを取り扱う際には、適切なリスク管理措置が欠かせない。リクナビ事件の全ての論点をここで網羅することはできないが、以下で特にＡＩと関連する要素を中心に教訓を振り返っていこう。
■“内定辞退率”の差別性
2018年から試験的に開始した「リクナビＤＭＰフォロー」でリクルートキャリア社は、学生のサイト閲覧履歴等を用い、機械学習モデルを活用して「内定辞退率」を推計し、採用を行う企業たちへ有償提供していた。この内定辞退率は、企業側からは個人と紐づけて確認可能なものだった。
しかし、利用目的の公表の不十分性、安全管理措置の不足などが問題になり、サービスは19年８月には廃止、個人情報保護委員会からの勧告・命令や東京労働局からの職安法指針に基づく指導を受けたほか、社会的な批判にも晒された。
まず技術的な視点では、サービス設計自体の問題がある。本サービスは、実質的に採用可否の決定に使われかねない内定辞退率という数値について、サイト閲覧履歴などの職務適性と無関係なデータによって算出するものであり、前回触れた不当な差別に該当しうる。そもそも就活生から許容されるサービスとなっているのか、という点が問われる。
■同意取得と組織内体制
この情報へのアクセスはメンバーに限定されています。ログインしてください。メンバー登録は下記リンクをクリックしてください。
