KDD2025 ワークショップで研究発表
KDD2025のワークショップUrbComp2025で研究発表
研究発表
国際会議 · 2025
Evaluating Attribute Inference Risks in Urban Care Taxi Arrival Time Prediction Models Using Geospatial Data
解説
高齢化が進むなかで介護タクシーのような移動支援は都市インフラの一部になりつつあり、配車を効率よく回すために、位置情報を学習データとする機械学習モデルの利用が検討されています。ただ、この種のデータは個人の生活そのものを写しているため、都市をまたいで共有するのが難しく、そこで持ち出さずに学習を進める連合学習のような枠組みが提案されてきました。
ところが、データを共有しなければ安全かというとそうではありません。属性推論攻撃というのは、共有されたモデルそのものに問い合わせて、学習データに含まれていた個人の属性を言い当てようとする攻撃です。モデルは学習データの傾向を内部に取り込んでいるので、出力の癖を丁寧に観察すると、本来は伏せられているはずの情報が漏れることがあります。データを渡していないのにデータの中身が推定される、という点が厄介なところです。
本研究では、実際の介護タクシーの走行記録を使って乗降時刻の予測モデルを構築し、そこに属性推論攻撃をかけて、利用者の歩行障害の有無をどこまで正確に推定できてしまうかを評価しています。
あわせて、リスクを下げるつもりで行うデータ処理が攻撃にどう影響するかも調べています。ここで出てきた結果が示唆に富んでいて、クラスの偏りを SMOTE によるデータ拡張で是正したところ、攻撃の正解率が 61.3% から 73.0% へ上がりました。SMOTE は少数クラスのサンプルを補間して水増しする手法で、予測精度を上げる目的で日常的に使われますが、少数派の特徴をモデルに強く覚え込ませることになるため、その少数派に属する人が特定されやすくなる方向に働いたことになります。
精度を上げるための前処理が、そのままプライバシー上の弱点になりうる。介護輸送のようにセンシティブな領域で機械学習を設計するときに、どこを気にすべきかの指針を与える結果です。
関連する研究室活動
関連プロジェクト
地域を支える知のデジタライゼーションと共有基盤
JST（科学技術振興機構） 戦略的創造研究推進事業 CREST
「基礎理論とシステム基盤技術の融合によるSociety 5.0のための基盤ソフトウェアの創出」領域
