2025年4月24日（木）、Tel Aviv University の Eran Toch 准教授 (Associate Professor) をお招きし、講演会を開催しました。
Toch准教授は、ヒューマンコンピュータインタラクションと機械学習の観点から、人々のオンライン体験、プライバシー、セキュリティ管理を支援する研究に取り組まれています。人間の行動の計算論的分析とその知見を、オンライン体験、安全性、生産性の向上に応用することを研究テーマとされており、EUのHorizon 2020、イスラエル科学財団（ISF）、DARPA、イスラエル科学省などから資金提供を受けて研究プロジェクトを推進されています。また、論文誌IMWUTの編集者や、ACM CHI会議のセキュリティ・プライバシー分科会チェアなどを務められており、過去には Visiting Associate Professor at Cornell University、 Fellow at Carnegie Mellon University も歴任されています。
講演会の詳細は以下の通りです。
- 日時: 2025年4月24日（木） 15:10～16:40
- 講演者: Eran Toch 氏 (Associate Professor, Head of the Industrial Engineering Department, Faculty of Engineering, Tel Aviv University)
- タイトル: How User Privacy Behavior Shapes Machine Learning Models
- 概要: Machine learning models, including large language models, play a central role inthe computer systems we build today and in shaping our vision for the future.However, these models fundamentally depend on data collected and shared bypeople—data that often includes personal and sensitive information. In thistalk, I present several studies that examine how privacy concerns and userbehaviors impact the data used to train machine learning models and,consequently, their performance. Through a series of online experimentsinvolving 1,551 participants, we demonstrate that users’ sharing decisions cansignificantly degrade model performance. Paradoxically, we also show thatmechanisms such as differential privacy -- which adds noise to protectindividual data -- can increase user trust and improve data quality and modelaccuracy.
講演では、機械学習モデル、特に大規模言語モデルが人々の収集・共有する個人情報を含むデータに依存している現状を踏まえ、ユーザーのプライバシーに関する懸念や行動が、モデル訓練用データやその性能にどのように影響を与えるかについて、複数の研究結果が紹介されました。1,551人の参加者によるオンライン実験の結果に基づき、ユーザーのデータ共有に関する意思決定がモデル性能を低下させる可能性や、差分プライバシーのようなノイズを加える技術が、逆説的にユーザーの信頼を高め、データ品質やモデル精度を向上させる可能性があることなどが示されました。
