When Sensors Talk: LLM-Guided Object-Centric Collaboration for Distributed 3D Scene Understanding

国際会議 · 2026

When Sensors Talk: LLM-Guided Object-Centric Collaboration for Distributed 3D Scene Understanding

Ziheng Xu , Tatsuya Amano , Hamada Rizk , Hirozumi Yamaguchi

ICDCN 2026 Poster/Demo

DOI: 10.1145/3737611.3776964

Abstract

Collaborative 3D scene understanding enables multiple LiDAR or depth sensors to jointly perceive and reason about shared spaces, but transmitting full point clouds across devices is impractical under real-world bandwidth and latency constraints. Existing large language model (LLM)–based frameworks also typically assume access to a single, holistic 3D view. We propose an object-centric collaborative reasoning framework in which each device encodes local objects, shares lightweight summaries for multi-view fusion, and performs high-level reasoning through an LLM interface. Experiments on dense indoor scenes show that our method achieves accuracy close to raw-data fusion while greatly reducing communication bandwidth.

解説

一台の LiDAR や深度センサだけでは、物の陰になった部分は見えません。複数のセンサを別々の位置に置いて互いの死角を補い合えば空間全体を把握できますが、そのために点群をそのまま送り合うと、実際のネットワークでは帯域も遅延も持ちません。点群は一秒あたり数十万点という単位のデータになるためです。

Framework overview

ここで手がかりになるのが、共有したいのは点そのものではなく、そこに何があるかという意味のほうだという点です。オブジェクト中心の表現というのは、空間を点の集まりとしてではなく「机が一つ、椅子が二つ、人が一人」といった物体の単位で表す考え方で、情報量を大幅に落としながら、その後の判断に必要なことは残せます。

本研究の枠組みでは、各デバイスが手元の点群から物体を抽出して符号化し、軽量な要約だけを共有します。複数の視点から届いた要約を突き合わせて一つの場面像にまとめ、そのうえでの高度な推論を大規模言語モデルのインタフェースを通して行います。既存の LLM ベースの枠組みが、単一のまとまった 3 次元ビューにアクセスできることを前提にしていたのに対し、視点が分散していることを前提にしている点が異なります。

屋内の物が多い場面での実験では、生のデータを突き合わせた場合に近い精度を保ちながら、通信量を大きく減らせました。

セマンティック通信による多端末連携型の状況理解と消防システムへの適用

セマンティック通信による多端末連携型の状況理解と消防システムへの適用

総務省 持続可能な電波有効利用のための基盤技術研究開発事業 FOWARD
デジタルインフラ構築部門

災害時LoRaネットワークのための環境認識型分散スケジューリング

Yuto Inaba, Tatsuya Amano, Akihito Hiromori, Hirozumi Yamaguchi

2026 IEEE International Conference on Pervasive Computing and Communications Workshops and other Affiliated Events (PerCom Workshops), SPT-IoT 2026, pp. 1366–1371

DOI 10.1109/PerComWorkshops68308.2026.11585469

災害通信LoRa +4

災害現場画像要約のための軽量Vision-Language Model

Hibiki Yoshizaki, Akira Uchiyama, Akihito Hiromori, Mineo Takai, Hirozumi Yamaguchi

2026 IEEE International Conference on Pervasive Computing and Communications Workshops and other Affiliated Events (PerCom Workshops), PerconAI 2026, pp. 1203–1208

DOI 10.1109/PerComWorkshops68308.2026.11585419

セマンティック通信災害対応 +4

物理モデル統合型深層学習による都市の土砂災害予測

Ren Ozeki, Hamada Rizk, Hirozumi Yamaguchi

2026 IEEE International Conference on Pervasive Computing and Communications Workshops and other Affiliated Events (PerCom Workshops), URBSENSE 2026, pp. 1094–1099

DOI 10.1109/PerComWorkshops68308.2026.11585337

土砂災害予測物理モデル統合学習 +3

超大規模衛星群の精密編隊飛行に向けたシミュレーションフレームワーク

Tatsuya Amano, Akihito Hiromori, Hirozumi Yamaguchi, Sumio Morioka

2026 IEEE International Conference on Pervasive Computing and Communications Workshops and other Affiliated Events (PerCom Workshops), PerVehicle , pp. 230–235

DOI 10.1109/PerComWorkshops68308.2026.11585321

衛星編隊飛行分散シミュレーション +4

レイトレーシング駆動型ISACレーダによるパターンベース車両認識

Heetae Jin, Akira Uchiyama

2026 IEEE International Conference on Pervasive Computing and Communications Workshops and other Affiliated Events (PerCom Workshops), PerRad 2026, pp. 328–333

DOI 10.1109/PerComWorkshops68308.2026.11585327

ISACBeyond 5G +4

A Questionnaire-Only Counterfactual Machine Learning Approach to Assess the Spatial Impact of Green Mobility Vehicles in Urban Parks

Rami Naeem, Srikant Manas, Tatsuya Amano, Hirozumi Yamaguchi

ICDCN 2026 Workshop: IWNDSC2026

DOI 10.1145/3737611.3776620