2026年10月19日
Technology Watch

研究室から産業へ。新しい技術の道筋を追う

← トップへ

arXiv

アバターは沈黙の間も存在し続ける

AI が描いたイメージ

アバターは、次の合図を待つのではなく、記憶や感情、思考、意図した行動を引き継ぐことで、沈黙の間も社会的な存在感を保てる。論文の著者らは、沈黙中に15秒ごとにこの状態を更新する意図的エージェントを構築した。仮想診療所の待合室では、システムが一貫性を保ち、出来事を捏造しなければ、患者が考えをまとめている間、医療従事者のアバターは注意深く話を聞く表情を保てる可能性がある。

現在のアバターは、話しかけるとうなずいたり、動画や音声信号から顔の手がかりをまねたりできる。しかし会話が止まると、通常は利用できる情報がほとんどない。動きを止めたり、無表情に戻ったり、あらかじめ用意された動作を繰り返したりすることがある。システムは直近の信号に反応するが、何がすでに起きたのか、何を予想しているのか、表情を続けるべきか、変えるべきか、止めるべきかを明確に把握してはいない。

信号と信号の間にアバターが必要とするもの

顔の反応は単純な翻訳の問題ではない。同じ文でも、会話の内容によっては笑顔がふさわしい場合もあれば、心配そうな表情や、目に見える反応を示さないことがふさわしい場合もある。既存のシステムは、音声や映像と顔の動きの間にある統計的なつながりを学習することが多い。複数の反応候補を生成できるものもあるが、システム内の履歴は通常、人間が調べたり調整したりできる名前のない要素からなる隠れ状態として保存される。

新しいフレームワークは、その状態に4つの名前付きの要素を与える。内的思考フロー(Inner Thought Flow)、感情状態、行動状態、活性化された記憶である。感情状態は、よく知られた3つの考え方を使う。感情がポジティブかネガティブか、どの程度強く感じられているか、どの程度の制御や力を示しているかである。これらの値は顔を導く手がかりにはなるが、それだけでどの顔の筋肉を正確に動かすべきかを示すわけではない。

著者らは、ここで慎重な区別もしている。内的思考フローは、次の更新のための工学的な記録として使われるテキストである。アバターに意識があることや、人間のような思考を持つことの証拠ではない。

沈黙のための心拍

この論文の中心的な変更は、すべての顔の動きを新しい手がかりへの直接的な答えとして扱うのをやめることだ。沈黙中は、時間で制御された心拍が別の更新を開始する。テストシステムでは、その心拍は15秒ごとに発生した。言語モデルは保持された思考、感情、行動、記憶を考慮し、次の内的思考と、可能な行動を生成する。感情モデルはその結果を顔の動きに変換し、最終的に顔を生成する。

これによりアバターは、何か新しいことが起きたふりをせずに、活動し続ける方法を得る。指示では予想と観察を分け、根拠のない外部の出来事を禁じている。予想したことが観察したことと一致しなければ、次の思考でその不一致を扱うことになっている。そのためシステムは、反応を示すか、静かに活動し続けるかを判断できる。

この設計は、1つの不透明な出力よりも検査しやすい。開発者は、記憶された文脈、感情、予想、意図した行動をそれぞれ調べたり変更したりできる。ただし、言語モデルのループを動かし続けなければならないため、直接的な顔の動きのモデルよりもコストが高く、遅い。内部の動きを制御する方程式について、著者らは、1つの完全な確率モデルから導かれたものではなく、ヒューリスティックだと説明している。

結果は、人間らしい振る舞いを証明するものではないが、改善を示唆している。REACT 2025ベンチマークでは、完全なシステムは、イベントを待つだけのバージョンや、手書きのルールだけを使うバージョンを上回る得点を、目隠し方式の人間評価で得た。平均評価は5.527で、記録された人間の反応は5.195だった。著者らによると、補正後、この差は統計的に有意ではなかった。入力なしで30分間テストしたところ、更新の98.33%は根拠のない外部の出来事を捏造しなかった。それでも、捏造した更新はいくつかあった。

Refer to caption
Figure 2: The overall architecture of the intentional agent.For engineering implementation purposes, the intentional agent maintains an Inner Thought Flow (ITF) TtT\_{t} as part of its structured internal state. We use ITF as an engineering representation of the intermediate state used for subsequent generation; we do not treat it as evidence that the agent has human consciousness or cognition. ITF is mainly prompt-driven at inference, and the base LLM is not fine-tuned to learn it. During silence, updates are initiated by a timed heartbeat rather than new external events. The thought generator updates from retained information without a new external event; the prompt keeps expectation separate from observation, prohibits unsupported external events, and requires prediction mismatches to be addressed in the subsequent thought. At each update, the retained state is combined with current perceptual and prediction-error information; the thought generator produces the next thought, after which the action generator produces a possible action state. This mechanism is somewhat similar to the framework by Liu et al. [Liu et al. (2025)](https://arxiv.org/html/#bib.bib7). However, their approach still relies on the passive triggering of inner thoughts by external events as a starting point to address the optimisation of dialogue flows. In contrast, the intentional agent focuses on how the agent initiates intentional actions towards the external world. Under our internal dynamics framework, this implies how the agent acts upon the environment even when it is situated alone. Here, TtT\_{t}, emotion vector EtE\_{t}, action vector AtA\_{t}, and activated memory content MtM\_{t} together constitute the retained internal state St←{Tt,Et,At,Mt}S\_{t}\\leftarrow\\{T\_{t},E\_{t},A\_{t},M\_{t}\\}. External perception NtN\_{t} is supplied separately to the current update and can be empty. Conventional temporal models usually encode interaction history in a learnt hidden vector whose individual dimensions have no predefined meanings. In our framework, information used for subsequent updates is organised into explicit, named components rather than compressed into a single opaque hidden representation. These components can therefore be inspected and changed separately. At each update, the base LLM used as the thought generator receives the current state to generate the next thought, after which the action generator produces the next action state. The updated thought and action then enter the affective and facial generation process. Because TtT\_{t} largely contains working memory, the memory module primarily stores long-term memory. During the generation of Tt+1T\_{t+1}, TtT\_{t} and the possible NtN\_{t} are inputted into the memory module to calculate cosine similarity for extracting the most similar memory elements. Subsequently, a LLM integrates the text of the memory element itself, its corresponding temporal attributes, and potential executed actions into a descriptive text segment MtM\_{t}. After this, TtT\_{t} is stored by the memory module. 出典: Beyond End-to-End Black Box Mapping: An Intentional Agent Framework for Cognitive-driven Facial Reaction Generation(arXiv)
Refer to caption
Figure 6: Qualitative frame-by-frame comparison. In this exchange, the speaker presents a difficult-task dilemma, asking what happens when more time is spent on the harder task, while the listener begins formulating a response. Ground Truth shows natural temporal variation, whereas Event-Triggered and Heuristic-Only are more repetitive or neutral. Full Architecture generates a continuous, context-sensitive trajectory that evolves towards a mildly tense or concerned expression as the dilemma unfolds, without reproducing the ground-truth sequence frame by frame. Expression amplitudes are scaled for visual clarity.### F.7 Comparison with Existing Automatic Metrics 出典: Beyond End-to-End Black Box Mapping: An Intentional Agent Framework for Cognitive-driven Facial Reaction Generation(arXiv)

静かなアバターができること

仮想診療所の待合室で、患者が考えをまとめるために間を置いたとき、医療従事者のアバターは、固まったり決まりきったうなずきを繰り返したりせず、適度に注意深い、または穏やかな表情を保てる可能性がある。語学学習用のキオスクでは、学習者が文の途中で止まっても、再びチューターを作動させる必要はない。顔はターンごとにリセットされるのではなく、静かに関心を向けたままでいられる。

その未来には、説得力のあるデモ以上のものが必要だ。内部状態は、はるかに長い会話の中でも一貫性を保たなければならず、実際に使えるほど低コストで更新されなければならない。システムはまた、沈黙を意図の捏造に変えないこと、遅れが気を散らすものにならない程度に素早く反応すること、制御可能で文化的に適切な振る舞いをすることも必要になる。著者らが行った長時間の沈黙のテストでは、完全なシステムが後の思考で述べられた事実を保持していた割合は62.08%だった。思考だけを保持するバージョンを大きく上回ったが、完璧にはほど遠い。アバターが沈黙の間も存在し続けられるのは、なぜ沈黙しているのかを記憶し、その理由を作り上げない場合だけである。

出典

arXiv、「Beyond End-to-End Black Box Mapping: An Intentional Agent Framework for Cognitive-driven Facial Reaction Generation」