つまみを持つ脳
TMLR · Niimi · 「口は脳ではない」の発展版

脳 のつまみで、
口 の話を変える。

LLM は一枚岩なので「ブランドだけ変えて、ほかは全部そのまま」ができない。外付けのエネルギーモデルに属性の結びつきを持たせ、そこでつまみ(クランプ)を回す。

脳 = 属性モデル Deep Boltzmann Machine ブランド・価格・評価・話題… アダプタ (ここだけ学習) ソフトプロンプト 口 = 言語モデル Qwen2.5-0.5B(凍結) worked great for 2 months. Then it stopped working. I was very upset.
ピンの付いた丸がクランプした属性(例:評価を★1に固定)。固定したまま平均場推論をやり直すと、ほかの信念がそれに合わせて落ち着き直す。
口
GPT-2
→
Qwen2.5-0.5B(Llama・OLMo でも確認)
市場
スマホのみ
→
スマホ + ビューティー
比較
3つのベースライン
→
LoRA・CTRL・PPLM・活性ステアリング・RBM など
言葉づかい
世界モデル・因果的介入
→
属性モデル・クランプ(モデル内の整合性)
論文の組み立て

「ここでは負ける」と先に予言する

一番の比較相手は、DBM を抜いて表データを直接 MLP に通す版(直結 MLP)。文章の上手さでは勝てないはずで、構造を操る力では勝つはず。この 両側の予言 が、両方ともその通りになった。

軸 1 ・ 文章の上手さ(CE・SBERT)

直結 MLP と互角

予言 直結 MLP は LLM の損失を入力まで直接逆伝播できるので、表面の指標では同等か、わずかに上回るはず。

上位 提案(DBM) 直結 MLP RBM
下位 全体 FT LoRA CTRL PPLM ICL
✓ 予言どおり
軸 2 ・ 構造を操る力

提案モデルだけが持つ

予言 もっともらしさのスコア、分布まで自然なクランプ、独立した 2 本のつまみは、エネルギーモデルがないと出せないはず。

結果 直結 MLP との比較すべてで提案が勝ち
✓ 予言どおり

言いたいのは「上手さ」と「操作性」は 別の設計軸 だということ。LoRA が表面指標の天井に近づいた今、そこでの小差はもはやアーキテクチャを見分けない。

発見 ① 市場ごとの結びつき

市場ごとに、結びつきの地図が違う

属性どうしの結びつきを実データで測ると、スマホは 寡占型 (ブランドと価格が強く結びつく)、ビューティーは 専門特化型 (ブランドと話題が結びつく)。そして「評価 × サービスの話題」だけは両方に共通していた。

線の太さ=実データでの結びつきの強さ(論文 Table 2 の |r| に比例)。 ピンクの線(評価 × サービス) は両市場でほぼ同じ太さ=消費者心理の共通性。

DBM のエネルギーはこの地図をなぞる 21 組すべての属性ペアで、エネルギーの反応の大きさが実データの結びつきの強さと強く連動した。

正直なただし書き 結びつきを 見つける だけなら相関表で足りる。エネルギーモデルが加えるのは、任意の組み合わせの「ありえなさ」スコアと、クランプして推論し直す仕組み。

発見 ② 2 本のつまみ

感情のつまみと、内容のつまみ

地図から 2 種類のつまみが取り出せる。両市場に共通の結びつき(評価 × サービス)は 感情 を動かし、市場固有の結びつき(ブランド × 話題)は 内容 を動かす。理想は、片方を回してももう片方が動かないこと。

ビューティー(Sally Hansen × ネイル)の内容クランプと、ビューティーの評価クランプ(★5→★1)の平均的な変化量を縮尺どおりに矢印にしたもの。
感情のつまみ ・ スマホ ★5 → ★1
…For a refurbished phone, it's not a bad phone… I recommend buying from this brand.
I had a phone factory refurbished and it worked great for 2 months. Then it stopped working… I was very upset.
「整備品」という文脈は保ったまま、評価の向きだけが反転
内容のつまみ ・ Bath & Body Works × 香り
This is a great product. I love it… My kids love it… I love this product.
Great product with an attached scent … a gift for a friend that loves all the smells in this scent … I love it.
べた褒めのトーンは保ったまま、話題だけが香りへ
発見 ③ 活性ステアリングとの違い

口の中をいじるか、外の脳に相談するか

最有力の競合は、LLM 内部の活性に「★1方向のベクトル」を足す手法(CAA)。 CAA に有利になるよう 層と強さを調整しても、違いは程度ではなく種類の違いだった。

ステアリング(CAA)

生成器の中の活性に、差分ベクトルを足す

  • 感情の 平均 は同じくらい動かせる
  • でも分布の 形 が本物のレビューと合わない
  • ベクトルを足し合わせると 干渉して悪化
  • 話題語は増やしすぎ、感情まで引きずる

クランプ(提案)

外の同時分布で属性を固定し、推論し直す

  • 感情の平均も同程度に動く
  • 分布の形まで本物に近い
  • 結びついた属性を一緒に固定すると さらに本物へ近づく
  • 内容を変えても感情はほぼ動かない
論文 Fig. 2(ビューティー)を簡略化した模式図。比較対象は「★1 の条件を自然に与えたときのモデル自身の生成文」。

「評価=★1」だけでなく、 それと結びつく「サービスの話題」も一緒に固定 すると、分布が本物の★1にさらに近づく。結びつきの地図を知っているから、組み合わせ方がわかる。

発見 ④ 部品ごとの役割

何を抜くと、何ができなくなるか

DBM を丸ごと抜いた版(直結 MLP)と、深さだけを抜いた版(隠れ層 1 層の RBM)を比べると、能力が階段状に並んだ。

直結 MLP(エネルギーなし)

文章は上手い

  • 表面指標は提案と互角
  • 条件の差し替えはできるが、クランプはできない
  • 平均は動くが、分布の形が合わない
RBM(隠れ層 1 層)

+ クランプができる

  • もっともらしさのスコア
  • 結びつきの地図の復元
  • 感情のつまみ
  • 組み合わせクランプで分布が本物に近づく(ここは DBM 以上)
DBM(多層)

+ つまみが独立する

  • 内容のつまみが一番強く効く
  • 内容を変えても感情が漏れない

1 層だとブランド・話題・評価が同じ表現に押し込まれ、内容をいじると感情まで引きずられる。

発見 ⑤ 口の交換

脳はそのまま、口だけ取り替える

同じ DBM のまま、生成器を開発元もトークナイザも異なる LLM に替え、アダプタだけ再学習した。3 系統とも、そのまま動いた。

同じ脳 DBM(再学習なし)
この結果が示すこと

操作性と解釈可能性を、設計の段階で持たせる

評価軸を変える

表面指標が天井に近い今、アーキテクチャを見分けるのは「もっともらしさを採点できるか」「予測的に妥当なクランプができるか」。

後付けの探針ではなく

一枚岩のモデルを後から調べるのではなく、解釈可能性と操作性を最初から部品として組み込む。この構成はその一つの実現例。

範囲と限界
クランプは学習した分布の中での整合性であり、現実の因果効果ではない 2 つの市場・レビュー文のみ 偽レビューへの悪用リスク(ただし条件付けは記録・監査できる)

口 は話す。
何を話すかは、 脳 が別の場所で、検査できる形で決める。