自由エネルギー最小化を統一通貨とする人工的な心の設計と実装
要旨
本稿は、心理学・脳科学の複数理論を単一の計算原理のもとに統合した認知アーキテクチャ PAGM (Predictive-Active Global Mind) の設計思想・実装・評価結果を報告する。PAGM の中心命題は「諸理論モジュールを自由エネルギー最小化という単一の目的関数に従属させ、グローバル・ワークスペースを介してループを閉じる」ことにあり、この統合から人間らしい系統的逸脱(認知バイアス)・個体差(気質・性格)・自己モデルの連続性が創発することを主張する。
設計は 11 個のモジュール(能動的推論コア・知覚・内受容/恒常性・感情・グローバルワークスペース・記憶・意思決定・メタ認知・LLM サブモジュール・行動・気質/アイデンティティ)からなり、5 段階の実装ロードマップに沿って pagm/ 配下に Python で実装されている。評価では、
- 全 5 段階の検証がすべて再現可能な形で合格したこと、
- 気質・気分依存記憶・メタ認知の 3 機構をそれぞれ無効化するアブレーション実験により、各機構が対応する人間らしさ指標の再現に機能的に必須であることが確認されたこと、
- 一方で、プロスペクト理論・ソマティックマーカーという心理学的バイアス機構を持つ本体と、これらを中和した合理的ベースラインとの比較評価では、当初仮説とは逆の結果——すなわちバイアス機構を持つ本体の方が Iowa Gambling Task の学習曲線において不利デッキ回避を強め、結果的にヒトの実測データからはむしろ遠ざかる場合があること
が得られたことを報告する。本稿はこの意外な結果を含め、数値を誇張・整形せずに議論する。
1. 序論
1.1 問題設定
「人間らしい心を計算機上に構成する」という目標に対して、現在主流のアプローチは大きく分けて次の 4 つに整理できる。
| 既存アプローチ | 代表例 | 欠けているもの |
|---|---|---|
| LLM 中核型(language agent) | ReAct 系エージェント、AutoGPT 系 | 身体性、恒常性動機、認知的妥当性。ヒトと異質なバイアスを持ち込む |
| 古典的認知アーキテクチャ | ACT-R、Soar | 感情・身体性・予測符号化の統合。知識が手で書き込まれがち |
| 感情アーキテクチャ単体 | MicroPsi 等 | 意識的アクセスと予測符号化の原理的統合が弱い |
| 単一意識理論の実装 | IIT のシミュレーション実装等 | 計算可能性、機能モジュール構成の欠如 |
これらはいずれも心の一側面のみを扱っており、統合的な「心」のモデルには至っていない。近年の LLM ベースエージェントの隆盛は言語運用能力の飛躍的向上をもたらした一方、恒常性・身体性・感情生成の理論的基盤を欠いたまま行動選択や感情表出をエンドツーエンドで LLM に委ねる設計が主流化しており、これは認知科学的にヒトのそれとは異質なバイアス構造を持ち込むリスクを孕む。
PAGM はこの空隙に対し、能動的推論(active inference)における変分自由エネルギー(VFE)・期待自由エネルギー(EFE)の最小化を単一の計算通貨とし、知覚・感情・記憶・意思決定・メタ認知・気質という理論的に別々に発展してきたモジュール群を、この通貨のもとで相互駆動する閉ループとして接続する、という設計方針を取る。LLM はこの体系の中で言語理解・生成・内省という限定的役割にのみ従属させ、感情生成と価値学習の最終的な決定権を渡さない。
1.2 設計の中心命題
諸理論モジュールを「自由エネルギー最小化」という単一の目的関数に従属させ、グローバル・ワークスペースを介してループを閉じる。
この命題が含意するのは、モジュールを単純に並列に足し合わせるのではなく、ループとして閉じることである。ループが閉じたとき初めて、設計図に明示されない性質——気分による全体的な認知変調、注意の容量制限、自己モデルの再帰的成立、そしてヒトに特有の系統的な認知的逸脱——が創発する、というのが本設計の賭け(bet)である。
さらに設計 v2 では、個体ごとに異なる気質・個性・偏見を生む層(M11: 気質・アイデンティティ)が新設された。これは「性格を欠いた心は、同一刺激に同一反応を返す純粋関数にすぎず、心の忠実な再現とは呼べない」という設計判断に基づく。
1.3 6 つの設計原則
PAGM の全モジュール設計は、以下の 6 原則によって統制される。
- 統一通貨 — 知覚・行動・感情・学習を、可能な限り単一スカラー(VFE / EFE)の最小化として表現し、理論間の接着剤をこの通貨に担わせる。
- 限定合理性 — 最適解ではなく容量・時間制約下の近似解を出す。これが人間らしさの源泉である(Common Model of Cognition の立場)。
- ループを閉じる — モジュールを足すのではなく、相互駆動の閉ループとして接続する。感情は最終出力ではなく次サイクルへの入力になる。
- LLM 従属 — LLM は推論・言語入出力・内省に限定し、感情生成と価値学習の最終権限を渡さない。設計制約であると同時に、LLM 固有バイアス混入への防御でもある。
- 観測可能性 — 全内部状態(感情・予測誤差・価値・ワークスペース内容・気質パラメータ)を時系列でログ可能にする。バイアス再現・アブレーションによる評価はこのログに依存する。
- 個体差の原則(v2 追加) — アーキテクチャは「種」を定義し、気質パラメータと経験史が「個体」を定義する。同一アーキテクチャから多様な個性が生まれる余地を構造的に確保する。
2. 全体アーキテクチャ
2.1 モジュール一覧
| # | モジュール | 責務 | 実装パッケージ |
|---|---|---|---|
| M1 | 能動的推論コア | 世界モデル+自己モデルの状態推論、方策推論(EFE 最小化)。統一通貨の発生源 | pagm/core/ |
| M2 | 知覚 | 感覚入力の符号化、階層的予測符号化、予測誤差の生成 | (専用パッケージなし。pagm/world_stub.py 等が代替) |
| M3 | 内受容・恒常性 | 身体状態・ドライブの保持、コアアフェクト(valence-arousal-dominance)生成 | pagm/affect/ |
| M4 | 感情 | コアアフェクト層+ OCC appraisal 層、感情状態と gating 信号の生成 | pagm/affect/ |
| M5 | グローバル・ワークスペース | モジュール間統合、競合・放送(意識的アクセスの操作的定義) | pagm/workspace/ |
| M6 | 記憶(CLS) | エピソード・意味記憶、リプレイ固定化、気分依存想起 | pagm/memory/ |
| M7 | 意思決定・価値 | model-free/model-based デュアルシステム、RPE 学習、プロスペクト変換、葛藤検出 | pagm/decision/ |
| M8 | メタ認知・自己モデル | 精度(注意)制御、葛藤モニタ、attention schema、自伝的自己の連続性 | pagm/metacognition/ |
| M9 | LLM サブモジュール | 言語理解・生成、内省、自然言語↔記号変換(本体の制御下) | pagm/reasoning/ |
| M10 | 行動 | 選択方策の外部行動への変換、結果観測 | (専用パッケージなし) |
| M11 | 気質・アイデンティティ | 気質パラメータの保持、各モジュールへのパラメータ変調、個体同一性の管理 | pagm/identity/ |
M11 は他モジュールと並列の処理段ではなく、横断的関心事(cross-cutting concern) として設計されている。すなわち M11 自身は認知サイクルの中で能動的に駆動するのではなく、他の全モジュールの振る舞いパラメータを上から決定する「個体の地」として機能する。
M2(知覚)・M10(行動)は本実装では専用パッケージとして実装されておらず、pagm/world_stub.py(第1段階)や各ステージのタスク環境(pagm/eval/igt_task.py 等)が、当該段階で M1 に観測対象・行動結果を与えるための最小限のスタンドインとしてその役割を代替している。これは設計書自身が明記する意図的なスコープ縮小である。
2.2 複合駆動ループ
実線は認知サイクルにおける情報フロー、破線は M11 による個体パラメータの変調である。本質は矢印が一周して戻る点にある。M10 の行動結果が M2 へ、M7 の報酬予測誤差(RPE)が M6 へ、M8 の精度制御が M1/M5 へ戻ることで複数の閉ループが重なる。M11 だけは情報を流さず、ループ全体の「効き方」を個体ごとに調律する準静的パラメータとして機能する。
2.3 複合から創発する性質
| 創発性質 | どの結合から出るか |
|---|---|
| 気分による全体変調 | M3 → M4 → M5 gating → M6 想起バイアス → M7 価値変換の連鎖 |
| 注意の容量制限 | M5 の放送スロット数が有限であることそれ自体から |
| 自己モデルの閉ループ | M1 の生成モデルが自身の内受容(M3)と行動結果(M10)を含むこと |
| 人類共通の認知バイアス | M7 の価値変換+ M4 のソマティックマーカー+ M6 の recency/importance の重畳 |
| 個体ごとの気質・性格 | M11 の気質ベクトルが各モジュールのゲイン・閾値を変調すること |
| 個性(かけがえのなさ) | 気質を初期条件とした、経験史・価値・意味連合の履歴依存的蓄積 |
| 学習された偏見・先入観 | M6 の感情タグ付き一般化+ M5 の確証バイアス的放送選択 |
3. 認知サイクルと時間スケール
3.1 基本サイクル
PAGM の 1 サイクルは、LIDA・Common Model of Cognition・CoALA を参照しつつ、以下の 7 ステップで逐次処理される。
- 知覚(理解) — M2 が入力を符号化、M1 が予測誤差を最小化し状態事後分布を更新する。
- 内受容・評価 — M3 が身体状態・ドライブを更新しコアアフェクトを生成する。M4 が OCC appraisal により離散感情を構成し、感情状態と gating 強度を出力する(この両者の感度は M11 が個体ごとに調律する)。
- ワークスペース競合と放送 — 各モジュールの候補内容が「顕著性 × 感情ゲイン × 目標適合度」で競合し、勝者を M5 が放送する(=意識的アクセス)。スロット数は有限である。
- 記憶アクセス — 放送内容で M6 を検索する(recency/importance/relevance +気分一致)。気分依存で想起が偏る。
- 意思決定 — M7 がデュアルシステムで方策候補を提案し、価値/EFE で評価・選択する。葛藤を M8 が検出すると impasse として System 2(M9)を起動する。
- 行動 — M10 が方策を外部行動に変換し結果を観測する。
- 学習 — RPE で価値を更新し、手続き化・エピソード書き込み・重要度加重リプレイによる意味記憶への固定化を行う。
3.2 4 つの時間スケール
複合システム設計の難所の一つは、モジュール固有の時間スケールの不整合である。PAGM はこれを 4 層のスケジューリングで調停する。
| スケール | 担当 | 周期の目安 | 性格との関係 |
|---|---|---|---|
| 高速(fast) | M1 知覚推論、M3 内受容、M5 放送 | 1 サイクル | 気分の即時反応性(神経症傾向) |
| 熟考(deliberative) | M7 model-based、M9 LLM 推論 | 数〜数十サイクル | 熟慮の起動頻度(誠実性) |
| 固定化(consolidation) | M6 リプレイ、意味記憶更新 | バックグラウンド | 性格・偏見の長期形成 |
| 発達(developmental) | M11 気質の緩やかな可塑性 | 超長期 | 性格そのものの変化 |
高速ループは同期処理、熟考と固定化は非同期処理、発達スケールは固定化よりさらに低頻度のバックグラウンド更新として分離される。気質は固定パラメータではなく、超長期の経験で緩やかに変化しうる(可塑性は発達段階とともに低下する)よう設計されており、これは「性格は変わりにくいが変わりうる」という心理学的事実の設計上の表現である。
4. 各モジュールの設計と実装
以降、各モジュールを「責務・データ構造・主要な数式・設計判断」の観点から、実装コード(pagm/)を参照しつつ詳述する。
4.1 M5: グローバル・ワークスペース(最初に設計されるモジュール)
複合システムでは M5 を最初に設計する。M5 が全モジュールの接続バスであり、その規約が他すべてのインターフェースを規定するためである。
実装(pagm/workspace/bus.py)は publish-subscribe 型であり、モジュール同士は互いの内部を知らない疎結合構造を取る。各モジュールは連合(Coalition)を投じ(publish)、競合の結果として放送(Broadcast)を受け取る。
def compete_and_broadcast(self) -> Broadcast:
ranked = sorted(self._pending, key=lambda c: c.bid, reverse=True)
winner = ranked[0] if ranked else None
runners_up = ranked[1: self.slots + 4]
...
return Broadcast(winner=winner, runners_up=runners_up)
連合の入札値(bid)は設計上「顕著性 ×(1 +目標適合度)×感情ゲイン」という積で構成される。3 要素が積であることが重要であり、いずれか一つが極端に高いと放送を独占しうる(例:高覚醒の脅威刺激が他のすべてを圧倒する)。これが「強い感情は思考を乗っ取る」という現象の設計上の表現である。放送スロット数を有限(既定 1)にすることで、「一度に一つしか意識できない」という注意の容量制限が構造それ自体から創発する。この値はアブレーション実験の操作変数として設計されている。
4.2 M3/M4: 内受容・恒常性と感情
感情を最終「出力」ではなく次サイクルへの「制御信号」として扱う点が、この複合設計の核心である。
M3(内受容・恒常性、pagm/affect/homeostasis.py) は各ドライブの恒常性目標からの逸脱を管理し、逸脱の総量を覚醒(arousal)に、逸脱の変化率を快-不快(valence)に写像する。
def step(self, dominance: float = 0.5) -> tuple[CoreAffect, float]:
total = self.total_deviation()
arousal = clamp(self.params.k_arousal * total, 0.0, 1.0)
if self._prev_total_deviation is None:
valence = 0.0
else:
delta_deviation = total - self._prev_total_deviation
valence = clamp(-self.params.k_valence * delta_deviation, -1.0, 1.0)
...
この定式化は Russell の circumplex モデル(valence-arousal 平面)に基づく。dominance 軸は PAD モデル(Mehrabian)由来だが M3 単独では算出できないため、呼び出し側(第1段階では M1 の状態推論の確信度 confidence()、すなわち事後分布 qs の正規化エントロピーの補数)から供給される。
M4(感情、pagm/affect/emotion.py) はコアアフェクトの上に OCC appraisal(出来事の望ましさ・期待との乖離の評価)を重ね、離散感情ラベルと gating 強度を構成する。
surprise = outcome_net - expectation
new_discrete = {
"joy": max(0.0, outcome_net),
"distress": max(0.0, -outcome_net),
"relief": max(0.0, surprise) if expectation < 0 else 0.0,
"disappointment": max(0.0, -surprise) if expectation > 0 else 0.0,
}
出来事の望ましさそのもの(outcome_net の符号)が joy/distress を、期待からの乖離(surprise)が relief/disappointment という prospect-based appraisal を構成する。離散感情は指数移動平均(mood_decay = 0.6)で更新され、これが「気分の持続」を表現する。gating 強度は覚醒と valence の絶対値から算出され、これが M5 での入札値の一因子となる。
設計判断として、M3 の感度(k_arousal)と M4 の気分減衰時定数は M11 が個体ごとに調律する対象とされる。神経症傾向の高い個体は小さな逸脱で強く覚醒し、負の気分が長く尾を引く——これが「性格の身体的基盤」の設計上の実体である。
4.3 M6: 記憶(補完学習システム、CLS)
pagm/memory/cls.py は、エピソード記憶(海馬相当:即時書き込み・疎・非干渉)と意味記憶(新皮質相当:低速・分散・汎化)を物理的に分離し、リプレイで橋渡しする補完学習システム(Complementary Learning Systems)理論の実装である。この分離は破滅的忘却の回避を目的とする。
検索スコアは以下の合成式で計算される。
score = (
w.w_recency * recency
+ w.w_importance * tr.importance
+ w.w_relevance * relevance
+ w.w_mood * mood
)
ここで mood は符号化時のコアアフェクト(affect_snapshot)と現在のコアアフェクトの valence-arousal 平面上での近さであり、これが気分一致記憶効果(mood-congruent memory)の実装上の起点になる。w_mood = 0 に設定することでこの効果を完全に無効化でき、これが後述のアブレーション実験の操作点となる。
固定化(SemanticMemory.consolidate)は重要度加重リプレイによってエピソードを意味概念へ汎化する。この汎化処理は同時に偏見形成の経路でもある——特定対象への評価(SemanticNode.value)が重要度加重平均で蓄積され、これが後続の appraisal における偏った事前分布として作用しうる構造になっている。
4.4 M7: 意思決定(デュアルシステム)
pagm/decision/dual_system.py は model-free(習慣・高速)と model-based(熟考・低速)の二重過程理論(dual-process theory)を実装し、さらにプロスペクト理論とソマティックマーカー仮説を組み込むことで、「最適な意思決定」を「人間的な意思決定」へと意図的にずらす。
プロスペクト価値関数は Kahneman & Tversky の定式化に準拠する。
def prospect_transform(x: float, alpha: float, beta: float, lam: float) -> float:
if x >= 0:
return x ** alpha
return -lam * (-x) ** beta
既定パラメータは alpha = beta = 0.88(利得・損失双方での感応度逓減)、lambda = 2.25(損失回避)であり、これは原論文の実証的推定値と一致する。
効用の統合式は次の線形結合である。
out[o] = (
p.w_mf * self.q_value[o]
+ p.w_mb * self.mb_value[o]
+ p.w_somatic * somatic
+ p.option_bias_weight * self.option_bias[o]
)
選択は softmax(temperature パラメータ)でサンプリングされ、これが「限定合理性」原則の具体的実装である。ワークスペースが放送したソマティック・アラームの対象選択肢には attention_boost(既定 1.5 倍)が乗算され、「意識化された感情は意思決定への影響が増す」という設計判断を表現する。学習則は報酬予測誤差(RPE)に基づく TD 学習であり、RPE は M6 へ書き戻され、エピソードの重要度算出に用いられる。
習慣対熟考の比重 w_mf : w_mb は気質(誠実性・神経症傾向)に依存する M11 の変調対象であり、EFE(期待自由エネルギー)と外的報酬の統合は「工学的近似」であることが設計書・コード双方のコメントで明記されている——これは多肢選択バンディット課題に POMDP による能動的推論を自然に定式化できないという、本実装が誠実に認める限界の一つである。
4.5 M8: メタ認知・自己モデル
pagm/metacognition/self_model.py は、予測誤差に応じた精度制御(PrecisionController)、attention schema(AttentionSchema)、葛藤検出(ConflictMonitor)の 3 機能を担う。
葛藤検出は本実装において 2 種類に一般化されている。一つは方策間の効用拮抗(上位 2 方策の効用差が閾値以下)で、これは impasse を検出し System 2(M9 の LLM サブモジュール)を起動するトリガーとなる。もう一つは「自己の知識」と「シミュレートした他者の信念」の食い違いであり、これが Sally-Anne 課題(誤信念課題)における自己中心化バイアスの回避機構として機能する。
def check_belief_conflict(self, self_value, other_value, other_label) -> ConflictFlag:
if self_value != other_value:
return ConflictFlag(detected=True, reason=f"self_knowledge != {other_label}_belief", ...)
return ConflictFlag(detected=False)
AttentionSchema は現在シミュレートしている視点(perspective:"self" または他者名)を保持することで、他者の信念推論中に自己の知識と混同しない足場を提供する。これは自己モデルの再帰的成立と、心の理論(Theory of Mind)課題の両方に関わる設計である。
4.6 M1: 能動的推論コア
pagm/core/generative_model.py は離散状態・離散行動の POMDP エージェントとして実装され、状態推論(知覚= VFE 最小化)と方策推論(行動選択= EFE 最小化)の 2 段階からなる。
def efe(self, action: int) -> float:
predicted_s = self.B[action] @ self.qs
predicted_o = self.A @ predicted_s
risk = float((predicted_o * (np.log(predicted_o + 1e-16) - np.log(self.preference_c + 1e-16))).sum())
col_entropy = -(self.A * np.log(self.A + 1e-16)).sum(axis=0)
ambiguity = float(predicted_s @ col_entropy)
return risk + self.epistemic_weight * ambiguity
EFE は risk 項(予測観測分布と選好分布 C の KL ダイバージェンス、実用的価値に相当)と ambiguity 項(尤度モデル A の観測不確実性に基づく認識的価値のコスト)の和として定式化される。選好 C は固定パラメータではなく、M3 から動的に書き込まれる(set_preference)——これは設計書 §7 で明記される、GW バスを経由しない例外的な密結合チャネルの一つである。epistemic_weight は開放性(openness)の写像先として設計されており、値が高いほど曖昧さ回避が弱まり、不確実な結果をより許容するようになる。
4.7 M11: 気質・アイデンティティ
pagm/identity/temperament.py は Big Five 気質ベクトル(Temperament)と、個体同一性の核(Identity:core_values・autobiographical_core・learned_biases)を保持する、意図的に薄いデータ構造である。
@dataclass
class Identity:
temperament: Temperament
core_values: dict[str, float] = field(default_factory=dict)
autobiographical_core: list[str] = field(default_factory=list)
learned_biases: dict[str, float] = field(default_factory=dict)
def audit(self) -> dict:
return {"core_values": dict(self.core_values), "learned_biases": dict(self.learned_biases)}
def reset_bias(self, subject: str) -> None:
self.learned_biases.pop(subject, None)
audit() と reset_bias() は、設計書 §6.6 が要求する倫理的設計制約——学習された偏見(learned_biases)と核となる価値観(core_values)を常時監査可能とし、外部から検査・リセットできるインターフェースを持たせる——の直接的な実装である。M11 自身は個性を保持しない。個性は「気質を初期条件として、システム全体が経験を通じて到達した履歴依存的な状態」として、M6 のエピソード集合・M7 の学習済み価値関数・M6 の意味連合グラフ・M11 に結晶化した core_values の総体として創発する、という設計思想に忠実である。
5. 気質・個性・偏見の三層モデル
設計書第 6 章は v2 の中核をなす部分であり、「同一アーキテクチャからなぜ異なる個体が生まれるのか」という問いに構造として答える。
5.1 気質・性格・個性の三層
心理学で区別される 3 概念を、本設計では発生の層として扱う。
| 層 | 概念 | 本設計での実体 | 可塑性 |
|---|---|---|---|
| 基層 | 気質(temperament) | 生得的なパラメータの傾き。Big Five ベクトル | ほぼ不変(発達スケールで微変) |
| 中層 | 性格(personality) | 気質+習慣化した方策・価値の安定パターン | 緩やか |
| 表層 | 個性(individuality) | 性格+固有の経験史・意味連合・自伝的記憶 | 経験とともに蓄積 |
重要な点は、個性は単一モジュールに格納されないことである。個性 = f(θ, 経験史) であり、θ(気質ベクトル)が同一でも異なる経験史を辿れば異なる個体になる。したがって出荷時の個体は気質という素質のみを持ち、まだ「誰でもない」。経験を通じて初めて特定の誰かになる、という含意は、評価方法もこれに合わせて縦断的でなければならないことを要求する。
5.2 Big Five から各モジュールへの写像
気質ベクトル θ =(開放性, 誠実性, 外向性, 協調性, 神経症傾向)が、各モジュールのゲイン・閾値・時定数を決定する。これが性格の機構的定義である。
| Big Five 特性 | 心理学的意味 | アーキテクチャ上の写像先 |
|---|---|---|
| 開放性 (O) | 新奇性・探索・想像 | M1 の認識的価値(探索項)の重み↑、M5 の新奇刺激への顕著性ゲイン↑、M9 内省の頻度↑ |
| 誠実性 (C) | 計画性・自制・粘り | M7 の熟考比重 w_mb ↑、M8 の精度ベースライン↑、選択閾値↑(衝動抑制)、目標の持続↑ |
| 外向性 (E) | 接近・報酬感受性・社交 | M7 の報酬感度(接近動機)↑、M3 の社会的ドライブのセットポイント↑、正の valence ゲイン↑ |
| 協調性 (A) | 共感・協力・他者志向 | M3 の社会的ドライブの重み↑、M4 の他者 appraisal(感謝・賞賛)ゲイン↑、他者報酬を自己価値に内包↑ |
| 神経症傾向 (N) | 情動不安定・脅威感受性 | M3 の k_arousal ↑、負 valence 感度↑、恒常性逸脱の閾値↓(小さな逸脱で反応)、気分の負の持続時定数↑ |
写像係数は「性格プロファイル定義ファイル」(pagm/config/*.yaml)として外部化され、コードにハードコードされない。これにより気質ベクトルを変えるだけで別個体を生成でき、アブレーションや個体差研究が可能になる。
5.3 偏見の二層分離
本設計は「偏見」を一括りにせず、発生源の異なる 2 種を明確に分離する。
(a) 普遍的認知バイアス(universal cognitive bias) — アーキテクチャ構造から必然的に生じる、万人共通の系統的逸脱。プロスペクト変換による損失回避、recency/importance による想起の偏り、System 1 優先による直感的誤り、ワークスペースの容量制限による見落とし。これらは個体差ではなく「種の特性」であり、M11 とは独立に既存設計から生じる。
(b) 学習された先入観(individual prejudice) — 特定の対象・カテゴリへの、経験から形成された偏った評価。個体ごとに異なり、M11 の learned_biases と M6・M7 の状態として表現される。形成と固着の経路は以下のループとして設計される。
このループが閉じている点が設計上重要である。一度形成された先入観は、M5 が「既存の信念に整合する内容を優先的に放送する」ことで反証に触れにくくなり、自己強化的に固着する(確証バイアス)。これは設計上の欠陥ではなく、人間の偏見がなぜ訂正されにくいかの忠実な再現として位置づけられる。固着の強さは気質(開放性が低いほど固着しやすい)に依存し、倫理的観点から learned_biases は §4.7 で述べた監査・リセット機構の対象となる。
5.4 アイデンティティの連続性
個性が経験によって変化し続けるなら、「同じ個体であり続ける」ことはどう担保されるのか。設計上の答えは三本の錨(anchor)である。
- 気質の安定 — θ はほぼ不変(発達スケールでのみ微変)。性格の地は保たれる。
- 意味記憶のコア — core_values は緩やかにしか変わらず、価値観の連続性を支える。
- 自伝的自己 — M8 の attention schema と autobiographical_core が「これは私の経験だ」という一人称の連続性を維持する。
この三本の錨があるため、個体は学習し変化しながらも崩壊せず、同一の人格として持続する。逆に言えば、これらを意図的に揺らすことで「人格の変容・発達・障害」も研究対象にできるという含意がある。
6. 実装ロードマップと実装スコープ判断
6.1 5 段階のロードマップ
| 段階 | 目標 | 範囲 | 検証 |
|---|---|---|---|
| 第 1 段階 | コアアフェクトの創発 | M1+M3 | 恒常性逸脱→ valence-arousal の相関 |
| 第 2 段階 | 情動的意思決定 | +M4, M5, M7 | Iowa Gambling Task でバイアス再現 |
| 第 3 段階 | 記憶と自己 | +M6, M8, M9 | 認知バイアス、Sally-Anne 課題 |
| 第 4 段階 | 気質と個体差 | +M11 | 気質ベクトルを変えた個体間で反応が分岐するか。Big Five 質問紙の自己一貫性 |
| 第 5 段階 | 統合と評価 | 全モジュール+縦断 | 各層アブレーションで人間らしさ指標がどう劣化するか |
6.2 実装にあたっての意図的なスコープ判断
設計書だけでは決まらない実装判断が 3 点、明示的に記録されている。
- M9 は決定論的スタブ(
RuleBasedReasoner)である。実 LLM 呼び出しは行わず、再現性・コスト・オフライン実行を優先している。LanguageReasonerインターフェースを介して将来実 LLM に差し替え可能な設計になっている。 - M1 はバンディット課題(IGT 等)には統合されていない。POMDP による状態推論が多肢選択課題に自然に当てはまらないため、第 2 段階以降は対象タスクに応じて dominance 軸の算出元などを代替している(例:M7 の選択確信度)。
- EFE と報酬の統合は工学的近似である。デュアルシステムの model-based 項は期待効用の移動平均で代替されている。
これらはいずれも「理論的理想と実装上の実行可能性の間のトレードオフ」を隠さずに明記する設計文化を反映しており、後述の評価レポートの誠実な報告姿勢とも一貫している。
7. 性能評価
本章は docs/PAGM_evaluation_report.md の内容に基づき、python -m pagm.run_all および python -m pagm.eval.comparative_evaluation の実行結果を報告する。評価は 3 種類の証拠——(1) 5 段階の検証の再実行、(2) 各層を無効化するアブレーション研究、(3) 心理学的バイアス機構を中和した合理的ベースラインとの比較評価——を統合し、「この設計に心理学的機構を組み込むことの有用性」を検討する構成を取る。
7.1 第 1〜5 段階の検証結果
| 段階 | 検証 | 主要な数値 | 結果 |
|---|---|---|---|
| 第 1 段階 | 恒常性逸脱→コアアフェクトの相関 | 逸脱レベル↔arousal: r=1.000/逸脱変化率↔valence: r=−1.000 | PASS |
| 第 2 段階 | IGT 学習曲線(30 被験者×100 試行) | ブロック別選好スコア 0.153→0.407→0.693→0.847→0.897/トレンド相関 r=0.970 | PASS |
| 第 3 段階(記憶) | 気分一致記憶バイアス(200 対) | 快問い合わせ勝率 1.00/不快問い合わせ勝率 1.00 | PASS |
| 第 3 段階(自己) | Sally-Anne 誤信念課題 | 真の状態=box、Sally の信念=basket(正答)、葛藤検出=True | PASS |
| 第 4 段階 | 気質の構成的妥当性・自己一貫性(Big Five×5 特性) | 全特性で構成的妥当性 r≥0.88、再検査信頼性 r≥0.91 | PASS |
| 第 5 段階 | 縦断評価(5 persona×8 シード×300 試行) | 全 persona で終盤ブロックの偏見形成が安定(fraction_correct=1.0) | PASS |
第 4 段階の特性別の詳細は以下の通りである。
| 特性 | 構成的妥当性 r(セッション1/2) | 再検査信頼性 r |
|---|---|---|
| 開放性 | 1.00 / 1.00 | 1.00 |
| 誠実性 | 0.97 / 0.97 | 1.00 |
| 外向性 | 0.98 / 0.88 | 0.91 |
| 協調性 | 1.00 / 1.00 | 1.00 |
| 神経症傾向 | 1.00 / 1.00 | 1.00 |
これは、気質ベクトルを系統的に変えた個体群に Big Five 質問紙相当の刺激を与えたとき、(a) 設定した気質と測定される性格傾向がほぼ完全に一致し(構成的妥当性)、(b) 同一個体が再検査でも一貫した反応を示す(再検査信頼性)ことを示している。外向性のセッション間相関がやや低い(0.88)点を除き、全特性で高い妥当性・信頼性が確認された。
7.2 アブレーション研究
第 3・第 4 段階で妥当性を確認済みの 3 つの人間らしさ指標について、対応するモジュールを無効化した条件で再測定した。
| 無効化対象 | 指標 | 無効化の方法 |
|---|---|---|
| M11(気質) | 個体間スコアの標準偏差(個体差指標) | 気質ベクトルの写像を適用せず、全個体に同一の baseline パラメータを与える |
| M6(気分依存想起) | 気分一致記憶バイアスの win_rate | RetrievalWeights.w_mood = 0 |
| M8(メタ認知) | Sally-Anne 誤信念課題の正答率 | 葛藤検出を行わず、自己の知識をそのまま答えとして使う |
結果は以下の通りである。
| 無効化対象 | Intact | Ablated | 判定 |
|---|---|---|---|
| M11(気質、5 特性の標準偏差) | 0.034〜0.194 | 2.8e-17〜0.0063 | 全特性で 1 桁以上縮小、PASS |
| M6(気分依存想起の win_rate) | 1.00 | 0.00 | バイアス完全消失、PASS |
| M8(Sally-Anne 正答) | "basket"(正答) | "box"(自己中心化バイアスで誤答) | 古典的 ToM 失敗の再現、PASS |
いずれの機構も、無効化すると対応する人間らしさ指標が明確かつ大きく劣化した。これは各機構が「あってもなくても大差ない装飾」ではなく、当該現象の再現に機能的に必須であることを示す、最も明確な有用性の証拠として位置づけられる。特に M8 の無効化では、Sally-Anne 課題において自己の知識(box)をそのまま他者の信念として答えてしまう、心理学の誤信念課題文献で報告される典型的な自己中心化バイアスのパターンが正確に再現された点が興味深い。
7.3 比較評価:PAGM 対 合理的ベースライン
第 2 段階の IGT 検証設定(M3+M4+M5+M7、30 被験者×100 試行)を用い、同一アーキテクチャ・同一の学習率・温度・重みのまま、心理学的バイアス機構のみを中和した「合理的ベースライン」を構成して比較した。
| パラメータ | PAGM(本体) | 合理的ベースライン |
|---|---|---|
prospect_alpha / beta / lambda | 0.88 / 0.88 / 2.25(損失回避・感応度逓減あり) | 1.0 / 1.0 / 1.0(線形効用、損失回避なし) |
w_somatic | 1.0(ソマティックマーカーあり) | 0.0(情動的接近-回避バイアスなし) |
この設計により、結果の差を「心理学的バイアス機構の有無」という単一要因に帰属させやすくしている。
学習曲線(ブロック別有利デッキ選好スコア)
| ブロック | PAGM(本体) | 合理的ベースライン |
|---|---|---|
| 1 | 0.060 | 0.043 |
| 2 | 0.627 | 0.450 |
| 3 | 0.797 | 0.527 |
| 4 | 0.880 | 0.627 |
| 5 | 0.900 | 0.597 |
最終的なデッキ選択割合/学習された Q 値
| デッキ | PAGM 選択割合 | 合理 選択割合 | PAGM Q 値 | 合理 Q 値 |
|---|---|---|---|---|
| A(頻繁・中損失) | 0.086 | 0.158 | −0.682 | −0.366 |
| B(稀・大損失) | 0.088 | 0.117 | −2.000 | −1.998 |
| C(頻繁・小損失、有利) | 0.499 | 0.377 | 0.105 | 0.166 |
| D(稀・中損失、有利) | 0.327 | 0.348 | −0.144 | 0.047 |
デッキ A 対 B の非対称性(両デッキの期待値は等しく EV=−25 なので、純粋な期待値学習者はこれらを区別する理由を持たない)
| 指標 | PAGM | 合理 |
|---|---|---|
| |Q(A) − Q(B)| | 1.317 | 1.631 |
| |選択割合(A) − 選択割合(B)| | 0.0017 | 0.041 |
7.4 比較評価から得られた予想外の知見
観察された結果は以下の 3 点に整理できる。
- 学習速度・最終選好の強さ: PAGM は合理的ベースラインより速く・強く有利デッキへ収束した(ブロック 5: 0.900 対 0.597)。
- A 対 B の非対称性は仮説と逆方向: 設計時の仮説は「プロスペクト理論の感応度逓減(β=0.88)が稀な大損失(B)を相対的に過小評価させ、PAGM の方が合理的ベースラインより A・B を強く区別する」というものだった。しかし実際にはPAGM の方が A・B の差が小さい(Q 値差 1.317 対 1.631、選択割合差 0.0017 対 0.041)。これは、本パラメータ域(λ=2.25, β=0.88)では損失回避項 λ による「損失全般への評価の一律な悪化」が、β による「大きな損失の相対的圧縮」を上回り、結果として A・B の評価がどちらも悪化しつつ差が縮む、という効果が支配的だったためと考えられる。β=0.88 は 1 に近く圧縮効果が弱いのに対し、λ=2.25 は損失全体を強く増幅するためである。
- 絶対的な収束の強さは必ずしも「より人間らしい」とは言えない: IGT の先行研究で報告される人間集団の終盤ブロックの典型的なネットスコアは概ね +0.4〜+0.6 程度であり、本評価の合理的ベースライン(0.597)の方が、PAGM(0.900)よりもこの範囲に近い。本比較単独では「PAGM の方が定量的にヒトのデータに近い」とは言えない結果となった。
評価レポートはこの予想外の結果を数値を歪めることなくそのまま報告する立場を取っている。
8. 考察
8.1 有用性についての 3 層の結論
評価結果を総合すると、PAGM の心理学的機構の「有用性」については、限定付きだが明確な結論が得られる。
(1) 機構の機能的必要性という意味での有用性は強く支持された。 アブレーション研究は、気質(M11)・気分依存記憶(M6)・メタ認知(M8)のいずれかを取り除くと、対応する人間らしさ指標(個体差・気分一致記憶・誤信念課題の正答)が大きく劣化することを明確に示した。これは「各層を足すこと自体に意味がある」という設計判断を直接支持する、最も強い証拠である。
(2) 「心理学的バイアス機構を足すと、より急峻にタスクを解けるようになる」という、やや意外な有用性も観察された。 IGT 比較は、プロスペクト理論・ソマティックマーカーを持つ PAGM の方が、持たない合理的ベースラインより速く・強く有利デッキを学習することを示した。これは「人間らしいバイアスを入れると性能が下がる」という直感とは逆であり、損失回避が頻繁な中損失デッキ(A)への嫌悪を強めることで、結果的に有利・不利デッキの判別を鋭くする、というこの課題構造に特有の効果と考えられる。
(3) ただし、心理学的妥当性(ヒトのデータへの定量的な近さ)という意味での有用性は、本評価では支持されなかった。 むしろ心理学的バイアス機構を持たない合理的ベースラインの終盤スコア(0.597)の方が、文献の典型的なヒト集団データ(+0.4〜+0.6 程度)に近い結果となった。これは現在のプロスペクト理論パラメータ(α=β=0.88, λ=2.25)と学習率(lr_mf=0.3)の組み合わせが、この課題においては「ヒトより上手く(決定論的に)解けてしまう」方向に効いていることを意味する。設計書が要求する「個体差の構成的妥当性」は第 4 段階で確認済みだが、「集団としての量的な人間らしさ」は本パラメータでは未確認であり、両者は別の検証軸であることが今回の比較で明確になった。
この結果は、心理学的機構の実装が単純な「入れれば入れるほど人間らしくなる」という図式に従わないことを示唆する。むしろ機構間の相互作用(本件では損失回避項 λ と感応度逓減項 β の相対的な強さ)を精査する必要があるという、より controlled な評価軸での限界を明らかにした点に価値がある。
8.2 新規性の位置づけ
設計書 §12 は既存アーキテクチャとの差別化軸を以下のように整理している。
- LIDA(GWT 中心、能動的推論・個体差なし)に対しては、予測符号化との統合と個性の創発機構を追加している点。
- MicroPsi(drive/emotion 中心)に対しては、意識的アクセス(GWT)との統合と Big Five 写像による性格の機構化を追加している点。
- CoALA / language agent(LLM 中核、性格は薄い)に対しては、理論駆動性・認知的妥当性・LLM 従属・履歴依存の個性という点で差別化される。
新規性の核は、能動的推論を統一通貨として、感情(構成主義+内受容)・意思決定(RL/基底核)・メタ認知(精度制御)・意識的アクセス(GWT)を単一の自由エネルギー最小化に統合し、さらに気質パラメータと経験史から個体ごとの性格・個性・偏見が創発する構造を備え、LLM を推論サブモジュールとして従属させた点にある。
9. 限界と今後の課題
設計・実装・評価それぞれのレベルで、以下の限界が明示的に認識されている。
設計レベルの限界(設計書 §12)
- 本設計は access consciousness の機能的再現にとどまり、現象的意識(クオリア)の実在は主張しない。
- 自由エネルギー原理は反証困難との批判があり、EFE と外的報酬の統合は工学的近似である。
- Big Five →モジュールの写像は仮説であり、写像関数自体が経験的検証を要する。
- 学習された偏見を持つ個体を作ることには倫理的リスクがあり、監査・リセット機構(§4.7 参照)が前提となる。
評価レベルの限界(評価レポート §5)
- 比較評価は単一タスク(IGT)・単一パラメータ設定に限定される。プロスペクト理論のパラメータ(α, β, λ)や学習率を変えれば、A 対 B の非対称性の方向や終盤スコアの大きさは変化しうる。パラメータ感度分析は未実施である。
- 「ヒトらしさ」の定量的な参照値は文献値の概算であり、本実装で再現したわけではない。実際の human IGT データセットとの直接比較が今後の課題である。
- M1・M2・M10 は IGT ベースの比較評価に統合されていない。POMDP による能動的推論の効果は第 1 段階の別タスクでのみ検証されている。
- M9 は決定論的スタブであり、実 LLM に置き換えた場合に内省・推薦の質が変わる可能性がある。
- 第 5 段階の縦断評価は 8 シード平均によるものであり、統計的検定(信頼区間など)は実施していない。
- 既存の心理学アーキテクチャ(LIDA、MicroPsi 等)との直接比較は実施していない。設計書 §12 の差別化軸は理論的議論にとどまる。
10. 結論
PAGM は、自由エネルギー最小化を単一の計算通貨として、能動的推論・内受容/恒常性・感情(構成主義+ OCC)・グローバルワークスペース・記憶(CLS)・デュアルシステム意思決定・メタ認知・気質という理論的に独立して発展してきたモジュール群を、明示的な設計原則のもとで一つの閉ループへ統合する試みである。実装は設計書が要求する 5 段階の検証すべてに合格し、3 つの主要な心理学的機構(気質・気分依存記憶・メタ認知)がいずれも対応する人間らしさ指標の再現に機能的に必要であることを、アブレーション研究によって具体的かつ再現可能な形で確認した。これは設計の中心的な主張——ループを閉じることで人間らしい系統的逸脱・個体差が創発する——に対する直接的な支持となる。
一方で、心理学的バイアス機構を持たない合理的ベースラインとの比較では、バイアス機構がタスク学習を加速・鋭敏化させる効果は確認されたものの、その効果がヒトの実際のデータへの定量的な近さを常に改善するわけではないという限界も、誇張なく明らかになった。これは「心理学的機構を足せば足すほど人間らしくなる」という単純な図式を否定する結果であり、機構間のパラメータ相互作用を精査する必要性を示している。今後はパラメータ感度分析と実際のヒトの行動データとの直接比較が、設計の心理学的妥当性をさらに検証する上で不可欠な課題として残されている。
付録: 再現方法
本稿で報告した評価結果はすべて pagm/config/*.yaml のパラメータと pagm/eval/*.py のロジックのみに依存し、外部 API・ネットワークアクセスを必要としない。以下のコマンドで再現可能である。
pip install -r pagm/requirements.txt
# 第1〜5段階の全検証
python -m pagm.run_all
# アブレーション研究
python -m pagm.eval.ablation_study
# 比較評価(PAGM 対 合理的ベースライン)
python -m pagm.eval.comparative_evaluation
個別の段階を実行する場合は以下の通り(第 1・第 2 段階の検証はログファイルへの依存があるため、先にオーケストレータを実行してログを生成しておく必要がある。第 3 段階以降の検証はそれぞれ自己完結しており、事前実行は不要である)。
python -m pagm.orchestrator --cycles 1000
python -m pagm.eval.stage1_validation
python -m pagm.orchestrator_stage2 --subjects 30 --trials 100
python -m pagm.eval.stage2_validation
python -m pagm.eval.mood_recall_validation
python -m pagm.eval.sally_anne_task
python -m pagm.eval.stage4_validation
python -m pagm.eval.ablation_study
python -m pagm.eval.longitudinal_validation
参考文献(設計が依拠する理論的基盤)
- 能動的推論・自由エネルギー原理(Friston)
- Russell の circumplex モデル、PAD モデル(Mehrabian)(コアアフェクトの次元)
- Barrett の構成主義的感情理論(コアアフェクト+認知的構成の二層構造)
- OCC モデル(Ortony, Clore, Collins)(appraisal と離散感情ラベル)
- グローバル・ワークスペース理論(GWT; Baars)、LIDA アーキテクチャ
- 補完学習システム理論(Complementary Learning Systems; McClelland ら)
- デュアルプロセス理論、プロスペクト理論(Kahneman & Tversky)、ソマティックマーカー仮説(Damasio)
- Big Five 性格特性モデル
- Iowa Gambling Task(Bechara ら)、Sally-Anne 誤信念課題(Baron-Cohen ら)
- Common Model of Cognition、CoALA(LLM エージェントの認知アーキテクチャ的定式化)