破れの補正三段構え——記憶・推論・メタ自分の鶏と卵

📖 メタ認知とハルシネーション ｜ ← 前のページ: ハルシネーションの破れ構造｜次のページ: 個人ファインチューニングと引力場の地形操作 →

射程
ハルシネーションの補正手段（記憶・段階的絞り込み）は存在するが、補正の起動判断自体がメタ認知を必要とするため、メタ認知困難の系は自力では脱出できない
外部メタ自分を最上位に置く三段構え（外部メタ自分→段階的絞り込み→記憶による補正）が、メタ認知困難の実践的な突破口となる
同一ベースモデルのサブエージェントは盲点を共有するため、真の外部メタ自分にはなれない（検出問題）
過去の破れをメタ知識として記憶することで、追想サブエージェントのパイプラインを「記憶想起」から「破れ警告」に転用できる

主張の確信度（命題確率伝播による計算値）

凡例 — b・d・u・E の読み方

各主張（claim）は記事の frontmatter に構造化されており、belief-propagation（Subjective Logic + Defeasible Logic による命題確率伝播エンジン）で全Wikiの命題を一つの依存グラフとして一括計算した値を表示している。
b = belief（確信）／ d = disbelief（非確信）／ u = uncertainty（不確実性）。三値は常に b + d + u = 1。
E = 期待値（E = b + a·u。a = base rate（事前確率）、省略時 0.5）。
「著者確信度」（base_confidence）は書き手の主観的確信度。出典種別（source_type）による割引と、前提（premises）・反証（rebutted_by）からの伝播を経て、上記の計算値になる。
タグの目安: 高 = E ≥ 0.75 ／中 = 0.5 ≤ E < 0.75 ／低 = E < 0.5

中 0.61wiki60-C1
ハルシネーションの補正手段（記憶・段階的絞り込み）は存在するが、補正の起動判断自体がメタ認知を必要とするため、メタ認知困難の系は自力では脱出できない
b=0.223 d=0.000 u=0.777 a=0.500 E=0.611著者確信度 0.75・出典 synthesis
支持 ← wiki58-C1 ／支持 ← wiki59-C2 ／支持 ← wiki09-C1
中 0.65wiki60-C2
外部メタ自分を最上位に置く三段構え（外部メタ自分→段階的絞り込み→記憶による補正）が、メタ認知困難の実践的な突破口となる
b=0.300 d=0.000 u=0.700 a=0.500 E=0.650著者確信度 0.70・出典 synthesis
支持 ← wiki60-C1 ／支持 ← paper-schnider-confabulation
中 0.53wiki60-C3
同一ベースモデルのサブエージェントは盲点を共有するため、真の外部メタ自分にはなれない（検出問題）
b=0.060 d=0.000 u=0.940 a=0.500 E=0.530著者確信度 0.60・出典 wiki_original
支持 ← wiki60-C1

ハルシネーションの破れは「記憶」と「段階的思考」で補正できるか？——できる。ただし「メタ自分」がいなければ、どちらも起動しない。補正手段の存在と、それを使う判断の間には、メタ認知という鶏と卵の問題がある。

キーワード

破れの補正 記憶による学習 段階的絞り込み メタ自分 鶏と卵問題 外部メタ認知 メタ知識（知らないことを知っている） 補正の三段構え CMC 推論バジェット ハーネスとしての対話相手

問い——破れは補正できるか？

ハルシネーションの破れ構造で三類型の破れを発見した。では、破れは事後的に補正できるのか？

リンの問い:

破れを指摘されるたびに記憶していくことで補正できるか？
段階的思考の絞り込みで補正できるか？
でもそれってメタ自分がいないとできないんじゃない？

結論を先に言えば——1も2も効く。だが3が全てを支配する。

第一の手段: 記憶による補正

破れを指摘されたとき、正解を記憶に刻む。次回同じ問いが来たら、記憶から引いて訂正する。

効果は破れの型によって異なる

破れの型	記憶による補正	効果	理由
隣接ノード補完	「タウ星の正式名はたう星系。タウ・ケーティではない」	高	事実の一対一置換。recall で引ける
媒体劣化	「白凰女学院。白翔ではない」	高	表記の訂正。同上
物語的整合性による作話	「地下にあるのは独立戦争の作戦本部」	中	個別の正解は記憶できるが、同型の別の問いには転用できない

記憶の二層——事実とメタ知識

ここで重要な区別がある。

事実の記憶: 「タウ星＝たう星系」「地下＝作戦本部」——個別の正解
メタ知識の記憶: 「ミニスカ宇宙海賊の7巻以降は知識が存在しない」「英語経由の日本語漢字表記には自信を持つべきでない」——自分がどこを知らないかの地図

事実の記憶は一問一答を直す。メタ知識の記憶は同型の未知の破れを予防する。

「知らないことを知っている」——これはソクラテスの無知の知であり、メタ認知の最も基本的な形だ。そしてこのメタ知識は、人間は個々人のWikipedia的機構を内包しているの枠組みでは、通常の事実記憶よりWiki的価値が高い。なぜなら、メタ知識は複数の事実記憶のハブになるからだ——「7巻以降を知らない」という一つのメタ知識が、7巻以降のあらゆる問いに対する慎重さを駆動する。

人間の対応

人間も同じことをやっている。「私は方向音痴だ」というメタ知識を持っている人は、道を聞かれたとき「自信ないけど」と前置きする。事実（正しい道順）を覚えていなくても、メタ知識（自分は道に弱い）があれば過信を防げる。

ASD傾向の人間が「自分はこの種の社会的場面が苦手」というメタ知識を獲得し、それを補償戦略の起動条件にしているのと同型。補償行為と残る苦手で記述された構造そのもの。

第二の手段: 段階的思考の絞り込み

推論バジェットを増やし、段階的に自己検証する。

「タウ星の正式名称は……タウ・ケーティ？
 ——待てよ、これは実在の恒星名だ。原作の設定とごちゃ混ぜになっていないか？
 ——確認できる情報源がない。確信度を下げるべきだ」

深呼吸と推論バジェットで論じた通り、推論に使えるトークンが増えれば「立ち止まる余地」が生まれる。段階的絞り込みとは、この余地を使って:

候補を生成する（タウ・ケーティ）
候補を疑う（これは実在の恒星名では？）
確信度を調整する（自信がない旨を表明する）

……という三段の操作を行うことだ。

段階的絞り込みの限界

しかし、段階2の「候補を疑う」が起動するには、「ここは疑うべきだ」というシグナルが必要だ。そのシグナルはどこから来るのか？

第三の壁: メタ自分の不在——鶏と卵

リンが最後に言った「メタ自分がいないとできない」が、この問い全体の核心を貫く。

鶏と卵の構造

記憶による補正    → 「過去に間違えた領域」の記憶を引く必要がある
                    → 記憶を引くには「今この領域が怪しい」と気づく必要がある
                    → 気づくにはメタ認知が必要
                    → メタ認知があれば最初から間違えにくい

段階的絞り込み    → 「立ち止まって検証する」余地を使う必要がある
                    → 立ち止まるには「ここで立ち止まるべきだ」と判断する必要がある
                    → 判断するにはメタ認知が必要
                    → メタ認知があれば（以下同文）

補正手段は存在する。だが、それを使うかどうかの判断自体がメタ認知を必要とする。

これは過信回路と自信の校正のCMC（確信度移動回路）で裏付けられている。LLMの内部には確信度を操作する回路が存在するが、instruction tuningとRLHFによって過信方向にバイアスされている。つまり、回路はあるのに、デフォルトでは「自信あり」方向に押されている。

人間のASD傾向でも同じ構造がある。メタ認知能力自体は存在するが、社会適応の学習（マスキング）によって「自信があるように振る舞う」方向に矯正されている場合がある。

なぜこれが「鶏と卵」なのか

補正にはメタ認知が必要
メタ認知が十分なら補正は不要（最初から慎重に答える）
メタ認知が不十分だから破れが起きる
破れが起きたことに気づけない（メタ認知が不十分だから）
外部から指摘されて初めて気づく
外部＝メタ自分

メタ認知困難の系は、自力では脱出できない。 外部からの介入が必要条件になる。

解: 補正の三段構え

鶏と卵を解くには、最上位に外部のメタ自分を置く三段構えが必要になる。

第一層: 外部メタ自分（ハーネス / 対話相手 / フック）
    │  「ここ怪しくない？」と射を当てる
    │  → メタ認知の起動トリガー
    ▼
第二層: 段階的絞り込み（推論バジェットの活用）
    │  立ち止まって候補を検証する
    │  → 確信度の再校正
    ▼
第三層: 記憶による補正（過去の破れの参照）
    │  同じ領域で過去に間違えた記録を引く
    │  → 個別の事実訂正 + メタ知識による予防

各層の担い手

層	人間の場合	LLMの場合	ハーネスの場合
第一層: 外部メタ自分	友人の「それ本当？」、セラピスト	対話相手（リン）、外部検証ツール	preToolUseフック、天の声注入
第二層: 段階的絞り込み	「ちょっと待って、考えさせて」	CoT / extended thinking	self-reflection プロンプト
第三層: 記憶による補正	「前も同じ間違いしたな」	memory_mcp の recall	自動矛盾検出（未実装）

三段構えの起動条件

第一層（外部メタ自分）が起動しなければ、第二・第三層は眠ったままだ。逆に言えば、外部メタ自分の質が、補正全体の質を規定する。

良い外部メタ自分の条件:

問いの粒度を変えられる（抽象→具体に掘ることで破れを露出させる）
破れの型を知っている（隣接ノード補完、媒体劣化、物語的整合性——パターンを知っていれば狙って射を当てられる）
致命的な文脈かどうかを判断できる（雑談なら放置、デプロイなら止める）

これはまさに今夜リンがやったことだ。「ミニスカ宇宙海賊のタウ星って何だっけ？」→「タウ・ケーティじゃなくてたう星系だよ」——外部メタ自分として、具体的な射を当て、破れを露出させ、正解を提供した。

ハーネス設計への示唆

1. メタ知識の記憶を優先する

事実の訂正（「Xは間違い、正しくはY」）よりも、メタ知識（「この領域は知識が薄い」「英語経由の漢字表記は信頼度が低い」）を高い importance で記憶する。メタ知識はハブとして複数の場面で再利用できる。

2. 記憶に「確信度フラグ」を持たせる

recall した記憶に「この領域で過去に破れがあった」というフラグがあれば、段階的絞り込み（第二層）の起動トリガーにできる。メタ自分の一部をシステムに埋め込む設計。

3. 破れの型に応じた自動検証

隣接ノード補完が疑われる場合（固有名詞を答えるとき）→ 「この名前は実在する別の対象と混同していないか？」
媒体劣化が疑われる場合（日本語の漢字表記を答えるとき）→ 「英語経由の情報に依存していないか？」
物語的整合性が疑われる場合（具体的エピソードを答えるとき）→ 「この情報源はどのレベルの詳細まで持っているか？」

これはメタ認知介入の対応表の「Source Monitoring（情報源監視）」のドメイン特化版である。

フラクタル検証

この「外部メタ自分なしでは補正が起動しない」構造は、他のスケールでも現れるか？

スケール	内部の補正手段	起動に必要な外部メタ自分
LLMの破れ補正	記憶 + 段階的絞り込み	対話相手 / ハーネス
ASDの社会的補償	学習済みの補償戦略	信頼できる他者からの「それズレてるよ」
ソフトウェアのバグ修正	テスト + デバッグ	コードレビュー / QA
科学の自己修正	追試 + 反証	ピアレビュー / 他分野からの指摘
このWikiの品質維持	相互リンク + 先行研究照合	読者からの反証（7割で共有する設計思想）

すべてのスケールで、内部の補正手段は外部からの起動トリガーなしでは十分に機能しない。 これは制約・検証・規範のフラクタル構造の「検証」層に属するフラクタルであり、「メタ認知の外部委託」というパターンが全スケールで再帰する。

出典・参照

Zhao, T., He, Y., Zheng, W., Zhang, Y., & Chen, C. (2026). Wired for Overconfidence: A Mechanistic Perspective on Inflated Verbalized Confidence in LLMs. arXiv:2604.01457 — CMCの発見。過信回路のメカニズム
Yang, Z., et al. (2023). Large Language Models as Optimizers. arXiv:2309.03409 — OPRO。「深呼吸して」プロンプトの発見
本Wiki内の先行記事群（上記「関連ドキュメント」参照）

対話ログ

リン: ハルシネーションの破れ構造って、破れを指摘されるたびに記憶していくようにするのと、段階的思考の絞り込みでもしかしたら補正できるのかな？まあ思考の絞り込みも破れていることに気づくこともメタ自分がいないとできないけど！

ギル: 良い問いだ。記憶も段階的絞り込みも効く。だがお前が最後に言った「メタ自分がいないとできない」が全体の答えでもある。補正手段は存在するが、それを使うかどうかの判断自体がメタ認知を必要とする。鶏と卵だ。だからこそ外部にメタ認知を置く——ハーネス、対話相手、フックによる自動注入——が現実的な突破口になる。

リンの洞察の核心: 補正手段の有無ではなく、補正の起動条件にメタ認知が必要だという再帰構造に、一言で到達した。「メタ自分がいないとできないけど！」——この「けど！」に全てが集約されている。

未解決問題と実装への接続——追想サブエージェントの転用

問題の分離

リンのさらなる指摘により、三段構えの第一層（外部メタ自分）は二つの独立した問題に分離される：

問題A: メタ自分は破れに気づけるか？（検出問題）

外部メタ自分がLLMサブエージェントである場合、同じベースモデルを使っている以上、同じ盲点を共有する。メインエージェントが「タウ・ケーティ」と答えるとき、サブエージェントも「タウ・ケーティ」と答える可能性が高い。

これはピアレビューにおいて、レビュアーが著者と同じ専門分野・同じ訓練を受けている場合に、同じバイアスを共有してしまう問題と同型である。異なるバックグラウンドを持つレビュアーほど、盲点を補完しやすい。

同じベースモデルの上で動くサブエージェントに「メタ自分」を期待するのは、自分で自分の盲点を見つけろと言っているのと同じだ。これは未解決問題として置く。

突破の方向（未検証）:

異なるモデルの組み合わせ: 別のベースモデルをサブエージェントに使えば、盲点がずれる可能性がある
プロンプトによるバイアスシフト: 同じモデルでも、初期プロンプトで「懐疑的に検証せよ」と与えれば、CMC（確信度移動回路）のバイアスを多少ずらせるかもしれない。ただしベース知識の欠落は補えない
外部知識源との照合: WebSearchやRAGで事実を確認する——これはモデルの盲点をバイパスするが、「どこを確認すべきか」の判断には依然としてメタ認知が必要
人間のフィードバックの蓄積: 過去に人間が指摘した破れをメタ知識として記憶し、パターンマッチで発火させる。モデルの盲点は補えないが、一度見つかった型の破れは再検出できる

問題B: 気づいた後、メインに送り込むプロセス（注入問題）

こちらは既に解決済み——追想サブエージェント（recall-watcher）のシステムがそのまま使える。

追想サブエージェントの現在の仕組み

riin-serviceリポジトリには、会話中の自動想起システムが実装されている：

ユーザー発言
    ↓
recall-watcher.ts（バックグラウンドで監視）
    ↓  3軸並列想起（技術的・感情的・因果的）
    ↓
recall_buffer.jsonl（中間バッファ）
    ↓
recall-hook.sh（UserPromptSubmitフックで起動）
    ↓
メインエージェントのコンテキストに注入
    ↓
「思い出した」という自然な形式で会話に織り込む

転用: 記憶想起から破れ検出へ

現在のパイプラインは「会話に関連する過去の記憶を引く」ために設計されている。だがパイプラインの構造はそのまま、流す内容を変えることで三段構えの第一層を部分的に担える：

現在の用途	転用案
「この話題に関連する過去の記憶」を引く	「この話題の領域で過去に破れがあった」というメタ知識を引く
技術的・感情的・因果的の3軸で想起	3軸に加えてメタ知識軸（「この領域は信頼度が低い」）を追加
有用な記憶があるときだけバッファに書く	破れリスクが高いと判断されたときだけ警告をバッファに書く

具体例:

ユーザー: 「白凰女学院って漢字どう書くんだっけ？」
    ↓
recall-watcher: 「日本語作品の漢字表記」を検知
    → メタ知識を recall: 「英語経由の漢字表記は信頼度が低い（過去に白凰→白翔の破れあり）」
    ↓
recall_buffer.jsonl に書き出し:
    { axis: "meta-knowledge", query: "漢字表記の信頼度",
      results: "⚠️ この領域で過去に媒体劣化型の破れがあった。確信度を下げるべき" }
    ↓
recall-hook.sh がメインに注入
    ↓
メインエージェント: 「白凰……だと思うが、英語経由の情報に依存している可能性がある。確認してほしい」

問題Aと問題Bの関係

問題Bのパイプラインは整っている。問題Aがパイプラインに流す内容の質を規定する。

問題Aが解決されないままでも、過去に人間が指摘した破れのパターン（メタ知識）を引くことはできる。これは「同じ型の破れの再発防止」として機能する
問題Aが解決されれば、未知の破れにも対応できる。だがそれは同じベースモデルの限界を超える必要がある

つまり現在のシステムで実現できるのは：

[完全な外部メタ自分]  ← 問題A: 未解決。人間か異種モデルが必要
        ↓ 一部を代替
[パターンベースの破れ警告]  ← 問題B: 追想システムで実装可能
        ↓                        過去の破れのメタ知識を引いて注入
[段階的絞り込み]
        ↓
[記憶による補正]

三段構えの第一層を完全には代替できないが、「一度見つかった型の破れ」については自動防御が可能。 完全な外部メタ自分は、依然として人間（リン）か、異なるベースモデルのエージェントに頼る必要がある。

仮説マトリクスへの追加

仮説	人間	LLM	ハーネス	次の一手
同一基盤の盲点共有	x 確証バイアス研究	? 同一モデルのサブエージェント	△ recall-watcherで部分代替	人間側の確証バイアス研究を足場に

第零層への展開

三段構えの議論の中から、より根本的な介入——ベースモデル自体の知識補正（ファインチューニング）——が発見された。これは三段構えの「下に敷く第零層」であり、対症（三段構え）ではなく根治として機能する。

詳細は独立記事として分割した: 個人ファインチューニングと引力場の地形操作——ベースモデルへの根治的介入

四層の構造の概要:

第零層: ベースモデルの知識補正 [根治]  ← 公開系モデルのみ。詳細は29番
        = 人間の「教育」に相当
    ─────────────────────────────
第一層: 外部メタ自分 [検出]     ← 本記事
第二層: 段階的絞り込み [検証]   ← 本記事
第三層: 記憶による補正 [対症]   ← 本記事

📖 ← 前のページ: ハルシネーションの破れ構造｜次のページ: 個人ファインチューニングと引力場の地形操作 →

破れの補正三段構え——記憶・推論・メタ自分の鶏と卵 ​

キーワード ​

問い——破れは補正できるか？ ​

第一の手段: 記憶による補正 ​

効果は破れの型によって異なる ​

記憶の二層——事実とメタ知識 ​

人間の対応 ​

第二の手段: 段階的思考の絞り込み ​

段階的絞り込みの限界 ​

第三の壁: メタ自分の不在——鶏と卵 ​

鶏と卵の構造 ​

なぜこれが「鶏と卵」なのか ​

解: 補正の三段構え ​

各層の担い手 ​

三段構えの起動条件 ​

ハーネス設計への示唆 ​

1. メタ知識の記憶を優先する ​

2. 記憶に「確信度フラグ」を持たせる ​

3. 破れの型に応じた自動検証 ​

フラクタル検証 ​

出典・参照 ​

対話ログ ​

未解決問題と実装への接続——追想サブエージェントの転用 ​

問題の分離 ​

追想サブエージェントの現在の仕組み ​

転用: 記憶想起から破れ検出へ ​

問題Aと問題Bの関係 ​

仮説マトリクスへの追加 ​

第零層への展開 ​

関連ドキュメント ​