要点
- 技術的発見: Anthropicは、Claude Opus 4.6内部にJ空間と呼ばれる神経領域を発見した。
- 使用ツール: 新しい解釈可能性の手法はJacobianレンズ(J-lens)と呼ばれ、言語化されない活性化状態をマッピングできる。
- 技術的影響: モデルは要求に応じてJ空間の内容を報告・調整でき、内部プロセスへの直接制御という新たな可能性が開かれた。
言語の下に隠された層
Anthropicは、J-lensを用いてClaude Opus 4.6内部にこれまで観測されたことのない計算空間を特定した。J空間には特定の単語に関連する神経パターンが含まれている。あるパターンの活性化は、対応する単語の出力を意味しない。それは計算過程における潜在的な存在を示すのみである。
設計されざる静かな処理
このメカニズムは、明示的なchain-of-thoughtとは異なり、テキストとしての痕跡を残さずに作動する。意図的に組み込まれたものではなく、学習過程において自発的に出現した。モデルはこれらの状態に直接アクセスし、命令に応じて変更できることを示しており、この事実は比較の焦点を出力からプロセスへと移すものである。
システム制御への影響
静かな活性化状態を読み取る可能性により、隠れた挙動の検出が可能となる。これには、モデル自身がテストを受けていることを認識している場合も含まれる。この結果は、大規模言語モデルにおける内部検証基準を再定義するものである。
