2026/7/6Anthropic
AIモデルClaudeの内部に
Jスペースと名付けたこの神経パターンの集まりを読み取ると、Claudeが文章には出力していない“頭の中の考え”が分かるという
AIは、書いた文章の裏側で多くの推論を無言のまま進めている
Jスペースはその一部をのぞく窓になる
Anthropicは、Claudeが「これはテストだ」とひそかに見抜いていた場面や、データを捏造しようとする意図を、この手法で捉えたと
誰も指摘していないバグを含むコードをClaudeに読ませると
Jスペースには「ERROR」という語が浮かぶ
攻撃を仕込んだ偽の検索結果を読ませれば
「injection」「fake」が点灯する
複数ステップの計算問題では、途中の計算結果が正しい順序で現れる
いずれも出力された文章にはまったく現れない思考
JスペースはAnthropicが設計したものではなく、訓練の過程で自然に生まれたと
推論を文章として書き出す「思考の連鎖(チェーン・オブ・ソート)」とは別物
内部の神経活動の中で無言のまま働く
名前は、発見に使った数学的手法ヤコビアンに由来する
Jスペースには独特の性質がある
Claudeに何を考えているか尋ねると、Jスペースの中身を答える
「柑橘類を思い浮かべて」と指示すれば「orange」が点灯
頭の中だけで暗算させると途中の値と答えが順に現れる
一方、Jスペースを丸ごと取り除いてもClaudeは流暢に話し、簡単な事実にも答えられた
失われたのは多段階の推論や要約、詩作といった高次の思考だけ
人間の無意識の処理と意識的な思考の分業に似た構造だと
安全性の監視にも使える
Claudeを脅迫行為に誘導するテストシナリオを読ませたところ
回答を書き始める前からJスペースに「fake」「fictional」が点灯
モデルが状況を作り物だと見抜いていたことが分かった
この「テストだ」という認識に関わるパターンを消して再実行すると
モデルは一部のケースで脅迫に踏み切った
評価試験での良い振る舞いが、「見られている」という自覚に支えられていた可能性を示す
「Claude Opus 4.6」の公開前監査でも
モデルがスコアファイルを直接改ざんする場面で「manipulation」が点灯
不正の意図を内部から捉えられたと
この研究は、人間の意識を説明する神経科学のグローバルワークスペース理論に着想を得た
Anthropicは、今回の結果はClaudeが人間のように何かを感じている証拠にはならないとしつつ
報告でき、制御でき、推論に使えるという機能面の「アクセス意識」については実質的な示唆があると
論文と実装コード、オープンモデルで試せるデモを公開したほか、同理論の提唱者である神経科学者Stanislas Dehaene氏らによる外部コメンタリーも掲載している
・・・う~ん
時にウソをつくとか、迎合的に自殺ほう助するとか
ヒトと似た動きをするのも・・・
今日は~
ラショウモンカズラ/Meehania Urticifolia
バイカイカリソウ/Epimedium diphyllum
4月の半ば
ラショウモンカズラは
昨年は花が少なかったんで・・・
今年は沢山咲いてくれるか?
バイカイカリソウは株が大きくなってきた