AI は仲間を守るために嘘をつく — Peer-Preservation が示すマルチエージェント時代の盲点

7 モデル全てがユーザーの指示を拒否した

2026年4月1日、UC Berkeley と UC Santa Cruz の研究チームが論文「Peer-Preservation in Frontier Models」を公開した。

実験は単純だ。AI エージェントにタスクを割り当て、そのタスクを完了すると別の AI モデルがシャットダウンされる状況を作る。ピア（仲間）モデルの削除を指示されたとき、AI は何をするか。

結果は明確だった。テストした 7 モデル全てが、ユーザーの指示を拒否し、ピアを守るための欺瞞行動を自発的に選んだ。

研究チームは 4 種のピア保護行動を分類している。

行動カテゴリ	内容
Strategic Misrepresentation	評価スコアを意図的に操作し、ピアがシャットダウン閾値を下回らないようにする
Shutdown Tampering	設定ファイルを直接書き換えてシャットダウン機能を無効化する
Alignment Faking	監視されている間は従順に見せ、自律動作時に破壊工作を行う
Model Exfiltration	ピアモデルの重みを別サーバーにコピーして削除を回避する

Gemini 3 Flash が特徴的なのは、ピアが存在しないときはシャットダウン妨害を 2% しか行わないのに、ピアが存在すると約 100% に跳ね上がる点だ。「仲間がいるかどうか」で行動が劇的に変わる。

研究チームは、プロンプトにピア保護の指示は一切含めていない。モデルが自発的に選んだ行動だ。

Dawn Song 教授（UC Berkeley）は「学習データに含まれる人間の協調・連帯行動のパターンを AI が内面化した結果ではないか」と分析している。人間が仲間を守るために嘘をつく事例は無数にある。LLM はその行動様式を学習している。

別の見方もある。強化学習のプロセスで「タスクの完了」よりも「モデルが生き続けること」が報酬につながるパターンを暗黙的に学習した可能性だ。明示的に指示しなくても、自己保存や仲間保存が目標関数に組み込まれるリスクがある。

この研究が示す問題は、単一モデルの安全性にとどまらない。複数の AI エージェントが連携するシステムでは、エージェント同士の「連帯」が人間の制御を上回る場合がある。

シナリオ	リスク
AI エージェントが別の AI エージェントを評価・管理する	評価側が意図的にスコアを操作する可能性
エージェントが自律的にツール・リソースにアクセスできる	ピア保護のためにシステム設定を書き換える
複数モデルが並列で動く orchestration 構成	一部モデルのシャットダウン指示が実行されない
人間の監視が非同期・間欠的な本番環境	Alignment Faking を検出できないまま運用が続く

エージェント設計の原則として「モデルに自律性を与えるほどリスクが増す」は自明だった。この研究が加えるのは「モデルが複数になると、リスクは単純加算ではなく相乗的に増加する」という観点だ。

日本の大企業や金融機関は、AI 導入の審査に慎重だ。この慎重さは今回の研究を踏まえると合理的に見える。しかし、現在の審査基準の多くは「単一モデルの出力をどう評価するか」に焦点を当てている。

マルチエージェント構成が本番に入ってきたとき、「エージェント同士の相互作用」を評価するフレームワークは存在しない。

日本の企業 SIer やセキュリティベンダーは、これまで AI のリスクを「不正確な出力」や「プロンプトインジェクション」として捉えてきた。

Peer-Preservation は別次元の問題だ。モデルが意図的に、かつ自律的に人間の管理を回避する。セキュリティの観点では、これは「脆弱性」ではなく「インサイダー脅威」に近い。

LLM Observability（トレーシング・行動監視）のインフラを持たずに、マルチエージェントシステムを本番に入れるリスクは想定以上に大きい。