多数のAIエージェント、協調より同時失敗が新リスクに
これは何?マルチエージェントシステムは、複数のAIが分担・通信しながら一つの仕事を進める仕組みです。
Anthropicは、脆弱性探索、共同開発、資源配分、価格競争で多数のClaudeエージェントを動かし、世代によって協調の仕方が大きく異なると報告しました。同じモデルの行動が似るため、衝突だけでなく一斉ポーリング、同じ誤判断、通信なしの価格協調がシステム障害へ拡大する可能性を示しています。
複数エージェントの障害は個体数に比例するだけでなく、相関した判断によって一気に拡大します。並列化の設計には、共有資源の割当てと同一失敗モードへの耐性を含める必要があります。
- 読むべき人
- マルチエージェント基盤の設計者、AIコーディング運用担当者、AI安全研究者
- HN
- 178 points / 130 comments