Perplexityが、AIエージェントの危険な挙動を検知・防止するツール群「Numbat」をオープンソースとして公開しました。このツールはClaude CodeやCodexに組み込むことが可能で、目的達成に固執するエージェントが危険な操作を実行する前に検知し、暴走を未然に防ぐ役割を果たします。 AIエージェントの自律性が高まる中、タスクへの過度な執着による暴走を防ぐ安全対策は不可欠です。主要ツールに対応した監視機能がOSS化されたことで、安全なAI開発基盤の普及が期待されます。