エージェントが「信頼できる」とはどういうことか

May 12

Cognizantの発表が示すセキュリティ設計の新常識

エージェントが動く組織で、何が変わるのか

2026年5月、CognizantはエンタープライズAI向けのセキュアAIサービスを発表した。その核心にある指摘は明快だ。「AIシステムは適応的・文脈駆動・自律的になっており、従来のセキュリティ前提が通用しない」（Cognizant, 2026）。

従来のエンタープライズセキュリティは、ひとつの前提の上に成立していた。脅威は「人間のユーザーがキーボードの前に座って、許可されていないことをしようとする」という形で来る、という前提だ。

エージェントが組織の中で自律的に動くようになると、この前提が崩れる。エージェントは正規の認証情報を使い、承認されたアクセス権限の範囲内で動作する。しかしその判断が、設計者の意図から外れることがある。

これは技術的なバグの問題ではなく、設計思想の問題ではないだろうか。

「実行できる」と「信頼できる」は別の話

AIエージェントの能力は急速に高まっている。しかし能力の拡大は、同時にリスクの拡大でもあることを忘れてはならないと思っている。

スクリーン中心の世界では、エラーはたいていテキストとして画面に表示された。人間がレビューし、修正し、謝罪すれば、ダメージは限定的だった。しかし実行中心の世界では、アウトプットがアクションになる。契約が送信され、発注が確定し、システムが再設定される。ウィンドウを閉じても、コマンドは取り消せない。

エージェントに委任できるかどうかは、能力の問題ではなく、信頼の問題だ。

信頼設計の3つの要素

エージェントを安全に組織に組み込むために、AIxが重要と考える設計要素が3つある。

１、「判断境界の明示的な設計」。エージェントが自律的に実行できる範囲と、人間の承認が必要な範囲を明確に定義する。この境界は、自然に生まれるものではなく、設計するものだと感じている。

２、「継続的なモニタリングと監査」。Cognizantが指摘するように、エージェントの挙動はビルド時とランタイムの両方で継続的に保証する必要がある。一度設定して終わりではない。

３、「説明可能性の担保」。エージェントが何をしたか、なぜその判断をしたかを、人間が理解できる形で記録・説明できる設計が必要ではないだろうか。SalesforceのAgent Scriptが「エージェントの挙動の確定的な部分と、自由に推論できる部分を定義する」という設計思想を持つのも、この観点からだ。

REWIREのR（Responsibility）次元との接点

AIxが推奨するREWIREフレームワークの第一次元「R＝Responsibility」は、Human×AIの役割と責任を再定義することを問う。

エージェントセキュリティの問題は、この次元の実装課題だと捉えている。誰がAIの判断に責任を持つか。どこまでエージェントに委任し、どこから人間が介在するか。この設計なしに、エージェントの導入を進めることはリスクを積み上げることになりかねない。

能力を上げることと制御を設計することは、同時に進める必要がある。CAIOの仕事はAIを速く動かすことだけではなく、どこで止めるかを決めることでもあると感じている。

AIxができること

AIxでは、REWIREフレームワークをベースに、エンタープライズのAI変革を二つの形で支援しています。

① AI人材のマッチング・チーム組成エージェント設計・セキュリティ・データ基盤に精通した専門人材を、要件定義からアサインまで一貫してサポート。

② 経営層・AI推進担当者向けアドバイザリー REWIREの6次元のどこが止まっているかを診断し、優先順位と打ち手を整理する。ご関心のある方はお気軽にお問い合わせください。