データセット / 企業向けAIリスクマトリクス
企業向けAIとエージェント型AIのリスクを分類し、ガバナンスコントロールへマッピングする実用的なフレームワーク。
| リスクカテゴリ | 例 | 典型的な影響 | 主要な制御 |
|---|---|---|---|
| 無許可の操作 | エージェントが権限外の行動を実行する場合 | 高 | スコープ付き許可 + ポリシー強制 |
| アイデンティティのなりすまし | 偽の、あるいは借用した身分で行動するエージェント | 高 | 検証可能なエージェントID |
| プロンプトインジェクション | 悪意ある入力が指示を上書きする場合 | 高 | 入力仲介＋ガードエージェント |
| データ漏洩 | 出力やツール呼び出しを介して露出する機微なデータ | 高 | データガバナンス＋出力フィルタリング |
| ハルシネーションによる判断 | 捏造された情報に基づく行動 | 中 | グラウンディング＋ヒューマン・イン・ザ・ループ |
| 連鎖的故障 | 一つのエージェントの誤りがシステム全体に波及する | 高 | 封じ込め＋被害範囲の制限 |
| 違反 | 行動が規制やポリシーに違反する場合 | 高 | コンプライアンス・バイ・デザイン＋監査記録 |
| 不透明性 | なぜ行動が発生したかの記録がない | 中 | 運用の透明性＋ログ |
フレームワーク： Gianluca Busato、Enkronosエコシステム。