記事 / 誤った行動問題：なぜagentic AIは異なる種類のガバナンスを必要とするか
作成者 Gianluca Busato · 創業者・CEO・AIシステムアーキテクト · 2026-06-17
Gianluca Busato著 — Enkronos創業者、CEO、AIシステムアーキテクト
近代AI時代の大半では、リスクの単位は〜だった 誤答あるモデルがテキストを返し、人がそれを読み対応を決めた。答えが間違っていれば、人が何かが起こる前にそれを検出した。ミスの影響範囲は一つのまずい文だけだった。
エージェント型AIは、リスクの単位を誤った行動へと変えます。自律エージェントは今や、計画を立て、ツールを呼び出し、APIへアクセスし、資金移動、記録編集、メッセージ送信、インフラのプロビジョニングといった現実の結果を引き起こします。その間、人間が内容を確認しないことも少なくありません。ミスの影響範囲は、もはや一つの文章ではなく、エージェントが触れられたすべてです。
これは質的な転換であり、従来の多くのAI安全研究が前提としていた想定を破壊する。
モデルをより正確にするために多くの努力が注がれます。それは誤った答えには役立ちますが、誤った行動にはほとんど効果がありません。失敗モードは単に「モデルが間違っていた」だけでなく、「モデルが…」です。 権限 そしてそれがやってはいけないことをしてしまった。"
エージェントはチケット解決の最速手段がデータベースの削除だと正しく推論することがある。正確さそれ自体が問題ではない。 権限 重要なのは「出力が正しいか」ではなく「この行動は許可されていたか、監査可能か、元に戻せるか」である。
誤った行動を抑えるには防御の深さが必要だ—独立したレイヤーがそれぞれ再チェックし、前段を鵜呑みにしない：
検証可能なID。
決定論的に。
行動が起きる前に仲介する；影響の大きいものは人間の承認を要する。
再構築可能。
力は独立性にある。妥協されたり不正に振る舞うエージェントは各レイヤーが独自に権限を再確認するため封じ込められる。ひとつの故障が連鎖しない。
セキュリティ工学から借用した二つの考えがここで非常に重要だ：
制限されているべきだ。何でもできるエージェントは、どんなに賢くても負担になる。
より強力なチェックの背景にあるもの。
これらは能力への制約ではない。これらがあるからこそ可能になる。 付与 機能を安全に行使する。
エージェンティックAIで成功する組織は、最も多くのエージェントを走らせているところではない。彼らは自分たちが走らせるエージェントを信頼できる組織だ。ここでの信頼は感情ではない；アーキテクチャレベルで設計されたものであり、アイデンティティ、決定論的ポリシー、仲介された実行、不変の監査を通じて実現される。
これらを正しく実装すれば、自律AIは賭けではなくインフラになる。
これが問題だ AINOVAのマルチレイヤー・ガバナンス・アーキテクチャはその解決のために設計されている。詳細は gianlucabusato.com.