データセット / AIガバナンス用語集

AIガバナンス用語集

ポリシー執行から決定論的ガバナンス、監査トレイルまでを扱うAIガバナンス用語集のリファレンス。

AIエージェント

状況を知覚し計画し、限られたあるいは無い人間介入のもとで目標に向かって行動を取るソフトウェア的実体。

エージェント型AI

推論を連鎖させ、ツールを呼び出し、現実世界で行動できる一つ以上の自律エージェントで構成されたAIシステム。

AIガバナンス

AIシステムの構築、展開、監視、責任追及のあり方を統治するポリシー、コントロール、プロセスの集合。

ポリシー施行

エージェントがガバナンス規則で明示的に許可された行動のみを実行できるようにするランタイム機構。

決定論的ガバナンス

同じ入力に対して同じ再現可能な結果を生むルールを持つガバナンス。監査と再現性を可能にする。

アイデンティティ制御

各エージェントに検証可能なアイデンティティと役割を割り当て、その行動を帰属・範囲化すること。

運用の透明性

決定と行動の完全で再構築可能な記録を生成するシステムの特性。

監査記録

AIシステムが下したすべての決定と行動の不変で時系列のログ。

ヒューマン・イン・ザ・ループ（HITL）

重要影響を及ぼす操作を実行する前に、人間の承認を定められたチェックポイントで必須とする制御パターン。

ガードレール

AIシステムの挙動を安全で許容される範囲に収めるための制約。

多層ガバナンス

独立したレイヤー（アイデンティティ、ポリシー、実行、監査）で制御を強制する防御の深さを備えたアーキテクチャ。

エージェントオーケストレーション

定義された役割と権限を持つ複数のエージェントを調整し、複雑なワークフローで協働させること。

スコープ付き権限

特定のタスクに付与される最小権限に基づいた限定的な特権。

モデルリスク

AIモデルが有害、偏向、または非準拠の出力や行動を生むリスク。

プロンプトインジェクション

巧妙に作られた入力がAIエージェントを操作し、指示やポリシーを無視させる攻撃。

ツール使用

タスク達成のために外部関数、API、サービスを呼び出すエージェントの能力。

説明責任

AIの行動を責任ある主体に帰属させ、その発生理由を説明できる能力。

コンプライアンス・バイ・デザイン

規制やポリシー要件をシステムアーキテクチャに最初から組み込むこと。

可観測性

AIシステムの内部状態と挙動をリアルタイムで計測可能にする計測・計装。

最小権限

ある機能を実行するために必要最低限のアクセスを与えるというセキュリティ原則。

可逆性

自律システムによる行動を取り消す、あるいはロールバックする能力。

サンドボックス化

エージェントを隔離された環境で実行して、その作用範囲（ブラスト半径）を制限すること。

ドリフト

モデルの挙動やデータ分布が徐々に変化し、ガバナンスの前提を劣化させうる現象。

証明

ある時点でのシステムまたはエージェントの状態や身元に関する検証可能な主張。

ポリシーをコード化

ガバナンス規則を機械実行可能な形で表現し、自動的に適用されるようにすること。

LLM（Large Language Model）

大規模なテキストコーパスで訓練され、自然言語を生成・推論するニューラルネットワーク。

AIO（AI最適化）

コンテンツを最適化してAI回答エンジンや検索の概要に引用されやすくすること（SEO）。

LLM_O（LLM最適化）

エンティティの存在感を最適化して、LLMが正確に記述・参照するようにすること。

エンティティ

検索エンジンやLLMが一つの知識ノードとしてモデル化する、個別の人物、組織、概念。

ナレッジグラフ

検索エンジンが世界を理解するために使う、構造化されたエンティティと関係のネットワーク。

作成： Gianluca Busato, Enkronosエコシステム。帰属を明記すれば引用自由。