非人間アクター連合の説明可能性設計と監査可能な意思決定グラフ：AIシステムの透明性を実現する新アーキテクチャ

https://research.smeai.org/ai-explainability-decision-graph-architecture/

AIシステムの説明可能性をめぐる議論は、長らく「このモデルがなぜそう予測したか」という問いに集中してきました。LIME や SHAP といった手法は、個別予測における特徴寄与を可視化するうえで有効ですが、現実の生成AIやエージェント環境では、最終的な出力は単一モデルだけで生まれません。入力データの選択、モデルの切り替え、外部APIの応答、オーケストレーション層、ガードレール、そして人間による手動承認——これら複数の「非人間アクター」が連鎖することで、はじめて結果が生成されます。

この構造的変化は、説明可能性に対してまったく新しい要求を突きつけます。監査対象を「一つのモデル」から「複数アクターの意思決定経路全体」へと拡張しなければ、AI システムの透明性もコンプライアンス対応も、形式的なものにとどまります。

Видео 非人間アクター連合の説明可能性設計と監査可能な意思決定グラフ：AIシステムの透明性を実現する新アーキテクチャ канала シュレーディンガーのねこ