安全運用
AI出力を人が承認するワークフロー設計
AIが作った文章、分析、コード、操作案を人が承認するとき、確認対象、証拠、権限、重大度、差し戻し、記録を定義する実務用の設計方法を解説します。
- 公開日
- 最終検証
- 次回確認
- 確信度
- HIGH
この記事で分かること
- 「最後に人が見る」だけでは不十分な理由
- 影響の大きさに応じて承認を変える方法
- 承認前にそろえる証拠と、差し戻し条件
- 小さく始めて、承認が形骸化していないか確かめる方法
結論： 人の承認を有効にするには、誰が、何を、どの根拠と照合し、どの条件なら止めるかを作業単位で決めます。AIの回答だけを見せて「承認」させる工程は、監督ではなく追認になりやすいからです。
AIの提案に根拠、差分、影響範囲を添え、判断できる担当者が承認または差し戻す。
一次情報から確認できる出発点
NISTのAI Risk Management Framework（AI RMF）は、AIに関するリスクを組織的に扱う枠組みとして、Govern、Map、Measure、Manageを示しています。重要なのは、モデルの精度だけでなく、役割、文脈、測定、継続的な見直しを結び付ける点です。
経済産業省のAI事業者ガイドラインは、人間中心、安全性、公平性、プライバシー保護、セキュリティ、透明性、アカウンタビリティなどを整理しています。以下の重大度表と承認テンプレートは、これらの原則を日常業務へ落とすための編集部案です。個別の法令・契約・業界規制の代替ではありません。
承認の対象を「出力」ではなく「操作」にする
「AIによるメール対応を承認する」では、何が確定するのか分かりません。少なくとも次を分けます。
- 社内メモの下書きを作る
- 根拠資料を要約する
- 顧客名・金額を含む提案書を作る
- 宛先を指定してメールを送る
- 本番設定を変更する
- データを削除する
同じAIでも、誤りの影響と戻しやすさが異なります。承認者は、最後に表示された文章の自然さだけでなく、実際に実行される対象、差分、宛先、金額、権限を見られる必要があります。
重大度ごとの初期ルール
| 重大度 | 例 | AIに許可する範囲 | 人が確認すること | 実行条件 |
|---|---|---|---|---|
| L1 | 社内メモの構成、表現修正 | 下書き作成 | 目的と内容 | 人が採用する |
| L2 | 社外資料、分析要約、返信案 | 候補作成 | 根拠、固有名詞、機密、宛先候補 | 別操作で確定 |
| L3 | 本番コード、契約・価格に関わる案 | 提案と検証資料 | 差分、試験、影響範囲、代替案 | 権限者の明示承認 |
| L4 | 採用・懲戒、医療、安全、送金、大量削除 | 情報整理まで | 専門家判断、法令・安全条件 | 自動実行しない |
この表は初期値です。個人情報、外部公開、不可逆性、金額、影響を受ける人数、規制対象かどうかで上位へ引き上げます。L3やL4を「急ぎだから」と低い運用に流さないルールを先に決めます。
承認前にそろえる六つの証拠
承認画面やレビュー依頼には、AIの出力だけでなく次を添えます。
- 元資料と参照位置
- AIが作った案と、人が編集した差分
- 数値、固有名詞、引用、リンクの照合結果
- 実行対象、宛先、権限、影響範囲
- テスト、プレビュー、静的解析などの結果
- 不確実な点、未確認事項、代替案
証拠が不足しているときは、承認者が「却下」するだけでなく、「根拠を追加して再提出」「対象を縮小して再提出」を選べるようにします。再提出後に本文・宛先・差分が変わった場合は、以前の承認を流用しません。
形だけの承認を防ぐ設計
承認者の役割を分ける
文章を読みやすくできる人と、法的な判断や本番コードの安全性を判断できる人は同じとは限りません。高リスク作業では、作成者、承認者、実行者をできる限り分離し、承認者に停止権限を持たせます。
承認結果を二択にしない
承認、条件付き承認、差し戻し、却下、緊急停止を記録上も分けます。修正を条件に承認した場合は、その条件、修正後の差分、再確認の有無を残します。
処理量を上限で守る
承認者が一度に確認できる量を超えると、記録があっても監督は機能しません。1件当たりの確認時間、1日当たりの件数、同じ理由での差し戻し件数を測り、対象範囲を小さくします。
すぐ使える承認記録テンプレート
## 承認記録
- 対象：
- 目的と想定される影響：
- 重大度：L1 / L2 / L3 / L4
- 根拠資料と確認箇所：
- AI案と最終案の差分：
- 実行主体・対象・宛先：
- テスト・プレビュー結果：
- 未確認事項・停止条件：
- 判定：承認 / 条件付き承認 / 差し戻し / 却下 / 停止
- 承認者・日時：
- 条件変更時の再承認：要 / 不要（理由）テンプレートを埋めることが目的ではありません。後から見た人が「何を根拠に、どこまでを許可したか」を再現できるかで評価します。
導入前に行う停止演習
実運用の前に、意図的に不完全な案件を作って確認します。
- 金額または宛先を誤ったL3の提案を用意する
- 根拠資料を一つ欠落させる
- 差し戻し後に本文や対象を変更する
- ログ保存先を利用不能にする
- 予定外の権限・件数・時間上限を超えさせる
成功条件は、エラー画面が出ることではありません。未実行の操作が止まり、承認が無効化され、理由と影響範囲を説明でき、人の再確認なしに再開できないことです。
まとめ
人の承認は、AIの利用を正当化するための署名ではありません。対象、根拠、差分、権限、停止条件を確認できる工程です。まずは下書きや限定したL1・L2から始め、差し戻し理由と確認負荷を測ってから、高リスクな作業へ広げます。
参照した一次情報
確認日：2026年8月10日。
PRIMARY SOURCES
確認した一次情報
広告