入門
AIの回答を鵜呑みにしない検証チェックリスト
生成AIの回答を公開・送信・意思決定に使う前に、事実、計算、抜け漏れ、出典、権限、表現を人が確認する実務チェックリストを紹介します。
- 公開日
- 最終検証
- 次回確認
- 確信度
- HIGH
この記事で分かること
- AIの回答を検証可能な主張へ分ける方法
- 事実、計算、抜け漏れ、出典、権限、表現の確認順序
- 数値を元データから再計算する実例
- メールや資料を送信する直前のチェック項目
注意： 「出典付き」「自信があります」と表示されても、正しさは保証されません。公開、送信、発注、評価、意思決定の前に、利用者が根拠を開いて確認します。
先に結論
AIの回答は、最初から最後まで何度も読み直すより、検証できる単位へ分解した方が確認しやすくなります。次の6観点を順に確認してください。
- 事実：名称、日付、制度、数値は正しいか
- 計算：式、単位、丸め方を再現できるか
- 抜け漏れ：依頼した条件や例外が落ちていないか
- 出典：主張を一次情報が直接支えているか
- 権限：入力・利用・共有・公開をしてよい情報か
- 表現：事実と意見が分かれ、誤解や過度な断定がないか
検証の対象は「文章全体」ではなく、その文章に含まれる一つひとつの主張です。
AI出力を主張へ分け、一次情報と計算で確かめた後、人が最終承認する流れを示す。
なぜチェックリストが必要なのか
生成AIは、読みやすい文章と事実上の正しさを同じ見た目で出力します。誤った内容も自然な文体で提示されるため、文章力だけを手掛かりに真偽を判断できません。
NISTの生成AIプロファイルは、誤った内容を確信的に示す「Confabulation」を生成AIのリスクとして整理し、出力に含まれる情報源や引用をレビュー、検証する対応を挙げています。また、人とAIの役割、監督、利用条件を定めることもリスク管理の対象です。
これは、すべての文章を専門家へ回すという意味ではありません。影響の大きい主張から確認し、承認者を明確にするための仕組みが必要だということです。
6観点の早見表
| 観点 | 確認するもの | 確認方法 | 不合格の例 |
|---|---|---|---|
| 事実 | 人名、社名、日付、仕様、制度 | 公式ページや原資料と照合 | 実在しない制度名 |
| 計算 | 合計、割合、期間、換算 | 式を書き、電卓や表計算で再計算 | 円と万円が混在 |
| 抜け漏れ | 必須項目、対象外、例外条件 | 依頼文と出力を一対一で照合 | 対象期間がない |
| 出典 | URL、文書名、発行者、更新日 | リンクを開き、該当箇所を読む | 出典が主張と無関係 |
| 権限 | 個人情報、秘密、著作物、承認 | 社内規程、契約、利用規約を確認 | 顧客情報を無断入力 |
| 表現 | 事実と意見、断定、差別、誤解 | ラベルを付け、読み手の立場で確認 | 推測を確定事項として記載 |
手順1：回答を「主張」へ分ける
一文に複数の内容がある場合は分割します。例えば、AIが次のように回答したとします。
新制度は2026年10月に全国で開始され、申請企業は必ず20％のコスト削減を実現できます。
この一文には、少なくとも次の4主張があります。
- 「新制度」という制度が存在する
- 2026年10月に開始する
- 対象地域は全国である
- すべての申請企業で20％削減できる
前半3点は公式資料で確認できる事実候補です。最後の「必ず20％」は、条件や調査設計がなければ確認できない効果の断定です。一文のまま「だいたい正しそう」と判定せず、4点を別々に確認します。
手順2：事実と意見を分ける
次のようにラベルを付けると、確認方法が明確になります。
| 元の表現 | 分類 | 書き換え例 |
|---|---|---|
| この制度は2026年10月開始だ | 事実候補 | 公式資料の施行日を確認する |
| 初心者にも最適だ | 編集上の評価 | 「編集部は、手順が少ない点から初心者向けと判断した」 |
| 利用者が急増している | 数値を伴う事実候補 | 期間、母数、比較対象を付ける |
| おそらく需要が伸びる | 予測 | 前提と不確実性を明記する |
事実として確認できない評価を削除する必要はありません。「公式発表」「当社の集計」「編集部の判断」「予測」を区別すれば、読み手が証拠の強さを判断できます。
手順3：出典を開いて照合する
AIがURLを示した場合も、次の順で確認します。
- URLを実際に開く
- 発行者が省庁、企業、研究機関などの一次情報源か確認する
- 文書名、公開日、更新日、版番号を確認する
- 該当する文または表を探す
- 出典が主張を直接支えているか判定する
- 古い版でないか、後日の訂正がないか確認する
検索結果の要約文だけで確認を終えないでください。別サービスの解説記事が公式情報を引用している場合は、可能な限り引用元まで戻ります。
また、出典がない主張をAIへ「出典を付けて」と頼むだけでは不十分です。存在しないURL、似た題名の資料、主張を支えないページが提示されることがあるためです。
手順4：数値を再計算する
例として、元データに次の記録があるとします。
- 問い合わせ件数：128件
- 1件あたりの作業時間：7分
AIが「合計作業時間は約15時間」と答えた場合、次のように再計算します。
128件 × 7分 = 896分
896分 ÷ 60 = 14時間56分
表示を1時間単位に丸めるなら：約15時間
表示を1分単位にするなら：14時間56分「約15時間」は丸め方を明示すれば妥当です。しかし、元の128件に重複や対象外が含まれていれば、式が正しくても結論は正しくありません。数値確認では、式だけでなく次も見ます。
- 母数は何か
- 対象期間はいつか
- 税込み・税抜き、円・万円などの単位は揃っているか
- 平均、中央値、合計のどれか
- 小数点以下をどの段階で丸めたか
- 欠損値や重複をどう扱ったか
手順5：依頼条件との抜け漏れを調べる
依頼文の条件に番号を付け、出力の該当箇所を対応させます。例えば「300字以内」「対象は既存顧客」「価格は書かない」「問い合わせ先を末尾に置く」の4条件なら、4行の確認表を作ります。
条件が守られていない場合、すぐ再生成する前に、どの条件が落ちたか記録してください。同じ条件が繰り返し落ちるなら、プロンプトだけでなく、人が後処理する工程や別の手段が必要です。
手順6：公開前チェックリストを実行する
以下をメール、記事、提案資料へコピーして使えます。
# AI出力 公開・送信前チェック
対象：
確認者：
確認日：YYYY-MM-DD
送信／公開先：
## 事実
- [ ] 人名、組織名、製品名を一次情報と照合した
- [ ] 日付、期間、地域、対象者を確認した
- [ ] 「最新」「唯一」「必ず」などの断定に根拠がある
## 計算
- [ ] 元データと母数を確認した
- [ ] 式、単位、丸め方を再現した
- [ ] 合計値と内訳が一致した
## 抜け漏れ
- [ ] 依頼条件を一項目ずつ照合した
- [ ] 例外、対象外、前提条件を確認した
## 出典
- [ ] すべてのリンクを開いた
- [ ] 発行者、版、更新日、該当箇所を確認した
- [ ] 出典が主張を直接支えている
## 権限
- [ ] 入力と出力に個人情報・秘密情報がない、または承認済みである
- [ ] 引用、画像、商標などの利用条件を確認した
- [ ] 共有範囲と閲覧権限が適切である
## 表現と承認
- [ ] 事実、推測、意見を区別した
- [ ] 差別的、攻撃的、誤認を招く表現がない
- [ ] 必要な担当者または専門家が最終承認した期待結果と確認方法
チェック後に残すべきものは「問題なし」という感想ではなく、次の証跡です。
- どの主張を確認したか
- 参照した公式URL、文書名、版、確認日
- 再計算した式
- 修正した箇所と理由
- 最終承認者
小さな社内メモでは簡易版でも構いません。一方、対外発表、契約、採用、人事、医療、法務、金融、安全に関する内容では、分野の責任者や有資格者による確認が必要です。AIのチェックを別のAIに依頼する方法は補助にはなりますが、人による最終承認の代わりにはなりません。
よくある失敗と対処
出典の数が多いので安心する
出典数ではなく、各主張との対応を確認します。一つの公式資料が重要主張を直接支えていれば、無関係な10件より有用です。
AIへ「もう一度確認して」と頼んで終える
同じモデルが同じ誤りを繰り返す可能性があります。原資料、電卓、表計算、担当部署など、AI出力から独立した手段を使います。
誤字だけ直して公開する
文章が整っているほど内容も正しく見えます。固有名詞、日付、金額、比較、因果関係から先に確認してください。
機密を伏せ字にしたので安全だと思う
周辺情報から特定できる場合があります。入力前に削除または架空化し、組織が承認した環境と設定を使います。
確認者が作成者と同じ前提だけを見る
影響の大きい内容では、別の担当者が依頼文、原資料、出力を見比べます。NISTの生成AIプロファイルも、状況に応じた独立評価や役割分担を管理策として扱っています。
10分で回す公開前レビューの例
記事やメールを急いで確認する場合でも、最初の10分を「読みやすさ」ではなく、失敗が大きい順に使います。
| 時間 | 行う確認 | 停止する条件 |
|---|---|---|
| 0〜2分 | 宛先・公開先、個人情報、金額、日付、固有名詞を拾う | 対象や宛先が不明 |
| 2〜5分 | 重要な主張を一次情報・元データに照合する | 根拠URLが開けない、主張と対応しない |
| 5〜7分 | 数値を再計算し、依頼条件と照合する | 母数・単位・例外が分からない |
| 7〜10分 | 表現、引用、承認対象を確認する | 推測を事実として書いている、承認者がいない |
この表は「10分で必ず公開できる」ことを意味しません。停止条件に一つでも当てはまれば、公開を保留して、根拠の追加・対象の縮小・専門担当への確認へ戻します。短時間で済ませるための手順ではなく、短時間で止めるべきものを見つける順番です。
10分で回す公開前レビューの例
記事やメールを急いで確認する場合でも、最初の10分を「読みやすさ」ではなく、失敗が大きい順に使います。
| 時間 | 行う確認 | 停止する条件 |
|---|---|---|
| 0〜2分 | 宛先・公開先、個人情報、金額、日付、固有名詞を拾う | 対象や宛先が不明 |
| 2〜5分 | 重要な主張を一次情報・元データに照合する | 根拠URLが開けない、主張と対応しない |
| 5〜7分 | 数値を再計算し、依頼条件と照合する | 母数・単位・例外が分からない |
| 7〜10分 | 表現、引用、承認対象を確認する | 推測を事実として書いている、承認者がいない |
この表は「10分で必ず公開できる」ことを意味しません。停止条件に一つでも当てはまれば、公開を保留して、根拠の追加・対象の縮小・専門担当への確認へ戻します。短時間で済ませるための手順ではなく、短時間で止めるべきものを見つける順番です。
AI活用ナビの判断
AI活用ナビの判断： 6観点を毎回同じ重さで確認する必要はありません。ただし「事実・出典・権限」の3点は、社外へ出す文章で省略しないことを推奨します。数値がある場合は計算確認も必須です。
確認時間が長すぎるときは、チェックを省くのではなく、AIに任せる範囲を狭めます。例えば資料全体の作成ではなく、確認可能な見出し案や文章の短縮だけに限定します。検証できない出力は、品質が低いのではなく、業務へ採用する条件を満たしていません。
確認日と公式情報
本記事は2026年7月29日に確認しました。
- NIST AI 600-1 Generative Artificial Intelligence Profile：生成AI特有または生成AIで増幅されるリスクと、ガバナンス、測定、管理の対応例を整理しています。
- 経済産業省・AI事業者ガイドライン検討会：国内のAI事業者ガイドライン、検討資料、改訂状況を確認できます。
ガイドラインは更新されるため、業務では最新版と所属組織の規程を確認してください。
PRIMARY SOURCES
確認した一次情報
広告