AIの答えを社長がうのみにしないための3つの確認。数字・出典・前提でハルシネーションを見抜く

AIの答えは、もっともらしくても間違っていることがあります。社長がうのみにしないためには「数字は元の資料で」「出典は一次情報か」「前提は自社に合うか」の3つを確かめ、採用や人の評価のような判断はAIに任せないことが基本です。

この記事は、総務省・経済産業省「AI事業者ガイドライン（第1.2版）」、総務省「令和6年版 情報通信白書」、個人情報保護委員会の注意喚起をもとに、2026年10月27日時点の内容で書いています。ガイドラインは改訂されることがあります。最新版は総務省のAI事業者ガイドラインのページで確認してください。

生成AIのハルシネーションとは？なぜ間違えるのか

ハルシネーションとは、生成AIが事実と異なることを、もっともらしく回答してしまう現象です。総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」の別添（付属資料）は、これを「ハルシネーション等による誤った出力」という項目で、生成AIのリスクとして取り上げています。

やっかいなのは、間違いが整った文章で出てくることです。誤字や不自然な日本語なら気づけます。しかしハルシネーションは、数字や固有名詞まで具体的に書かれた、読みやすい文章の中に混ざります。

公的な資料は、次のように説明しています。

白書は、技術的な対策だけでは完全には抑えられないとしています。ですから、AIの答えは「使う側が確かめる」ことを前提に使うのが現実的です。

うのみにすると、どんなことが起きる？

AI事業者ガイドラインの別添は、生成AIの出力をうのみにするリスクの例として、米国の弁護士の事例を挙げています。係争中の民事訴訟の資料を作るときに生成AIを使い、存在しない判例を引用してしまったというものです。

この例から、経営者が学べることは2つあります。

• 専門家でも、もっともらしい出力を確かめずに使ってしまうことがある
• 間違いは「存在しない出典」という形でも出てくる

同ガイドラインの本編は、自動化されたシステムを過度に信頼したり依存したりする現象を「自動化バイアス」として説明しています。そして対策として、AIの欠点を含む特性を理解する訓練を受けることや、AIの判断を承認する前に、承認する理由や根拠を人が自分で考えることを挙げています。

自動化バイアスと、社長に要る判断の視点は社長に必要なAIリテラシーとはで扱いました。この記事では一歩進めて、「何を」「どう」確かめるかを3つに絞ります。

社長が確かめる3つのポイントとは？

公的資料が示しているのは、「出力が正しいかを確認する」「承認する前に根拠を自分で考える」という原則です。ここからは、その原則を社長の仕事に落とし込んだTERRAISEの提案です。

3つとも、AIに聞き直すのではなく、AIの外にある資料や自社の事情で確かめるのがポイントです。AIに「本当ですか」と聞き返すだけでは、同じ間違いを言い直されることがある、というのが私たちの見立てです。

確認1：数字はどうやって確かめる？

AIの答えのうち、間違いがそのまま損失につながりやすいのが数字です。次の順で確かめるのがおすすめです。

• 答えの中の数字・日付・金額に印をつける
• 1つずつ、元の資料で照合する（補助金の上限額や締切なら公募要領、自社の売上なら会計の帳票）
• 計算が入っている場合は、AIに計算の手順を書かせ、表計算ソフトで自分でも計算する
• 元の資料が見つからない数字は、社外向けの資料や判断の根拠に使わない

自社の資料をAIに渡して要約させた場合も、数字と単位（千円・百万円など）は元の資料と見比べておくと安心です。特に、取締役会や金融機関に出す資料、取引先への見積もりの数字は、必ず人の目で原本と照合する工程を残してください。

確認2：出典が一次情報かは、どう見分ける？

ガイドラインの別添が挙げた弁護士の事例のように、AIは存在しない資料をもっともらしく示すことがあります。出典は、次の4点で確かめます。

版の確認は見落とされがちです。たとえばAI事業者ガイドライン自体も改訂を重ねており、2026年3月31日に第1.2版が公表されています。古い版をもとにした答えは、今の内容と違う場合があります。

なお、ガイドラインの本編は、外部の資料を検索して回答に使う仕組み（RAG：検索拡張生成）について、ハルシネーションの抑制や、出力の根拠の透明性の向上が期待されるとしています。検索機能つきのAIは、出典を示してくれる点で確かめやすくなります。それでも、示された出典を自分で開いて読む手間は残しておくことをおすすめします。

確認3：前提条件が自社に合うかは、どう確かめる？

数字も出典も正しいのに、自社には当てはまらない答えもあります。質問に条件を書かなければ、答えがどの条件を想定しているかは分かりません。

確かめ方は2つです。1つは、質問の最初に自社の条件（規模・業種・地域・いつ時点の情報が欲しいか）を書くこと。もう1つは、答えのあとに「この答えが前提にしている条件を箇条書きにしてください」と頼み、自社と違う前提がないかを読むことです。

AIに判断を任せない範囲はどこか？

AI事業者ガイドラインの本編は、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討するよう求めています。別添は、人材採用のような重要な意思決定でAIの判断をそのまま用いることや、人が最終判断するときにもAIを過度に信頼して自分の確認を怠ること（自動化バイアス）への懸念を挙げています。ガイドラインの概要は、AIの出力を特定の個人や集団の評価の参考にする場合は、人間による合理的な判断のもとで説明責任を果たすとしています。

個人情報保護委員会の注意喚起も、一般の利用者に向けて、入力した個人情報が機械学習に利用され、「正確又は不正確な内容で」出力されるリスクがあるとしています。人に関する情報をAIで扱うときは、答えの正しさと、入力そのものの両方に注意が要ります。

これらをふまえて、AIの使い方を3つに分けるのがおすすめです（区分と例はTERRAISEの提案です）。

ツールを選ぶ前に、確認の手順を業務に組み込む

確認は、気合いでは続きません。TERRAISEは、どの業務も 入力（INPUT）→ 処理（PROCESS）→ 出力（OUTPUT）に分けて考えます。確認の手順も、この3つに組み込むと習慣になります。

• 入力: 元の資料をAIに渡し、自社の条件（規模・業種・地域・時点）を質問に書く。手がかりを渡すほど、確かめる範囲が狭くなります
• 処理: 結論の前に、前提にした条件と根拠を書かせる。ガイドラインが挙げる「承認する前に根拠を自分で考える」を、読む側がしやすくするためです
• 出力: 答えの形を決める。たとえば「数字には出典のURLを付ける」「確かめられていない点を最後に一覧にする」

出力の形が決まっていれば、毎回の確認は「一覧を見て、印のついた所だけ原本に当たる」作業になります。TERRAISEは、AIに任せる到達点を3段階（完全自動化／下書きを自動生成＋人が監修／思考を加速する道具）で考えます。社長がAIに相談する仕事の多くは、2段目の「下書き＋人の監修」です。監修の手順を先に決めておくことで、AIの答えを安心して使える範囲が広がります。

最初の1週間は、次のように試すのがおすすめです。

• 今週AIに聞いて、実際に使った答えを1つ選ぶ
• その答えで、数字・出典・前提の3点を確かめる
• 間違いや自社に合わない前提が見つかったら、次からの質問の書き方に足す

まとめ

• ハルシネーションとは、生成AIが事実と異なることをもっともらしく回答する現象。令和6年版 情報通信白書は、技術的な対策だけでは完全に抑制できないとしている
• 社長が確かめるのは「数字は元の資料で」「出典は一次情報か」「前提は自社に合うか」の3つ
• AI事業者ガイドライン（第1.2版）は、人間の判断の介在と、承認の前に根拠を自分で考えることを挙げている
• 採用・人事評価・契約などの判断はAIに任せず、論点整理と材料集めまでにとどめる
• 確認の手順は、入力・処理・出力のそれぞれに組み込むと習慣になる

判断の視点は社長に必要なAIリテラシーとは、AIに入れてはいけない情報は社長がAIに相談するとき、入れてはいけない情報と安全な使い方もあわせてご覧ください。AIの情報を自分で追い、確かめる時間がとれない経営者向けには、社長のためのAI家庭教師があります。毎週の「今週のAIまとめ」で、御社に関係のある3本に判定と出典を付けてお届けします。料金は通常 月10万円（税別）、モニター価格 月5万円（税別・先着5名）で、3か月からです。社内のAI活用の仕組みづくりまで相談したい場合は、AI顧問（月20万円〜）もあります。まずは60分の無料相談、または会社紹介資料からどうぞ。

出典（2026年10月27日確認）

• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）本編」（PDF）
• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）別添（付属資料）」（PDF）
• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）概要」（PDF）
• 総務省「AI事業者ガイドライン」
• 総務省「令和6年版 情報通信白書｜生成AIが抱える課題」
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（PDF）