## **【解説】生成AIのハルシネーション対策と求められる人的素養** 2026年1月26日 生成AIにより作成　東京都 校正 生成AI（大規模言語モデル）は、非常に強力なツールである一方で、事実とは異なる情報をさも真実であるかのように生成する「ハルシネーション（幻覚）」という課題を抱えています。この問題に対処するためには、技術的な対策だけでなく、それを利用する人間に求められる資質が極めて重要になります。 本記事では、ハルシネーションを抑制するための具体的な実施事項と、利用者が備えておくべき経験・スキル・知識について解説します。 --- ### **ハルシネーションを抑制するための実施事項** ハルシネーションを完全にゼロにすることは現在の技術では困難ですが、以下の手法を組み合わせることで、その発生率を大幅に下げることが可能です。 1. **RAG（検索拡張生成）の活用** AIモデルが持つ知識だけに頼らず、外部の信頼できるデータベースや文書から情報を検索し、その内容を基に回答を生成させる手法です。「根拠となる資料」をAIに与えることで、事実に基づかない回答を劇的に減らすことができます。 2. **プロンプトエンジニアリングの工夫** AIへの指示（プロンプト）において、「わからない場合は『わからない』と答えてください」や「以下の資料に基づいて回答してください」といった制約を加えます。また、AIに思考の過程を書き出させる（Chain of Thought）ことで、論理的な飛躍や誤りを抑制できます。 3. **グラウンディング（根拠付け）** 回答の根拠となった引用元を明示させる設定を行います。これにより、利用者が情報の正確性を後から検証しやすくなります。 --- ### **人が持つべき経験・スキル・知識** AIを使いこなす以前に、私たちは「情報」や「技術」そのものに対する基礎体力を養っておく必要があります。 #### **1\. 専門分野のドメイン知識** AIが出した回答が「もっともらしい嘘」であるかを見抜くには、その分野における深い **ドメイン知識（専門知識）** が必要です。 * **違和感への気づき：** 専門家であれば、AIの回答に含まれる微妙な用語の使い方の誤りや、論理の矛盾に即座に気づくことができます。 * **経験に基づく判断：** 過去の実務経験から、「この数値はおかしい」「この手順は現実的ではない」と判断できる感覚が、最終的な情報の信頼性を担保します。 #### **2\. 前提条件としてのITリテラシー** AIリテラシーを身につける前に、まずは基盤となる**ITリテラシー**が不可欠です。 * **データの仕組みの理解：** 情報がどのように処理され、インターネットを通じてどのように伝達されるかという基礎知識。 * **情報の検索能力：** 検索エンジンを使いこなし、一次ソース（公的な統計や公式発表など）に辿り着くスキル。 * **セキュリティ意識：** 入力したデータがどのように扱われるか、情報の機密性を判断できる能力。 #### **3\. クリティカル・シンキング（批判的思考）** 「AIが出した答えだから正しい」と鵜呑みにせず、常に「本当だろうか？」と疑う姿勢です。複数のソースを照らし合わせる「クロスチェック」の習慣化が、ハルシネーション対策の最後の砦となります。 | 必要な要素 | 具体的な内容 | 役割 | | :---- | :---- | :---- | | **ドメイン知識** | 特定分野の専門教育、実務経験 | 回答の正誤を判定するフィルター | | **ITリテラシー** | ネットワーク、OS、セキュリティの基礎 | AIを利用するための土台 | | **AIリテラシー** | プロンプト操作、AIの特性理解 | 道具を効率的に扱う技術 | --- ### **まとめ** ハルシネーション対策は、RAGなどのシステム的なアプローチと、人間の高度な判断力を組み合わせる「協調体制」が基本となります。 特に、AIリテラシーに注目が集まりがちですが、その根底には \*\*「正確な情報にアクセスし、理解するためのITリテラシー」と「正誤を判断するための専門知識」\*\* が不可欠です。AIを単なる「答えをくれる魔法の箱」ではなく、「作業を支援するパートナー」として捉え、人間側が最終的な責任を持つ姿勢が求められます。 --- ### **引用文献** * 総務省｜令和6年版 情報通信白書｜生成AIの現状と課題 [https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd124210.html](https://www.google.com/search?q=https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd124210.html) * デジタル庁｜AI利活用ガイドライン [https://www.digital.go.jp/assets/contents/node/basic\_page/field\_ref\_resources/59654261-7546-4443-85e6-f56f349d97f2/3133887c/20240419\_policies\_priority\_ai\_guideline\_01.pdf](https://www.google.com/search?q=https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/59654261-7546-4443-85e6-f56f349d97f2/3133887c/20240419_policies_priority_ai_guideline_01.pdf) * IPA（独立行政法人 情報処理推進機構）｜生成AI利用ガイドライン [https://www.ipa.go.jp/security/guide/consulting-manual/iq6nd40000000v9m-att/000109033.pdf](https://www.google.com/search?q=https://www.ipa.go.jp/security/guide/consulting-manual/iq6nd40000000v9m-att/000109033.pdf)