AIハルシネーション対策とは？
読み方: エーアイハルシネーションタイサク
30秒まとめ
AIが事実と異なる情報を生成する問題を軽減するための手法や仕組みの総称。
AIハルシネーション対策の意味・定義
AIハルシネーション対策は、LLMが事実に基づかない情報をもっともらしく生成してしまうハルシネーション（幻覚）の問題を軽減・防止するための手法や仕組みの総称です。主要な対策手法として、RAG（外部知識ベースからの情報検索を組み合わせる）、ソース引用（回答の根拠となるソースを明示する）、温度パラメータの調整（低い値に設定してランダム性を抑える）、Self-consistency（複数回生成して整合性を確認する）、ファクトチェックの自動化などがあります。Perplexity AIやGensparkはソース付きで回答を提供することでハルシネーションリスクを軽減しています。企業がAIを業務に導入する際には、ハルシネーション対策の実装が信頼性確保の観点から不可欠です。人間によるレビュー（Human-in-the-Loop）を組み込んだワークフロー設計も重要な対策の一つです。