社内文書をAIに読ませたのに、的はずれな回答が返ってくる。原因はモデルではなく、文書の切り方にあることが少なくありません。本記事では、DeepLearning.AI が公開している RAG 関連コースの考え方を参考に、検索が当たる形に文書を整える手順を5つに整理します。
検索が外れる原因は前段にある
RAG は、質問に関係する箇所を検索してから答えを作る仕組みです。この検索が外れると、どんなに良いモデルでも正しい答えは出ません。DeepLearning.AI のコースには、検索結果の関連性を高める技法と、うまくいっていない検索結果を見分ける方法が含まれています。
検索が外れる典型的な原因は、分割です。1つの塊が長すぎると、関係のない話題が混ざります。短すぎると、主語や条件が切れて意味が通らなくなります。
手順1：文書を見出しで区切る
最初に、文書の見出しをそのまま分割の単位にします。見出しは、書き手が意味のまとまりとして置いた印です。文字数で機械的に切るより、はるかに検索が当たります。見出しがない文書は、先に見出しを付けるところから始めてください。
手順2：1つの塊を読み切れる長さにする
見出しの単位が長すぎる場合は、小見出しや段落で分けます。目安は、その塊だけで意味が通るかどうかです。「以上のように」で始まる塊は、前の内容を切り離しすぎています。逆に、複数の話題が同居している塊は、分けたほうが当たります。
手順3：検索の手がかりを塊に付ける
塊ごとに、文書名、見出し、更新日、部署を付けます。質問文には「2025年度の経費規程」のように文書名や年度が含まれることが多く、この手がかりがあるだけで当たりやすくなります。
手がかりは、本文に書かれていない情報を補うために付けます。本文をそのまま繰り返しても効果はありません。埋め込みの仕組みと合わせて設計すると、検索の精度が上がります。
手順4：実際の質問で10回試す
| 試す質問の種類 | 見るポイント |
|---|---|
| 固有の商品名を含む | 該当する塊が1位に来るか |
| 年度や版を含む | 古い版を拾っていないか |
| 言い換えた質問 | 同じ塊に辿り着けるか |
| 存在しない事項 | 「該当なし」と答えられるか |
4種類を試すと、弱点が見えます。存在しない事項で何かを答えてしまう場合は、検索結果が空のときの扱いを決めてください。
手順5：外れた質問を分割の改善に使う
外れた質問は、捨てずに残します。外れた原因は、ほぼ分割か手がかりの不足です。「この質問でなぜ外れたか」を1行書き、分割を直して同じ質問で再試行します。この繰り返しで、検索の当たり方が安定します。
文書が増えてきたら、ベクトルデータベース側の設定も見直す対象になります。ただし、最初から作り込まず、10問で足りる範囲から始めてください。
よくある質問（FAQ）
Q. 表や図が含まれる文書はどう分割しますか？
A. 表は表のまま1つの塊にし、表の見出しと項目名を手がかりに付けます。図は、図の説明文を別途用意してください。画像のままでは検索にかかりません。
Q. 古い版の文書が混ざってしまいます。
A. 更新日を手がかりに必ず付け、検索時に新しい版を優先する条件を入れます。可能なら、古い版は対象から外してください。混在は、誤答の最大の原因です。
Q. どこまで細かく分ければよいですか？
A. その塊だけを読んで意味が通る最小の単位です。目安として、見出し1つ分を超えるなら分けすぎ、複数の話題が入るなら分け足りません。
あわせて使いたいツール
本記事の手順を実際に回すときに、候補になるツールを挙げます。いずれも無料から試せる範囲があり、料金や機能は各サービスの公式情報で確認してください。
- Notion AI：文書の見出し整理から始められる
編集部の見解
RAG の精度は、モデルの選定より文書の整備で決まります。当編集部では、検索が外れたときにまず「その答えは、どの塊に入っているはずか」を探します。塊が見つからないなら、分割の問題です。
my-best.ai 編集部
出典：DeepLearning.AI「Courses」（RAG・検索関連）（要約して紹介しています）
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。