RAGを付けたのに答えが的外れなら、大抵の問題はモデルではなく検索段階にあります。検索された文書が誤っていれば、LLMがどれほど良くても正解は作れません。
| 文書タイプ | 推奨チャンキング | 備考 |
|---|---|---|
| マニュアル・規程 | セクション/条項単位 | 見出し階層の保持 |
| 表・データシート | 表単位 + キャプション | 表を分割すると意味が失われる |
| FAQ・掲示板 | 問答1組 | 質問をチャンクの前に付ける |
| 一般散文 | 400〜800文字 + 15%オーバーラップ | 段落境界を優先 |
一次検索（ベクトル/BM25）で20〜50件を抽出し、リランカーで上位5件を再並べ替えます。リランカーは質問と文書を一緒に見てスコアを付けるため、精度向上が大きいです。
ベクトル検索だけでは型番・部品番号のような正確な文字列マッチに弱いです。BM25（キーワード）とベクトルを併用し結果を統合するのが、産業文書で特に効果的です。
顧客企業のマニュアル検索でハイブリッド＋リランキングの組み合わせにより正答率が目に見えて上がった事例があります。モデル交換より検索改善が先です。