RAG(Retrieval-Augmented Generation、検索拡張生成)は、モデルが答えを出す前に関連する文書を先に検索し、その内容を根拠に回答を生成する仕組みです。初期のRAGが似た文書を探して貼り付ける程度だったのに対し、最近のRAG 2.0は、質問を何段階かに組み立て直したり、検索結果の信頼性を自分で評価したりする、はるかに精緻なパイプラインへと進化しました。特に社内文書のように、モデルが学習していない最新の情報や非公開の情報を正確に引用しなければならない環境では、RAGは事実上欠かせない構成要素になっています。
ハルシネーションを防ぐ検索、文書の分割と埋め込み
検索をせずモデルの記憶だけに頼ると、古い情報や存在しない内容をもっともらしく作り出すハルシネーションにつながりやすくなります。検索の品質がそのまま回答の品質を左右するため、文書をどう細かく分け、どう埋め込み(embedding)にするかが、実務で最も手間をかける部分です。段落を細かく分けすぎると文脈が失われ、大きく分けすぎると関係のない内容まで混ざり込みます。
リランキングとクエリ書き換え、検索結果をもう一度疑うステップ
RAG 2.0では、検索された文書をそのまま信じず、「この文書は本当に質問に答える根拠になるのか」をもう一度判断するリランキング(reranking)のステップを加えることが多くなっています。
検索エンジンの一次結果をモデルがもう一度ふるいにかける、二重の検証構造です。クエリ書き換え(query rewriting)も重要な進展のひとつです。ユーザーのもとの質問があいまいだったり検索に向かない形だったりするとき、それを検索しやすい形に書き直して何度か検索を試す方式が、回答の精度を大きく引き上げます。
ファインチューニングの代わりとして、そして別に管理する検索の指標
RAGは、ファインチューニングの代わりとしてもよく挙げられます。モデルそのものを学習し直すより、最新の情報を検索で供給するほうがコストと保守の面ではるかに有利なため、情報の新しさが大事な業務ほど、RAGを先に検討するケースが多くなっています。
実務では、RAGパイプラインの性能を測る指標も別に管理します。
- 適合率(Precision)。 検索された文書が実際に質問と関係しているか
- 再現率(Recall)。 関係する文書を漏れなく見つけられたか
これらを定期的に点検しないと、品質の低下に気づくのが遅れます。社内のナレッジベースが頻繁に変わる組織ほど、RAGの効果は大きくなります。モデルを学習し直さなくても、検索対象の文書を最新にしておけば、回答も自動的に最新の情報を反映するからです。
ハイブリッド検索、多言語の文書、チャンキング戦略
RAGパイプラインを組むうえでは、検索エンジンの選び方も重要な要素です。
従来のキーワード検索と意味にもとづくベクトル検索を組み合わせるハイブリッド検索のほうが、どちらか一方だけを使うより安定した結果を出すことが、実務で広く確かめられています。多言語の文書を扱う組織では、言語によって検索の品質が変わる問題にもぶつかります。そのため、言語ごとに別の埋め込みモデルを使ったり、翻訳を経てから検索したりといった補い方もあわせて議論されています。RAGシステムの性能は、結局のところ文書をどれだけ適切なサイズに分けるか(チャンキング戦略)に大きく左右されます。
細かく分けすぎれば文脈が途切れ、大きく分けすぎれば余計な情報まで混ざって精度が下がるというジレンマがあります。
非公開の知識を扱う事実上唯一の方法、そして引用
RAGは、モデルを再学習させなくても最新の情報を反映できるため、特に規則や方針が頻繁に変わる業界(金融、医療、法律)で実用的な選択肢になっています。社内文書、マニュアル、議事録のように外部に公開されていない非公開の知識をAIに扱わせる、事実上唯一の方法でもあります。
モデルを再学習させなくても、組織固有の知識を活用できるようになります。検索した文書の出典を回答とあわせて表示する「引用」の機能は、RAGシステムの信頼性を大きく高めます。回答の根拠をユーザーが自分で確かめられることが、ハルシネーションへの不安を減らす助けになります。
導入する組織の点検手順と、広げていく道筋
RAGを導入する組織は、検索の品質を定期的に点検する手順もあわせて用意する必要があります。
どれほど良い言語モデルを使っても、そもそも検索で取ってきた資料が不正確なら、回答の質も一緒に下がってしまうからです。
RAGの構築経験を積んだ企業は、最初は単純な文書検索から始め、しだいに社内のデータベースやチケットシステムなど、さまざまなデータソースを統合する方向へ広げていく傾向があります。
まとめ
RAG 2.0の核心は、「検索して貼り付ける」から「検索結果を疑い、検証する」へと重心が移ったことです。この精緻さの違いが、実際のサービス品質で体感できる差につながっています。