生成AIに、社内の規程や、過去の提案書について質問しても、的確に答えてもらえないことがあります。生成AIは、公開されている一般的な知識をもとに回答するため、社内の情報は知らないからです。この課題を解決する方法として注目されているのが、RAG（検索拡張生成）です。本記事では、RAGの仕組みと、活用例、導入のポイント、注意点を解説します。生成AIの業務活用の全体像は、生成AI（ChatGPT等）を業務にどう活かす？導入のステップと注意点もあわせてご覧ください。
RAGとは
RAGは「Retrieval-Augmented Generation」の略で、日本語では「検索拡張生成」と呼ばれます。質問を受けたときに、まず社内の文書などから関連する情報を検索し、その内容を参照させたうえで、生成AIに回答を作らせる仕組みです。AIに知識を丸ごと覚えさせるのではなく、「必要な資料を、その都度、手元に開いて渡す」イメージです。
RAGの基本的な流れ
- 文書の取り込み：社内規程、マニュアル、議事録などの文書を、検索しやすい形に分割して、専用のデータベースに保存する
- 質問の入力：利用者が、チャットなどで質問を入力する
- 関連情報の検索：質問と関連性の高い文書の部分を、データベースから探し出す
- 回答の生成：検索で見つかった内容を、質問とあわせて生成AIに渡し、回答を作らせる
- 出典の提示：回答の根拠となった文書を示し、利用者が確認できるようにする
ファインチューニングとの違い
AIに社内の知識を持たせる別の方法として、ファインチューニング（追加の学習によって、モデル自体を調整する方法）があります。RAGは、モデルを再学習するのではなく、外部の情報を参照させる方式です。そのため、規程が改定されたときや、新しい資料が加わったときに、文書を差し替えるだけで、最新の情報を回答に反映できるという利点があります。また、回答の根拠となった文書を示しやすい点も、業務で使いやすい理由です。
活用例
- 社内規程・就業規則・マニュアルに関する、従業員からの質問への自動回答（生成AIで社内マニュアル・ナレッジを整備する方法も参考に）
- ITヘルプデスクや、総務・人事への問い合わせの一次対応（社内ヘルプデスクを効率化する問い合わせ管理の仕組み）
- 過去の提案書や議事録、技術資料の検索と要約
- 顧客からの製品に関する問い合わせへの回答の支援（チャットボット導入で問い合わせ対応を自動化する）
導入するときのポイント
元になる文書の質を整える
RAGの回答の質は、元の文書の質に大きく左右されます。古い情報や、同じ内容で食い違う文書が混在していると、誤った回答につながります。最新版を整理し、不要な文書を除外するところから始めましょう。また、PDFの表や、画像の中の文字は、正しく読み取れないことがあるため、形式の確認も必要です。
アクセス権限を引き継ぐ
人事情報や経営会議の資料など、閲覧できる人が限られている文書があります。誰でも質問できる仕組みにすると、本来見られないはずの情報が、回答に含まれてしまうおそれがあります。文書の閲覧権限に応じて、回答に使える範囲を制御できるかを確認します。
出典を表示し、確認できるようにする
回答の根拠となった文書を、リンクなどで示すことで、利用者が原文を確認できます。契約や規程の解釈など、重要な判断に関わる場面では、回答をそのまま信じず、必ず原文で確認する運用を徹底します。
精度を評価してから展開する
実際によく聞かれる質問を、あらかじめ数十件用意し、期待する回答が得られるかを確かめます。うまく答えられない質問を分析すると、文書の整備や、検索の設定を見直すべき点が分かります。
情報の取り扱いを確認する
社内の文書を、外部の生成AIサービスに送ることになるため、サービスの提供元が、送信したデータをどう扱うのかを、事前に確認します。データが、モデルの学習に使われないか、保存の場所や期間はどうなっているかを、契約や規約で確認することが大切です。社内のルールづくりは、生成AI利用ガイドラインの作り方が参考になります。
注意しておきたい限界
- 生成AIは、事実と異なる内容を、もっともらしく答えること（ハルシネーション）があり、RAGを使っても、完全にはなくなりません
- 関連する文書の検索がうまくいかなければ、適切な回答は得られません
- 複数の文書にまたがる、複雑な判断や計算は、苦手なことがあります
- 文書を更新しないと、古い情報のまま回答してしまいます（更新の運用が必要です）
小さく始める進め方
RAGは、最初から全社の文書を対象にせず、範囲を絞って試すのが成功のコツです。たとえば、「就業規則と社内手続きに関する質問」など、文書の量が限られ、質問の傾向も把握しやすい分野から始めます。小さく検証し、精度や使われ方を確認してから、対象を広げていきます。進め方は、MVP開発・PoCとは？小さく始めて失敗を減らすシステム開発の進め方で解説している考え方がそのまま使えます。
よくある質問
Q. 生成AIのサービスに、文書をアップロードして質問するのと、何が違うのですか？
A. 少量の文書を、その都度渡して質問するだけなら、手軽で有効な場面もあります。一方、文書の量が多い、頻繁に更新される、閲覧権限の管理が必要といった場合は、検索や権限管理、更新の仕組みを備えたRAGのほうが、安定して運用できます。
Q. 導入にかかる費用はどれくらいですか？
A. 対象とする文書の量、利用する人数、求める精度、権限管理の要件などによって大きく変わります。まずは小さな範囲で検証し、効果と費用を確認してから、本格的な導入を判断するのがおすすめです。
まとめ
RAGは、社内の文書を検索し、その内容を参照して生成AIに回答させる仕組みです。規程やマニュアルの問い合わせ対応など、社内の知識を活用したい場面で役立ちます。文書の質の整備、アクセス権限の管理、出典の確認、情報の取り扱いの確認を押さえ、小さな範囲から始めて、精度を確かめながら広げていきましょう。
