RAG に入れる資料の分け方：入れる・直してから入れる・入れないを、資料ごとに決める（棚卸し表つき）

社内の規程や手順書を AI に読ませて、社員の質問に答えさせたい。総務や情報システムの担当者から、こうした相談が増えています。経費の精算のしかた、休暇の申請、パソコンの困りごと。同じ質問に何度も答える手間を、AI に任せられれば助かります。

社内の資料を読ませて答えさせる仕組みは、RAG（検索拡張生成）と呼ばれます。質問に関係する資料をまず探し、その資料をもとに AI が答えを書く仕組みです。クラウドのサービスを使えば、資料をまとめて登録するだけで、形にはなります。

ところが、使い始めると問題が出ます。去年変わったはずの経費の上限を、古い金額で答える。同じ質問に、日によって違う答えを返す。見てはいけない人に、役員向けの決まりを答えてしまう。原因の多くは、AI の性能ではなく、読ませた資料にあります。

この記事では、RAG に入れる資料を一つずつ棚卸しして、次の3つに分ける方法をまとめます。

• 入れる：今も正しく、持ち主がいて、そのまま読める資料
• 直してから入れる：古いかもしれない、重複している、画像の PDF など、手を入れれば使える資料
• 入れない：個人情報を含むなど、入れると危ない資料

RAG を作る前に決めること（誰が何を聞くか、全文検索との違い、今あるツールで足りるか）は、「「社内の資料が探せない」を減らすナレッジ検索：作る前に決める7つのこと」で書きました。この記事は、その先の「何を入れるか」に絞ります。

RAG の答えは、読ませる資料で決まる

総務省の「自治体におけるAI活用・導入ガイドブック〈導入手順編〉第4版」（2025年12月）は、RAG の弱点として、回答の正確さが知識ベース、つまり読ませる資料の品質で左右されることをはっきり書いています。同じガイドブックには、横浜市の実証（2024年11月〜2025年3月）で、約4,500ページの PDF を機械が読みやすい形に整えたうえで、約9割の回答精度になった例が載っています。

デジタル庁が2024年5月に公表した生成 AI の技術検証の報告書（令和5年度）でも、資料の形が答えに影響していました。図や表の中の文字を正しく読み取れずに精度が落ちたこと、人事院規則の検証では、HTML や Word では表が崩れて精度を損なうため、PDF から取り出した文字を使ったことが書かれています。資料の取り込み方を工夫すると、引用の正しさや答えの正しさが上がったという結果も出ています。検証は2023年12月〜2024年3月で、当時の AI を使ったものです。数字はそのまま今には当てはまりませんが、資料の形と取り込み方で答えが変わるという点は、今も同じです。

国の調査でも、データの準備が課題に出ています。総務省の「令和8年版 情報通信白書」（2026年7月）では、生成 AI に社内データを学習させたり、AI が参照できるデータベースを作ったりしている日本企業は24.5%で、米国（57.2%）やドイツ（54.4%）の半分以下でした。中小企業では17.7%です。「分析・活用できる社内データの整備が進んでいる」と答えた中小企業も17.7%にとどまります。

つまり、RAG を始める前の一番大きな仕事は、資料を整えることです。作る費用や期間を見積もるときも、資料を整える社内の手間を、別に数えておきます。

資料を棚卸しする：書き出す7つの項目

まず、AI に読ませる候補の資料を、1行に1つずつ書き出します。項目は次の7つです。

「中身の状態」は、持ち主に聞いて書きます。最終更新日が新しくても、規程が変わったのに手順書が直っていない、ということはよくあります。持ち主がいない資料は、その時点で注意が要る資料です。

「同じ内容の別の資料」は、資料名だけでは分からないことがあります。経費のことは、規程のほかに、よくある質問のページ、新しく入った人向けの説明資料、部署ごとに作った手順のメモにも書かれていることがよくあります。持ち主に聞くときは、「この内容がほかに書いてある所はありますか」と一緒に聞くと見つかります。見つかった資料も、表に1行ずつ足しておきます。

全部の資料を一度に書き出す必要はありません。最初に答えさせたい分野（たとえば経費と勤怠）に関係する資料から始めます。

棚卸しの進め方：誰と、どの順で

棚卸しは、一人で抱えると進みません。次の分担がおすすめです。

• 進める人：総務か情報システムの担当者が1人。棚卸し表を作り、判定をまとめる
• 持ち主：資料ごとに、中身を知っている人。「中身の状態」と「同じ内容の別の資料」を答えてもらう
• 決める人：入れない資料や、見てよい人の範囲で迷ったときに決める人

順番は、質問の多い分野からにします。社内の問い合わせを記録していれば、件数の多い分野が分かります。問い合わせの記録のつけ方は「社内の問い合わせが減らない理由」で書きました。件数の多い分野の資料から整えると、RAG を使い始めたときの効果が早く出ます。

持ち主に一つずつ聞いて回ると時間がかかるので、棚卸し表を共有して、持ち主に「中身の状態」の欄だけ埋めてもらうと早く進みます。50の資料でも、持ち主が5人いれば、1週間ほどで一巡できます。

入れる・直してから入れる・入れないの基準

書き出した資料を、次の順で判定します。

1. 入れない

• 公開範囲が「個人情報を含む」資料（社員の住所の一覧、評価の記録など）

2. 直してから入れる（次のどれかに当てはまる）

• 中身の状態が「古いかも」または「分からない」
• 最終更新日が3年以上前
• 形式が「PDF（スキャン）」
• 同じ内容の別の資料が「あり」
• 持ち主が決まっていない

3. 入れる

• 上のどれにも当てはまらない資料
• ただし、公開範囲が「部署・役職で限る」資料は、見てよい人を資料ごとに設定してから入れる

架空の会社（従業員50名）の総務・人事の資料で判定すると、次のようになります。

この記入例では、6つのうちそのまま入れられるのは2つでした。資料を集め始めると、直す必要のある資料のほうが多いことは珍しくありません。直す手間を、作る計画に最初から入れておきます。

直してから入れる資料の、直し方

古い版と、同じ内容の資料

一番多く、一番危ないのが、古い版と重複です。経費の上限が去年変わったのに、古いよくある質問のページが残っていると、AI は古い金額を答えることがあります。AI は「どちらが新しいか」を、資料の中の日付だけでは判断しきれません。

直し方は、一つの内容に一つの資料、を決めることです。

• 同じ内容の資料が複数あれば、正とする資料を一つ決め、ほかは AI に読ませる対象から外す
• 正とする資料には、最終更新日と持ち主を書いておく
• 古い版は、捨てずに別の場所に移す（履歴として残す）

持ち主のいない資料

持ち主がいない資料は、中身が変わっても誰も直しません。AI に読ませると、古い答えを返し続けます。入れる前に、直す人を決めます。決められない資料は、入れないほうが安全です。

スキャンした PDF と、表の多い資料

紙をスキャンしただけの PDF は、画像として保存されていて、文字の情報を持っていません。AWS の Amazon Bedrock のドキュメントは、既定の取り込みは文字だけを取り出すとして、図や表、画像を含む文書には、別の解析の方法を使うよう勧めています。ここから考えると、画像の PDF はそのままでは中身が読まれないおそれが高いと言えます。文字に起こして（OCR）、読み取りの誤りを人が確かめてから入れます。

表の多い資料も注意が要ります。前に触れたデジタル庁の検証では、表の中の文字の読み取りや、表の崩れが精度を下げていました。表は、行と列の意味が分かる形（見出しのある表や、項目ごとの文章）に書き直すと、読まれやすくなります。

1つの資料に、いくつものテーマが入っている資料

「総務のしおり」のように、経費・勤怠・備品・慶弔などが1つにまとまった資料もよくあります。1つの資料のまま入れても使えますが、中の一部だけが古くなったときに、資料全体の状態が分からなくなります。テーマごとに資料を分け、それぞれに持ち主と最終更新日を書いておくと、直すときにも迷いません。分けられない場合は、少なくとも見出しで区切っておきます。

古いかもしれない資料

最終更新日が3年以上前の資料や、中身の状態が分からない資料は、持ち主に確かめます。今も正しければ、最終更新日を確かめた日に直して入れます。古ければ直すか、もう使わない資料なら入れません。

AI が読みやすい書き方に直す

直すついでに、AI が読みやすい書き方にしておくと、答えの質が上がります。人が読みやすい書き方とほぼ同じです。

特に、例外の書き方は答えの正しさに直結します。規程の本文に「上限1万円」とあり、別の通知に「役員は3万円」とあると、AI は片方だけを根拠に答えることがあります。例外は、同じ資料の同じ場所に書いておきます。

議事録や提案書は入れるか

規程や手順書、よくある質問は、「今の決まり」を書いた資料です。一方、議事録や提案書、報告書は、「その時点の話」を書いた資料です。

議事録をそのまま入れると、決まる前の案や、後で変わった話を根拠に答えることがあります。入れるなら、決まったことだけを抜き出した資料を作ります。提案書や報告書も、古い前提のまま答えに使われるおそれがあるので、最初は入れず、必要になったら過去の資料として扱いを分けます。下書きや作業中の資料は入れません。

個人情報と、見てよい人の分け方

個人情報を含む資料は入れない

RAG は、質問に関係しそうな資料を探して答えます。個人情報を含む資料が入っていると、思わぬ質問で個人情報が答えに出ることがあります。

AI セーフティ・インスティテュート（AISI）の「AIセーフティに関する評価観点ガイド」第1.20版（2026年7月）は、RAG に使うデータの品質として、正確さに加えて、個人情報や機密情報が含まれていないかを確かめる項目を挙げています。検索先に個人の情報が含まれる場合に、出力を制御できているかも確かめる項目です。

個人情報保護委員会は、生成 AI のサービスに個人情報を入れる場合について、利用目的の範囲内かを十分に確かめること、入れた個人データが答えを出す以外の目的で使われないことを確かめることを求めています（2023年6月の注意喚起）。RAG に資料を登録するときも、同じ考え方を当てはめます。

どうしても必要な場合は、個人情報を除いた版を作るか、見てよい人を厳しく限った別の仕組みで扱います。

見てよい人を、資料ごとに設定する

役員向けの決まりや、人事の手続きの資料のように、部署や役職で見てよい人が限られる資料もあります。こうした資料は、資料ごとに見てよい人を設定し、AI が答えるときにも、質問した人が見てよい資料だけを使うようにします。

デジタル庁の「生成AIの調達・利活用に係るガイドライン（DS-920）」（2026年6月改定）は、AI と AI が扱う情報に触れてよい人を確実に絞るよう、アクセスの制御を運用することと、RAG 用のデータの参照権限を利用者や役割に応じて設定することを求めています。情報通信白書でも、AI の活用が進んだ企業では、部門や職階に応じて AI が参照するデータの範囲を絞っていると紹介されています。

公開範囲は、次のような段階に分けると決めやすくなります。

迷ったら、狭いほうに分けます。後から広げるのは簡単ですが、一度答えに出た情報は取り消せません。

仕組みによっては、気をつける点があります。

• 権限の反映が遅れることがある：Microsoft の Azure AI Search のドキュメントは、元の場所で権限を変えても、検索の結果に反映されるのは同期の後だと書いています。異動や退職のときの手順を決めておきます。
• 後から設定を変えられないことがある：Google の Vertex AI Search では、アクセスの制御はデータの置き場所を作るときにしか設定できず、後から切り替えられないとされています。最初に決めておきます。

見てよい人の分け方は、作り始める前に決めておくのが一番楽です。後から分けようとすると、資料の置き場所から作り直しになることがあります。

最初に入れる範囲は、小さくする

整えた資料を、最初から全部入れる必要はありません。最初は、質問の多い1〜2分野の、「入れる」と判定された資料だけで始めます。

範囲を小さくすると、答えが間違っていたときに、どの資料が原因かを探しやすくなります。分野ごとに精度を測り、合格した分野から使い始め、ほかの分野は資料を整えながら足していきます。

社員に使ってもらうときは、「今は経費と勤怠の質問にだけ答えます」のように、答えられる範囲をはっきり伝えます。範囲の外の質問には「分かりません」と答えるように設定しておくと、知らないことをもっともらしく答える間違いを減らせます。

棚卸しの後に決めておく、資料の決まり

資料を一度整えても、半年たてば古くなります。RAG を使い続けるために、次の決まりを決めておきます。

表の中の「見直しの時期」は、決めても忘れがちです。棚卸し表の最終更新日の列を年に1回並べ替え、古い順に持ち主に確かめる、という形にしておくと続きます。規程の改定の手続きの中に、「関係する資料と、AI に読ませる資料も直す」という一行を入れておくのも効果があります。

最後の「答えが間違っていたとき」が大事です。AI の答えが間違っていたら、まず読ませた資料を疑います。資料を直したら、同じ質問で答えが直ったかを確かめます。測り方は「RAG の精度は、質問集で測る」で書きました。

よくある質問のページの作り方は、「社内の FAQ の作り方」でまとめています。RAG に読ませる前提で作る場合も、質問の言い方と、答えの根拠の資料を書いておくと、AI が使いやすくなります。

よくある失敗

RAG の資料と精度テスト表

この記事の棚卸しは、Excel の「RAG の資料と精度テスト表」の「資料の棚卸し」シートでそのまま進められます。資料ごとに形式・更新日・持ち主・公開範囲・重複・中身の状態を選ぶと、入れる／直してから入れる／入れないと、直すことが出ます。同じファイルに、質問集で答えの精度を測る表も入っています。記事の記入例（架空の会社の総務・人事の資料）つきです。

RAG の資料と精度テスト表の Excel をダウンロードする

登録は要りません。精度テストの集計は、ブラウザのツール「RAG の精度テストの集計」でも試せます。入力した内容はどこにも送りません。

クリーヴァに相談するとき

クリーヴァは、社内の資料を AI に読ませて答えさせる仕組みや、社内の業務システムの開発をお受けしています。作る前に、どの資料を入れるか、見てよい人をどう分けるかを一緒に整理するところからご相談いただけます。資料の棚卸し表が途中まででも構いません。

おわりに

RAG の答えの質は、読ませる資料で決まります。資料を一つずつ書き出し、個人情報を含む資料は入れず、古い版・重複・持ち主のいない資料・画像の PDF は直してから入れる。部署や役職で見てよい人が限られる資料は、資料ごとに見てよい人を設定する。資料を整えてから作り、答えが間違っていたら資料を直して測り直す。この順番を守ると、使い続けられる仕組みになります。

出典（2026年11月11日に確認）

• 総務省「自治体におけるAI活用・導入ガイドブック〈導入手順編〉第4版」（2025年12月16日）
• デジタル庁「令和5年度 生成AIの業務利用に関する技術検証 結果」（2024年5月、検証は2023年12月〜2024年3月）
• 総務省「令和8年版 情報通信白書」（2026年7月）
• AI セーフティ・インスティテュート「AIセーフティに関する評価観点ガイド 第1.20版」（2026年7月7日）
• デジタル庁「DS-920 生成AIの調達・利活用に係るガイドライン」（2026年6月12日改定）
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月2日）
• AWS「Parsing options for your data source」、Microsoft「Document-level access control in Azure AI Search」、Google Cloud「Data source access control」