社内文書検索AI（RAG）は中小企業に必要か

社内文書検索AI（RAG）は何をする仕組みか

普通のAIチャット（ChatGPTなど）は、学習した一般知識をもとに答えます。 自社の規程やマニュアルは知らないので、聞いても的外れな答えが返ってきます。

RAGと呼ばれる仕組みは、質問が来たときに先に社内の文書を検索し、 関係する部分を見つけてから、それをもとに答えを作ります。 「検索してから答える」という2段階になっているのが特徴です。

• 質問を受け取る（例：「有給休暇は何日前までに申請が必要か」）
• 社内の就業規則や過去のQ&Aから、関係する部分を探す
• 見つけた部分をもとに、答えの文章を作る
• 「この部分を根拠にしています」と、元の文書の場所も一緒に示す

一般的なAIチャットとの違いは、答えの根拠を示せる点です。 根拠がない答えを作りにくくなるため、社内資料のように 間違いが許されない用途に向いています。

どんな業務が、どれくらい減るのか

対象になりやすいのは「決まった場所に答えがあるのに、探すのに時間がかかる」業務です。 逆に、答えが文書化されていない業務（経験と勘で判断している業務）は対象になりません。

前提：担当者が社内共有フォルダやファイルサーバーから該当文書を探し、 該当箇所を目視で確認する現状の作業時間をもとに試算。 AI化後の時間は、質問を入力してから回答を確認するまでの時間。 月の問い合わせ件数を1人あたり20〜30件と仮定すると、月5〜10時間が空く計算になります。 実際の削減幅は、文書の整備状況と問い合わせ件数によって変わります。

中小企業でも本当に使えるのか

「RAGは大企業の話で、うちの規模では大げさ」と思われがちですが、 仕組み自体は文書の量に比例して複雑になるものではありません。 むしろ文書量が少ない中小企業のほうが、導入の手間は小さく済みます。

判断基準は企業規模ではなく、次の2つです。

• 社内に「探すのに時間がかかる」文書が実在するか。 規程・マニュアル・過去の対応記録が紙やバラバラのファイルで 眠っているなら対象になります。逆に文書自体がほとんど無い会社では、 検索するものが無いので導入の効果は薄くなります。
• 同じ質問が繰り返されているか。 「有給の申請方法」「返品の対応手順」のように、 複数人が何度も同じ内容を聞いてくる状態なら効果が出やすくなります。 一度きりの質問しか無い業務には向きません。

「10〜100名規模の会社で、総務・経理部門に何人配置するのが適正か」を示す公的統計は 見当たりませんでした（中小企業庁・e-Statの企業活動統計は業種別・規模別の従業者数までで、 部署別の内訳までは公表されていません）。実務上の目安としては、この規模の会社では 総務・経理・営業事務のような問い合わせの窓口になる部署に1〜2名の担当者が就いているケースが よく見られます。その担当者への質問対応をAIに肩代わりさせる形で導入するのが現実的です。

導入までに何が必要か（文書の整備）

RAGは魔法ではありません。AIが答えの根拠にできるのは、 すでに文書化されている情報だけです。順番を間違えると失敗します。

1. どの文書を対象にするか決める。 最初から全社の文書を対象にせず、 問い合わせが多い1〜2種類の文書（就業規則、製品マニュアルなど）に絞る。
2. 文書の版を1つに揃える。 同じ規程の古いバージョンと新しいバージョンが 両方社内に残っていると、AIがどちらを根拠にするか分からなくなる。
3. AIに文書を読み込ませる。 ツールによって手順は異なるが、 多くの場合はファイルをアップロードするだけで完了する。
4. 答えの精度を確認する。 実際によく聞かれる質問を10〜20個試し、 根拠の示し方が正しいかを人が確認する。

この中で最も時間がかかるのは1と2です。 文書を整理する作業そのものは人の手が必要で、ここを飛ばして 「とりあえずツールを入れる」と、精度の低い答えを返す仕組みが出来上がります。

失敗しやすいパターン

• 文書が古いまま更新されていない。 AIは文書に書いてある内容を そのまま根拠にするため、規程が変わったのに古い文書が残っていると、 古い内容を正しい答えとして返してしまう。
• 対象文書を絞らずに始める。 全社の文書を一度に読み込ませようとして、 整理に時間がかかり導入が止まる。
• 答えの検証をしないまま現場に出す。 根拠を示す仕組みであっても、 文書の解釈を間違えることはある。特に金額や日数など数字が絡む質問は、 最初の数か月は人が答えを確認する運用にする。

費用感

国内の主要なRAGサービスの多くは、公式サイトに料金を公開しておらず「要問い合わせ」です。 例えばPKSHA AIヘルプデスクは、公式サイトのFAQで「詳しい料金プランは要問い合わせ」と 明記しています（出典: PKSHA AIヘルプデスク公式サイト、2026年8月時点 https://aisaas.pkshatech.com/ai-helpdesk/）。 一方、自社でAIを組み立てるための海外の開発者向け基盤ツールでは、料金を公開している例も あります。Difyは2026年8月時点でProfessionalプランが年590ドル（月あたり約5,000円弱）から 公開されています（出典: Dify公式サイト https://dify.ai/pricing）。 ただしこれは国内の問い合わせ対応向けサービスとは前提が異なる開発者向けツールのため、 単純比較はできません。統一した料金相場は確認できなかったため、契約前に複数社から 見積もりを取ることをおすすめします。

社内で使っている生成AIチャットに文書を読み込ませる機能がすでに 付いている場合は、追加費用なしで試せることもあります。 契約中のツールに同様の機能が無いか、先に確認する価値があります。

導入の判断基準（チェックリスト）

次の3つに「はい」と答えられるなら、検討する価値があります。

• 同じ質問が、複数人から繰り返し来ている
• その質問の答えは、すでに何らかの文書になっている
• 文書の版が1つに整理できる、または整理する時間が取れる

逆に、答えがまだ文書化されていない、あるいは判断のたびに 状況が変わる業務（個別の値引き交渉、例外対応の可否判断など）は、 現時点では対象から外したほうが無難です。

よくある質問

Q. RAGと普通の社内Wiki・FAQページの違いは何ですか。 Wikiは人が見出しや目次から探して読む仕組みです。RAGは質問を文章で入力すると、 AIが該当箇所を探して答えの形にまとめて返します。探す手間そのものを減らせる点が違います。

Q. 間違った答えを返すリスクはありますか。 あります。文書に書かれていない内容を作ってしまう場合や、 古い文書を根拠にしてしまう場合があります。答えと一緒に示される根拠の文書を、 人が確認する運用を最初の数か月は続けることをおすすめします。

Q. 社外に情報が漏れる心配はありませんか。 ツールによって、読み込ませた文書の扱い方（学習に使うか使わないか、 保存場所がどこか）は異なります。例えばOpenAIは、APIやChatGPT Enterprise経由で 送信したデータを既定ではモデルの学習に使わないと公式に明記しています （出典: OpenAI「Enterprise privacy at OpenAI」openai.com/enterprise-privacy/、 2026年8月時点）。ただしこれは1社の方針であり、ツールごとに扱いは異なります。 契約前に、学習利用の有無と保存場所を個別に確認する項目です。

Q. 導入までどのくらいの期間がかかりますか。 文書の整理にかかる時間次第です。対象文書がすでに整理されていれば数日、 散らばった状態から整理するなら数週間かかることもあります。

Q. IT担当者がいない会社でも運用できますか。 文書をアップロードして使うだけのツールであれば、専任のIT担当者がいなくても 運用できます。ただし文書の整理や更新を誰が担当するかは、事前に決めておく必要があります。