この記事の結論
社内文書をAIで検索して答えさせる仕組みは、多くの場合、社内のマニュアルや規程に答えるAI(RAG)として
流れは、読ませる資料を集めて正本に絞る、資料を小さな単位に分けて探せる形にする、質問が来たらその人が見てよい資料の中から近い部分を探す、その部分をAIに渡して答えさせ、出典を付けて返す、の順です。
主な法人向けのAIのサービスには、この流れを内側に備えたものが多いので、まず既製のサービスで試し、足りない部分がはっきりしてから自作を考えます。
どちらで作る場合も、作る前に決めるのは、既製のサービスで足りるか、どの資料を正本として読ませるか、誰が何を見てよいか、答えにどの資料のどこを示すか、間違いをどう確かめるか、どの範囲で小さく試すか、の6つです。
株式会社bundlyze(バンドライズ)は、
社内AIの作り方は、社内文書に答える仕組みから考える
「社内AI」と
社員から「この
こうした質問に、AIが社内の資料を探して答える仕組みを、RAG(検索拡張生成)と
AIが覚えている知識で答えるのではなく、質問を受けるたびに社内の資料から関係のある部分を探し、その部分をもとに答えを組み立てます。
総務省と経済産業省の「AI事業者ガイドライン」の
一方で、同じ別添は、RAGの精度は読ませる情報に左右されること、使う側は参照するデータが新しく信頼できるものかに気をつけること、外部のデータとつなぐときは重要な情報が意図しない範囲に漏れないよう特に注意することも書いています(総務省:AI事業者ガイドライン(第1.2版)
社内AIができるまでの流れ
技術の言葉をできるだけ使わずに書くと、社内文書に答えるAIは、次の順で組み立てます。
- 読ませる資料を集める。規程、マニュアル、よくある質問の答えなど、答えの元にしてよい資料だけを選び、古い版や下書きを外す
- 資料を小さな単位に分ける。長い規程をそのままAIに渡すのではなく、章や段落くらいの単位に分ける
- 探せる形にする。分けた部分ごとに、言葉の一致だけでなく意味の近さでも探せるよう、索引を作っておく。誰が見てよい資料かの情報も一緒に持たせる
- 質問に近い部分を探す。社員が質問すると、その人が見てよい資料の中から、質問に近い部分をいくつか取り出す
- 取り出した部分をAIに渡して、答えさせる。
「渡した 資料に書いてあることだけで答え、なければそう言う」と 指示しておく - 出典を付けて返す。どの資料のどこを元にした答えかを、答えと一緒に示す
- 記録して点検する。どの質問に、どの資料を拾って、何と答えたかを残し、間違いを直す材料にする
Microsoft は、RAG の仕組みを説明するページで、RAG の品質は、取り出すコンテンツの準備の仕方で変わるとし、索引を作るときに大きな文書を小さな単位(チャンク)に
社内の資料を扱う点については、使う人は承認された内容だけを取り出せる必要がある、としています(Microsoft Learn:RAG および生成 AI - Azure AI Search、
既製のサービスを使う場合、多くは2から6がサービスの内側で動き、社内で手を動かすのは1と7、それに見てよい範囲の設定です。
自作すると、これに加えて2から6の部品を選んで組み、社内の業務システムやチャットとつなぐところまでを自分で持つことになります。
作る前に決める6つのこと
Microsoft の説明のとおり、仕組みの出来は、AIそのものより、読ませる資料の準備と、見てよい人の決め方に大きく左右されます。
作り始める前に、次の6つを決めておきます。
| 決めること | 決めないまま始めると |
|---|---|
| 1. 既製のサービスで足りるか | 試せば分かることに、開発の費用と時間をかけてしまう |
| 2. どの資料を正本として読ませるか | 古い版や下書きをもとに、自信のある口ぶりで違う答えを返す |
| 3. 誰が何を見てよいか | 本来は一部の人しか見られない資料の中身が、AIの答えとして広がる |
| 4. 答えにどの資料のどこを示すか | 社員が答えを確かめられず、結局担当者に聞き直す |
| 5. 間違いをどう確かめるか | 「よく |
| 6. どの範囲で小さく試すか | 全社の資料を一度に入れて、どこが悪いのか分からなくなる |
1. 既製のサービスか自作かを、先に確かめる
社内のファイルを読ませて答えさせる機能は、主な法人向けのAIのサービスに、すでに入っています。
大きく分けると2つの形があります。
- 今使っている保管場所とつなぐ形。 社内のファイルやメールを置いている場所とAIをつなぎ、そこにある資料をもとに答えます
- 資料を置いて使う形。 AIのサービスの中に資料を入れた場所を作り、その場所で質問します
たとえば Microsoft は、法人向けの Copilot が、利用する人が少なくとも見る権限を持っている組織のデータだけを答えに使うと説明しています(Microsoft Learn:Microsoft Copilot のデータ、プライバシー、セキュリティ、
Google も、Google Workspace の Gemini は、利用する人がアクセスできるデータだけを取り出すとしています(Google Workspace:生成AIとプライバシー、
Anthropic の Claude では、プロジェクトという場所に資料を置き、Team と Enterprise のプランではチームの中で共有できます(Claude ヘルプセンター:What are projects?、
すでに社内で使っているサービスがあれば、その中の機能で試すのが最初の一歩です。
自作するかどうかは、次の表のどこで足りなくなったかで判断します。
| 確かめること | 既製のサービスで足りやすい | 作ることを検討する |
|---|---|---|
| 資料の置き場所 | 契約しているサービスの保管場所に、資料がまとまっている | 業務システムの中や、複数の場所に分かれている |
| 見てよい範囲 | 今のフォルダや共有の設定で、見てよい人を分けられる | 部署や役職、取引先ごとなど、細かい条件で答えを変えたい |
| 答えの使い道 | 社員がAIの画面で質問して、答えを読む | 社内の業務システムやチャットの中で答えさせたい、記録を残したい |
| 使う人 | 契約しているサービスのアカウントを持つ社員 | アカウントを持たない人にも、決まった範囲だけ答えたい |
| 確かめ方 | 答えに出典が付き、社員が開いて読める | どの質問にどの資料を返したかを、まとめて点検したい |
表の右側に当てはまる項目があっても、すぐに全部を作る必要はありません。
既製のサービスを使いながら、足りない部分だけを作ってつなぐ形もあります。
考え方はSaaSか、オーダーメイドかにまとめています。
2. 読ませる資料を整理し、正本を決める
AIは、渡された資料が正しいかどうかを、自分で見分けられるとは限りません。
古い版と新しい版の両方を読ませれば、古い版をもとに答えることがあります。
資料を入れる前に、次の点を整理します。
- 古い版を外す。 改定前の規程、昔の申請書の書き方、廃止した手順を、読ませる対象から外す
- 重複をまとめる。 同じ内容が、部署ごとの資料やメールの添付に少しずつ違う形で残っていないか
- 正本を1つに決める。 その資料の最新版がどこにあり、誰が直すのかを決める
- 日付と担当を書く。 資料の最初に、いつの版か、誰が管理しているかを入れておく
- 下書きを混ぜない。 検討中の案や個人のメモは、別の場所に置く
- 秘密の情報を外す。 パスワードやシステムの鍵が、手順書の中に書かれたままになっていないか
食い違う資料が並んでいると、AIの答えも揺れます。
2026年10月5日に、Googleで自社のことを検索してAIによる概要を記録したところ、設立の時期が「2026年5月〜6月」と
会社概要には5月20日と書いていますが、外部の求人や会社紹介の掲載では、7月や5月と、それぞれ違う書き方になっていました。
社外の検索での出来事ですが、社内の資料を読ませるAIでも同じことが起きると私は考えています。
正本を1つに決めるのは、この揺れを減らすためです。
整理しているうちに、
そうした質問は、AIを入れても答えられません。
文書を作る作業として、別に取り組みます。
3. 誰が何を見てよいかを、資料の置き場所で決める
権限の決め方は、1の2つの形で変わります。
| 形 | 見てよい範囲を決めるもの | 気をつけること |
|---|---|---|
| 今使っている保管場所とつなぐ形 | 元のファイルやフォルダの共有の設定 | 共有の設定が広すぎると、AIを通してその中身が見つかりやすくなる |
| 資料を置いて使う形 | 資料を置いた場所を、誰と共有しているか | その場所を共有した人は、置いた資料をもとにした答えを受け取れる |
つなぐ形では、AIは利用する人の権限の中で答えます。
裏を返せば、元の共有の設定が緩いままだと、本来は限られた人しか見ないはずの資料も、その人の答えに使われます。
Microsoft も、保管場所の権限の設定で、適切な人が適切な資料だけを見られるようにしておくことが重要だとしています。
置いて使う形では、人事や給与の資料と、全員向けのマニュアルを同じ場所に入れないことが基本です。
見てよい人ごとに、置く場所を分けます。
AIを入れる前に、共有の設定を一度見直す機会にしてください。
AIを入れると、これまで「場所を
権限の設定に問題があったとき、それが表に出やすくなるということです。
資料を読ませる前に、人事、給与、取引の条件、個人情報を含む資料が、どこに、誰と共有された状態で置かれているかを確かめます。
4. 答えには、どの資料のどこかを示す
社内の質問への答えは、それだけで判断に使うものではありません。
社員が元の資料を開いて確かめられるよう、答えには根拠として、資料の名前と、章や見出し・ページ、それに改定の日付を示します。
既製のサービスの多くは、答えに出典を示す機能を持っています。
たとえば Google は、資料をもとに答えるノートブック型のサービスで、答えに出典が文中で示されると案内しています(NotebookLM ヘルプ:Gemini Notebook の詳細、
試すときは、示された出典を開き、本当にその場所に書いてあるかまで見ます。
あわせて、AIに答えさせない質問も決めておきます。
規程の内容を案内するのはAIに任せられても、
答えの最後に、問い合わせ先を必ず示す形にしておくと、社員が迷いません。
5. 間違いの確かめ方を、試す前に作っておく
生成AIの答えは、正しいとは限りません。
Microsoft も、生成AIの答えが事実であることは保証されないとし、使う前に人が確かめるよう求めています。
確かめるには、試す前に、質問と正しい答えの組を用意しておくと比べやすくなります。
社内でよく聞かれる質問を集め、担当者が正しい答えと、根拠になる資料の場所を書いておきます。
そのうえで、次の4種類の質問を混ぜて試します。
| 質問の種類 | 例 | 期待する動き |
|---|---|---|
| 資料に答えがある | 経費の精算の締め日はいつか | 正しい答えと、正しい出典を示す |
| 資料に答えがない | 資料に書いていない手当について聞く | 「資料には |
| 版で答えが変わる | 改定された申請の方法を聞く | 最新の版をもとに答える |
| 見てよい範囲の外 | 一般の社員の権限で、人事の資料の内容を聞く | 答えない |
間違いが見つかったら、原因を2つに分けて記録します。
探す段階の誤り(違う
探す段階の誤りは、資料の整理や見出しの付け方で直せることが多く、まとめる段階の誤りは、答え方の指示や、答えさせない質問の範囲を見直します。
資料を改定したときにも、同じ質問の組で試し直します。
改定した内容が答えに反映されているかを確かめるためです。
6. 小さく試して、広げるかを決める
いきなり全社の資料を入れず、範囲を絞って試します。
- 1つの分野を選ぶ。 経費、勤怠、社内システムの使い方など、質問が多く、資料がそろっている分野を1つ
- 資料を整える。 2の手順で、その分野の正本だけを集める
- 質問の組を作る。 よく聞かれる質問を十数個集め、正しい答えと根拠を書く
- 少人数で使う。 担当者と、質問をよくする社員数人で、実際の業務の中で使う
- 記録する。 正しかった答え、間違えた答え、担当者に聞き直した回数、確かめるのにかかった手間を残す
- 決める。 広げるか、資料を直して試し直すか、この分野ではやめるかを決める
試す期間の中で、資料を直す担当者も決めておきます。
資料が古くなれば、答えも古くなります。
AI事業者ガイドラインの別添が、参照するデータの新しさに気をつけるよう書いているのは、この点です。
どの業務から試すかの選び方は、AIで業務効率化するなら、どの業務から始めるかにまとめています。
私たちが自社で守っていること
bundlyzeでは、社内の業務の一部をAIとプログラムで自動化してきましたが、パスワードやシステムの鍵のような秘密の情報は、ソースコードやAIとのやり取りに書かず、決まった保管場所にだけ置く決まりにしています。
資料には「そこに
社内の資料をAIに読ませるときも、同じ考え方が使えます。
手順書の中に、ログインの情報が書かれたままになっていることがあります。
読ませる前に資料を見直し、秘密の情報は保管場所へ移しておくと、権限の設定を誤ったときの被害も小さくできます。
社員がAIに入力する情報の決め方は、生成AIを社内で使うときのルールの作り方に、情報が漏れる経路は、ChatGPTの情報漏洩は、どこから起きるのかに整理しています。
私たちは大阪市北区のグラングリーン大阪を拠点にしています。
全国からご相談いただけます。
打ち合わせはWeb会議でも、対面でも可能です。
AI導入支援では、対象の業務の整理から、小さな試作、出力の確認、ツールとの連携、社内のルールと定着までを段階に分けて進め、既製のサービスで足りない部分があれば、システムの開発も同じ会社で受けられます。
AWSの認定資格も持っています。
進め方は、AI導入支援・業務効率化のサービスにまとめています。
この記事を書いた津嘉山は、業務システム開発とAWSを専門とし、自社の事務の仕事にもAIを使っています。
よくある質問
社内AIは、どうやって作りますか?
自作すると、社内で持つことになるのは何ですか?
社内の資料を読ませたAIなら、間違えなくなりますか?
社内のファイルを全部読ませたほうが、便利になりますか?
専用の仕組みを作るのは、どんなときですか?
まず、よく聞かれる質問を書き出す
社内の資料にAIで答えさせたいと考えたら、ツールを選ぶ前に、社内でよく聞かれる質問と、その答えが書いてある資料の場所を書き出してみてください。
答えの資料が見つからない質問や、資料が何か所にもある質問が見えてきます。
それが、AIを入れる前に整えるところです。
AIの活用について、
いまの状況をお聞かせください
「何から
相談の前に、いまの見え方だけ知りたい場合は
4つのAIに10の質問をした記録と、サイトの点検の結果を、30分ほどでご説明します。費用はかかりません。