ケーススタディ：LLMとRAGを活用したAI社内ポリシーチャットボット

背景

組織の成長に伴い、従業員が人事ポリシー、ITセキュリティガイドライン、休暇規定、出張費の精算手続きなどの社内ポリシーに関する質問に迅速に答えを見つけることが難しくなっています。これらのドキュメントは通常、長文でさまざまな形式で保存されており、検索しづらい状況です。
この課題を解決するために、Large Language Models（LLM）とRetrieval-Augmented Generation（RAG）を活用したAIチャットボットのPoC（概念実証）が開始されました。目的は、従業員が自然言語インターフェースを通じて、正確かつ文脈に即した情報を取得できるようにすることです。

課題

• 従業員がポリシー情報にすぐアクセスできる手段がなかった

• ドキュメントを手動で検索するのは時間がかかり非効率的

• 人事および管理部門に同じような問い合わせが繰り返され、業務負荷が増加

• ソリューションはデータのプライバシーを確保し、外部サービスに情報を開示しない必要があった

ソリューション

ドキュメントの取り込みとインデックス作成

• 対応ファイル形式：PDF、DOCX、TXT

• ドキュメントは段落単位で分割され、Sentence Transformersを用いて埋め込み生成

• 埋め込み情報は高速検索のため、ローカルのFAISSベクターデータベースに保存

LLMとRAGの統合

• LangChainを使用してOpenAI GPT-4を統合

• ベクターストアから関連コンテンツを抽出し、LLMの回答を文脈に基づいて生成

• 全ての回答に出典ドキュメントとセクションの参照を含め、透明性を確保

クエリインターフェース

• ReactでシンプルでレスポンシブなWeb UIを開発

• ユーザーは質問を入力し、出典付きで明確な回答を確認可能

セキュリティと管理機能

• PoCでは簡易ログイン機能を実装、将来的なSSO統合も視野に

• ローカルでのドキュメントおよび埋め込み情報の保存により、データのプライバシーを確保

• オプションの管理モジュールで、ドキュメントのアップロードや利用状況のモニタリングが可能

結果

活用例：

• 「病気休暇の会社規定は？」
  　→ 「従業員は年間12日の有給病気休暇を取得できます。」【HR_Policy.pdf, セクション3.2】

• 「未使用の有給休暇は繰り越せますか？」
  　→ 「最大5日まで繰り越し可能です。」【Leave_Policy.docx, 条項4.1】

• 「フィッシングメールを報告する手順は？」
  　→ 「メールを infosec@company.com に転送し、削除してください。」【IT_Security_Guidelines.pdf, ページ8】

結論

このPoCにより、LLMとRAGを用いた社内ポリシーに関する質問への回答ソリューションの有効性が実証されました。チャットボットは、高精度かつ文脈に基づいた回答を出典付きで提供し、HRや管理部門の負荷を軽減するとともに、従業員満足度の向上に貢献する可能性を示しました。