社内知見検索システムを活用した 大規模言語モデル導入支援サービス - ABeam LLM Partner

ChatGPT（OpenAI 社）の登場以降、企業のAI 利活用の在り方は大きく変化しています。従来のように特定の定常的な業務をAIに代替させるだけでなく、非定常的な業務もAIに支援させるべく、大規模言語モデル（以下、LLM）の導入が進められています。しかし、通常の大規模言語モデルは翻訳や要約等の汎用的なタスクでは力を発揮するものの、 社内事情を加味した業務をこなすことは難しく、十分な導入効果が得られていないのが現状です。アビームコンサルティングは、検索によって生成機能を強化する技術（RAG : Retrieval-Augmented Generation）を活用したLLMシステム
（ABeam LLM Partner）で、社内事情を加味した業務を実行するAIを構築します。これにより、社内文書の効率的な業務活用を促進し、組織全体の生産性向上に寄与します。

一般に、LLMの学習データには、特定の組織や業界の内部情報を含んでいないため、社内文書のような特定のドメインに関連する質問に回答を正しく生成することができません。

そのため、上記のようなユースケースでは、適切な回答を返すことができず、十分な導入効果が得られていないのが現状です。

ABeam LLM Partnerシステムとは、各部署の業務に必要な情報をインプットした上で回答を生成するLLMシステムです。従来のLLMシステムと異なり、各部署で自身のニーズに合わせたカスタムデータベースを構築し、それぞれが最適な大規模言語モデル環境を使用できるため、専門的な情報へのアクセス、テキスト生成、知識の共有などが迅速かつ効率的に行えます。質問応答、自動要約、文章生成などのタスクにも対応しており、組織全体の生産性向上に貢献します。

過去の提案資料から類似の案件を抽出し、複数の提案資料から示唆を抽出してアドバイスを生成するシステムです。専門知へのシームレスなアクセスにより、営業活動の高度化や属人化の排除を実現します。

自然文の問い合わせ内容に応じて製品DBを検索し、顧客の望む最適な製品をレコメンドするシステムです。最新の製品DBにアクセスし、自然文で顧客のニーズを引き出して最適な商品提案を行います。

LLMシステムの活用方法の検討や導入効果の検証には、 LLMの性能と限界に関する知見の共有、適切な方法での精度検証が課題となります。 アビームコンサルティングでは、双方向のディスカッションを通じてLLMの知見や各部署のニーズを共有した上で活用方法を検討し、 試用期間を通じて精度検証と改善が可能です。加えて、アナログ情報のデジタル化支援や、ユーザー向けトレーニングも提供可能です。