大規模言語モデルによる「永遠のベテラン社員」の創造
～製造業の事故・トラブル未然防止に向けた
失敗学・自社ナレッジの高度活用～
2024年2月13日
製造業では、製品事故に伴うリコールや工場における火災・労働災害など事故・トラブルが絶えず、未然防止が喫緊の課題である。主な発生原因の一つは、作業前や設備・機械設計時の調査・検討不足によるヒューマンエラーであると推察する。社内外には業務に関するナレッジ（本インサイトでは、電子化されたテキストデータを対象とする）が積み上がっているが、量が膨大であること、解を導くために必要なナレッジが点在していることなどが原因で、ナレッジを十分に活用できていない。
この解決手段として、社内外のナレッジをインプットした大規模言語モデル（LLM：Large Language Model）の活用が挙げられる。有効性はあると思われる一方、特定のデータをインプットしたLLMシステムを利用している企業はまだ少なく、その理由として自社ユースケースおよび得られる具体的な効果が不明確であるためだと考察する。
そこで、アビームコンサルティングは、企業へユースケースの検討環境を提供すること、および事故・トラブルの未然防止への有効性を検証することを目的に、失敗学の第一人者である東京大学 名誉教授の畑村洋太郎先生と共同で失敗学のデータをインプットしたLLMシステム「失敗学コンサルタント」を開発した（期間限定で無償提供予定、詳細は後述）。「失敗学コンサルタント」に作業の注意事項などを質問すると失敗に関する気づきを得ることができ、さらに自社ナレッジを追加でインプットすることでベテラン社員以上のアドバイスを提示するLLMシステムを構築できるため、事故・トラブルの未然防止に大きく寄与するとともに新たな価値を創出するサポートも可能になると考えている。
本インサイトでは、製造業の事故・トラブルの現状を踏まえた上で、未然防止策としてLLMシステムの活用についてまとめる。
目次
製造業の事故・トラブルの推移と原因
減少しない製造業の事故・トラブル
製造業では、自動車や電化製品などの製品事故に伴うリコールや工場・プラントにおける火災・漏洩・労働災害などにより、人の死傷などの人的損害や機器の損壊・生産の機会損失・製品回収などの金銭的損害が発生することが大きな問題である。一例として危険物施設における火災・流出事故の推移を図1に示す。この図での危険物とは、引火・発火性を有する物質（ガソリン、灯油、油性塗料など）であり、生産や貯蔵には法律上の定めがある。厳格な管理が求められる危険物施設であっても、危険物施設単位での火災や流出事故件数は増加傾向であり、事故・トラブル防止は喫緊の課題であると言える。
図1 危険物施設1万施設当たりの火災事故および流出事故の件数の推移
出典：消防庁「令和4年中の危険物に係る事故の概要」
作業前や設備・機械設計時の調査・検討不足によるヒューマンエラー
図2の通り、危険物設備の火災事故・流出事故の原因の大部分がヒューマンエラー（操作確認・維持管理・監視不十分、操作未実施、誤操作、設計・施工不良など）である。設備不具合と分類した腐食疲労等劣化、破損、故障においても人の管理により発生を抑制することができるため、一部はヒューマンエラー（管理不十分など）が要因と考えている。ここでヒューマンエラーの発生原因について考察する。主な原因の一つとして、作業前や設備・機械設計時の調査・検討不足があると考えている。作業前にマニュアルや過去のKY（危険予知）活動の内容を確認し、作業内容や危険個所などを把握することで作業の確実性は向上し、また設備・機械設計業務においては過去の類似設計検討書、変更管理検討書（設備や作業を変更する際にリスクを洗い出すための検討書）や関連するトラブル事例を参照することで検討すべき項目がわかり、設計ミスを予防することができる。このようにマニュアル、設計検討書、変更管理検討書、トラブル原因検討書など様々なナレッジを調査し、検討に活用することでヒューマンエラーの防止につながるはずだ。
図2 令和4年中の危険物施設における事故発生要因（左図：火災、右図：流出）
出典：消防庁「令和4年中の危険物に係る事故の概要」
最大活用できない社内外ナレッジ
一方、社内外には業務に関するナレッジが積み上がっているが、量が膨大であること、解を導くために必要なナレッジが点在していることなどが原因で、ナレッジを十分に活用できていないと推察する。実行する作業/設備・機械設計に関連しそうなナレッジをキーワード検索することはできるが、該当したナレッジを一つ一つ読み、参考となる記載の有無を確認する必要があるため、作業工数は大きい。結果として、過去、他の人が精緻に検討した結果は活用されず、類似の検討に多大な時間を割くことや類似トラブルが発生してしまう可能性があると考えている。これまでは社内のベテラン作業員などが過去のナレッジを記憶して適宜アドバイスしていたケースも多いと考えられるが、高齢化に伴い退職していくことが想定されるため、今後も業務品質を維持向上させるためには社内外に眠っているナレッジの有効活用が必須となる。
大規模言語モデルによるナレッジの活用
大規模言語モデルで実現できること
ナレッジの有効活用の手段として、ChatGPTで話題となった大規模言語モデル（LLM：Large Language Model）の活用が挙げられる。大規模言語モデルとは、インターネット上の大量のテキストデータを学習したAIであり、高い解析力と自然言語処理能力により文章の生成、要約、翻訳、情報提供などを可能とする。
一方、通常の大規模言語モデルは汎用的なタスクに活用することはできるが、社内文書のような自社特有のナレッジが入っていないため、自社の業務に対して適切なアドバイスを提示することが難しい。
そこで我々は、検索によって生成機能を強化する技術（RAG : Retrieval-Augmented Generation、検索拡張生成）を活用し、特定のデータ（ナレッジ）をLLMシステムにインプットすることで、自社の業務に合ったLLMシステムを構築した。この技術により社内外の膨大なナレッジから自社の業務に合う情報を文章として提示することが可能となる。
導入課題：自社ユースケースと効果が不鮮明
特定のデータをインプットしたLLMシステムの構築は技術として実現可能であり、有効性はあると考えられているが、現時点で活用している企業は多くない。その理由は、実際にRAGを用いたLLMシステムに触れたことがないため、自社ユースケースやそれにより得られる具体的な効果が不鮮明であり、導入の検討段階に至っていないことが挙げられる。
失敗学×大規模言語モデル＝失敗学コンサルタント
この導入課題を克服する一つの方法として、アビームコンサルティングは、失敗学の第一人者である畑村洋太郎先生と共同で、失敗学のデータを投入したLLMシステムを開発し、有効性を検証した。
失敗学の高度活用
失敗学は、事故や失敗発生の原因を解明し、経済的打撃を起こしたり、人命に関わったりするような事故・失敗を未然に防ぐ方策を提供する学問である。失敗学の特徴は、通常事故・トラブルの原因分析で行う物理的原因の解明、事象の解明とは別に、人間を主な分析対象としている点である。不具合事象が発生した際、人間の「失敗行動や動機的原因」と「不具合事象」の関係を分析し、その関係性を一般化（知識化）すること、および一般化した知識を別の作業や異なる職種の作業に当てはめることで未だ発生していない失敗を想定し、防止策を立案することを提唱している。事故・トラブルの未然防止の観点から、製造業において既に失敗学を活用している企業は多い。今回、LLMシステムに失敗学のナレッジをインプットすることで事故・トラブルの未然防止につながる気づきをユーザーにピンポイントで提示することができれば、失敗学をより高度に活用ができると考えた。
「失敗学コンサルタント」の有効性
今回、インプットデータは株式会社畑村創造研究所が有する書籍や報告書などの文献、特定非営利法人失敗学会が有する失敗知識データベース、実際の設計研究会が有する実際の設計シリーズの書籍である。具体的な作業の注意点を確認する問いかけに対して、通常のLLMシステムでは一般的な回答（「安全に気を付けてください」など）のみとなるが、「失敗学コンサルタント」は失敗学の知見や類似の失敗事例から作業の注意事項をピンポイントでアドバイスすると共に事例のリンク先を提示するため、膨大な失敗学のナレッジの中から適切な情報のみを得ることができるパワフルなソリューションになった。加えて異なる業種の失敗事例から共通点を抽出し、アドバイスを提示したことから、失敗学の「知識化」に近い挙動も確認した。
図3 「失敗学コンサルタント」 概要（ユースケース：プラントの設備改造検討）
自社ナレッジ×大規模言語モデル＝永遠のベテラン社員
さらに、「失敗学コンサルタント」を起点とし、マニュアル、トラブル原因検討書、設計検討書、変更管理検討書などの自社ナレッジを投入することで、自社業務に特化したLLMシステムを構築できる。設備・機械設計時や作業前に懸念点や検討すべき事項を自社特化型LLMシステムに質問することにより、あらゆることを知っているベテラン社員の経験知以上に有益なアドバイスを即座に取得できるようになる。発展的な活用として、対話形式のみではなく、業務フォーマット（Excelなど）とLLMシステムを連携することで、業務フォーマットに記載した検討内容に対し、レビューやアドバイスを自動的に得ることも視野に入れている。得られた回答を基に人が検討することは必須であるが、網羅的なアドバイスにより検討・調査不足による設計ミスや作業ミスを未然防止することが期待できる。
また、自社特化型LLMシステムは事故・トラブルの未然防止などの課題解決だけではなく、新たな価値創出のサポートにも活用できる。例えば各事業所で実施した生産効率化や省力化などの改善活動に関する報告書をLLMシステムへインプットすることにより、全社共通で改善活動のヒントを得ることができるため、収益改善や省力化の底上げにつながる。
このようにLLMシステムは企業の課題解決や新たな価値創出に活用することが期待でき、且つ今後もLLMシステムの高度化は継続すると予想されることから、製造業においてはLLMシステムを活用することを前提に、業務プロセスやデータ蓄積方法を検討していくことが必須になると考えている。
図4 自社特化型LLMシステム 概要
なお、アビームコンサルティングでは、多くの企業とユースケースを検証し、活用の裾野を広げるために「失敗学コンサルタント」の無償提供を予定している（期間限定、利用企業側での新たな環境開発は不要）。実際に触れることで、特定のデータをインプットしたLLMシステムで実現可能なことや自社ユースケースを明確化できるため、興味のある企業担当者の方はぜひ本サービスを活用していただきたい。
今後もアビームコンサルティングは、LLMシステムをはじめ、様々な最先端のテクノロジーの活用を促進することで、社会・クライアントの課題解決への貢献を目指していく。
