【生成AI】社内での活用が進まない要因と解決法

　生成AIを個人で使う場合でも、業務で活用する場合にも、AIが生成するコンテンツの質に直結するため、生成AIにとってプロンプトはとても重要です。

　そこで当社は2025年1月に、LLMの仕組みとプロンプトのテクニックを説明するセミナー「仕組みから理解する LLMプロンプトセミナー」を開催いたしました。

セミナーの要点

　本セミナーには多くの方にご参加をいただきました。ありがとうございました。
セミナーでは、プロンプトの重要性をLLMの仕組みに遡って分かりやすく解説し、目的の回答を生成AIから得るためのプロンプトテクニックを、いくつかご紹介いたしました。

お客様のお困りごと

　生成AI、特にChatGPTやCopilotなどのLLMについて、セミナー後のアンケート結果やお客様からは、「社内で生成AIの活用を広めたいが難しい」という声が多く聞かれました。

これにはいくつかの要因があるようです。
　◆情報を学習されるなどセキュリティが心配
　◆正確な回答が得られない
　◆使う人の知識不足でなかなか欲しい回答が得られない
　◆自社で必要なファインチューニングができない
　◆そもそも何から検討すればよいか分からない

当社のソリューションでお困りごとを解決へ

　当社では、お客様のご懸念点の解消にお役立ていただける、生成AI関連のソリューションをご提供しております。

安全安心に構築します

◆セキュリティが心配というお客様には、貴社専用ChatGPT環境構築サービスをご案内いたします。このサービスは、貴社でお使いのMicrosoft Azure環境に、貴社専用のChatGPT環境をセキュアに構築するサービスです。

　
　貴社のAzure環境にChatGPT等のLLMを構築することで、プロンプトに入力した情報を学習されることはなくなります。
　貴社独自の情報は、RAGを構築して情報の外部流出を防ぎつつ、活用することが可能です。
　さらに、閉域網接続により社外からの接続の場合でもセキュリティを担保できます。

　また、ユーザーインターフェースには「Dify」というツールで、誰でも簡単にRAGチャットボットやワークフローやAIエージェントを作成可能です。

　AIエージェントを活用することで、業務の効率化がより推進されます。

プロンプト入力を強力サポート

　◆生成AIの使用に慣れていないためなかなか欲しい回答が得られないというお客様には、望んだ回答を得られやすくするテンプレートの作成も承ります。
　これは、当社が開催した「仕組みから理解する LLMプロンプトセミナー」でご紹介したプロンプトテクニックを盛り込んだテンプレートになります。
　貴社業務に合わせたテンプレートを作成しますので、プロンプト入力のあいまいさが原因で回答が違ってくることを防ぐことができ、何度もプロンプトに入力しなおす必要がなくなります。

当社内の特殊な業務で活用したいが・・・・

　◆当社内の特殊な業務で活用したいが、LLMが専門知識を学習しておらずうまく回答してくれない為、導入を控えていらっしゃる場合は、専門知識を外部から注入するRAGというテクニックとプロンプトテクニック、AIエージェントを組み合わせて、最適な回答に近いが得られるようにしていく方法など、お客様の業務やご要望に合わせた方法を、当社技術者とのディスカッションを行ったうえで、ご提案いたします。

[RAG]社内のLLMサービスの精度が悪い

　◆テキストやWord、PDFの情報から回答を生成するRAGを導入したが正確な情報が得られないというお客様には、精度向上のためのアドバイスが可能です。

正しく情報が記載されたドキュメントをアップロードしているにもかかわらず精度が得られない場合、LLMに正しく文脈伝わっていない可能性があります。
この場合、アップロードするドキュメントをLLMが理解しやすいように修正してあげることが必要になります。
　人向けに作成されたドキュメントは、人が理解しやすいように絵や図や表が盛り込まれていることが多いですが、実はこのままだとシステムは扱い辛く、結果的に精度低下の要因になります。
絵や図の情報を文章として書き起こしたり、文章を構造的に表現したりするといったことが必要になります。