Azure OpenAIを活用したチャットボット構築サービス

[概要] お客様が利用するTeams等のコミュニケーションツールからAzure OpenAI（ChatGPT）を呼び出し、気軽にAIに触れることができる環境を提供します。 Azure Cognitive Serchを組み合わせることで、お客様がこれまで蓄積してFAQや問い合わせ内容、マニュアルなどを検索し、より最適な回答結果を導くことができます。 ボット部分はAzure Bot ServiceとApp Serviceを利用することで、より柔軟な動作や他システムとの連携を考慮した開発を行います。

また将来的にはお客様の業務システム等への連携も可能となり、より本格的なAzure上での開発に繋げることが可能な環境となります。

[詳細] 本サービスは3つのパートに分かれています。

①チャットボット構築 お客様が利用する既存チャットアプリケーション(Teams)上に、Azure OpenAI(ChatGPT)に接続されたAIチャットボットを構築します。 GPTモデルは Azure OpenAI Service上に構築し、想定用途に応じた基礎的なプロンプトの設計・調整を行います。

②文章検索機能構築 構築したチャットボット環境に「Azure Cognitive Search」を構築・接続し、チャットボットに社内文書の情報の検索・参照機能を追加します。 参照結果をAzure OpenAI(ChatGPT)に渡すことで、より正確な回答の生成を目指すことができます。

③精度向上対応 ChatGPTや文章検索の精度を保証することは難しく、またお客様が目指すシステム増によって必要とする精度は異なります。 私たちは、構築したチャットボットや文書検索機能の応答・検索の精度向上を中長期で伴走支援します。

具体的には以下の対応策となります。 1.システムロールプロンプト Azure OpenAI(ChatGPT)の内容を変えることで回答結果や回答結果のフィルタリング等を行い精度向上を目指します。 2.インデキシング: インデキシングは検索精度に大きな影響を与えます。Azure Cognitive Searchでは、データソースからデータを取り込み、それを検索可能な形式に変換します。このプロセスを最適化することで、検索精度を向上させることができます。 3.検索モード: Azure Cognitive Searchでは、全文検索モードと単語検索モードを選択できます。全文検索モードは、文書全体を検索対象とします。一方、単語検索モードは、特定の単語やフレーズを検索対象とします。検索モードを適切に選択することで、検索精度を向上させることができます。 4.ランキング Azure Cognitive Searchでは、検索結果のランキングをカスタマイズすることができます。これにより、より関連性の高い結果を上位に表示することができます。 5.検索結果のフィルタリング: Azure Cognitive Searchでは、検索結果をフィルタリングすることができます。これにより、不要な結果を排除し、関連性の高い結果だけを表示することができます。 6.ファイル分割: 大きなファイルを小さなファイルに分割することで、検索精度を向上させることができます。これは、特に大きなテキストファイルやPDFファイルを検索する場合に有効です。 7.AIエンリッチメント: Azure Cognitive SearchのAIエンリッチメント機能を使用すると、検索インデックスに追加の情報を追加できます。これには、キーフレーズ抽出、エンティティ認識、画像解析などの機能があります。これらの情報を使用して、検索結果をより精度高くフィルタリングしたり、ランキングしたりすることができます。

これらの機能をお客様の要件に合わせ調整することで精度向上を目指すサービスです。