業務の効率化、人材不足のために、生成AIを導入する企業・組織が増えています。しかし、生成AIは誤った回答を出力したり、古い情報しか対応していなかったり、著作権に抵触するリスクがある課題を抱えています。

これに対処できる手段のひとつがRAG（Retrieval-Augmented Generation:検索拡張生成）です。RAGとはどういうものなのか、どのように実装するのかを見ていきましょう。

生成AIの弱点

OpenAIのChatGPT発表以来、さまざまな生成AIサービスがリリースされ、機能がアップデートされています。プロンプトを入力するだけの手軽さで、知りたいことへの回答、プログラミングのコード生成、画像・映像の生成などができます。生成AIで業務にかかる時間を大きく削減できたという企業も多いようです。

ただし、生成AIの出力は必ずしも完璧ではありません。もっともらしい回答が出力され、出典が明記されているにもかかわらず該当の原典が存在しなかったり、回答が誤っていたりすることがあります。

このような誤りを減らし、確度を高めてくれるのがRAG（Retrieval-Augmented Generation＝検索拡張生成）という技術です。

RAGとは？

RAGは、LLM（大規模言語モデル）に検索機能を組み合わせたアーキテクチャです。RAGを利用すれば、生成AIをそのまま使うよりも、回答の精度が上がります。

従来のLLMは、ある時点までの情報を学習し、その後、インチューニング（追加学習）やトランスファーラーニング（転移学習）を必要としていました。出力される内容は学習済みの情報までしか網羅されておらず、生成AIで最新情報を得ることはできないとされていました。

RAGは、リアルタイムで外部情報を取得できるので、最新の情報を含めた内容で出力されます。インターネット上の情報だけではなく、社内のナレッジベースや、専門分野とのデータ連携も可能です。

例えば、法律用語には一般用語と異なる意味を持つ言葉がいろいろあります。日常で「善意・悪意」というときは、良い感情や好意・悪い感情を意味しますが、法律用語では、善意＝ある物事を知らないこと、悪意＝ある物事を知っていることとなり、感情的なニュアンスはありません。

従来の生成AIでは、そこまでの区別をつけて出力することは、プロンプトを工夫しない限り困難ですが、RAGで法律関係のデータと連携すれば、法律に則った回答を引き出します。しくみとしては、プロンプトに入力された事柄について、関連情報を外部から検索し、LLMが生成する流れです。

1. 検索（Retrieval）

プロンプトに基づき、RAGはデータベースやドキュメントなどの外部の情報から検索を行います。検索された内容と、プロンプトの適合度の高いものを、次のフェーズに引き渡します。

2. 拡張（Augmentation）

1のフェーズから渡された情報とプロンプトを組み合わせて、生成AIが回答を作成します。

3. 生成（Generation）

拡張フェーズで作成した情報をもとに、回答を出力します。

RAGの実装

具体的な実装方法をここで詳しく説明することはできませんが、RAGを導入する手順は以下の通りです。

1. データ収集

必要なデータを収集します。生成AIに回答してもらいたい情報に合ったものを選ぶことが大切です。信頼性が高く正確であること、関連情報を広く網羅していること、場合によっては文字データだけでなく、画像や映像も含むこと、回答に必要な自然言語（日本語、英語など）をそろえることがポイントとなります。

2. データの分割

収集データはそのままでは大きすぎるため、500～1000トークン程度に小分け（チャンク）する必要があります。トピックや段落で分割し、それぞれにメタデータを付与することで、関連情報に素早くアクセスできるようになります。

3. テキストの数値化

自然言語のテキストを、AIが読み取れるように数値データ（ベクトル）に変換します。

4. 類似情報の検索

質問（プロンプト）もベクトル化し、分割したデータ（チャンク）と意味が近いものを探します。

5. プロンプト設定

検索して出てきた情報と、プロンプトに渡して、自然言語に変換します。

ナレフルチャットならRAG実装が簡単！

RAGの実装には、各種ツールがリリースされているのでそれを使うことになりますが、現状ではある程度の知識がないと難しいものになっています。

ナレフルチャットは、2024年12月にRAG機能を強化しています。使い方は簡単です。

エージェントメニューから［新規エージェント作成］をクリック。
AIに参照させたいPDFなどのファイルをアップロード。
エージェントの「ベースプロンプト」に適切な内容を記入。
必要に応じて、「マイエージェント」＞［共有］をクリックし、エージェントを社内に共有。

※参考ファイルはテキスト主体で、見出しなどで構造化しておきます。関連した内容を近くにまとめて記載すると、回答精度が上がります。

公式テンプレート公開、RAG機能強化アップデート | 法人向け生成AIチャットのナレフルチャット
https://www.knowleful.ai/info/241224-1

ナレフルチャット、Microsoft SharePointとの連携機能を実装～開発不要で社内データの活用が可能に～ | アプリ開発とクラウドサービス活用支援・ITエンジニア派遣のCLINKS株式会社
https://www.clinks.jp/corp/news/4067/

詳細はこちら：ナレフルチャット - HYPER inc

まとめ

生成AIには誤や古い情報を出力するなどの問題がある
RAGを使うと、生成AIの出力の精度を高めることができる
ナレフルチャットは、簡単にRAG機能をオンにできる