市場で注目を浴びているトレンドを深掘りする連載「マネ部的トレンドワード」。今回のテーマは、企業や団体での導入が進んでいる「生成AI」。日々の業務に取り入れることで効率化が図れるという利点がある一方、「ハルシネーション（AIが事実と異なる情報を生成する現象）が不安」「自社に適した情報を生成してくれない」といった課題も出てきているようだ。

この課題を解決する手法として注目を集め始めているのが「RAG（Retrieval-Augmented Generation）」。日本語では「検索拡張生成」と訳されるもので、生成AIが学習していない情報を外部から取得させることでAIの知識の鮮度や正確性を向上させるだけでなく、特定の業界や用途に適した高度な応用も可能とする手法だ。

「RAG」の仕組みや導入するメリットについて、会員数1万人を超えるAI活用コミュニティやAI研修サービスを提供しているSHIFT AIの代表取締役CEO・木内翔大さんに教えてもらった。

求める回答を得やすくなる手法「RAG」

まずは、生成AIのビジネス導入において「ハルシネーション」や「自社にマッチしない」という課題が出てきてしまう理由から聞いた。

「生成AIビジネス導入にあたり障壁となる最大の理由は、AIリテラシー不足だと考えられます。生成AIが業務効率化・自動化に欠かせない技術であることや、その使い方については認識されてきていますが、安全に活用するために必要な技術に関する知見が少ないため、『AIは求める回答を導き出してくれない』という課題が出てきてしまうのです」（木内さん・以下同）

「ビジネスにおいて生成AIを安全に活用するために必要な技術」のひとつが「RAG」というわけだ。

「『RAG』とは、生成AIがユーザーのプロンプト（指示や質問）に答える際、エンベッディング技術を使って、必要な情報をあらかじめ追加する手法です。プロンプトに関連する情報を付け加えることで、AIがその情報をもとに検索や要約を行い、より正確な回答を導き出しやすくなります」

例えば、一般的な生成AIに「有給休暇の申請方法を教えて」と打ち込むと一般的な回答が導き出されるが、企業によって申請方法は異なるため、回答が役に立たないこともあるだろう。しかし、「RAG」を用いて社内の申請方法に関するドキュメントも生成AIに渡すことで、独自の申請方法を回答してもらえるようになるのだ。

「『RAG』を実装すると、まるで社内情報を把握しているかのような回答が出てくるようになります。『ハルシネーション』や『自社にマッチしない』という課題の解決につながるでしょう」

回答の精度を上げる「RAG」の強みと課題

生成AIに特定の知識を学習させる「ファインチューニング」という方法でも、社内情報に精通した回答を得ることはできるが、「RAG」との違いはあるのだろうか。

「『ファインチューニング』は学習するための時間やコストがかかりますし、最新の情報を反映しにくいという弱点もあります。社内で新しいドキュメントが追加・更新された際に、その都度学習し直さなければいけないからです。また、追加学習させたとしても、もともと生成AIが学習している一般的な情報のほうが圧倒的に多いとなると、社内ドキュメント以外の情報も引き出されてしまい、ハルシネーションを防ぎにくいところがあります」

「ファインチューニング」の弱点は、「RAG」には当てはまらないのだろうか。

「『RAG』は情報を学習させるのではなくプロンプトに付加して与えるので、学習コストはかかりませんし、最新の情報を反映できます。システムが自動的に生成AIに対して『この社内ドキュメントを参照して回答してください』と投げかける形なので、一般的な情報よりも社内情報を優先して回答を導きやすくなるという点も『RAG』の強みです」

メリットの大きそうな「RAG」だが、実装においては課題もあるそう。

「『RAG』の実装は、技術的なハードルが高いといわれています。なぜかというと、社内ドキュメントが検索可能な状態で整理されていないからです。生成AIにドキュメントを与えるためには、ある程度の前処理が必要になります。例えば、PDFをテキストデータに変えたり画像にタグ付けをしたり。膨大な量の社内ドキュメントを整理するとなると、時間も手間もかかります」

さらに、「RAG」を動作させるには専門的な技術が必要になるため、社内のエンジニアでは難しい場面もあるという。

「ただ『RAG』を取り入れればいいわけではなく、ハルシネーションを抑える正確性や、社内ドキュメントから的確に検索する精度を確保する必要があります。そのため、『RAG』を実装している企業の多くは、生成AIに詳しい開発会社に依頼しているようです。ハード面とソフト面、両面の課題があるといえます」

AI活用が進んで人に求められるのは「マネジメント能力」

実装にはそれなりのハードルがある「RAG」だが、木内さんが話してくれた強みがビジネスには大きな影響を及ぼすようだ。

「生成AIの導入に関しては自治体が力を入れていますが、理由のひとつに『莫大な情報からの検索が必要な業務が多い』という点が挙げられます。これまでの政策や取り組みのすべてを人力で振り返るのは大変ですが、『RAG』を実装することで業務量がかなり圧縮されます。うまく実装すれば回答のソースとなるドキュメントも確認できるようになるので、さらなる効率化が進みます。20～30年在籍しているベテラン職員でも把握し切れていない情報を組み合わせて回答してくれるので、頼りになりますよね」

企業では社内の最新情報を加味した回答を導き出せる点を活かし、社内情報の検索システムやカスタマー向けのFAQなどで活用されるケースが多いという。

「現状はFAQサイトでの導入が主ですが、過去のナレッジを引き出して回答する手法は、あらゆる業務で活用できると考えられます。例えば、過去の数千～数万点に及ぶ自社製品・サービスの情報をもとに、現代の課題やテーマに合わせたビジネスアイデアを創出してくれるかもしれません。クライアントの情報などを加味することで、攻めの営業を展開することも可能でしょう」

「RAG」の実装が進み、ビジネスに欠かせない手法になっていくと、個々の業務レベルを超えた活用も進む可能性があるとのこと。

「社内情報のすべてを連携することができれば、財務情報や企業戦略をもとに各部署の課題や打ち手を導き出すいわば“マザーAI”のようなものができるかもしれません。社内情報の解像度という点では社長よりも高くなるはずなので、経営方針の提案といった活用も考えられます。現在の生成AIは企業戦略のような抽象的な事柄に対する精度があまり高くないので、すぐに“マザーAI”のようなものが生まれるとはいえませんが、生成AIやLLMの進歩の度合いを考えると、5～10年以内にはAIが企業の意思決定を行う世界になる可能性があるといえます」

「RAG」の活用によってビジネスの進め方は大きく変わりそうだが、人の仕事が奪われてしまうことにならないだろうか。

「AIはユーザーの指示や質問に対して回答や提案を行いますが、勝手に意思決定することはありません。AIが導き出した答えを受け止め、判断し、進めていくのは人の仕事です。私たちはその役割を『AIマネージャー』と呼んでいますが、今後はAIが細かな業務を進め、人がマネジメントしていく世界になるのではないかと想像しています。そのため、マネジメント能力が必要になっていくでしょう」

今後、生成AIのビジネス活用において欠かせない手法になるであろう「RAG」。実装方法やメリットを押さえるだけでなく、活用によって働き方がどのように変わっていくかという点も考えておくとよさそうだ。

（取材・文／有竹亮介　撮影／森カズシゲ）