この特集ではここまでRAG（検索拡張）を導入する際に企業が陥りがちな落とし穴とそれを回避するノウハウを紹介してきた。第4回では「RAGの未来」をテーマに、技術の最新動向や今後の展望を解説する。
RAGの検索精度を高めるには、検索対象のデータ構造を工夫するという方法もある。そこで注目されているのが「ナレッジグラフ」だ。米Microsoft（マイクロソフト）は2024年2月、ナレッジグラフを利用したRAGの手法「GraphRAG」を発表し、同年7月に実装を公開した。また米Google（グーグル）は同年8月、分散型データベース「Spanner」でグラフデータを扱える新機能「Spanner Graph」を発表した。これを使えばナレッジグラフを検索対象とするRAGを実装できる。
ナレッジグラフでは、様々な情報を体系的に連結する。日経BPを例に取ると、発行媒体の日経クロステックや、最寄りである東京地下鉄（東京メトロ）の神谷町駅など日経BPに関する情報が体系的に結ばれる。グラフ構造をたどることで情報同士の関係が分かるため、ドキュメントを順番に参照する従来のRAG手法よりも早く必要な情報にたどり着ける可能性がある。
さらにパナソニックコネクトは2024年10月、RAGでナレッジグラフを参照する際にAI（人工知能）エージェントを利用する新しい手法を発表した。
RAGでナレッジグラフを検索する際は、類似度計算という手法を採用するのが一般的だ。しかし、パナソニックコネクトの孫蕾技術研究開発本部知能システム研究所知能システム研究部ジェネレーティブAI課シニアエキスパートは「回答に近い内容がない場合、類似度計算で正確な回答を探すのは難しい」と指摘する。また質問が複雑になると、不要な周辺情報まで含まれてしまう可能性があるという。
そこで、パナソニックコネクトでは「ODA（Observation-Driven Agent）」という新しいAIエージェントフレームワークを作成した。独自の観察駆動型AIエージェントを立ち上げ、観察・行動・反省の3段階で推論能力を強化する。これにより「回答の当たりをうまく付けられる」（パナソニックコネクトの大坪紹二技術研究開発本部知能システム研究所知能システム研究部シニアマネージャーAI技術領域エバンジェリスト）といったメリットが生まれるという。
まず「観察」の段階で、AIエージェントがナレッジグラフを参照する。次に「行動」の段階で、AIエージェントは回答生成に必要な知識を引き出す。続いて「反省」の段階で、不要な情報を削除して必要な情報をメモリーに記憶する。
この反復プロセスを通じて、AIエージェントが質疑応答を自律的に実施し、より精度の高い回答を生成する。パナソニックコネクトが2024年8月に発表した論文によると、この手法を利用した場合、推論の精度が従来よりも12.87％向上したという。
