プロダクトにAI「エージェント」を組み込むかどうかのポイント

プロダクトにAIでないとできないような要求が発生した場合において、「AIエージェント」を組み込むのか、または単発の命令を解釈して出力するだけの「AI」で良いのか、その判断ポイントを考える。

はじめに結論を述べると、AIに再帰的処理をさせるかどうかが判断基準であると考えている。

まず、AIエージェントとは目的を達成するために自律的に推論や行動を繰り返すシステムだと理解している。 https://cloud.google.com/discover/what-are-ai-agents

AIエージェントは単発でAIを実行するのと異なり様々なコンポーネントが必要となり、金銭的なコストや運用開発コストの観点でそれなりに負荷がかかる側面がある。

なので基本的にテキストの構造化や画像のOCRを行うだけであればAIエージェントを構築するのは過剰である。

では、どのような要求が発生した場合にエージェントとしての機能が必要になってくるのかというと、自律性が求められる、つまりAI自身が処理のフローを決めて期待する出力が得られるまでループする必要がある場合である。

具体例を挙げると、「RAGやWebの公開情報から期待する情報を取得する」といった要求が考えられる。 この場合、期待される出力を構成するためにRAGだけでなくWebの公開情報からもクエリを作成してデータを取得してくる必要がある。 その時AIはRAGから得られた情報をもとにWebの公開情報を取得するためのクエリを構築したりもしくはRAGのみで出力を構築するなどの処理の判断をする必要がある。

つまりは、フローの中で都度適切なツールを選択して期待される出力を構築するための処理を再帰的に繰り返す必要が出てくるのである。

この要求を自前でやろうとすると再帰処理の条件などの管理や耐久性などの考慮事項が増えてくるためかなり大変になる。 そういった場合はライブラリやマネージドなサービスを使用するのが良いだろう。