ルールベース自動化の限界: ワークフローで足りる領域とエージェントが必要な領域

1. 多くのAI自動化はエージェントではなくワークフロー

最近のXのシグナルでは、ルールベース制御は行き止まりでE2Eエージェントが必要だという主張がありました。例外が増えると固定カテゴリが壊れるという点は正しいですが、そこから無制限の自律実行へ飛ぶのは危険です。

実際の顧客対応はきれいなカテゴリに収まりません。配送質問に返金リスク、VIP文脈、欠落データ、商品説明の問題が混ざることがあります。

問いはワークフローかエージェントかではありません。どの段階を固定し、どの段階を動的に開くかです。

2. ワークフローが得意なこと

Anthropicは、ワークフローをLLMとツールが事前に定義されたコード経路を進むシステムとして説明しています。入力、手順、失敗時の扱い、評価基準が見えている場合に強い構造です。

顧客対応なら最初に必要なのは自律エージェントではなく、分類、欠落項目チェック、注文照会、返信下書き、リスク表示、人間の承認キューです。

• 注文番号、問い合わせ種別、日付、金額など入力が構造化されています。
• 経路が短く、次の処理が見えています。
• 出力が下書きや内部メモなので失敗コストが低いです。
• 分類精度、欠落項目、ポリシー遵守を評価できます。

3. ルールベース自動化が詰まる場所

ルールは例外が増えるほど爆発します。また、途中結果を見ないと次の行動が決められない業務では、固定された分岐表だけでは足りません。

エージェントをめぐるコミュニティ議論でも、現在のエージェントは本当に自律的なのか、それともLLMラッパー付きのワークフローなのかという混乱が繰り返されています。

ラベルより重要なのは設計です。ツール選択、検証、比較、再計画が必要な領域では、エージェント的な構造が役に立ちます。

• カテゴリが増え続け、互いに重なります。
• ツール結果が返るまで次の手順が分かりません。
• 確認、比較、再計画が必要です。
• 人が毎回、このケースは例外だと説明しています。

4. エージェントが向いている仕事

エージェントは、目標は明確だが道筋が固定できない仕事で役立ちます。複雑な顧客問題の解決、週次問い合わせパターンの原因探索、競合オンボーディング比較と改善案作成などです。

OpenAIはエージェントをモデル、ツール、instructions、guardrailsの組み合わせとして説明します。ツールを渡すだけでは足りず、各ツールを標準化し、権限を付け、テストし、観測できる必要があります。

LegoMemのような研究は、過去の手順や修正を再利用する手続き記憶の重要性を示しています。良いエージェントは一回の回答ではなく、次の実行を良くする記憶を持ちます。

5. E2Eは無制限を意味しない

E2Eという言葉は魅力的ですが、会社の業務では最初から最後まで無制限に実行するという意味で使うべきではありません。目標を理解し、必要な手順を踏みつつ、権限、ログ、ロールバック、承認の範囲内で動くという意味に近いです。

返金、契約、公開メッセージ、支払い変更、アカウント変更、機密情報処理などは、十分な検証が蓄積されるまで人間の承認を残すべきです。

• 読み取りツールと書き込み・実行ツールを分ける。
• 再試行、時間、コストに上限を付ける。
• 使用ツール、アクセスデータ、判断理由をログに残す。
• ルールベースのガードレールとモデルベースの検査を併用する。

6. 実務での導入順序

まず見えているワークフローを固定します。そのうえで、ルールが繰り返し壊れる例外ポケットを見つけます。エージェント的な動作はそのポケットだけに与え、最終実行はレビューの後に置きます。

この方法では学習ループも作れます。人の修正から、どのルールを追加すべきか、どの知識が欠けているか、どの業務がさらに自動化できるかが分かります。