AIサブスク費用を減らす方法: 高いモデルを減らすのではなく、仕事を正しく分ける

1. 概要: AI費用は運用の中で漏れる

チームがAIツールを使い始めると、最初に「どのサブスクを買うべきか」と考えがちです。大事な問いですが、その前に「私たちはAIに何を繰り返し頼んでいて、なぜ毎回いちばん高いレイヤーが必要なのか」と聞くべきです。

OpenAIの費用最適化ガイドは、不必要なリクエストを減らし、入力と出力のトークンを減らし、精度が維持できるなら小さいモデルを使うという方向を示しています。Anthropicのプロンプトキャッシュ文書も同じ方向です。安定して繰り返すコンテキストは、毎回新しく処理するのではなく再利用できる構造にすべきです。

今回の調査では、ローカルのXインボックスにも同じ痛みが出ていました。リポジトリ全体を何度も送る、PDFを丸ごと貼る、簡単な仕事まで高いモデルに送る、検証不足で人間が直す。X上の数字やモデル性能の主張は事実としては使わず、どこで費用が漏れるかを見る現場シグナルとして扱いました。

2. やさしい用語: トークン、コンテキスト、キャッシュ、RAG、ルーティング

トークンはAIが読む、または書く小さな文字の単位です。簡単に言えばAI作業量の単位です。入力トークンと出力トークンが増えるほど、費用と待ち時間が増え、関係ない情報が混ざる余地も増えます。

コンテキストは、AIに仕事をさせるときに一緒に渡す資料セットです。指示、ファイル、過去の会話、SOP、例、文書、ツール実行結果、今回の依頼が含まれます。長いコンテキストウィンドウは大きな机のようなものです。机が大きいからといって、上に置いた全書類を正しく使うとは限りません。

プロンプトキャッシュは、毎回繰り返す前半部分を再利用する仕組みです。RAGまたは検索拡張生成は、大きな知識ベースから必要な資料だけを探して添付する方法です。ルーティングは仕事を合う道具へ送る配車表です。検索、小さいモデル、コーディングエージェント、プレミアム推論モデル、人間レビューのどこへ送るかを決めます。

• トークン: AIが読む、書く作業量の単位。
• コンテキスト: 作業と一緒に渡す資料セット。
• プロンプトキャッシュ: 繰り返す前半部分を再利用する仕組み。
• RAG/検索: 全部を貼らず、必要な根拠だけを探す方法。
• ルーティング: 仕事を合う道具へ送る配車表。
• レビュー費用: 人が結果を確認し、直し、証明する時間の費用。

3. 四つの漏れ: 繰り返しコンテキスト、誤ったモデル、再試行、手戻り

一つ目の漏れは繰り返しコンテキストです。同じポリシー、リポジトリ要約、PDF、例、ツール定義を毎回送り直します。プロンプトキャッシュ、ソースカード、永続メモが必要なのは、安定したコンテキストを毎回の新しい費用ではなくインフラにするためです。

二つ目は誤ったモデル選択です。プレミアムモデルは設計判断、曖昧な判断、高リスクな顧客文面、最終統合に価値があります。しかし単純な抽出、整形、lint、タイトル案、翻訳下書き、一行修正まで常にプレミアムモデルに送るのは、品質ではなく習慣かもしれません。

三つ目は再試行です。依頼が曖昧だと、三回、四回と聞き直すことになります。四つ目は手戻りです。AIが大量の出力を作っても、テストに通らず、スタイルを壊し、出典を落とし、ライブ確認に耐えないなら、サブスク費用は見える費用の一部でしかありません。隠れた費用は上級者のレビュー時間です。

4. コンテキスト予算: 毎回全部を食べさせない

Lost in the Middle論文は、運用者にとって良い警告です。長いコンテキストは役に立ちますが、関連情報が長い入力の中央にあると、モデルが常に安定して使えるとは限りません。つまり「全部貼る」は戦略ではなく、探索時の一時的な手段です。

繰り返す仕事にはコンテキスト予算が必要です。常に入れるもの、関連があるときだけ検索するもの、一度要約して再利用するもの、今回の作業が求めない限り外すものを分けます。PDF、リポジトリ、社内wikiは、繰り返しプロンプトになる前に、ソースカードと検索単位になるべきです。

実務ルールは簡単です。同じ資料が重要なセッションに三回以上出るなら、キャッシュするか、短い運用ノートにするか、検索レイヤーの後ろに置きます。ワークフローをパッケージ化していないせいで、運用者が永遠に注意力コストとトークンコストを払うべきではありません。

5. モデルへの忠誠よりルーティング表

ルーティング表は配車ルールです。どの仕事をどのレイヤーに送るかを決めます。これは開発者だけの概念ではありません。小さな会社でもNotion、Obsidian、Google Sheets、リポジトリ内のノートで運用できます。

まず五つのレーンから始めます。検索レーン: 関連ソースを探して引用します。ルーティンレーン: 要約、分類、整形、翻訳、低リスクな変換を処理します。Codexレーン: ファイルを修正し、lint/buildを走らせ、diffとルートを確認し、コミット証拠を残します。プレミアム推論レーン: 設計、曖昧なトレードオフ、高リスクな文面、最終統合を扱います。人間レーン: 取り消しにくい操作と衝突判断を承認します。

要点は一つのモデルを崇拝することではありません。高い注意力を、結果が変わる場所に残すことです。より安いレイヤーが十分な精度と検証で処理できる仕事をプレミアムモデルに送るのは、品質ではなく費用習慣です。

• 根拠が必要な質問は検索から始めます。
• 反復的で低リスクな変換は小さいモデルや安いレイヤーに任せます。
• ファイル修正、検証、コミット証拠が必要な仕事はCodex型エージェントに任せます。
• 判断、統合、曖昧さ、高リスクレビューはプレミアムモデルに任せます。
• 決済、公開承認、法的判断、取り消しにくい操作は人が承認します。

6. 安定コンテキストをキャッシュし、根拠を検索し、完了を検証する

プロンプトキャッシュは、再利用される内容が同じまま保たれるときに最も効きます。システム指示、役割ルール、SOP、例、スキーマ、ツール定義のような安定した内容は前に置きます。今回だけの依頼、日付に依存する事実、一回限りの文脈は後ろに置きます。

OpenAIのfile searchとRAG研究が示す実務アイデアも同じです。モデルに全部読ませるのではなく、システムが関連する根拠だけを探して添付する方がよい。利点は費用だけではありません。レビュー担当者が根拠を追跡できます。

最後に、検証を費用モデルに含めます。公開作業なら、完了はルート確認、画像確認、sitemap確認、コミット、push、ライブURL確認までです。なぜこの依頼にこのモデル、この量のコンテキスト、この証拠が必要だったのかを説明できるとき、AI費用は管理できます。

• 繰り返すAI作業トップ10を書き出します。
• 各作業を根拠型、ルーティン変換、実装、判断、承認に分けます。
• 作業ごとにコンテキスト予算を決めます。
• 繰り返すルールはキャッシュ可能な前半または運用カードへ移します。
• 大きな知識ベースには検索レイヤーを使います。
• プレミアムモデルは高価値な判断と最終統合に残します。
• レビューと手戻り時間もAI費用に含めます。
• 公開、出荷、送信の前には証拠を要求します。