概要

VS Code拡張機能の Cline などの自律型コーディングエージェントに、OpenRouterの無料枠エンドポイント(Nemotron-3-Ultra など)を設定して作業させた際、「一瞬でトークンが枯渇する」「乗りに乗ってきたところで止まる」という課題に直面した。

なぜ自律型エージェントはこれほどトークンを消費するのか、そして無料枠で付き合うための注意点についてまとめる。


自律型エージェントがトークンを急激に消費する仕組み

通常のチャットボットであれば、プロンプトと回答の数千トークンで済むが、Clineのような自律型エージェントは内部で以下のような処理を毎ターン繰り返している。

  1. 巨大なシステムプロンプトとツール定義: エージェントが安全にファイル操作やコマンド実行を行えるよう、厳格なルール定義や利用可能な全ツールのJSONスキーマが毎ターンのプロンプト冒頭に含まれる。
  2. プロジェクト全体のコンテキスト肥大化: 関連ファイルの一覧、ディレクトリツリー、直近に読み込んだ複数ファイルの全内容がコンテキストに累積していく。
  3. 自律ループによる履歴の雪だるま式増加: 「ファイルを読む → 計画を立てる → 編集する → ビルドする → エラーを直す」というステップを自動で繰り返すため、1回の指示で10〜20ターン以上の対話履歴が積み上がり、1リクエストあたりの入力トークン数が数万〜数十万トークンへ急増する。

無料枠モデルを接続したときに起きること

1. 文脈把握の迷走とトークン浪費

推論力やコンテキスト追従性が万全でないモデルを自律エージェントに渡すと、何をすべきか迷走し、不要なファイルを次々と読み込んだり同じエラーを繰り返したりして、あっという間にトークン上限を使い切ってしまう。

Nemotron-3-Ultra はオープンウェイトの中では極めて優秀だが、それでもClaude 3.5 Sonnetのようなトップクラスのエージェント専用チューニングモデルと比べると、不要な自己ループに陥ることがある。

2. OpenRouter無料枠のレートリミットの壁

OpenRouterの無料枠(:free エンドポイント)は共有リソースであるため、1分あたりや1日あたりのリクエスト数・トークン数に厳格な上限が設けられている。

作業を始めて「よし、いい調子で進んできた!」と波に乗ったまさにそのタイミングでレートリミットに引っかかり、作業が強制中断してしまうのが最大のフラストレーションとなる。


無料枠で快適にエージェントを使うための対策

  1. タスクの粒度を小さく切る: 「機能全体を実装して」と丸投げするのではなく、「このファイルの関数Aの型定義を修正して」「このテストの失敗箇所だけを直して」と、1〜2ステップで完了する小分けのタスクを渡す。
  2. 読み込ませるファイルを明示的に絞る: エージェントにVaultやリポジトリ全体を自律探索させるのではなく、対象のファイルパスをピンポイントで指定する。
  3. IDE拡張機能の回復型無料枠と併用する: 重い自律実行をCline+無料APIに頼るのではなく、IDEとエージェントの無料枠ローテーション運用術 で触れたような、VS CodeのAntigravityやCopilotなどの枠へ適宜逃がすことで作業の中断を防ぐ。

関連ノート


参考資料