GitHubトレンドに「tokdiet」が急浮上した。Claude Code、Cursor、そしてOpenAIのcodexといったAIコーディングエージェントと、AnthropicやOpenAIのモデルAPIの間に挟む、手元で動く中継サーバーである。送るトークンを1つずつ計測し、膨らんだ会話履歴を圧縮して、従量課金のAPI料金を直接削る。エンジニアの工夫の話で終わらせるべきではない。これはAI開発費を「経営マター」に引き上げる構造変化だ。

何が起きたか

tokdietはローカルで動作するストリーミング型リバースプロキシだ。開発者の手元のマシンで起動し、Claude CodeやCursor、codexといったエージェントが本来Anthropic／OpenAIへ直接送るリクエストを横取りする。プロキシ内部で会話履歴を圧縮し、トークン数を削った上で上流のAPIに転送する仕組みである。さらに、誰がどのエージェントで何トークン消費し、ドル換算でいくら使ったかを単位レベルで可視化する。注目すべきは「シャドー評価」機能で、圧縮前と圧縮後の応答品質を並走比較できる点だ。GitHubスター数はまだ68と小規模だが、AIコーディング費用の高騰に悩む現場のニーズに直撃しており、急上昇している。

なぜこのニュースが重要か

Claude CodeやcodexのようなエージェントはRepository全体をコンテキストに詰める設計のため、1セッションで数十万トークンを平気で消費する。Anthropic Sonnet 4クラスの入力単価を想定すると、1人のエンジニアが1日で数十ドル、月で数百ドルに達する。10人のチームなら月100万円超は珍しくない。問題は、この費用が「エンジニアの裁量で勝手に膨らむ」点にある。CFOから見れば、claude codeやcodexのAPI課金は人件費でもクラウド費でもない、説明困難な新種のコストだ。tokdietが提示する解は明快で、(1)計測の粒度をトークン単位に下げる、(2)プロキシ層で会話履歴を機械的に圧縮する、(3)圧縮による品質劣化をシャドー評価で数値証明する、の3点セットである。これは「コスト削減と品質維持のトレードオフ」を、経営会議で議論可能な定量問題に変換する。AI開発投資のROI議論を、感覚論から脱却させる意義は大きい。

技術的な深掘り

ローカルリバースプロキシという形態を選んだ設計判断が興味深い。SaaSとしてクラウドに置けばマルチテナント化で収益化しやすいが、コード断片やプロンプトに含まれる社内情報が第三者サーバーを経由することになり、エンタープライズの法務が止める。手元で動くなら、API鍵もソースコードもローカル境界を出ない。ストリーミング対応もポイントで、Claude Codeやcodexはトークンを逐次受け取って表示する設計のため、プロキシがバッファリングすると体感速度が露骨に落ちる。tokdietがstreaming reverse proxyを名乗っている以上、SSEやチャンク転送を素通しで中継しつつ計測するアーキテクチャと推定される。圧縮アルゴリズムの中身は要検証だが、現実的にはシステムプロンプトの重複除去、過去ターンの要約置換、ツール呼び出しログの間引きあたりが主戦場だろう。シャドー評価機能の存在は、開発者が「圧縮ロジックは信頼できない」という前提に立っていることを示しており、設計思想として誠実だ。圧縮は副作用を伴う最適化であり、検証可能性をビルトインする姿勢は、本番投入のハードルを大きく下げる。

経営者として次に取るべき動き

第一に、自社のAIコーディング費用を「誰が、どのエージェントで、いくら」のドル単位で把握する仕組みを今週中に立ち上げよ。Anthropic／OpenAIのコンソールだけでは個人別の内訳が見えない。tokdietのような計測層を挟むのが最短経路だ。第二に、月額のClaude Code、Cursor、codex合算費用が一人あたり300ドルを超えるエンジニアを特定し、利用パターンをレビューする運用を導入する。圧縮で削るより前に、無駄な再投入を止めるほうが効く。第三に、PoCではシャドー評価を必ず走らせ、圧縮後の回答品質を社内ベンチで数値化してから本番展開する。コスト30%減・品質同等という根拠付きの数字が出れば、経営会議でAI投資の拡大判断が一気に進む。tokdietはツールではなく、AI開発費を統治するためのガバナンス基盤の第一歩である。