Rust製の新型AI推論サーバー「Paddock」が公開からわずか6日でGitHubトレンド入りした。OpenAI・Anthropic互換APIを備え、NVIDIA GPU上でオープンモデルを社内完結で動かせる。だが星72個のOSSに経営判断を委ねるのは危うい。熱狂の裏にある構造的リスクを冷静に指摘する。

何が起きたか

truespar社が公開したRust製推論サーバー「Paddock」が、リリースから6日でGitHubトレンドに入った。星の数は72個。NVIDIA GPU上で、GGUFやsafetensors形式のオープンソースAIモデルをネイティブに動かすためのサーバーソフトである。特徴は、OpenAIとAnthropicのAPI形式に互換性を持たせている点だ。既存のAIアプリケーションはエンドポイント（接続先URL）を差し替えるだけで、Paddock経由で自社GPU上のモデルを叩ける。Rustで書かれているため、Pythonベースの推論サーバーと比較してメモリ効率や起動速度で有利とされる。想定利用者は、AI利用料の外部流出と機密データの外部送信を嫌う金融・製造業のIT部門である。

なぜこのニュースが重要か

これは単なる新OSSの登場ではなく、「AIコストの固定費化」という潮流を象徴する事件として読むべきだ。生成AIの月額利用料は、トークン消費に応じて青天井で膨らむ変動費構造にある。稟議を通した予算が、社員の使い方次第で3倍にも5倍にも化ける。この不確実性はCFOにとって悪夢であり、GPUを一括購入して償却する「買い切り+社内推論」への回帰圧力を生んでいる。Paddockのような互換APIサーバーは、その移行コストを劇的に下げるレバーだ。同時に警告すべきリスクもある。OpenAI互換APIという「共通規格」に依存することで、企業は無意識のうちにOpenAIの仕様変更に振り回される構造に置かれる。プロプライエタリからの脱出のつもりが、実は仕様面での従属を続けているに過ぎない。真の独立ではなく「安く同じことをやる」だけの選択であることを、経営者は自覚すべきである。

過剰評価への反論

冷静になろう。星72個、公開6日のOSSである。これを「注目集まる」と喧伝するのは、報道側の願望が混ざっている。GitHubトレンドは日次で入れ替わる流動的な指標で、話題性の証明にはなっても、本番投入の根拠にはならない。もっと根本的な問題を指摘する。第一に、推論サーバー市場はすでに激戦区だ。vLLM、TGI、TensorRT-LLM、Ollama、llama.cpp系サーバーがひしめき、いずれもOpenAI互換APIを提供している。Rust製という差別化は、実運用のスループットやバッチング効率で既存勢を上回って初めて意味を持つ。ベンチマークが公開されていない現状では、単なる「言語選好の表明」に過ぎない。第二に、単一メンテナのOSSに機密データ処理を委ねる経営判断は、コンプライアンス的に無防備すぎる。バス係数1のプロジェクトが半年後に更新停止する例は無数にある。第三に、GPU買い切りモデルは稼働率が低ければ即座に不経済になる。24時間フル稼働で7割以上のGPU使用率を維持できる用途がなければ、クラウドAPIの方が安い。ハードを買った瞬間に、遊休GPUという新しい固定費が発生する事実を、Rust推論サーバーの軽さは救ってくれない。

経営者として次に取るべき動き

第一に、Paddockそのものではなく「OpenAI互換API層」という抽象化を社内標準にせよ。どの推論バックエンドが勝つかは未確定だが、互換API経由でアプリを書いておけば乗り換えコストは最小化できる。ベンダーロックインの逆張りである。第二に、社内GPU化の是非はTCOで判断せよ。推定で年間AI利用料が2000万円を超え、かつGPU稼働率60%以上を維持できる業務があるならオンプレ移行の検討価値がある。それ未満なら、クラウドAPIのままが合理的だ。感情論で「機密だから内製」と決めるな。第三に、社内完結の対象業務を「機密度×頻度」のマトリクスで棚卸しせよ。図面解析、契約書要約、コード生成のうち、機密度が高くかつ高頻度なものだけが内製推論の候補である。全社一律で内製化する発想は、コストと運用負荷の両面で自滅を招く。