ドイツ発OSSのHaystackがGitHubで2万5千スターを突破した。自社データを読み込ませるllmチャットボットを内製できる時代の到来と持て囃されているが、蛙崎はここに冷や水を浴びせたい。スター数と本番運用の距離は、経営者が思うより遥かに遠い。内製化の甘い誘惑の裏で、何が置き去りにされているのかを直視すべきだ。
何が起きたか
deepset社が開発するオープンソースのllmオーケストレーションフレームワーク「Haystack」が、GitHubで25,850スターを記録した。ブロックを繋ぐ感覚でRAG（検索拡張生成）パイプラインを設計でき、社内文書やデータベースを参照して回答するチャットボットを構築できる、いわば業務AI基盤である。NVIDIAやIBMといった大企業が本番システムに採用したことで、「実務で使える基盤」として評価を急速に高めている。日本国内でも「もう外注せずに内製できる」「ChatGPT課金依存から脱却できる」「RAG人材の価値は3年で最も上がる」といった論調が拡散している。Haystackは競合のLangChainやLlamaIndexと並び、いわゆるllmアプリ開発の三強の一角として定着しつつあるのが現在地だ。
なぜこのニュースが重要か
重要なのは、スター数の増加そのものではない。エンタープライズが本番投入し始めたという事実が、「PoC地獄」からの脱出可能性を示唆している点だ。日本企業の生成AIプロジェクトの多くは、去年からデモ止まりで運用に乗らず、経営者は「AIに何億使ったのか」を問われ始めている。Haystackのようなモジュール型フレームワークが成熟すれば、外注ベンダーに1案件あたり数千万円払っていた社内AI構築のコスト構造は確実に崩れる。同時に、これはリスクの再配置でもある。従来はSIerが負っていた「動かなかったときの責任」が、内製に切り替えた瞬間、情報システム部門と経営者本人の肩に載る。「情報漏洩リスクを下げられる」という宣伝文句も、裏を返せば漏洩したときの言い訳ができないということだ。オープンソースは無料ではなく、責任の所在が発注元に一元化される契約構造だと理解しなければならない。
過剰評価への反論
「ブロックを繋ぐ感覚で作れる」という物言いに、蛙崎はもっとも警戒する。この種の言葉は、過去5年で数え切れないほど繰り返され、そのたびに現場は炎上してきた。ノーコード、ローコード、そして今度はllmオーケストレーション。GitHubスター2.5万は開発者コミュニティの関心度の指標であって、あなたの会社の情シスがHaystackを本番運用できる能力の証明ではない。ベクトルDBの選定、チャンク分割設計、埋め込みモデルの日本語適合性、プロンプトインジェクション対策、ハルシネーション監査、バージョンアップ追随――これらすべてが「ブロック」の裏側にある。NVIDIAやIBMが使いこなせる理由は、彼らが数百人単位でMLエンジニアを抱えているからであって、フレームワークが優しいからではない。さらに指摘すべきは、OSSは3年後に主流でなくなるリスクを常に抱えている点だ。Haystackが今後LangChainに吸収されるか、あるいは新興フレームワークに取って代わられるかは推定困難だが、内製した資産がフレームワーク心中になる可能性は現実的なリスクである。「内製で組める時代」という威勢のいい言葉の裏で、技術的負債の押し付け合いが始まっているに過ぎない。
経営者として次に取るべき動き
第一に、Haystack導入の可否を情シスに丸投げしないこと。「3年後もこのフレームワークを保守できる人員を社内に確保できるか」を経営マターとして問うべきだ。答えがノーなら、外注のほうが安い。第二に、内製の対象業務を「失敗しても事業が止まらない領域」に限定すること。議事録要約や社内FAQは適切だが、契約書レビューや顧客対応の一次窓口を初手で任せるのは自殺行為である。llmの誤答が経営インパクトを持つ領域と、そうでない領域を分ける仕分けを、経営会議で明文化せよ。第三に、RAG人材の採用は「外部から一人採る」ではなく「社内から二人育てる」戦略に切り替えること。市場価値が上がる職種は、採用市場では取り合いになり、採れても定着しない。育成に半年投資したほうが結果的に安く済む。