現在広く語られているストーリーは、オープンソースがエンタープライズを席巻しているというものです。最高のクローズドモデルとオープンモデルの性能差はわずか数パーセントにまで縮まりました。Fortune 500 企業の 3 分の 1 が Hugging Face に確認済みアカウントを持ち、中国の研究所は数週間ごとにフロンティアに迫るオープンウェイトのモデルをリリースし、推論プロバイダーは猛追しています。
一方、Decagon では現在、ワークロードの約 90% を OpenAI や Anthropic ではなく、オープンソースモデルで実行しています。これは、急成長中のアプリ企業の大半と一致しており、私たちが協力している大企業も同様の方向に動いています。
しかし、エンタープライズ全体の支出は逆の方向に動いています。オープンソースモデルへの支出は、エンタープライズ LLM 支出全体の 11% にまで低下し、1 年前の 19% から減少しました。
トレンドは、一般的な認識とは逆の方向に進んでいるのです。なぜこのようなことが起こり、将来にとって何を意味するのでしょうか？
まず、なぜ私たちが 90% オープンソースなのか、その背景を説明します。コストのためでも、顧客から要求されたからでもありません（顧客はそれを気にしていませんが）。他に選択肢がなかったからです。
カスタマーサービス向けに AI エージェントを本番運用する場合、レイテンシが製品の成否を分けます。すべてのターンに 8 秒かかる会話は、誰も使いたいと思わない製品です。そのため、小型で高速なモデルが必要です。すべてのモデル呼び出しで、リトアニアの首都や高校の物理学を知る必要はありません。
しかし、そのままの小型モデルでは、顧客が求める品質基準を満たせません。特定のタスクに重点的にファインチューニングすることで、ようやくそのレベルに到達します。フロンティアラボは、この組み合わせを実際には販売していません。彼らの最高のモデルを私たちが必要とする方法でファインチューニングすることはできず、彼らの小型モデルは私たちが自由に形作れるものではありません。小型 + ファインチューニングは、オープンウェイトを意味します。コスト削減は確かに現実的ですが、二次的なものであり、エンタープライズがセルフホストモデルに安心感を覚えるのは、良い副作用であって、理由ではありません。
では、なぜ私たちのような企業が 90% オープンソースである一方で、より広範なエンタープライズの数値は低下しているのでしょうか？
答えは、ユースケースの成熟度にあります。ユースケースが新しい場合、入手可能な最も賢い汎用モデルが必要です。問題の形状がまだわからないため、最終的には必要ないかもしれない知能にプレミアムを支払うことになります。それはその段階では正しいトレードオフです。しかし、ユースケースが完全に構築され、入力の分布、必要な動作、防御すべき障害モードがわかれば、トレードオフは逆転します。今や汎用知能はオーバーヘッドとなり、特定のタスクを非常にうまく実行するためにファインチューニングされた、可能な限り小型で高速なモデルが必要になります。
カスタマーサービスは、業界で最も明白な AI ユースケースの 1 つです。よく理解されたワークフロー、膨大な会話量、厳しい品質基準。つまり、私たちのような企業は、平均的なエンタープライズ導入よりも単純に成熟曲線の先を行っているのです。
そして、それがパラドックスの解決策です。オープンソースのシェアが低下した理由は、オープンソースが負けているからではありません。エンタープライズ AI 全体が、成熟曲線のごく初期段階にあるからです。昨年、企業は構築をやめて購入を始め、何千もの真新しいユースケースが一度に立ち上がりました。新しいユースケースはフロンティアモデルで実行されるため、クローズドモデルのシェアが急増しました。11% は分母の問題です。未成熟なユースケースのプールが、成熟したユースケースのプールよりも速く成長しているのです。
もしそれが正しければ、現在フロンティアモデルでプロトタイピングされているすべてのユースケースは、将来のオープンソースへの移行候補です。導入が成熟するにつれて、企業は私たちが行ったこと、すなわち蒸留、ファインチューニング、特化を実行するでしょう。フロンティアラボは引き続き探索を支配し、オープンソースはますます本番運用を支配するようになるでしょう。
しかし、これは人々が考えるよりも時間がかかります。ほとんどのユースケースは、エージェントの「形状」が確定し、オープンソースモデルのファインチューニングを開始するのが理にかなう段階にはまだありません。
ファインチューニングには労力がかかり、ほとんどの組織にはそれを行うリソースや専門知識がありません。ユースケースは、非常に高い ROI を持ち、すでに大規模に完全導入されている必要があります。また、特定のタスクにおいて小型モデルがフロンティアモデルと同じレベルで性能を発揮できることを確認するための十分なデータも必要です。
そうでなければ、フロンティアのクローズドソースモデルの 1 つを接続する方がはるかに簡単です。インフラストラクチャを所有することを心配する必要はなく、自由に反復して実験することができます。
したがって、オープンソースへの LLM 支出の割合は最終的に上昇に転じるでしょうが、それが起こるのは何年も先のことです。
