垂直型SLM基盤：2026年、ドメイン特化AIのためのGPU・学習・アプリケーション層

2026年7月1日、PalantirのCEOであるAlex KarpはCNBCのSquawk Boxに出演し、企業でAIを買う誰もが思っていながら、発言の場を持つ人が誰も口にしてこなかったことを言いました。「AIの売られ方は、何かが完全に間違っている。」 その診断は的確でした。企業は、業務上の価値を何も生まないトークンにお金を払っている。自社独自のデータで学習したモデルの重み、つまり本物の競争上の知見は、研究所に還流している。そして料金体系は、顧客を有能にするためではなく、依存させ続けるために設計されている、と。

Karpの答えは主権です。計算資源、モデルの重み、データ基盤、そして自社の優位を自分で管理すること。それは思想的な立場ではありません。アーキテクチャの判断です。そして、それが指し示すアーキテクチャには名前があります。垂直型SLM基盤です。

本記事では、その基盤がどのようなものか、各層をどう作るか、そして具体的なユースケースを持つ創業者が、自分の問題については汎用のフロンティアモデルを、わずかな割合のコストで上回れる理由を説明します。

なぜトークン課金のモデルが崩れつつあるのか

フロンティアの研究所から知能を借りるという経済性は、2023年には理にかなっていました。モデルは魔法のようで、自前で作るのは途方もなく高く、大きなモデルと小さなモデルのベンチマークの差は歴然としていたからです。2026年には、その3つの条件はどれも成り立っていません。

オープンウェイトのモデル(Llama 3.2、Phi-4-mini、Gemma 3)は、いまやトークンあたりでフロンティアのAPIより16倍安く、範囲が狭く明確に定義されたタスクでは、それらに並ぶか上回ることも珍しくありません。2年前には機械学習エンジニアのチームが必要だったファインチューニングの基盤は、今ではA100が1台あれば午後のうちに動きます。そして企業の世界も計算を始めました。機械学習エンジニアが本音で語るRedditのスレッドやDiscordのチャンネルは、同じことを伝えています。分類、抽出、要約、範囲の定まったコード生成、構造化出力。企業の実際のAIワークロードのおよそ80%を占めるこれらのタスクでは、ファインチューニングした7Bモデルが、プロンプトで指示した70Bモデルに、精度、レイテンシー、コストのすべてで同時に勝つのです。

このコストの差はわずかなものではありません。桁が1つ違います。しかも量が増えるほど差は積み上がっていきます。月に500,000回のAPI呼び出しを処理するスタートアップなら、トークンの請求額は$10,000〜$40,000になります。ファインチューニングしたSLMをセルフホストすれば$300〜$600です。その差額でエンジニアを2人雇えます。

そもそも小規模言語モデルとは何か

SLMとは、パラメーター数が10億から150億の範囲にある言語モデルです。技術的な区別に聞こえますが、実務上の意味ははっきりしています。GPU1台で動き(構成によってはCPUでも動きます)、ファインチューニングは数週間ではなく数時間で済み、エッジ環境やオンプレミスの導入にも収まり、推論は数秒ではなく80〜300msで返ってきます。

2026年の主要なオープンウェイトのSLMは次のとおりです。

• Phi-4-mini(3.8B、Microsoft)：現在、3〜4Bクラスでベンチマークの首位。~3 GBのVRAMで動作し、コンテキストウィンドウは128K、MMLUと数学的推論でトップです。小さなフットプリントで構造化された推論タスクをこなす点で抜きん出ています。
• Gemma 3(2B / 7B、Google)：商用ライセンスが手厚く、クラウドとエッジ向けに最適化されています。文書の理解や、複数ターンにわたる指示への追従に特に向いています。
• Llama 3.2(1B / 3B、Meta)：モバイルや組み込み機器でのエッジ導入向けに設計されています。1BモデルはスマートフォンのCPUでも動きます。ルーティング、分類、軽い抽出に最適です。
• Mistral 7B / Mixtral 8x7B：コード生成と指示への追従に強みがあります。MixtralのスパースなMoEアーキテクチャは、アクティブなパラメーター数をはるかに超える力を発揮します。

重要なのは、これらのモデルのどれも、汎用のベンチマークではGPT-5に勝てないということです。しかし、それは論点ではありません。自社の特定のタスクの例50,000件でファインチューニングした3.8Bのモデルは、そのタスクではGPT-5に勝ちます。しかもコストは30分の1、レイテンシーは10分の1です。

3層からなる垂直型基盤

端から端まで自社で持つドメイン特化のAI能力を作るには、計算資源、学習、アプリケーションという3つの層で意図的な判断を下す必要があります。挑戦して失敗した創業者の多くは、これらを別々に扱っていました。しかし、3つは独立していません。各層は互いを制約し、同時に可能にしています。

第1層：GPU(計算資源)

GPUの層は、多くの創業者が投資しすぎるか、アーキテクチャの賭けを誤るところです。良い知らせは、2026年の垂直型SLMに必要なハードウェアの要件が、わずか18か月前と比べてもはるかに低くなっていることです。

LoRAやQLoRA(標準的な手法)で7Bモデルをファインチューニングするなら、80GBのA100が1台か、A6000が2台あれば足ります。クラウドの費用は$2〜$4/時間です。10,000件の例でファインチューニングを1回通すのに2〜6時間かかります。合計で、学習1回あたり$25未満です。これは設備投資ではありません。再学習するときに払う変動費です。

推論では、量子化した7Bモデル(INT4/INT8)が、1台のA10G(VRAM 24GB、~$1.50/時間)で100〜500件の同時リクエストをさばきます。この規模なら、導入から30〜60日以内に、ほぼ必ずセルフホストのほうがAPI呼び出しより安くなります。

医療、法務、行政でよくあるエッジやオンプレミスの要件には、1〜3Bクラスのモデルが、一般向けのNVIDIA RTX 4090(~$2,000)やApple SiliconのM3 Ultraで動きます。クラウドへの依存も、データの外部流出も、コンプライアンス上のリスクもありません。

GPUの階層を選ぶための指針

• 1〜3Bモデル、エッジ/オンプレミス： RTX 4090、Apple M3 Ultra、NVIDIA Jetson
• 7Bモデル、クラウドでのファインチューニングと提供： A10G(推論)、A100(学習)
• 13Bモデル： 学習には2× A100またはH100、量子化した推論にはA100
• バッチ/非同期のワークロード： スポットインスタンスで学習コストを60〜70%削減

第2層：学習(ファインチューニングのパイプライン)

本物の競争上の堀を生むのは、この層です。ベースモデルは公開されています。誰でもLlamaやPhiから始められます。真似できないのは、自社の学習データです。ドメイン固有の例、エッジケース、出力の形式。それらが、業務の知識をモデルの重みに刻み込みます。

Alex Karpはこれを鋭い言葉で表現しました。フロンティアの研究所は、自社のAPIを使う企業の「重みと優位を盗んでいる」と。クラウドのAPIを使うときに送るすべての問い合わせと修正のシグナルが、直接的にも間接的にも、相手のモデルの改善に役立つからです。ファインチューニングのパイプラインを自社で持てば、そのシグナルは自社のものであり続けます。

標準的なファインチューニングの流れ:

1. タスクに特化したデータセットを整える。対象のタスクについて、質の高い指示と応答のペアが1,000〜50,000件必要です。量より質です。専門家がラベルを付けた2,000件の例は、ノイズの多い50,000件の例を一貫して上回ります。まずは既存の成果物、つまり過去の文書、判断、構造化データから始め、フロンティアモデルを使って低コストで合成の学習データを作り、その一部を人の手で検証します。
2. LoRA / QLoRAでファインチューニングする。低ランク適応(Low-Rank Adaptation)は、ベースモデルの重みの大半を凍結し、アダプターの小さな行列の組だけを学習させます。通常はパラメーター全体の0.1〜1%です。こうすることで、メモリ不足に陥らずに、1台のGPUで7Bモデルをファインチューニングできます。ツールは、Hugging FaceのPEFTライブラリ、Unsloth(2〜5倍の高速化)、複雑なパイプライン向けのAxolotlです。
3. 出荷する前に厳密に評価する。正解ラベル付きの例200〜500件からなる保留の評価セットを作ります。タスクの正答率、ハルシネーションの割合、形式の遵守率を追跡します。評価セットで95%の正答率でも、本番のエッジケースで失敗するモデルは、失敗のパターンがわかっている90%のモデルより悪いのです。
4. 再学習の頻度を決める。本番の出力と修正で再学習すると、モデルの価値は複利的に高まります。実際の利用データを取り込む月ごと、あるいは四半期ごとの再学習のループは、時間とともに広がる堀を生みます。これが垂直型の優位の核心です。汎用のAPIが汎用のままである一方で、サイクルを回すたびに、自社のモデルは自社の特定のタスクでより良くなっていきます。

第3層：アプリケーション層

アプリケーション層は、モデルが実際のワークフローとつながる場所であり、プロダクトの判断の大半があるところです。この層をうまく作れるかどうかが、動くデモと、ユーザーが信頼する本番システムを分けます。

SLMは設計上、範囲が狭いので、アプリケーション層は対象範囲をはっきり管理する必要があります。臨床文書のためのSLMが、一般的な医療の質問に答えようとしてはいけません。契約書の抽出ツールが、法的な助言をしようとしてはいけません。アプリケーション層は、プロンプトの構成、出力の検証、ルーティングのロジックを通じて、その境界を守らせます。

• サービングの基盤：2026年の主要なオープンソースの推論サーバーは、vLLMとOllamaの2つです。vLLMはPagedAttentionによって、高スループットのマルチテナント提供をこなします。Ollamaは運用がより簡単で、シングルテナントや開発者の利用に最適です。どちらも量子化したモデルとOpenAI互換のAPIに対応しているので、OpenAIを呼び出している既存のコードは、URLを1行変えるだけでセルフホストのSLMに向け直せます。
• 構造化出力の強制：ドメインのタスクでは、ほぼ必ずJSONか構造化出力が欲しくなります。文法で制約したデコーディング(Outlines、Guidance、あるいはvLLM組み込みの構造化出力)を使い、モデルがスキーマに沿った正しい出力を返すことを保証します。これで、下流で起きる失敗の最も一般的な原因がなくなります。
• 検索による拡張：SLMとRAGを組み合わせた基盤は、多くの場合、大きなモデル単体より強力です。推論と生成はSLMが担い、検索の層が最新の自社文書に基づかせます。これは、幅広い世界知識よりも、新しさと文書への忠実さが重要な法務、金融、医療の分野で特に効果的です。
• ルーティング層：本番環境では、最も賢いアーキテクチャがリクエストを適切に振り分けます。単純で量の多いタスクはSLMへ。複雑、曖昧、あるいはまれなタスクは、APIを通じてフロンティアモデルにエスカレーションします。1Bの分類器なら、このルーティングの判断を10ms未満で下せます。結果として、リクエストの70〜80%は安くて速い自社のSLMが処理し、残りの20〜30%がエスカレーションされます。品質を高く保ったまま、問い合わせ1件あたりの平均コストは85〜90%下がります。

この基盤が決定的に勝つ垂直型のユースケース

垂直型SLMのアプローチが、どんな場合でもフロンティアモデルより優れているわけではありません。圧倒的に優れているのは、特定の種類の問題です。量が多く、明確に定義され、データが豊富で、自社独自の知識がある領域のタスクです。

AI主権はイデオロギーではなく、アーキテクチャである

KarpのCNBCでのインタビューの前日にPalantirが公表した、AI主権についての9項目の宣言は、挑発のように読めます。しかし実際には、それはアーキテクチャの文書です。その中心にある主張は実務的なものです。汎用の知能に対してトークン単位で課金するビジネスモデル、いわゆる「トークンマキシング」は、間違ったものを奨励している。堅牢なシステムより使い捨てのスクリプトを、能力より依存を、成果の質より消費の量を奨励している、と。

同じ週に発表されたPalantirとNvidiaの提携は、この主張を商業的に表現したものです。計算資源、モデル、データ基盤の管理権を、一体化した製品として組織に与える「主権型のAIオペレーティングシステム」です。Palantirから買うにせよ、自前で作るにせよ、向かう方向は同じです。基盤を自社で持つことです。

創業者にとっての意味は単純です。プロダクトのAI能力が外部APIの呼び出しなら、堀はありません。どの競合も同じ呼び出しができるからです。自社独自のデータで学習し、自社が管理するインフラで動くファインチューニング済みのモデルが能力の源なら、それは本物の競争上の資産です。再学習のサイクルを回すたびに価値が積み上がり、長く運用するほど真似しにくくなります。

垂直型の基盤が間違った選択になるとき

垂直型SLM基盤が常に正しいわけではありません。データの整備、学習のインフラ、運用の規律への先行投資が必要であり、すべてのチームがそれを担える状況にあるわけではありません。APIを使い続けるべき状況は3つあります。

• まだプロダクトマーケットフィットを探っている段階である。タスクの定義が毎週のように変わるなら、ファインチューニングは無駄な努力です。タスクが安定し、よく理解されるまではAPIで作りましょう。SLMを作るのはその後です。
• ラベル付きのデータがまだ足りない。500件未満の例でファインチューニングすると、たいてい不安定なモデルになります。質の高い例を1,000件以上集めたり生成したりできないなら、フロンティアモデルでfew-shotのプロンプトを使い、並行してデータ収集に投資してください。
• タスクが本当に幅広い世界知識を必要とする。調査の統合、答えの定まらない創作、現実世界の多様な文脈を組み合わせる必要があるタスクでは、今も大きなフロンティアモデルが有利です。SLMのアプローチが得意なのは広さではなく深さです。

どこから始めるか

多くの創業者にとって現実的な入口は、量が多く、正確に測定でき、成功の基準がはっきりした1つのタスクで、試験的にファインチューニングしてみることです。現在、APIのコストとして月$3,000〜$10,000を払っているタスクを1つ選んでください。ファインチューニングした7BのSLMで計算してみます。たいていは最初の計算で、ビジネスケースは明らかになります。

垂直型SLMの準備ができているかを確かめる3つの問い

• 1. 量の多い(月10,000件以上の問い合わせ)、明確に定義されたタスクが1つあるか。
• 2. そのタスクのラベル付きの例が2,000件以上あるか、あるいは生成できるか。
• 3. データ主権、レイテンシー、コストのいずれかが、2〜4週間のエンジニアリングを正当化するほど重要か。

3つすべてにイエスと答えたなら、垂直型基盤の最初の層を作る準備ができています。残りはそこから続いていきます。

Karpの中心的な主張、つまりAIの売られ方は何かが完全に間違っているという指摘は、OpenAIやAnthropicへの批判というより、転換点にある市場についての観察です。垂直に作るためのインフラは、もう手の届くところにあります。オープンウェイトのモデルは十分に良くなりました。経済性にも説得力があります。残っているのは、依存するものを借りるのではなく、自分のものを作るという決断だけです。

Related Posts

なぜAIは難しいのか：デモが動いた後に創業者がぶつかる本当の問題2026年7月1日

開発現場のClaude Code：2026年で最も強力なAIコーディングツール2026年6月24日

Claude Codeの/loopコマンド：2026年、より賢いコーディングワークフローのための使い方2026年7月3日