「ChatGPTやClaudeは便利だけれど、社外へのデータ送信が心配」「API料金が毎月かさんでいる」「工場やクリニックなど、インターネットに繋げない場所でもAIを使いたい」——そんな悩みを抱えているなら、SLM(スモールランゲージモデル)が一つの答えになります。
SLMは文字通り「小さい言語モデル」です。大型のLLMに比べると絶対的な処理能力は劣りますが、手元のPC・スマートフォン・産業機器で完結して動かせるのが最大の強み。2024年後半から2026年にかけて、MicrosoftのPhi、MetaのLlamaスモール版、GoogleのGemmaなど実用レベルのSLMが相次いでリリースされ、ビジネス活用が現実的な選択肢になってきました。
この記事では、SLMの基本的な仕組み・LLMとの違い・代表的なモデル・ビジネス活用シーンと選び方まで、非エンジニアにもわかりやすく解説します。

SLM(スモールランゲージモデル)とは何か
SLM(Small Language Model)とは、比較的少ないパラメータで動作するように設計された言語モデルのことです。
「パラメータ」とは、AIが学習を通じて獲得する内部の数値の集合体で、AIの「知識量」と「推論能力」を左右します。モデルのパラメータ数が多いほど、より複雑な問いに答えられる半面、動かすのに必要な計算資源(GPU・メモリ・電力)も大きくなります。
SLMには明確な定義の線引きはありませんが、一般的にパラメータ数が10億(1B)~70億(7B)程度のモデルを指すことが多く、場合によっては70億(7B)~130億(13B)程度まで含める場合もあります。ChatGPTやClaudeといった最先端のLLMは数百億から数千億以上のパラメータを持つとされており、それと比べると桁違いにコンパクトです。
コンパクトであるからこそ、高価なクラウドGPUを使わなくても手元のPC(特にApple SiliconのMacやNVIDIA GPU搭載のWindows機)で推論を実行できます。これが「社内PCで動かせる軽量AI」として注目されている理由です。
SLMは独立したカテゴリというよりも、LLM(大規模言語モデル)の延長線上にあるモデル群です。設計原理は同じトランスフォーマーアーキテクチャを採用しているものがほとんどで、違いは主にモデルの規模(パラメータ数)と、それに伴う動作要件にあります。
LLMとSLMの違い:パラメータ数・性能・動作環境
LLMとSLMの主な違いをまとめると次のとおりです。
| 比較項目 | LLM(大規模言語モデル) | SLM(スモールランゲージモデル) |
|---|---|---|
| パラメータ数の目安 | 数百億~数千億以上 | 10億(1B)~70億(7B)程度 |
| 動作環境 | 大規模クラウドGPUサーバー | 手元のPC・スマートフォン・エッジデバイス |
| コスト | API料金(月額数万円~数十万円規模も) | 初期セットアップのみ(電気代程度) |
| データの扱い | クラウドサーバーを経由 | 完全ローカルで処理(外部送信なし) |
| 推論能力・知識量 | 高い(複雑なタスクも対応) | 限定的(シンプルなタスク向き) |
| オフライン動作 | 原則不可 | 可能 |
| 向いている用途 | 複雑な推論・長文生成・高精度な要約 | 定型問答・分類・簡易要約・コード補完 |
LLMが「万能な専門家」なら、SLMは「特定業務に特化したスペシャリスト」というイメージです。両者は競合するものではなく、用途に応じて使い分けるのが現実的なアプローチです。
ローカルAIとクラウドAIの判断基準については、別記事で詳しく解説しています。機密データの取り扱い・コスト・性能のバランスで迷っている場合は合わせて参照してください。
代表的なSLM一覧(2026年11月時点)
執筆時点(2026年11月)で実用的に使われている主なSLMを紹介します。モデルは継続的にアップデートされるため、最新情報は各開発元の公式ページで確認してください。
Microsoft Phi-4(3.8B)
Microsoftが開発するPhiシリーズの小型モデル。パラメータ数は3.8Bと非常にコンパクトながら、コーディング支援・論理推論・数学的問題において同サイズ帯では高い評価を得ています。Windows端末での動作を想定した最適化が施されており、業務PCでの実用が検討しやすいモデルです。
Meta Llama 3.2(1B・3B)
Metaがオープンソースで公開するLlamaシリーズのスモール版。1Bと3Bの2サイズがあり、スマートフォンや小型デバイスへの組み込みを念頭に設計されています。商用利用が許可されている(ただし月間アクティブユーザー7億人を超える場合は別途ライセンス契約が必要)ため、企業内ツールへの組み込みに活用されるケースが増えています。
Google Gemma 3(1B・4B)
Googleが公開するオープンモデルのGemmaシリーズ最新版。Apache 2.0ライセンスで商用利用可能。日本語を含む多言語に対応しており、Google製AIとの連携を想定したアーキテクチャが特徴です。
Mistral 7B
フランスのMistral AIが公開するオープンモデル。7Bのパラメータで高い性能を発揮し、ヨーロッパ圏での採用が特に多いモデルです。Apache 2.0ライセンスで商用利用可。日本語能力はやや限定的なため、日本語タスクには別途対応モデルへの差し替えやファインチューニングが必要な場合があります。
SLMの実行環境としては、OllamaやLM Studioといったツールを使うと、コマンドライン操作やGUIから手軽にモデルをダウンロードして動かせます。エンジニアでない担当者でも比較的導入しやすいため、まず動かしてみたい場合はこれらのツールから試すのがおすすめです。
SLMが注目される3つの理由
1. 社内データを外部に送らずに処理できる
クラウドAIサービスは、プロンプトとして入力した内容がサーバーを経由して処理されます。ChatGPTやClaudeといったサービスはAPIポリシー上、送信データを学習に使わないと明記していますが、それでも「取引先との契約書」「個人情報が含まれる顧客データ」「特許申請前の技術情報」などをクラウドに送ることを禁止している企業は少なくありません。
SLMをローカルで動かせば、データはすべて社内で完結します。外部送信ゼロのため、情報セキュリティポリシーが厳しい業種・職場でも導入を検討しやすくなります。
2. ランニングコストをほぼゼロに抑えられる
ClaudeやGPT-4oなどのAPI料金は、テキスト量(トークン数)に応じて課金されます。大量の文書処理を行う業務では、月あたりの費用が想定以上に積み重なることがあります。
SLMをローカルで動かせばAPI料金は発生せず、コストは主に電気代と、初期導入時のセットアップ工数だけです。大量処理が必要なバッチ業務や、コスト感度が高い中小企業にとっては特に魅力的な選択肢です。
3. インターネット接続のない環境でも動作する
工場の生産ラインや遠隔地の倉庫、電波の届かない船舶や航空機内など、常時インターネット接続を前提にできない環境は多く存在します。SLMはいったんダウンロードすれば完全オフラインで動作するため、こうした場所でもAIを活用できます。
「工場の作業指示書をリアルタイムに音声でAIに問い合わせる」「機内で長文の英語資料を要約させる」といった用途で活用シーンが広がっています。
ビジネスでのSLM活用シーン(想定例)
以下は、SLMがどのような業務に向いているかを示す想定例です。実在の企業・団体の事例ではなく、業種の特性をもとに作成した架空のシナリオです。効果の数値は一般的な傾向を示したものであり、実測値ではありません。
【想定例①】法律事務所・会計事務所
守秘義務が厳しく、依頼人の情報をクラウドに送れない事務所では、ローカルSLMを使って「契約書の条項を簡易要約する」「チェックリストに対して文書をスクリーニングする」などの補助作業を処理する構成が検討されています。機密データが社外に出ないため、依頼人への説明責任も果たしやすくなります。
【想定例②】製造現場・工場
インターネット回線の帯域が限られる工場では、設備に組み込んだSLMが作業員の音声指示を解析し、次の工程を案内したり、異常検知ログを簡易的に分類したりする活用が考えられます。ネットワーク遅延の影響を受けないリアルタイム性が求められる用途に適しています。
【想定例③】医療機関・クリニック
カルテや診療情報は個人情報保護法のもとで厳格に管理が求められます。ローカルSLMを使って診察メモを定型フォーマットに整形したり、問診票の内容を医師向けサマリーに変換したりする補助ツールを構築すれば、患者情報を院内で完結させながら業務効率化を図れます。
いずれの活用も、SLMの処理能力では対応しきれない複雑な判断(法的解釈・診断行為など)は必ず人間が行うという前提が重要です。
SLMの選び方:用途・言語・ライセンス・動作環境で選ぶ
SLMを選ぶ際に確認すべきポイントは主に4つです。
① 日本語対応の品質
SLMの多くは英語中心のデータで学習されており、日本語の出力品質にはモデルごとに大きな差があります。日本語業務に使う場合は、事前に「日本語文章の要約」「日本語での質問応答」を試して品質を確認することが不可欠です。日本語対応が充実しているとされるモデルはLlama系の派生モデル(Swallowなどの日本語継続事前学習モデル)やGemmaシリーズなどがあります。
② ライセンスの確認
「Apache 2.0」「MIT」ライセンスのモデルは商用利用が可能ですが、「Llama Community License」のように規模制限が設けられているケースもあります。社内ツールや顧客向けサービスに組み込む場合は、ライセンス条文を必ず確認してください。
③ 動作要件(VRAM・RAM)
SLMをローカルで動かすには十分なメモリが必要です。7BモデルをFP16(通常精度)で動かすには約14GBのVRAMが必要ですが、量子化(4bit・8bit精度に変換)すれば4~8GB程度のGPUやCPUメモリでも動作します。自社のPC環境に合わせて、動かせるモデルサイズを確認してください。
④ タスクへの適性
SLMはすべてのタスクに万能なわけではありません。次の基準を参考にしてください。
・SLMが向くタスク: 定型文書の分類・要約、FAQ対応(決まった知識の回答)、コード補完(短いコードスニペット)、感情分析、シンプルな翻訳
・LLMが向くタスク: 複雑な推論・長文の一貫した生成、専門的な創作、マルチステップの問題解決、高度な戦略立案
まずは「定型的で繰り返しが多い業務」から試し、効果を確認してからより複雑なタスクへと拡大するアプローチが安全です。
特定業務に特化させたい場合は、ベースのSLMを自社データで追加学習させるファインチューニングという手法もあります。ただし、ファインチューニングにはそれなりの計算資源とデータ整備が必要なため、まずは既存のSLMをそのまま活用することから始めることをおすすめします。
SLMの限界と注意点
SLMの活用を検討する際は、以下の限界と注意点を事前に把握しておくことが重要です。
推論能力はLLMに及ばない
「なぜそうなるのか」を複数ステップで論理的に追う推論タスク、前後の文脈を長く保つ長文生成、複雑な指示の組み合わせなどは、現時点のSLMでは精度が落ちる傾向があります。高度な判断が求められる業務には、クラウドLLMとの組み合わせを検討してください。
日本語品質のバラつき
SLMの多くが英語中心で学習されているため、日本語の自然さや正確さはモデルによって大きく異なります。実際に業務で使う前に、想定するタスクで十分な品質テストを行うことが必須です。
セットアップのハードルがある
OllamaやLM Studioを使えば非エンジニアでも導入しやすくなっていますが、モデルのダウンロード・PCのスペック確認・量子化設定など、ある程度の操作知識は必要です。社内での展開には、IT部門との連携や最低限のドキュメント整備が求められます。
ハルシネーションは発生する
SLMも通常の言語モデルと同様に、事実と異なる情報を自信満々に出力する「ハルシネーション」が起こります。重要な判断に使う場合は、AIの出力を必ず人間が確認するフローを設けてください。
SLMをうまく活用するには「SLMが得意なこと(定型・分類・補助)に絞って使い、苦手な領域はLLMか人間が担当する」という役割設計が不可欠です。AI全般の得意・不得意についてはAIの得意なことと苦手なことの記事も参考にしてください。
SLMをはじめとしたローカルAIの企業導入については、AI全体のDX推進戦略と合わせて考える必要があります。全社的なAI活用の位置づけや中期計画との接続については、姉妹サイトDXマスターズ.TOKYOで詳しく解説しています。

本記事のまとめ
SLM(スモールランゲージモデル)についてのポイントを整理します。
・SLMとは: パラメータ数が1B~7B程度の比較的小型の言語モデル。手元のPCやエッジデバイスで動かせる
・LLMとの違い: 規模が小さい分、コスト・プライバシー・オフライン動作で優れる。推論能力・知識量はLLMに劣る
・代表モデル: Microsoft Phi-4、Meta Llama 3.2、Google Gemma 3、Mistral 7Bなど(2026年11月時点)
・注目理由: ①データを外部に送らない、②APIコスト不要、③オフライン動作
・選び方の基準: 日本語対応品質・ライセンス・動作要件・タスクへの適性の4点
・限界: 複雑推論・長文生成はLLMに及ばない。ハルシネーションへの対策は必須
SLMは「クラウドAIのリスクやコストが気になる」場面で力を発揮します。まずはOllamaやLM Studioを使って小型モデルを動かしてみることから始め、自社業務との相性を確認するのがおすすめのアプローチです。
PR
LLMの仕組みをトランスフォーマーの基礎から丁寧に解説。SLMを理解するうえで共通するアーキテクチャの知識を深めたい方に最適な一冊。技術的な背景を押さえることで、モデル選定や活用判断の精度が上がります。
