LM Studioをインストールした。

ローカルLLMを自分のPCで動かせることも分かった。

しかし、次に出てくるのがこの問題です。

「結局、どのAIモデルを入れればいいの？」

LM Studioのモデル検索画面を開くと、

• Qwen
• Gemma
• Mistral
• Phi
• gpt-oss

など大量のモデルが表示されます。

さらに、

3B

4B

8B

20B

Q4

Q8

といった数字まで並びます。

初めて見ると、

「もうChatGPTでいいんじゃない？」

と思ってしまうかもしれません。

しかし、ローカルLLMの面白さは、

自分のPCと目的に合わせて“AIの頭脳”そのものを交換できること

にあります。

2026年現在、個人PCでも試しやすいオープンウェイトモデルはかなり増えています。

GoogleはGemma 4をモバイルからPCまで想定したモデルとして公開し、Qwen3には0.6B～32Bの複数サイズ、Mistral 3には3B・8B・14Bの小型モデルがあります。MicrosoftもPhiシリーズをオンデバイス向けに展開しており、OpenAIにもローカル実行を想定したgpt-ossがあります。

今回は、

「ローカルLLMを初めて触る人が、最初に試すなら何がいい？」

という視点に絞り、5つ選びました。

先に結論です。

初心者向けおすすめ5モデル

モデル	特徴	おすすめ用途	初心者おすすめ度
Qwen3 4B	日本語・軽さ・性能のバランス	チャット、文章、RAG	★★★★★
Gemma 4 E2B	軽量＋画像・音声対応	初体験、画像、文書	★★★★★
Phi-4-mini	3.8Bの軽量モデル	文章、コード、Windows	★★★★☆
Ministral 3 3B	小型マルチモーダル	画像、文章、AI実験	★★★★☆
gpt-oss-20b	ローカル推論・Reasoning	推論、コード、RAG	★★★☆☆

AI Motion Labとして、最初の1モデルだけ選ぶならQwen3 4B。

「できるだけ軽く動かしてみたい」なら、

Gemma 4 E2B

をおすすめします。

そしてローカルLLMに慣れて、

「もっと考えさせたい」

と思ったら、

gpt-oss-20b

へ進む。

この順番が分かりやすいでしょう。

---

この記事でわかること

• ローカルLLMのモデルとは何か
• 3B・4B・20Bの意味
• Q4・Q8とは何か
• 2026年の初心者向けおすすめモデル
• 日本語を使うならどれがいいか
• 低スペックPCならどれを選ぶか
• 画像を扱うならどれがいいか
• RAG向けモデルの考え方
• gpt-oss-20bは初心者向けなのか
• 最初の1モデルをどう決めるか

---

そもそも「モデル」って何？

LM Studioをインストールしただけでは、AIモデルそのものを入れたことにはなりません。

簡単に言うと、

LM Studio

AIを動かすためのアプリ

Qwen・Gemma・Phiなど

実際に文章を考えるAIモデル

です。

ゲームで例えるなら、

LM Studio＝ゲーム機

AIモデル＝ゲームソフト

のような関係です。

Qwenを読み込む。

↓

Gemmaへ変更。

↓

gpt-ossへ変更。

と、同じPCの中でAIそのものを交換できます。

Qwen公式もローカル利用環境としてLM Studio、Ollama、llama.cppなどを挙げています。

---

「4B」「8B」って何？

AIモデル名には、

• 2B
• 3B
• 4B
• 8B
• 20B

などの数字があります。

Bは、

Billion（10億）

です。

例えば、

4B

おおよそ40億パラメータ級。

8B

おおよそ80億パラメータ級。

です。

基本的にはモデルが大きくなると、

• 複雑な文章
• 推論
• コーディング
• 長文処理

などで有利になりやすい反面、

• RAM
• VRAM
• ストレージ
• 処理時間

も必要になります。

ただし、

数字が大きければ必ず賢い

わけではありません。

モデルの世代や学習方法、MoEなどの構造によっても大きく変わります。

例えばgpt-oss-20bは合計約21Bパラメータですが、MoE方式によって1トークンあたり約3.6Bパラメータをアクティブにする設計です。

---

Q4って何？

モデル検索をすると、

Q4_K_M

Q5

Q8

などが表示されることがあります。

これは主に、

量子化（Quantization）

されたモデルです。

非常に簡単に言うと、

AIモデルを軽くして、普通のPCでも動かしやすくする

方法です。

Q8

比較的情報量が多い
↓
重い

Q4

より軽量
↓
RAM・VRAMを抑えやすい

というイメージです。

初心者なら、

まずQ4系の軽量版

から試す方法があります。

最初から最高精度を狙うより、

ストレスなく動くモデルを選ぶ方が重要

です。

---

おすすめ① Qwen3 4B｜まず1個ならこれ

最初のおすすめは、

Qwen3 4B

です。

Qwen3には、

• 0.6B
• 1.7B
• 4B
• 8B
• 14B
• 32B

という複数のDenseモデルがあり、Apache 2.0ライセンスで公開されています。4Bモデルの標準コンテキスト長は32Kです。

さらにQwen3は、

119言語・方言

に対応し、その中には日本語も明記されています。

日本人がローカルLLMを初めて触るなら、これは大きなポイントです。

---

Qwen3 4Bをおすすめする理由

一番大きいのは、

サイズと能力のバランス

です。

0.6Bでは軽い反面、

「もう少しちゃんと答えてほしい」

と感じることがあります。

8Bになると性能面では余裕が出やすい一方、PC負荷も上がります。

その中間にある4Bは、

ローカルLLMってこんなに普通に使えるんだ

と体験しやすいサイズです。

Qwen公式はQwen3について、

Thinking Mode

と、

Non-Thinking Mode

の2種類を持つハイブリッド構成も特徴として挙げています。複雑な問題では考えさせ、簡単な質問では素早く回答させる設計です。

---

Qwen3 4Bで試したいこと

壁打ち

この企画の弱点を5つ教えて。

文章

この文章を初心者向けに直して。

要約

この文章を200文字にまとめて。

RAG

検索したPDFの内容を整理する。

コーディング

簡単なコードの説明や修正。

いろいろ試せます。

---

Qwen3 4Bが向いている人

• 日本語中心
• ローカルLLM初心者
• LM Studioを使いたい
• 壁打ちしたい
• 文章を整理したい
• RAGも後からやりたい
• いきなり大型モデルは使いたくない

AI Motion Lab評価

★★★★★

迷ったら、まずこれを入れてみる。

かなり分かりやすい選択です。

---

おすすめ② Gemma 4 E2B｜軽いのにマルチモーダル

次におすすめしたいのが、

Gemma 4 E2B

です。

GemmaはGoogle DeepMindのオープンモデルです。

2026年のGemma 4には、

• E2B
• E4B
• 12B
• 26B A4B
• 31B

の5サイズがあります。

その中でE2Bは、

2.3B effective parameters

という小型モデル。

GoogleはE2BやE4Bを、モバイルやノートPCで効率的にローカル実行することを想定したモデルとして位置づけています。

---

Gemma 4 E2Bの面白いところ

小さいだけではありません。

Gemma 4 E2Bは、

• テキスト
• 画像
• 音声

を入力できます。

さらにGemma 4全体では140以上の言語で事前学習され、35以上の言語を標準サポートするとGoogleは説明しています。

つまり、

小さなチャットAI

だけではなく、

小さなマルチモーダルAI

として遊べます。

---

初心者が「AIってこんなこともできるの？」を体験しやすい

例えば画像を見せて、

この画面には何が表示されていますか？

あるいは、

このグラフについて説明して。

という実験ができます。

GoogleはGemma 4の画像理解用途として、文書・PDF解析、UI理解、グラフ、OCRなども挙げています。

ローカルLLM初心者にとって、

自分のPCだけで画像まで理解する

という体験はかなり面白いでしょう。

---

Gemma 4 E2Bが向いている人

• PC性能にあまり余裕がない
• まずAIを動かしたい
• ノートPC
• 画像も試したい
• 音声も触ってみたい
• Google系モデルに興味がある
• ローカルAIを勉強したい

AI Motion Lab評価

★★★★★

Qwen3 4Bと並んで、

最初の1モデル候補

です。

---

Qwen3 4BとGemma 4 E2Bならどっち？

これは目的で選びます。

日本語チャット・文章

Qwen3 4B

とにかく軽く始める

Gemma 4 E2B

画像まで遊ぶ

Gemma 4 E2B

RAGや文章整理

Qwen3 4B

というイメージです。

どちらか一つで悩むなら、

両方入れて同じ質問をする

のもおすすめです。

ローカルLLMはモデルを1個に決める必要がありません。

---

おすすめ③ Phi-4-mini｜Windows PCで試したい小型モデル

3つ目はMicrosoftの、

Phi-4-mini

です。

Phi-4-miniは約3.8Bパラメータの小型モデル。

Microsoftは、

• 多言語対応の強化
• Instruction Following
• Function Calling
• Reasoning

などを特徴として挙げています。

さらにPhiモデルはHugging Faceだけでなく、Ollamaからも利用できます。

---

「WindowsでローカルAI」を触るなら面白い

PhiはMicrosoftが、

クラウド接続を必須とせずデバイス上へAIを実装する

用途も想定しているSmall Language Modelシリーズです。

そのため、

• Windows PC
• CPU中心の環境
• 軽いAI実験
• コード
• RAG

などで試す候補になります。

Microsoft自身もPhi-4-miniを、軽量で学習・実験に向いたモデルとしてローカル実行するチュートリアルを公開しています。

---

日本語だけが目的ならQwenを先に試したい

注意点もあります。

MicrosoftはPhiについて、元々は英語を中心に最適化され、その後のモデルで20以上の言語へ対応を拡大したと説明しています。

そのため日本語中心で使いたい初心者なら、

まずQwen3を試す

方が分かりやすいと思います。

一方、

同じ3～4Bサイズでメーカーが違うと回答はどのくらい変わる？

という比較には非常に面白いモデルです。

---

Phi-4-miniが向いている人

• Windowsユーザー
• 小型モデルを試したい
• コードも触りたい
• Function Callingを勉強したい
• QwenやGemmaとの違いを比較したい

AI Motion Lab評価

★★★★☆

最初の1個というより、

2～3個目に入れて比較したいモデル

です。

---

おすすめ④ Ministral 3 3B｜小型でも画像が使える

4つ目は、

Ministral 3 3B

です。

Mistral AIはMistral 3シリーズとして、

• 3B
• 8B
• 14B

のMinistralモデルを公開しています。

それぞれ、

• Base
• Instruct
• Reasoning

があり、すべてApache 2.0ライセンス。

さらに画像理解に対応しています。

MistralはMinistral 3を、

Edge・Local用途向け

のモデルとして位置づけています。

---

3Bでマルチモーダルなのが面白い

Ministral 3 3Bは、小さいモデルながら、

テキスト＋画像

を扱えます。

さらにMistral 3シリーズは40以上の言語を扱うマルチリンガルモデルです。

例えば、

• 写真の説明
• 文書画像
• UI
• 軽い文章作成
• ローカルAI実験

などを試せます。

---

Gemmaと比較してみるのも面白い

Gemma 4 E2B。

Ministral 3 3B。

どちらも、

小型＋マルチモーダル

です。

同じ画像を見せて、

「この画像について説明して」

と質問。

回答速度。

説明の細かさ。

日本語。

メモリ使用量。

を比べる。

これだけでもローカルAIのいい勉強になります。

---

Ministral 3 3Bが向いている人

• 小型モデルが好き
• 画像を扱いたい
• Mistralを使ってみたい
• AIモデル比較をしたい
• Edge AIに興味がある

AI Motion Lab評価

★★★★☆

---

おすすめ⑤ gpt-oss-20b｜初心者の「次の一台」

最後は、

gpt-oss-20b

です。

これは最初の4つよりかなり大きいモデルです。

OpenAIが公開したオープンウェイトのReasoningモデルで、Apache 2.0ライセンスで提供されています。

合計約21Bパラメータですが、MoE方式により1トークンあたり約3.6Bパラメータをアクティブにします。

OpenAIはgpt-oss-20bについて、

16GBメモリを搭載したEdgeデバイスでも動作可能

と説明しています。モデル自体もMXFP4で量子化されており、LM StudioやOllamaなど主要なローカル推論環境への対応が案内されています。

---

いきなり初心者におすすめしない理由

理由は単純です。

もっと軽いモデルがあるから。

最初から、

• gpt-oss
• Reasoning
• Tool Use
• 128K Context

まで触らなくても、ローカルLLMの面白さは十分体験できます。

まずQwen3 4BやGemma 4 E2Bを使う。

そのあと、

「もう少し難しい質問をしたい」

「コードや推論を試したい」

と思ったらgpt-oss-20bへ。

この順番がおすすめです。

---

gpt-oss-20bの魅力はReasoning

OpenAIはgpt-ossを、

オープンウェイトのReasoningモデル

として公開しています。

さらに、

• Tool Use
• Function Calling
• Structured Output
• reasoning_effortの調整

などにも対応します。

ローカルLLMを、

単なるチャット

から、

自分専用のAIシステム

へ発展させたい場合には面白いモデルです。

---

日本語用途では少し注意

OpenAIはgpt-ossの事前学習データについて、主に英語のテキストデータを中心としていたと説明しています。

そのため、

日本語文章を最優先するならQwen3

ReasoningやTool Useを試したいならgpt-oss

という使い分けが分かりやすいでしょう。

---

gpt-oss-20bが向いている人

• ローカルLLMに少し慣れた
• 16GB以上のメモリ環境
• Reasoningを試したい
• コーディング
• RAG
• Tool Use
• エージェント

まで進みたい。

AI Motion Lab評価

★★★☆☆：完全初心者

★★★★★：2台目以降

です。

---

5モデルをもう一度比較

モデル	サイズ感	日本語	画像	特徴
Qwen3 4B	軽～中	◎	―	バランス
Gemma 4 E2B	軽い	○	○	軽量マルチモーダル
Phi-4-mini	軽～中	○	―	Windows・コード
Ministral 3 3B	軽い	○	○	Edge・画像
gpt-oss-20b	重め	△～○	―	Reasoning

※「日本語」評価は公式ベンチマーク順位ではなく、公式の多言語対応情報とモデル特性をもとにしたAI Motion Labの初心者向け目安です。実際の回答品質は量子化、プロンプト、実行環境などでも変わります。

---

PC性能が低いならどれ？

PC性能にあまり余裕がないなら、

第一候補

Gemma 4 E2B

次点

Ministral 3 3B

です。

GoogleはGemma 4のE2B・E4BをモバイルやノートPCでのオンデバイス実行向けとして設計しており、MistralもMinistral 3をEdge・Local用途として公開しています。

---

日本語を中心に使うなら？

Qwen3 4B

を最初に試したいです。

Qwen3は119言語・方言に対応し、日本語も公式の対応言語一覧へ含まれています。

例えば、

• 壁打ち
• ブログ
• 要約
• アイデア
• RAG

など、普通の日本語用途から始めやすいモデルです。

---

画像も見せたいなら？

候補は、

Gemma 4 E2B

または、

Ministral 3 3B

です。

どちらも小型クラスながら画像入力に対応しています。Gemma 4 E2Bはさらに音声入力もサポートしています。

「ローカルLLM＝文字だけ」

ではありません。

2026年は、

個人PCでマルチモーダルAIを動かす

ところまでかなり身近になっています。

---

RAGを作りたいなら？

最初の回答モデルとして、

Qwen3 4B

が扱いやすいでしょう。

ただしRAGでは、

回答するモデル

と、

資料を検索するEmbeddingモデル

を分けます。

例えば、

検索

Qwen3-Embedding

回答

Qwen3 4B

という構成が可能です。

Qwen3-Embeddingシリーズは0.6B～8Bまでのサイズで、EmbeddingとReranking用モデルが公開されています。

これまで紹介してきた、

自分のPDFを検索するローカルRAG

にもつなげやすい構成です。

---

逆に初心者が最初から選ばなくていいモデル

モデル一覧を見ると、

30B。

70B。

120B。

などの巨大モデルがあります。

もちろん興味は出ます。

しかし最初から必要ありません。

例えばモデルを動かして、

返事が遅い。

メモリ不足。

PCが重い。

となったら、ローカルLLMを使わなくなります。

初心者は、

小さいモデルを高速に動かす

方が楽しいです。

---

「最強モデル」より「毎日使えるモデル」

これはかなり重要です。

例えば、

モデルA

ものすごく賢い。

でも1回答が遅い。

モデルB

少し能力は低い。

でもすぐ返答。

普通の会社員が毎日、

• メモ整理
• 壁打ち
• 文章修正
• PDF要約

に使うなら、

モデルBの方が便利

なこともあります。

---

初心者ならこの順番で試したい

私ならこうします。

1個目

Qwen3 4B

日本語で普通に会話する。

↓

2個目

Gemma 4 E2B

軽さと画像を試す。

↓

3個目

Ministral 3 3B

同じ画像・質問で比較。

↓

4個目

Phi-4-mini

Microsoftの小型AIを比較。

↓

5個目

gpt-oss-20b

Reasoningへ進む。

これをすると、

モデルサイズやメーカーによってAIの回答がどう違うのか

がかなり見えてきます。

---

同じ質問を5モデルへ投げると面白い

例えば、

「40代会社員がローカルLLMを使うメリットを5つ教えて」

と全モデルへ聞きます。

比較するのは、

• 回答速度
• 日本語
• 内容
• 長さ
• 分かりやすさ
• RAM使用量
• GPU使用量

です。

これだけで、

ローカルLLMの実験記事

にもできます。

AI Motion Labとしては、むしろこういった実測記事を今後やりたいところです。

---

最初の1個なら結局どれ？

ここまで5つ紹介しましたが、

「1個だけ言って」

なら、

Qwen3 4B

です。

理由は、

• 4Bという比較的扱いやすいサイズ
• 日本語を公式サポート
• Thinking / Non-Thinking
• Apache 2.0
• LM StudioやOllamaで利用しやすい

というバランスです。

一方、

PCに自信がない。

なら、

Gemma 4 E2B

から始めます。

---

目的別の最終おすすめ

目的	おすすめ
最初の1モデル	Qwen3 4B
軽さ最優先	Gemma 4 E2B
日本語	Qwen3 4B
画像	Gemma 4 E2B / Ministral 3 3B
Windowsで実験	Phi-4-mini
RAG	Qwen3 4B
Reasoning	gpt-oss-20b
AIモデル比較	5つ全部

---

まとめ：初心者は「小さく始めて、物足りなくなったら大きくする」

ローカルLLMのモデル選びを見ると、

どうしても、

「一番賢いモデルはどれ？」

を探したくなります。

しかし初心者が最初に考えるべきなのは、

自分のPCで快適に動くか

です。

2026年なら、

日本語とバランス

Qwen3 4B

軽量マルチモーダル

Gemma 4 E2B

Windows・小型モデル

Phi-4-mini

小型画像AI

Ministral 3 3B

本格Reasoningへの入口

gpt-oss-20b

という5つから始めると分かりやすいでしょう。各モデルは現在、公式にオープン／オープンウェイトモデルとして配布され、ローカルまたはEdgeでの利用を想定しています。

LM Studioを開く。

モデルを一つ選ぶ。

ダウンロードする。

日本語で質問する。

Wi-Fiを切る。

それだけで最初の一歩は完了です。

その後、

モデルを比べる。

↓

PDFを読ませる。

↓

RAGを作る。

↓

自分専用AIにする。

と進めていけばいい。

最初から「最強のAI」を作る必要はありません。

自分のPCで余裕を持って動く、小さなAIを1つ持つ。

そこから始めるのが、ローカルLLMを長く楽しむ一番いい方法だと思います。

---

関連記事

ローカルLLM自体をまだ知らない人

PCスペックが気になる人

使い道を知りたい人

自分専用AIへ進みたい人

---