ローカルLLMを動かすMacのメモリ。何GBから現実的か
ローカルLLM(自分のMacの中だけで動かす生成AI)を試すだけなら、メモリ16GBでも動きます。ただし使えるのは、おおむね8B(80億パラメーター)クラスまでです。
日常的に使うなら24GB、14B〜30Bクラスを快適に動かすなら32GB以上が現実的なラインです。70Bクラスは64GB以上を見ておく必要があります。
メモリは購入後に増設できないため、「今動かしたいモデル」ではなく「半年後に動かしたいモデル」で決めるのが安全です。
自分の用途と使用年数だと何GB必要かは、診断ツールで確認できます。
16GBは入門、24GBから実用、70Bは64GB以上
先に目安を示します。下の数字のうち、モデルのサイズはOllama(Macでローカルモデルを動かす代表的なアプリ)の公式ライブラリの表記です。「目安メモリ」は、そのサイズをもとにした私の推計で、実測値ではありません。
| モデル例 | 配布サイズ | 目安メモリ | 使い心地 |
|---|---|---|---|
| Qwen3 4B | 2.5GB | 8GB〜 | 軽い質問向け |
| Llama 3.1 8B / Qwen3 8B | 4.9GB / 5.2GB | 16GB〜 | 入門の標準 |
| Qwen3 14B | 9.3GB | 24GB〜 | 16GBは余裕なし |
| gpt-oss 20B | 14GB | 24GB〜 | 文脈を伸ばすなら32GB |
| Qwen3 30B / 32B | 19GB / 20GB | 32GB〜 | 余裕を取るなら48GB |
| Llama 3.1 70B | 43GB | 64GB〜 | 常用は64GB以上 |
| gpt-oss 120B | 65GB | 96GB〜 | 大容量構成向け |
「配布サイズ」は、容量を小さくする圧縮(量子化)がかかった版のファイルサイズです。同じモデルでも、圧縮の度合いによって数字は変わります。
モデルのファイルサイズ=必要メモリではない
表の「目安メモリ」がファイルサイズより大きいのには、理由が3つあります。
- 文脈(会話の長さ)の分が別にかかる。 Ollamaの公式文書によると、文脈を長くするほど使うメモリも増えます。
- macOSやブラウザも同じメモリを使う。 ローカルLLMだけがメモリを独占できるわけではありません。
- 足りないと極端に遅くなる。 メモリに収まらない分はCPU側に回ったり、ストレージとの入れ替えが起きたりして、一般に速度が大きく落ちます。Ollamaなら
ollama psで、モデルがCPUに溢れていないか確認できます。
特に見落とされやすいのが文脈です。Ollamaの公式文書では、使えるメモリが24GiB未満の環境では、既定の文脈は4,000トークン(日本語で数千字ほど)に抑えられます。24〜48GiBで32,000、48GiB以上で256,000です。
同じ文書は、Web検索やコーディング支援のような用途では64,000トークン以上を勧めています。つまり16GBのMacでは、モデルが動いても、長い資料を読ませる使い方には窮屈になりがちです。これは公式文書の数字から私が読み取った傾向で、機種ごとの実測ではありません。
ユニファイドメモリでも、全部をAIに使えるわけではない
Macのユニファイドメモリは、CPUとGPUが同じメモリを共有する仕組みです。GPU専用のメモリが別にあるパソコンと違い、容量さえあれば大きなモデルを丸ごと載せられます。ここがMacでローカルLLMが人気になった理由です。
ただし、GPUが使える量には上限があります。llama.cppの開発者向け議論(2023年)では、初期設定のMetal(AppleのGPU向け技術)が使えるのは、メモリ32GB以下で約3分の2、32GBを超えると約4分の3という報告がありました。古い情報で、macOSの更新で変わっている可能性があります。参考値として、私の計算では次のようになります。
| 搭載メモリ | GPUに使える目安 | 上限の考え方 |
|---|---|---|
| 16GB | 約10.7GB | 3分の2 |
| 24GB | 約16GB | 3分の2 |
| 32GB | 約21GB | 3分の2 |
| 64GB | 約48GB | 4分の3 |
この計算だと、配布サイズ14GBのgpt-oss 20Bは、16GB機では上限に収まりません。Ollamaのモデルページには「20Bは最低16GBのメモリ」とありますが、Macの初期設定で余裕を持って動かせるかは別の話だと考えています。ブラウザなどを開いたまま使うなら、24GB以上が無難です。
この上限は iogpu.wired_limit_mb という設定で引き上げられると報告されています。ただし公式の手順ではなく、上げすぎるとmacOS側のメモリが足りなくなります。メモリ不足を設定で解決する前提にはしない方が安全です。
メモリ容量が同じでも、チップで速さは変わる
容量は「動くかどうか」を決め、速さは別の要素で決まります。文章を生成する速度は、一般にメモリ帯域幅(メモリとチップの間でデータを運ぶ速さ)に左右されます。
Appleの仕様ページによると、MacBook Proのメモリ帯域幅はM5が153GB/s、M5 Proが307GB/s、M5 Maxが460GB/sまたは614GB/sです。同じ32GBでも、チップによって生成の速さには差が出ると考えられます。
大きなモデルを待ち時間なく使いたいなら、容量とあわせてProやMaxといった上位チップも検討対象になります。一方で、8Bクラスを軽く試す程度なら、無印チップで足ります。
購入後に増やせないので、先に決める
MacのメモリはCPUなどと同じパッケージに載っていて、購入後に交換や増設はできません。後から足りなくなったら買い替えるしかありません。
迷ったときは、次の順で考えると決めやすくなります。
- 動かしたいモデルの配布サイズを調べる
- その1.5倍前後を、必要なメモリの下限にする(私の目安です)
- 数年使うなら、その1段上の容量を選ぶ
新品で上位の容量を選ぶか、整備済製品で条件に合う構成を探すかは、予算次第です。価格は変動するため、Apple公式ストアで確認してください。
モデルの置き場所も、容量を食う
メモリと同じくらい見落とされがちなのが、ストレージです。上の表のとおり、モデル1つで数GBから数十GBになり、複数を試すと内蔵ストレージはすぐに埋まります。
内蔵を大きくするのが難しいなら、モデルの保存先をThunderbolt対応の外付けSSDに逃がす手もあります。ただしモデルの読み込み速度は接続方式で変わるため、常用するモデルは内蔵に置く方が快適です。
ローカルAIのデータを含めると内蔵ストレージは何GB必要かは、診断ツールで確認できます。
外付けSSDとクラウドのどちらが得かを知りたい場合は、ストレージコストの計算ツールで損益分岐点を確認できます。
数字の出どころ
- モデルのサイズ: Ollama gpt-oss、Ollama Llama 3.1、Ollama Qwen3
- 既定の文脈の長さ: Ollama Context length
- GPUに使える割合: llama.cpp discussion #2182(2023年の情報)
- メモリ帯域幅: Apple MacBook Pro 仕様
目安メモリ、1.5倍前後の下限、GPUに使える容量の計算は、上記の数字をもとにした私の推計です。実際の動作は、モデルの種類、圧縮の度合い、アプリ、macOSのバージョンで変わります。