一言まとめ
MLXはAppleが公開したオープンソースの機械学習フレームワークで、Appleシリコン搭載Mac（M1以降）でオープンソースのLLMを直接実行できます。本ガイドはインストール、モデル導入、生成、ローカルサーバー起動までの一連の手順を解説します。
適用シーン
MacでオープンソースのLLMをローカル実行するのは、プライバシー重視の業務（文書・コードが端末外に出ない）、オフライン環境、低遅延のデバッグとコスト管理（API費用なし）の3つのシーンに適しています。2026年10月16日、MetaはオープンウェイトモデルMuse Spark Openを公開し、Appleと協力して512GBメモリのMac Studio 2台でMLXにより完全モデルをローカル実行し、MLXのローカル推論能力を実証しました。
操作手順
- ハードウェアとOSの確認：Appleシリコン搭載Mac（M1/M2/M3/M4シリーズ）、macOS 13以上、Python 3.9以上をインストール。
- mlx-lmのインストール：ターミナルで
pip install mlx-lmを実行（仮想環境またはuvでの管理を推奨）。 - モデルの選択：統合メモリ容量に応じて選択。8GBは3B〜7Bの量子化モデル、32GBは30B級、64GB以上は70B級を実行可能。
- モデルのダウンロードと実行：
python -m mlx_lm.generate --model mlx-community/Meta-Llama-3.1-8B-Instruct-4bit --prompt "こんにちは"を実行。初回はHugging Faceから自動でウェイトをダウンロード。 - ローカルサーバーの起動：
python -m mlx_lm.server --model mlx-community/Meta-Llama-3.1-8B-Instruct-4bit --port 8080を実行し、localhost:8080でOpenAI互換のAPIを提供。 - 自前モデルの量子化：
python -m mlx_lm.convert --hf-path モデルディレクトリ -qで4bit量子化版を作成し、メモリ使用量を削減。
注意事項
- メモリが主要なボトルネック：必要なメモリは「パラメータ数（10億）× 量子化ビット数 ÷ 8」GB程度。7Bモデルの4bit量子化では約4GB必要。
- 初回はウェイトのダウンロードでネット接続が必要。ダウンロード後はオフラインで利用可能。
- Muse Spark Open（総パラメータ8160億、活性化420億）は512GBメモリのMac Studioでなければ完全にローカル実行できません。通常のMacは量子化した中小規模モデルに適しています。
- MLXはAppleシリコン（Mシリーズ）のみ対応。Intel Macでは動作しません。