一言まとめ
Mistral Large 4を自己ホストする要点は、Hugging Faceから公式チェックポイントを取得し、Blackwell向けNVFP4量子版でメモリ負荷を下げ、互換推論フレームワークでサービスを起動し、修改版MITライセンスの商用範囲を確認すること。
適用場面
- 兆パラメータMoEを自社GPUクラスターに配置し、データ域外持ち出しを回避したい。
- コーディング・エージェントや防御的サイバー用途で第三者API以外のローカル呼び出しが必要。
- Mistral API、OpenRouter、NVIDIA NIM、Microsoft Foundryに加え、私的配置を持ちたい。
操作手順
- 重みを取得：Hugging FaceでMistral公式のMistral Large 4チェックポイントを探し、Mistralエコシステム公開重みライセンス（修改版MIT）を確認。
- 精度を選択：約1兆パラメータはメモリ負荷が大きいため、Blackwell GPU向けNVFP4量子版を優先し、目標精度に対してメモリを試算。
- 推論環境を準備：自社ノードでGPUドライバと推論フレームワークを構成し、MoEルーティングと100万トークン・コンテキスト対応を確認。
- サービス起動：mistral-large-4の接続名でローカル推論を起動。ま�易しい要求で出力を検証し、その後推論モード（low/medium/high）を上げる。
- ライセンス境界を確認：MaaSを提供する場合はMistralから別途商用許諾を取得。重みを直接転売しない。
注意事項
- モデルはネイティブマルチモーダル。画像入力には16億パラメータの視覚エンコーダが必要。テキスト検証のみでは不完全。
- ガードレールが実攻撃に使われうると同社が说明。本番ではアクセス制御と利用監査を追加。
- 100万トークン・コンテキストはメモリ・レイテンシ敏感。バッチではスループットとコストを評価。
参考出典
- Unite.AI：Mistral Le Chonk
- IT之家：Mistral AIがLarge 4重み公開