杂项

MiniMax M3.1 Flash 本地部署与 API 接入指南

介绍 MiniMax M3.1 Flash(2026年10月23日开源,总参428B、激活23B)的本地部署方式:获取权重、vLLM 部署、集群推理与开放平台 API 接入

一句话总结

MiniMax M3.1 Flash(2026 年 10 月 23 日正式开源,总参数 428B、激活参数 23B)可通过开放平台 API 直接调用,也可获取权重自托管部署;本地部署推荐 vLLM 等支持 MoE 稀疏激活的推理框架,硬件按激活参数与量化精度(BF16/MXFP8)评估。

适用场景 ​

  • 需要在私有环境运行 MiniMax M3.1 Flash(数据不出内网、定制推理策略)的开发者与企业。
  • 需要更低调用成本或更高并发吞吐的团队:官方称 M3.1 Flash 较上一代推理速度提升近 3 倍、使用成本降低 70%(2026 年 10 月 19 日发布口径)。
  • 需要快速验证与原型开发、不准备自备算力的个人:直接使用开放平台 API。

操作步骤 ​

方式一:开放平台 API 接入(最快) ​

  1. 注册 MiniMax 开放平台账号(platform.minimaxi.com)。
  2. 在控制台创建 API Key,并在文档中心确认 M3.1 Flash 的模型 ID(model id)与最新计费价格。M3.1 Flash 上线时开放平台价格为每百万 token 输入 1 元人民币、输出 4 元人民币(腾讯云开发者社区 2026 年 10 月 19 日口径,后续以平台为准)。
  3. 按平台文档调用对话补全接口,请求体携带 model、messages 参数,鉴权使用 API Key(Bearer 方式)。

方式二:本地自托管部署(vLLM 示例) ​

  1. 确认硬件:M3.1 Flash 激活参数 23B、总参数 428B,BF16 精度下模型权重约 800GB 量级、MXFP8 量化约减半;单机需多卡大显存或大容量统一内存方案,量级参考官方 M3 自托管文档的显存指引。
  2. 获取权重:从 Hugging Face MiniMaxAI 组织下载 M3.1 Flash 权重仓库(开源公告于 2026 年 10 月 23 日发布;前代 M3 权重路径为 MiniMaxAI/MiniMax-M3-MXFP8,M3.1 Flash 以官方仓库为准),并核对仓库许可证(M3 采用 MiniMax Community License,M3.1 Flash 以官方为准)。
  3. 安装推理框架:使用 vLLM(支持 MoE 稀疏激活)或 SGLang;示例命令(以 vLLM 为准):
    • pip install vllm
    • python -m vllm.entrypoints.openai.api_server --model <本地权重路径> --tensor-parallel-size <GPU数>
  4. 启动服务后,通过 OpenAI 兼容接口接入应用(本地推理服务默认监听 8000 端口,接口路径为 /v1/chat/completions),或使用 vLLM 内置的 serving 工具做压测。
  5. 验证:用中文/英文示例请求确认输出正常,观察吞吐(tokens/s)与显存占用是否符合预期。

方式三:集群推理(大规模场景) ​

  • 对更高并发或更大上下文需求,可基于多节点部署 vLLM 的 pipeline/张量并行,网络建议使用高速 RDMA 互联;具体拓扑与参数调优以 vLLM 官方文档与 MiniMax 部署指南为准。

注意事项 ​

  • 许可证:M3.1 Flash 的商用许可协议以开源仓库实际许可证为准;前代 M3 采用 MiniMax Community License,商用前务必阅读条款(如月活用户规模限制)。
  • 权重版本:MiniMax 曾说明模型权重「稍后发布」后于 10 月 23 日正式开源,下载时确认仓库 revision(版本号),避免使用旧权重。
  • 数据合规:本地部署数据不离开本机,但需关闭不必要的遥测,并遵守所在地区数据保护法规。
  • 价格核实:开放平台价格与模型 ID 可能调整,接入前以 platform.minimaxi.com 当前文档为准。

参考来源 ​

  • MiniMax 开放平台文档中心:自托管部署 MiniMax-M3 链接
  • 第一财经:MiniMax M3.1 Flash 上线三天处理超 100 万亿 Token,今日正式开源(2026 年 10 月 23 日)链接
  • 腾讯云开发者社区:MiniMax M3.1 Flash 上线——每百万 token 输入 1 元、输出 4 元(2026 年 10 月 19 日)链接
  • vLLM 官方文档:Serving 指南 链接