
10月23日,MiniMax正式对外开源M3.1Flash模型权重。伴随开源消息一同对外公布的,还有一组亮眼的运行统计数据。这款模型正式上线之后短短72小时之内,整体业务处理量就突破100万亿Token。为了让更多开发者可以第一时间用上这套模型,企业已经联动多家芯片制造企业、推理服务平台以及云服务商,推动尽可能多平台在开源首日完成模型接入适配工作。
模型面向的实际应用场景
回溯产品时间线,M3.1Flash最早在10月19日就已经对外发布。产品在设计阶段就把重心放在几类高消耗的实际业务上面,分别对应智能体任务、程序代码编写、计算机自动操作以及网络安全相关工作。
这类场景和普通闲聊对话有明显区别,往往需要模型多轮循环思考,反复调用外部工具,持续输出大段内容。对推理响应速度、单次任务整体开销都有着很高要求,也是当前不少开发团队落地项目时遇到的现实难点。
推理性能背后的架构优化
能够实现高吞吐的业务表现,来源于底层稀疏注意力架构的技术优化。根据官方公开的实测结果,M3.1Flash线上推理的速度对比上一代产品提升接近3倍,整体使用成本同步下降70%。
在真实业务运行环境下,该模型日常输出速度最高可以超过每秒200Token。从大量请求统计的中位数指标看,输出速度稳定维持在每秒170Token以上。稳定的高速输出,能够直接缩短代码生成、自动化任务执行过程里的等待时间,对批量处理任务的业务帮助尤为明显。
下调之后的API调用计费标准
伴随着模型开源,新版的API计费规则也同步落地,整体价格相比前代出现明显下调。按照官方公示,M3.1Flash每百万Token输入定价1元,每百万Token输出定价4元,缓存读取每百万Token定价0.1元。
拿上一代M3的价格作为参照,新模型输入、输出两项的单价降幅均超过五成,缓存读取的单价降幅更是超过七成。对于长上下文、多轮连续交互的业务来说,缓存读取费用的降低,能够实实在在减少高频调用场景下的整体账单。
跨硬件生态的适配推进计划
开源模型想要实现大范围落地,不能只局限于单一硬件环境。MiniMax已经启动跨生态适配合作,合作清单覆盖华为昇腾、平头哥、昆仑芯、摩尔线程、英伟达、AMD等不同技术路线的芯片厂商,同时联合推理与云服务平台开展联调。
完成开源之后,开发者可以拿到完整的模型权重。大家可以结合自身业务诉求,以及机房现有的硬件条件来自主部署,也可以基于基础模型做针对性调优,不用被封闭的公有云平台完全束缚住。
揭秘此前匿名运行的测试版本
不少行业从业者此前接触过一款代号Space Bunny的匿名模型,如今官方确认,它就是M3.1Flash的早期迭代版本。在匿名测试运行阶段,这个版本累计处理的数据量已经突破200万亿Token。
海量真实业务流量的打磨,帮助研发团队提前暴露并且修复各类运行问题,验证稀疏注意力架构在高并发压力之下的实际稳定性,为正式版本的上线打下现实基础。
产品线还有后续升级规划
M3.1Flash并不是该条产品序列的终点。MiniMax对外透露,未来还会推出综合智能能力更强的Pro版本。不过截至目前,Pro版本的具体上线时间还没有对外公布。
Flash版本主打高速吞吐、低成本规模化运行,适合大批量业务落地;后续Pro版本预计会强化高阶复杂推理能力。企业用户后续可以根据任务难度高低,灵活挑选不同定位的模型搭配使用。
放在整个行业视角来看,智能体相关应用正处在从概念演示走向实际商用的阶段。制约很多中小团队落地的一大因素,就是持续调用带来的高额开销。这类高速、低价同时完成开源的模型,能够降低创业团队和企业的试错成本。而多芯片同步适配的策略,也有助于推动开源大模型摆脱硬件绑定,构建更加多元开放的AI产业基础设施。
(素材来自:MiniMax 智算芯能前沿网综合)
本文由智算芯能前沿网编辑整理,转载请注明出处。
