7.8倍吞吐量,MiniMax M3跑上英伟达新芯片

vLLM 现在支持 NVIDIA Vera Rubin。早期结果显示,在 AgentX 上运行 MiniMax M3 时,吞吐量达到 GB200 的 7.8 倍以上 。 MiniMax M3 已在 NVIDIA Vera Rubin NVL72 上通过 vLLM 运行。相关方对 vLLM 项目、inferact、NVIDIA AI、Red Hat AI 表示感谢,称他们共同把 MiniMax M3 带到了 Rubin 平台。 从发布就开始的适配 据相关消息,自 Rubin 发布以来,inferact、NVIDIA AI、Red Hat AI 以及 vLLM 社区就一直在推进 vLLM 在 Rubin 上的适配工作。目前公布的是这一工作的阶段性进展。 这次适配的核心信息集中在两点:一是 MiniMax M3 已经能在 Vera Rubin NVL72 上跑起来,二是跑起来之后的性能表现——7.8 倍这个数字,对比的基准是 GB200。 7.8 倍意味着什么 吞吐量是衡量推理效率的关键指标。在 AgentX 这一测试场景下,同样的 MiniMax M3 模型,跑在 Vera Rubin 上的吞吐量是跑在 GB200 上的 7.8 倍以上。 需要说明的是,这是早期结果,测试场景为 AgentX,对比对象为 GB200。素材没有披露更多测试细节,包括具体的批次配置、序列长度等参数。 从参与方来看,这次适配是多方协作的结果:vLLM 项目提供推理框架,inferact、NVIDIA AI、Red Hat AI 以及 vLLM 社区共同参与。MiniMax M3 作为模型方,成为这一适配的首批受益者之一。 特别

about image

搜索

博万娱乐服务中心-品牌互动平台

博万娱乐成立于2016年,总部位于中国郑州市。公司专注于篮球装备的研发与制造,产品包括篮球鞋、球衣、训练器材、运动防护用品等。博万娱乐凭借创新的设计和优质的材料,推出了多款高性能的篮球鞋系列,赢得了国内外篮球爱好者的高度评价。

公司不断加强与国内外顶级篮球运动员和篮球俱乐部的合作,通过不断的技术创新,推出适合各类运动员的定制产品。每款篮球鞋的设计都考虑到运动员的运动需求与舒适性,确保球员在比赛中能够充分发挥最佳状态。

除了在篮球装备领域的深耕,博万娱乐还积极推动篮球文化的普及,特别是在青少年篮球教育方面做出了很多努力。公司通过与各大高校和青少年体育培训机构的合作,举办篮球训练营和赛事,鼓励更多青少年参与篮球运动,提升他们的竞技水平。

公司注重科技与体育的结合,推出了多款智能篮球装备,如带有传感器的篮球鞋,能够通过数据采集和分析,帮助运动员提高训练效率,改进比赛技巧。未来,博万娱乐将继续加大在智能篮球装备领域的投入,不断提升产品的科技含量和竞争力。

展望未来,博万娱乐将持续扩展国际市场,积极推动篮球赛事的组织与举办,并通过不断的创新和高质量的产品,巩固和提升品牌的市场地位。