在WAIC，十大开源社区「挤」进了一个GPU展台

每年WAIC第一天，都像一场“暴走探展”。

一圈逛下来，今年最热闹的几个关键词已经很明显：

超节点、大模型、Agent、AI4S。

沐曦也把今年的新东西几乎一次性搬到了现场。

曦景S600超节点首次亮相，单机柜64张GPU、可扩展至万卡集群；

AI4S方向的曦索X300系列科学智能GPU首次发布；

Agent体验区排起长队，数字员工、AI文创工作站几乎没停过。

按理说，这些已经足够成为一个GPU展台的主角。

但真正把我们留下来的，却是另一件事。

展台中央，被整整留给了十个开源社区。

龙蜥社区、vLLM、PyTorch基金会、SGLang……十个logo依次排开。

沐曦甚至专门做了一条开源社区打卡路线。

一家GPU公司，为什么把最显眼的位置之一留给了开源？

而要把答案讲清楚，得先从他们那套软件栈MXMACA说起。

软件，才是护城河

在算力这条赛道里泡久了的人都清楚一件事，NVIDIA能稳坐龙头，靠的从来不只是单颗芯片的硬件性能。

制程、架构、显存这些硬件指标，都是有清晰参数、看得见摸得着的东西，国产厂商咬着牙研发，总有机会把差距收窄。

真正难追的，是NVIDIA藏在硬件之下的那道护城河，CUDA软件生态。

数百万开发者的项目代码、开发经验、自研模块，全都沉淀在CUDA上。

换一张算力卡，意味着要把过往多年的技术积累大幅推倒重来，迁移成本足以让大多数团队止步。

所以国产GPU真正要啃的硬骨头，是造出一个能让开发者心甘情愿迁过来的国产算力开发环境。

沐曦自研的全栈计算软件MXMACA，正是针对这一问题交出的答卷。

这套全栈软件从编译器、算子底层函数库，一路覆盖到各大主流AI推理训练框架，目标只有一个：

把迁移成本压到最低，让开发者原有的代码无需改动，就能直接运行在沐曦GPU上。

当然了，「近零成本」已经得到了验证。

他们专门搭了一套自动化测试体系，纳入GitHub上近5000个热门开源项目，每一轮MXMACA版本更新都要跑一遍全量测试。

结果是，92%的项目一行代码都不用动，就能正常运行。

框架这头也是同样的打法。

针对PyTorch 2.8，MXMACA把全部2410个GPU算子做到了完整兼容；更关键的是速度，每次PyTorch出新版本，行业里同类方案通常要磨上好几个月才能适配完，沐曦这边一周就能收工。

vLLM生态那边就更能说明问题。

生态里两百多款大模型，沐曦自己只深度调试了五六十款主流型号，剩下的直接甩给普通本科生，让他们拿着沐曦的显卡逐一去测。最后只有十来款出现了适配障碍，绝大多数开箱即用。

连在校生都能跑完这么大规模的验证，说明MXMACA的通用兼容性足够扎实。

不过在沐曦的整盘棋里，把代码顺利跑起来还只是第一步。

真正的挑战，是AI爆发之后显现出来的。

如今，一个大模型从训练完成到上线服务，周期被压得极短，大模型厂商、云厂商都想在模型一升级就第一时间拿到收益。

可行业技术更新几乎没有间歇，今天某个模型厂商放出一套创新技术，隔天就有团队推出迭代方案。

在这种节奏下，如果只依靠一套封闭自研的软件栈闭门跟进，既跟不上行业速度，也没法快速响应客户的各类需求。

“对于我们这样一个追赶者来讲，需要以开源的方式，来打破领先者闭源的垄断。”

谈及选择开源的初衷，沐曦团队这样解释道。

但实际上，拥抱开源并非行业倒逼下的临时对策。

早在自家GPU产品正式量产之前，沐曦就已经完成了1752款开源软件的适配。

也是从那时起，沐曦将开源共建纳入了公司的长期战略。

把软件栈打开，让生态自己长

决定开源之后，沐曦的打法可以用一个词概括，upstream first。

区别在哪呢？

以前的常规操作是“社区发了新版本，厂商拉下来自己适配”，也就是拉源码、下patch、打补丁、编译、调试，一整套流程走完才能用。

而upstream first是把代码直接贡献回上游社区，和社区一起迭代。

落到开发者手里，直接就变成了“在vLLM社区把代码拉下来，pip一装，直接跑”。

能做到这样，是因为沐曦的支持代码本来就长在社区里，新模型发布时往往default就已经支持了。

截至目前，沐曦已经开源了53个软件仓库，占整个软件栈的15%到20%，而且仍在持续扩大。

这个过程中有一个标志性事件，是沐曦成了中国第一家与vLLM官方签署合作协议的芯片企业。

放到全球看，也是美国芯片公司之外的第一家。

合作横跨软件适配、开源活动、商业协同三个层面，沐曦的硬件也因此进了Red Hat+vLLM的官方硬件货架。

这已经不是“我去适配你”的关系，而是实打实的生态共建。

再回头看展台上那十个社区，就能明白它是沐曦开源协作的一张完整地图——

十个社区，恰好对应一个Token穿过的每一层。

最底下是操作系统与资源调度这一层，龙蜥社区、Red Hat、CNCF、密瓜智能（Dynamia）守在这里，每个Token能稳稳跑起来，都得靠它们兜底。

沐曦和龙蜥社区就一起啃过一个让所有芯片厂商头疼的问题：

操作系统内核小版本频繁升级，GPU驱动就得跟着重新打包，给终端用户带来大量额外负担。

双方联合通过技术机制让驱动能够直接忽略小版本的变化，开源版本直接build出来就能用。

而这类工作，只有扎根在同一个社区里深度共建才做得成。

往上一层是训练与推理框架，vLLM、PyTorch基金会、SGLang、九源联合体都在这里，每个Token能被高效生成，靠的就是这一层的持续迭代。

沐曦提到，过去两年，这一层每年的性能提升都在100%以上。

再往上到顶，对应的是开源生态运营与合规治理。

模力方舟负责降低模型分发门槛，方便开发者获取使用各类模型；木兰开源社区则专注开源项目孵化与行业规范搭建。

沐曦曾联合木兰开源社区共同制定开源规范与大模型分级标准，因为开源不等同于无规则开放，每个Token的输出能否做到安全合规，都离不开完善的社区运营与治理体系作为支撑。

从芯片到操作系统，从推理引擎到治理规则，把这条打卡路线走完，也就走完了一个Token完整的生命周期。

而沐曦的共建，并不止步于框架这一层。

以北大团队研发、对标OpenAI Triton的编译器TileLang，沐曦从2024年下半年就投入共建。

等到今年行业多款主流大模型上新时，不少核心算子就是靠这套编译器写出来的。

这背后的意义在于，从并行编译到算子优化，国内第一次有了端到端自主可控的技术路线，不用再顾虑自研适配代码无法合入上游社区主干。

框架之外，沐曦也把重点放在人才培养上。

沐曦围绕TileLang开设多期实战训练营，累计吸引了500多名开发者参与。

今年沐曦还将启动“揭榜挂帅”，吸引更多算子优化技术人才来参与。

规划编写的6本配套教材已经出版了4本，8大基础课程进了上交大、浙大等20多所高校；

企业还联合上海AI实验室的书生工具链开办了三期实战营，让学生从数据收集、模型训练一路做到评测和应用，相关课程与全部工程代码均对外开源。

挑战杯、CCF大赛、各大国家实验室技术竞赛里，也都有沐曦的身影……

为了持续发掘优质新生技术力量，沐曦也给出了激励，在社区中实操表现突出的在校学生还能获得免试入职实习的机会。

说到底，生态不是单方面“建”出来的，而是把底座持续开放之后，各方共建长出来的。

那么，软件栈一直开着、生态自己往上长，沐曦最终到底想让MXMACA成为什么？

AI时代的Android

沐曦CTO杨建博士给了一个特别明确的锚点——

AI时代的Android。

具体来说就是持续开放最核心的那套全栈软件，从操作系统、大数据处理，到大模型训练推理，再到私有化部署，把全链条打通。

让客户乃至其他芯片厂商，都能基于这套完整软件栈，搭起一个通用、好用、易用的底层算力生态。

所谓通用，就是让市面上绝大多数模型与应用都能顺畅适配；

至于好用、易用，杨建博士给了一个接地气的说法：

一个小白用户，一个下午就能把一个新应用全部适配完成。

这话也不是在画饼，早在2023年，沐曦就已经做到能让一个大二学生在一天之内跑完一款开源软件的适配、验证和部署。

在他的判断里，未来全球700万GPU和AI开发从业者中，至少650万人接触沐曦工具链后，一天内即可快速上手。

Android当年靠的是激活设备数和开发者数量撑起整个生态，AI时代的算力生态也是同一个道理。

现在生态里的50万开发者只是眼下的刻度，沐曦定下的长期目标是是到2029、2030年，把专属于沐曦生态的开发者数量扩到500万。

而Agent浪潮的爆发，又给这套体系压上了一道新命题。

用沐曦自己的话说，眼下的Agent正处在一个类寒武纪时代——

各类智能体方案集中涌现，GitHub上AI相关的项目每年翻番，所有人都在用各种花样探索Agent。

但这种爆发是带着蛮劲的，大量Agent程序缺少底层性能优化，大量Token被消耗在在无效调用上。

Token的消耗增速，已经远超底层基础设施的扩容速度。

好在两端都在加速优化，而且是用一种很有意思的方式，透明卷。

比如今天业内开源一项降低单Token算力消耗的新技术，明天可能就会有高校团队放出演进版，所有优化都摊在开源世界里，你追我赶，全程公开。

推理侧的结果是，同一张GPU原来每秒产100个Token，现在能产200个、300个；

Agent侧也在通过Skill这类方式压缩开销，原来1000块Token预算才办得成的事，优化完100块就搞定。

开源世界里还在发生一些更值得注意的变化，沐曦分享了一段真实经历：

一家互联网公司的产品经理找上门来要做模型适配，中途外出用餐，一顿饭的功夫回来告诉沐曦，适配已经做完了。

用的是AI编程工具，配上自家的模型权重，再加上沐曦的公开文档，饭还没吃完，脚本就跑通了。

这件事让沐曦也颇感意外。

但转念一想，这恰恰说明生态走到了一个新阶段，文档足够开放、软件栈足够兼容，连不写代码的人都能借着AI参与共建。

展区那句「每个Token背后，都是一次开源协作」，也有了全新注解——

现在连AI自己产出的Token，也在参与这场开源协作了。

落在长远布局上，沐曦想扮演的角色其实自始至终没变过：

做中国开源算力生态的领军者，靠开源底座串联产学研用，让操作系统、框架、模型、应用的每一环都建立在开源共享之上。

毕竟，Token不会说谎。每一个流畅生成的Token，都是对背后整套开源协作链路的验证。

而沐曦想做的，就是让每个Token的价值都被真正实现。

文章来自于微信公众号 “量子位”，作者 “量子位”