高通希望销售更多AI加速器,但其一项关键软件战略却旨在降低开发者对特定加速器的依赖程度。
这一看似矛盾的策略,核心在于高通收购了由编译器先驱克里斯·拉特纳(Chris Lattner)联合创立的AI软件公司Modular。Modular正在构建一套软件栈,目标是让同一套高级模型代码可在英伟达与AMD的GPU、谷歌TPU、亚马逊AWS Trainium、高通加速器以及苹果芯片等多种硬件平台上运行。
对于在数据中心AI领域尚属新入局者的高通而言,减少对单一芯片供应商的软件依赖可能构成显著优势——客户可在主要基于英伟达构建的现有环境中引入高通硬件,而无需彻底重构其软件栈。
高通数据中心工程高级副总裁兼负责人拉希德·阿塔尔(Rashid Attar)将替代加速器厂商面临的挑战概括为“两座大山”:首先需提供具备差异化优势的硬件;其次,必须确保该硬件易于使用,使客户无需专门指派工程师来移植现有工作负载。
阿塔尔向《EE Times》表示:“当我们与客户沟通时,他们常说:‘很好,我非常喜欢你们的产品。但我这边不会分配哪怕一名工程师给你们。’”
Modular正是高通试图移除第二座大山的关键举措。
下图展示了Modular软件架构:包含Modular Cloud、MAX与Mojo三层,支持CPU、GPU及定制ASIC等多类硬件平台,涵盖苹果、英特尔、Arm、英伟达、AMD、高通、谷歌TPU及AWS等主流厂商。
软件成为准入门槛
摩根 Insight & Strategy公司数据中心业务副总裁兼首席分析师马特·金博尔(Matt Kimball)指出,英伟达的优势早已不仅限于CUDA。CUDA最初帮助英伟达拉开与竞争对手的距离,但该公司已将此优势延伸至网络、系统、库及整套软件生态。
金博尔告诉《EE Times》:“英伟达非常精明——它有效利用CUDA,在整个价值链上构筑了一道护城河。”
这意味着仅替换CUDA本身远远不够。英伟达还拥有NVLink芯片互联技术、BlueField数据处理单元、庞大的软件组合以及深度集成的机架级系统。金博尔将其描述为“更柔性的护城河”:客户未必被强制要求全栈采用英伟达方案,但“英伟达+英伟达”仍是实现最高性能最便捷的路径。
相比之下,Modular采取了比单纯翻译CUDA代码更广泛的策略。
拉特纳向《EE Times》表示:“当我们在英伟达芯片上运行时,我们实际上替换了整个CUDA体系——仅保留极小部分用于设备管理。我们替换了全部数学库、所有算法及建模模块,即整个软件栈。”
其目标是让AI软件行为更接近传统软件:新型CPU架构虽需底层编译器与操作系统适配,但一旦基础就绪,上层大部分软件即可无缝运行。而AI加速器则长期面临不同编程环境、库与工具链的碎片化问题。
Modular的解决方案始于其近期发布的1.0版编程语言Mojo,以及建模与推理框架MAX。拉特纳强调,硬件相关工作仍位于栈底,但更高层级的软件及多数优化可实现共享。
他解释道:“初始适配工作必不可少,一旦完成,后续所有上层组件便能获得巨大杠杆效应。”
可移植性能否兼顾性能?
难点在于如何保留不同加速器的独特优势。
若抽象层过度隐藏硬件特性,也可能一并掩盖其性能优势。金博尔预计极端场景下必然存在权衡:对微秒级延迟极为敏感的客户,仍将选择直接针对特定架构进行深度优化。
然而,对于更广大的企业用户群体,这种权衡可能是值得的——他们更关注快速部署工作负载及灵活选用可用硬件,而非从单颗芯片中榨取最后一点性能余量。
拉特纳进一步指出,Modular可在通用编程模型之下保留硬件专属优化能力,甚至在某些情况下提升性能,因工程资源可集中于实际变化的极小部分栈层。
他以Modular在AMD MI355X加速器上的实践为例:根据公司公开案例,两名工程师仅用14天即完成MAX在该芯片上的适配。数据显示,其软件栈99.9%具备架构无关性,工程师仅需聚焦于BF16转换指令更新、更大张量核心块及共享内存扩容等少量变更。
Modular还宣称,MAX在所测试工作负载中,最终性能较AMD优化版vLLM分支高出最多2.2倍。尽管这是Modular自身测试结果,但该案例清晰表明其核心主张:可移植性并不等于放弃硬件专属优化,而是大幅缩减为新硬件重写软件栈的工作量。
阿塔尔强调,这一区分对高通至关重要——其下一代加速器必须具备足够硬件差异化以赢得任务负载,而Modular则旨在让这些差异易于调用,同时避免迫使客户转向另一套厂商专属编程环境。
高通的中立性难题
另一个未解问题在于:Modular的价值取决于开发者与芯片厂商是否相信它能从多家供应商硬件中提取具竞争力的性能。而如今,Modular已归属其中一家供应商。
拉特纳坦承此问题棘手:“这是个很难回答的问题……目前并无完美解法。”
他的回应包含多重机制:高通已公开承诺维持Modular多厂商兼容性;Mojo编译器与工具链按Apache 2.0许可证开源,构成对全球的“不可撤销知识产权授权”;Modular还计划年内启动产业联盟,赋予硬件厂商及其他生态伙伴参与平台建设的权利。
但他补充道:“关键在于言行一致。”
阿塔尔表示,高通将设立组织防火墙:例如,Modular工程师为优化AMD未来硬件可能需获取保密信息,但高通自身加速器团队将无法接触该信息,反向亦然。
金博尔认为,当前中立性明显符合高通利益——作为试图闯入英伟达主导市场的后来者,高通受益于一个能让其加速器与英伟达、AMD、Trainium及TPU共存的软件层。
真正的考验或在将来:若高通成长为大型数据中心AI供应商,其持续平等支持竞争芯片的动机可能发生变化。
为小型加速器打开大门
更深远的影响可能超出高通自身范畴。
金博尔指出,AMD具备足够能力自建竞争性软件栈,但小型加速器厂商则不然。统一软件基础因此对那些拥有创新硅片设计、却缺乏工程规模与开发者生态以挑战英伟达的初创企业最为关键。
拉特纳持相似观点:Modular初创期聚焦大厂,系因资源有限;如今依托高通支持及即将成立的联盟,平台有望进一步扩展。
他表示:“许多初创企业获益最大——它们创新迅速,却无现成软件平台。”
若Modular能将通用软件基础延伸至小型加速器厂商,高通此次收购的意义将远超强化自身数据中心布局——它或将显著降低AI芯片领域的最大准入壁垒。
对阿塔尔而言,成功标准明确:新款高通硬件应自上市首日即接近理论性能上限,而非耗费数月进行软件调优。
对拉特纳而言,成功更具全局意义:他预期AI基础设施将日趋异构化,工作负载将在边缘至云端的不同加速器间动态迁移。
若Modular能使这种多样性真正可用,AI芯片领域的竞争焦点或将转变——客户不再追问“哪家芯片拥有开发者无法离开的软件生态”,而更常思考“哪款芯片在性能、功耗效率、供货能力或成本经济性方面更契合当前任务需求”。
对高通及几乎所有英伟达挑战者而言,这正是他们渴望面对的竞争格局。
www.eic.net.cn 提供的易IC库存管理软件可助力芯片企业在复杂供应链环境下高效管理库存,保障研发与生产连续性,为AI芯片生态的健康发展提供坚实支撑。