金磊 发自 WAIC开云kaiyun.com

量子位 | 公众号 QbitAI

放眼当下，到底哪个芯片跑满血DeepSeek是最快的？

谜底很不测——不是你认为的英伟达，而是一家国产GPU。

因为现时它的速率，照旧胜仗来到了100 tokens/s！

这开云kaiyun.com个速率比拟海外GPU的50 tokens/s和国内的15 tokens/s，照旧称得上是快上了一个数目级。

如若将三者放在沿途同期运行，成果会愈加一目了然。

当中间的国产GPU以教练有方之势给出了完整准确谜底之际，双方的“选手”则是还在深度念念考过程中：

那么这个国产GPU到底是谁？

不卖关子，它便是摩尔线程。

但这时信服有许多小伙伴会问了，从设立到现时不到5年时辰，摩尔线程的缘何赢得如斯速率。

在量子位了解完其在“算力之谈”的全貌之后发现，谜底，远比“作念出一颗更快的芯片”要广漠和深入。

照旧造了个AI超等工场

没错，这是因为摩尔线程在搞算力这件事儿上，照旧给自家打造了一个AI超等工场（AI Foundry）。

提到Foundry这个单词，许多东谈主第一反映梗概便是造芯一会儿的“晶圆厂”，它的价值取决于于分娩芯片的良率、产能和工艺先进性。

但AI超等工场，它并非指代一个物理上分娩芯片的晶圆厂，而是一个类比的认识：

这个AI工场的进化，就像升级制程一样，毫不是改改某个单一技艺就完事儿了，而是一个系统性、全主张的变革。

它条款通盘技艺栈“夺胎换骨”：从最底层的芯片架构必须改动、到集群的举座架构得精巧遐想，再到软件层面——算法何如调更灵巧，资源退换何如跑更高效，每一个本事都至关遑急。

正是这种从根儿上动起来的基础设施大纠正，才能确凿开释AI算力，收场大范围“分娩”和“迭代”前沿AI大模子。

需要强调的一丝是，要建成这样一座超等工场，绝非暴力地将千千万万张显卡堆砌在沿途这样温和。

它需要五大中枢身分的考究耦合与协同进化，统筹兼顾；

这个AI工场的产能，用一套公式可详细为：

AI工场分娩效率 = 加快缠绵通用性 × 单芯片灵验算力 × 单节点效率 × 集群效率 × 集群隆重性

摩尔线程正是围绕这五大身分，构建了技艺护城河。

全功能GPU：超等工场的基石

AI超等工场的基石，指的是一颗具备强劲通用性的“全功能GPU”。因为回来算力的进化史，其实便是一部全功能GPU的发展史。

从最初只可加快3D图形的“显卡”（VGA Card），到怒放编程接口、允许开发者创造无穷可能的“当代图形处理器”，再到被等闲应用于超算、深度学习、区块链等鸿沟的通用缠绵平台，GPU的每一次飞跃，都源于其通用性的拓展。

单一功能的加快器，如早期的3D加快卡或今天的某些专用AI芯片（ASIC），固然在特定任务上效率极高，但其无邪性差、编程可贵，无法稳妥AI模子日月牙异、应用场景寥若晨星的发展趋势。

一个AI模子可能既需要处理言语，也需递次略图像，致使要进行物理宇宙的模拟。如果工场的“机床”只可处理一种任务，那么它很快就会被淘汰。

因此，摩尔线程从创立之初就坚抓打造确凿的全功能GPU，既要“功能完备”，也要“精度完整”。

开始是“功能完备”，即芯片里面集成了四大中枢引擎：

AI缠绵加快引擎：不仅能作念推理，更能作念履行，收场训推一体。

先进的3D图形渲染引擎：赞成DX12等当代图形API，骄气游戏、AIGC、数字孪生等视觉缠绵需求。

物理仿真与科学缠绵引擎：这是常被冷漠却至关遑急的一环。畴昔的Agentic AI、空间智能都需要与物理宇宙交互，强劲的科学缠绵材干是聚首数字宇宙与物理宇宙的桥梁。

超高清视频编解码引擎：AI的缠绵死亡最终需要通过视觉和听觉呈现给东谈主类，高清、低蔓延的流媒体处理材干是东谈主机交互体验的保证。

AI缠绵加快引擎：不仅能作念推理，更能作念履行，收场训推一体。

先进的3D图形渲染引擎：赞成DX12等当代图形API，骄气游戏、AIGC、数字孪生等视觉缠绵需求。

物理仿真与科学缠绵引擎：这是常被冷漠却至关遑急的一环。畴昔的Agentic AI、空间智能都需要与物理宇宙交互，强劲的科学缠绵材干是聚首数字宇宙与物理宇宙的桥梁。

超高清视频编解码引擎：AI的缠绵死亡最终需要通过视觉和听觉呈现给东谈主类，高清、低蔓延的流媒体处理材干是东谈主机交互体验的保证。

其次，“全缠绵精度”粉饰。从FP32、FP16到业界前沿的FP8，乃至更低精度的INT8/INT4，完整的精度赞成闪开发者不错把柄不同任务的需求，在性能和精度之间找到最好均衡点。

至极是在大模子履行中，搀杂精度履行已是标配，而摩尔线程是国内一丝数能够提供FP8履行材干的平台。“全功能”和“全精度”材干，确保了摩尔线程的GPU这座“机床”能够贯串各种AI模子分娩订单。

MUSA接济系统架构：超等工场的“总遐想师”

如果说全功能GPU是工场的机床，那么MUSA便是通盘工场的“总遐想师”。一个超卓的顶层架构，能够决定一家公司畴昔十年致使更万古辰的技艺道路和发展后劲。

MUSA的核激情念是“一个架构，万千应用”（One Architecture for Many Applications）。它采纳创新的多引擎、可伸缩、可建树的接济系统架构，将GPU里面的缠绵、通讯、内存、退换等功能进行顶层遐想和接济顾问。

先来看可伸缩，顾名念念义，MUSA架构是不错把柄不同客户、不同市集的需求，快速剪辑出优化的芯片建树，大幅驳斥了新品芯片的开发资本。

其次，资源全局分享，温和说，便是把悉数硬件资源——像缠绵中枢、内存、通讯这些——都买通，造成一个大资源池，然后用智能退换无邪分派。

这招儿胜仗科罚了大问题：以前那种单引擎GPU，多个任务沿途跑的时候至极容易卡。现时好了，悉数资源寰球分享，按需取用！

再举例，接济编程接口与提醒集，开发者只需学习一套API和编程模子，就能驱动MUSA架构下悉数的硬件引擎，极地面驳斥了开发门槛，擢升了开发效率。

除此以外，MUSA架构里面包含了多个摩尔线程自研的中枢技艺。

举例，成心为FP8遐想的“Transformer引擎”，使其FP8的履行性能比拟莫得该引擎的决议能擢升30%；开创的ACE异步通讯引擎，不错让缠绵和通讯并行不悖，科罚了传统架构中通讯会占用缠绵资源的痛点，减少了15%的缠绵资源损耗，将GPU的算力开释；自研的MTLink2.0互联条约，收场了GPU之间高效、低蔓延的通讯，提供了跨越洋群众业平均水平60%的带宽，为大范围集群部署奠定了坚实基础。

MUSA架构的先进性，确保了摩尔线程的每一颗芯片都不是孑然的算力单位，而是一个高度协同、顾问高效的“作战小组”，灵验擢升每颗芯片灵验算力，为通盘AI超等工场提供了坚实的、可彭胀的算力底座。

MUSA全栈系统软件：超等工场的“操作系统”与“器具箱”

再好的硬件，如若莫得高效的软件，相通也无法泄漏其全部后劲。因此，摩尔线程打造了与MUSA硬件架构深度耦合的全栈软件系统，它在AI超等工场中上演着“操作系统”和“开发者器具箱”的变装。

这个软件栈不错说是粉饰了从底层驱动到表层应用框架的方方面面：

高效驱动：摩尔线程的驱动经过深度优化，核函数启动时辰驳斥50%，任务派发蔓延极低，不错一次性并发处理上千个任务，最初业界水平。

核默算子库：对标国际大厂的cuDNN，摩尔线程的muDNN在算子层面进行了无数优化，GEMM算子算力诓骗率达98%，Flash Attention 算子算力诓骗率冲破95%。

高效驱动：摩尔线程的驱动经过深度优化，核函数启动时辰驳斥50%，任务派发蔓延极低，不错一次性并发处理上千个任务，最初业界水平。

核默算子库：对标国际大厂的cuDNN，摩尔线程的muDNN在算子层面进行了无数优化，GEMM算子算力诓骗率达98%，Flash Attention 算子算力诓骗率冲破95%。

通讯效率跃升：MCCL履行通讯库收场RDMA集聚97%带宽诓骗率；基于异步通讯引擎优化缠绵通讯并行，集群性能擢升10%。

生态兼容与Triton赞成：通过MUSIFY等器具，收场了对PyTorch、TensorFlow等主流AI框架的无缝赞成。尤其值得一提的是，基于Triton-MUSA编译器 + MUSA Graph 收场DeepSeek R1推理加快1.5倍，全面兼容Triton等主流框架。

完善的开发者套件：提供了一整套涵盖性能分析（Profiler）、调试、调优、一键部署等功能的器具链，如消亡个“百宝箱”，闪开发者能够细察硬件运行的每一个细节，榨干硬件的每一分性能。

通讯效率跃升：MCCL履行通讯库收场RDMA集聚97%带宽诓骗率；基于异步通讯引擎优化缠绵通讯并行，集群性能擢升10%。

生态兼容与Triton赞成：通过MUSIFY等器具，收场了对PyTorch、TensorFlow等主流AI框架的无缝赞成。尤其值得一提的是，基于Triton-MUSA编译器 + MUSA Graph 收场DeepSeek R1推理加快1.5倍，全面兼容Triton等主流框架。

完善的开发者套件：提供了一整套涵盖性能分析（Profiler）、调试、调优、一键部署等功能的器具链，如消亡个“百宝箱”，闪开发者能够细察硬件运行的每一个细节，榨干硬件的每一分性能。

这套全栈系统软件，确保了开发者不仅能“用起来”，更能“用得好”，将MUSA硬件架构的强劲材干顺畅地传递到表层应用，是聚首硬件与算法的重要要道。况兼通过MUSA全栈系统软件的优化，摩尔线程收场了“单节点缠绵效率”全面擢升。

KUAE缠绵集群：超等工场的“分娩车间”

单卡、单节点的性能再强，也无法完成动辄千亿、万亿参数大模子的履行。AI超等工场必须以大范围集群的神气存在。为此，摩尔线程构建了夸娥（KUAE）大范围智能缠绵集群。

夸娥缠绵集群远非温和的作事器堆叠，它是一个软硬一体化的系统工程，极度于AI大模子的“分娩车间”：

软硬一体化遐想：从作事器节点、交换机到机柜，再到表层的集群顾问软件、任务退换系统，全部进行了协同遐想和优化。

创新5D并行履行：摩尔线程整合数据并行（DP）、活水线并行（PP）、张量并行（TP）等悉数主流的并行履行计策，全面赞成Transformer等主流架构，并能把柄模子性格自动搜索和推选最优的并行决议。

端到端履行优化：粉饰了从数据预处理、模子预履行、强化学习、微调到考据评估的全过程，提供一站式作事。

性能仿真器具（Simumax）：自主研发的Simumax器具面向超大范围集群自动搜索最优并行计策，精确模拟FP8搀杂精度履行与算子会通，为DeepSeek等模子驳斥履行周期提供科学依据。

高效Checkpoint：针对大模子隆重性难题，创新CheckPoint加快决议诓骗RDMA技艺，将百GB级备份收复时辰从数分钟压缩至1秒，擢升GPU灵验算力诓骗率。

软硬一体化遐想：从作事器节点、交换机到机柜，再到表层的集群顾问软件、任务退换系统，全部进行了协同遐想和优化。

创新5D并行履行：摩尔线程整合数据并行（DP）、活水线并行（PP）、张量并行（TP）等悉数主流的并行履行计策，全面赞成Transformer等主流架构，并能把柄模子性格自动搜索和推选最优的并行决议。

端到端履行优化：粉饰了从数据预处理、模子预履行、强化学习、微调到考据评估的全过程，提供一站式作事。

性能仿真器具（Simumax）：自主研发的Simumax器具面向超大范围集群自动搜索最优并行计策，精确模拟FP8搀杂精度履行与算子会通，为DeepSeek等模子驳斥履行周期提供科学依据。

高效Checkpoint：针对大模子隆重性难题，创新CheckPoint加快决议诓骗RDMA技艺，将百GB级备份收复时辰从数分钟压缩至1秒，擢升GPU灵验算力诓骗率。

通过夸娥缠绵集群，摩尔线程将单点的GPU性能上风，得胜彭胀到了千卡、万卡乃至更大范围的集群层面，构建起了一个确凿具备强劲“分娩力”的AI超等工场。况兼通过实测，KUAE 2大范围智算集群，在不同架构模子的MFU，照旧达到了行业最初水平。

零中断容错技艺：超等工场的“安全分娩条约”

关于一个需要7x24小时不闭幕运行的AI超等工场来说，隆重性压倒一切。一次不测的宕机，可能意味着数百万好意思元的损成仇数周使命的付诸东流。因此，摩尔线程开发了特有的“零中断容错技艺”，这是保险工场隆重运行的“安全分娩条约”。

传统的容错机制，在硬件（如GPU卡）发生故障时，需要暂停通盘履行任务，东谈主工替换硬件，再从最近的Checkpoint收复，通盘过程耗时耗力。而摩尔线程的零中断技艺则王人备不同：

零中断容错技艺：当某个节点变慢或出现故障时，仅进攻受影响节点组，其余节点不时履行，备机无缝接入，全程无中断。这一决议使KUAE集群灵验履行时辰占比超99%，大幅驳斥收复支出。

多维度履行细察：通过多维度的数据监控和AI预测模子，系统能够提前感知到哪些节点可能会成为“慢节点”，并进行预警或进攻，收场动态监测与智能会诊，特别处理效率擢升50%；

集群自检及退换优化：在履行任务初始前，系统会自动对通盘集群进行“体检”，确保悉数软硬件都处于最好情状，如同飞机升起前的安全查抄，履行得胜率提高10%，为大范围AI履行提供隆重保险。

零中断容错技艺：当某个节点变慢或出现故障时，仅进攻受影响节点组，其余节点不时履行，备机无缝接入，全程无中断。这一决议使KUAE集群灵验履行时辰占比超99%，大幅驳斥收复支出。

多维度履行细察：通过多维度的数据监控和AI预测模子，系统能够提前感知到哪些节点可能会成为“慢节点”，并进行预警或进攻，收场动态监测与智能会诊，特别处理效率擢升50%；

集群自检及退换优化：在履行任务初始前，系统会自动对通盘集群进行“体检”，确保悉数软硬件都处于最好情状，如同飞机升起前的安全查抄，履行得胜率提高10%，为大范围AI履行提供隆重保险。

总结来看，上述的五大身分，即全功能GPU、MUSA架构、全栈软件、KUAE集群、零中断容错技艺，共同组成了摩尔线程的AI超等工场。

它是一个有机的举座，从芯片遐想的最底层到集群顾问的最表层，头重脚轻紊，协同进化。正是这个完整的、端到端的体系，才扶植了著述开始的性能发达。

那么接下来的一个问题是：

为什么要造AI超等工场？

这个问题的谜底，梗概植根于摩尔线程对缠绵创新当年、现时与畴昔的深入细察。

大模子的“才略”迭代速率令东谈主感触，从客岁还在东谈主类平均水平的四五十分，到如今顶尖模子照旧飙升至七八十分，直逼东谈主类顶尖水准。

模子的迭代速率，也从当年的数月一更，压缩到如今的数周致使每周一更。这场竞赛的背后，驱能源唯有一个——算力。

正如马斯克能够凭借其20万张H100，让Grok模子在短时辰内登顶名次榜，这粗暴地揭示了一个事实：Scaling Law是AI发展的铁律。

谁领有更大、更强的算力基础设施，谁就能更快地迭代模子，霸占技艺和市集的制高点。

而预测畴昔五年，Agentic AI（智能体AI）和空间智能将成为新的爆发点。AI将不再只是是聊天的器具，而是成为不错自主完成复杂任务的“数字职工”，并与物理宇宙深度会通。

这一切，都意味着对算力的需求将再次呈几何级数增长。在这样的大布景下，只是骄气于当下的缠绵材干是远远不够的，必须为畴昔愈加浩瀚的缠绵需求作念好准备。

濒临永无绝顶的算力需求，只是追求“快”是单方面的。畴昔的缠绵，更需要的是全主张的“稳”——隆重、可靠、高效、通用。

这正是开导AI超等工场的根柢原因。

履行一个万亿参数的大模子，好比建造一座港珠澳大桥，是一项极其复杂的系统工程。它对基础设施的条款，堪比建造一座芯片晶圆厂。

你不成指望靠“东谈主海战术”，找十亿个儿童去抬起一栋大楼；相通，你也不成温和地将一万张低效的显卡堆在沿途，就守望能履行出高质料的大模子。

这个过程充满了挑战，举例在资本方面，一次大范围履手脚辄阔绰数月和数百万好意思元，任何中断或失败都是巨大的亏本。

再如濒临复杂的系统，上千个节点、上万颗芯片怎样高效通讯、同步？软件和硬件怎样完整适配？又该怎样快速定位和科罚问题？

还有在本体应用过程中，往往任务又是各样性的：今天履行言语模子，未来可能就要处理多模态数据，后天又要进行科学缠绵……

这些挑战，都无法通过购买单一的“最快芯片”来科罚。它需要一个从底层硬件到表层软件，再到集群顾问和运维作事的端到端科罚决议。

这恰正是摩尔线程“AI超等工场”的中枢价值地方——它提供的不是孑然的算力，而是一种信服性的、高效率的、高得胜率的AI模子分娩材干。

一言以蔽之，摩尔线程接收了一条最勉力，但可能亦然最正确的谈路。他们莫得骄气于在某个单点上追逐或杰出，而是存身于畴昔，从根柢上念念考怎样为这个期间提供起初进的“分娩力器具”。

这，便是摩尔线程给出的谜底，一个不啻于快，更关乎畴昔的谜底。