英伟达AI算力的挑战者：Tenstorrent“黑洞”芯片深度解析

一、核心人物与行业背景

1. 吉姆·凯勒的行业地位

吉姆·凯勒是芯片圈公认的传奇工程师，其履历含金量极高：主导AMD Zen架构研发，挽救了当时濒临崩溃的AMD，使该公司在CPU市场重新获得与英特尔抗衡的能力；参与设计苹果A系列处理器，为苹果移动芯片的性能腾飞奠定基础；参与特斯拉自动驾驶芯片研发，推动了车载AI算力的落地。如今，凯勒执掌Tenstorrent，在多伦多、东京、贝尔格莱德等地布局全球研发团队，提出了一套与英伟达完全反向的芯片设计思路，目标直指英伟达在AI算力领域的统治地位。

2. 行业痛点：英伟达GPU的架构特点与局限

英伟达GPU最初为图形渲染设计，而图形任务的特点是高度不可预测——画面中哪些像素需要处理、哪些三角形需要光栅化，都难以提前预知。因此，GPU芯片内部大量硅面积被用于硬件调度器、缓存控制器、内存管理单元等模块，专门负责实时预判、搬运数据，相当于在芯片内部设置了大量“硬件交警”。以英伟达最新的Blackwell架构为例，其流式多处理器（SM）为了支持更广泛的精度（如FP4/FP6）和更复杂的调度，内部采用了统一的INT32/FP32执行单元，这虽增加了调度的灵活性，但也可能在某些场景下引入流水线冲突。

然而，AI大模型的工作负载高度规律——矩阵乘法、张量运算的流程在任务启动前即可完全预知。这意味着，GPU中那些为“不可预测性”而设的硬件调度模块，在纯AI推理场景中属于架构冗余而非“缺陷”——这一设计在图形渲染和科学计算中仍有不可替代的价值，但在AI推理场景下确实造成了资源浪费，挤占了本应属于计算单元的面积。与此同时，英伟达配套的HBM显存、NVLink专属互联硬件成本极高，进一步推高了AI服务器的整体造价。

这正是Tenstorrent试图颠覆的切入点。

二、Tenstorrent核心差异化技术路线：完全反英伟达设计

1. 软硬件分工重构：软件预调度替代硬件调度

Tenstorrent抓住了AI任务可预测的核心特点，将数据调度、任务统筹全部交给开源编译器：算力任务启动前，编译器提前规划全部数据移动流程，芯片仅按预设流程执行计算；这种设计大幅削减了芯片内部调度硬件占用的硅面积，把更多晶体管分配给矩阵、向量计算单元，通过“软件预调度”替代“硬件实时调度”，提升了纯算力利用率，同时降低了芯片设计的复杂度。开发者可以为每个Tensix核心编写一个计算内核和两个数据搬移内核，实现对数据搬移和计算的精确控制，这与英伟达依赖硬件调度器和驱动进行优化的模式截然不同。

对比英伟达：英伟达的GPU依赖硬件调度器在运行时动态分配任务，这种设计虽然灵活，但也意味着大量的硅面积和功耗被管理模块消耗，而非直接用在实际计算上。

2. 黑洞（Blackhole）芯片底层架构设计

（1）自研Tensix核心，基于开源RISC-V

Tenstorrent放弃了英伟达的CUDA核心路线，转而自研Tensix计算单元。每个Tensix核心内置5颗小型免授权RISC-V处理器，搭配独立矩阵引擎、向量引擎，以及专属的本地SRAM高速内存。这5个RISC-V“宝宝核心”各司其职：其中2颗专职负责数据搬运（分别对应数据输入和输出），3颗专注AI矩阵运算，分别负责数据解包（Unpack）、数学计算（Math）和数据打包（Pack）。这种精细分工将调度和控制逻辑下放到每个核心，由软件直接管理数据流。在内存架构上，Tensix采用去中心化设计——无全局共享大缓存，各核心独立运算、互不等待，从根本上规避了传统GPU中因内存争抢导致的性能瓶颈。

单颗黑洞芯片采用6nm工艺，集成超过100颗Tensix核心（官方初始为140核，后因固件降级为120核，这一细节暴露了良品率方面的隐患，详见后文风险分析）。

对比英伟达：英伟达的SM采用统一的INT32/FP32执行单元设计，旨在灵活应对从科学计算到AI训练的各种负载，但也因此可能在某些场景下引入流水线冲突。其第五代Tensor Core虽强大，但仍遵循一套复杂的、面向通用计算的指令集。

（2）显存方案：舍弃高价HBM，采用游戏级GDDR6

行业高端AI硬件普遍依赖稀缺、昂贵的HBM显存，而Tenstorrent直接将其弃用，改用消费级显卡同款GDDR6内存。依靠编译器精准预取数据，在计算前就将数据搬运到核心专属的SRAM中，以片上高速缓存（总计241MB）作为主要计算缓冲，最大限度减少对片外GDDR6内存的访问，从而用软件技巧弥补了硬件带宽的不足。这大幅降低了硬件物料成本，同时无需争抢HBM产能，供应充足稳定。

对比英伟达：英伟达GB300基于Blackwell Ultra架构，采用台积电4NP工艺，集成2080亿晶体管，配备288GB HBM3e显存，单卡功耗高达1400W。在Hopper架构中，访问全局内存的延迟约1000个时钟周期，为缓解这一瓶颈，Blackwell引入了全新的Tensor Memory（TMEM）——每SM专用的256KB片上内存，能将缓存未命中时的延迟降低58%，并提供高达16TB/s的读写带宽。这本质上是在用更复杂的硬件和内存层次来弥补HBM的高延迟。而Tenstorrent的策略则是用软件调度来替代昂贵的硬件补偿。

需注意的代价：Tenstorrent这种“软件预调度”方案在模型结构发生变化时（如动态图、非标准Transformer架构），编译器优化可能失效，导致严重的性能衰减。这是该架构在追求“通用性”时必须付出的代价。

（3）原生集成通用以太网，抛弃英伟达专属互联方案

英伟达构建大规模集群依赖其私有的NVLink和InfiniBand技术。GB300的典型形态是NVL72机架级解决方案——集成72颗GPU和36颗Grace CPU，采用全液冷散热，机架功率密度高达132kW至180kW。NVLink 5.0提供高达1.8TB/s的GPU间互联带宽，但代价是成本高昂且生态封闭，深度绑定客户。

Tenstorrent则采取了截然不同的思路：黑洞芯片内置800G标准高速以太网接口，芯片自身兼具计算与路由功能；无需外接专用交换机，依靠通用互联网协议即可多机互联扩展集群；大幅降低集群搭建成本，同时解除了对英伟达专属硬件的绑定风险。

需客观指出的局限：标准以太网在微秒级延迟和拥塞控制上，仍难以完全媲美英伟达专为集合通信优化的NVLink/InfiniBand。在超大规模集群（千卡以上）中，以太网可能会成为通信瓶颈。Tenstorrent的以太网方案当前更适用于“推理集群”而非“训练集群”。

3. 整机：银河（Galaxy）黑洞服务器硬件规格

单机内置32颗黑洞芯片，融合为一体化算力集群。算力方面，FP8算力达2.3亿亿次，配备6.2GB片上SRAM、1TB GDDR6内存。扩展能力上，整机自带大量800G以太网口，可无缝串联4台、16台乃至36台服务器组建超大规模集群，无传统互联瓶颈。定价方面，单台银河服务器售价约80万元人民币，在高端AI服务器中价格极具竞争力。

三、实测性能与碾压级成本优势

1. 大语言模型推理实测

使用6710亿参数DeepSeek R1大模型进行测试，结果亮眼：

重要说明：上述性能数据为Tenstorrent官方在特定测试条件下公布的结果。AI推理性能对量化精度（如FP8/INT8）、Batch Size大小及上下文长度极其敏感。上述数据的具体测试前提为：采用FP8精度、单用户推理（Batch Size=1）、上下文长度10万词元。读者应避免将其理解为“所有场景下的绝对性能碾压”。

这一成本优势对企业级AI推理意义重大——以当前大模型应用的token消耗量计算，从英伟达方案迁移到Tenstorrent方案，可极大缓解AI推理的高额开销压力。

2. 通用AI能力

Tenstorrent的芯片并非只擅长大语言模型推理：AI视频生成速度远超实时播放标准；一台设备可统一承载对话大模型、视频生成等全品类AI任务，无需拆分多套专用硬件。这证明其架构具备足够的通用性，并非针对单一场景的“偏科生”。

四、开源生态：用开放对抗英伟达CUDA封闭护城河

英伟达真正的核心壁垒不只是芯片硬件，更是其闭源CUDA软件生态——开发者一旦熟悉CUDA并完成代码迁移，就会被深度锁定，转移成本极高。CUDA是经过近20年打磨的成熟生态，不仅仅是编程模型，更是一个包含无数优化库、开发者工具和庞大社区的全套解决方案。

Tenstorrent采用了完全相反的开源战略：

• 硬件底层基于免费RISC-V架构，无授权费用；
• 全套软件栈自上而下全部开源，其底层编程模型TT-Metalium允许开发者使用标准C++编写内核，无需学习新的专用语言；
• 凯勒甚至允许竞争对手参与开源贡献，共同建设社区；
• 生态兼容度极高：Hugging Face近九成模型可直接部署，原生支持PyTorch等主流AI开发框架，旨在融入现有生态而非另起炉灶。

需警惕的陷阱：开源并不等同于生态繁荣。虽然TT-Metalium等底层代码公开，但AI开发者更依赖上层框架（如PyTorch）的无缝体验。如果Tenstorrent的开源社区缺乏足够的商业公司投入维护，很容易沦为“代码公开但无人修Bug”的僵尸生态。开源社区的活跃度和持续投入，是比代码公开更关键的竞争维度。

长期逻辑：Tenstorrent依托开源社区持续迭代软件，用开放生态对抗英伟达封闭CUDA体系，推动AI算力去垄断化。这是一场“生态战争”而非单纯的“芯片战争”。

五、产品现存两大核心风险

1. 软件成熟度与硬件良品率隐患

• SDK工具链不足：Tenstorrent的软件工具完善度尚不及英伟达CUDA生态，企业生产环境对稳定性要求极高，现阶段难以完全替代成熟的英伟达方案；
• 良品率争议：早期黑洞芯片曾通过固件更新将核心数从140核降级为120核，外界普遍质疑芯片良品率存在缺陷。这一事件的深层影响在于：核心数的削减不仅影响单芯片算力，还会改变芯片内部的Mesh网络拓扑和片上通信延迟。如果降级是随机屏蔽而非有规律的模块化屏蔽，则对编译器的路由规划提出了极高要求，可能进一步加剧软件适配的复杂度。这一事件削弱了市场对Tenstorrent量产能力的信心。

2. 创始人吉姆·凯勒的职业流动性隐患

凯勒的过往履历存在一个显著特征：在苹果、AMD、特斯拉均完成核心项目后即离职。这种“项目驱动型”的职业路径，使市场普遍担忧他能否长期留守Tenstorrent，将黑洞芯片的长期迭代与生态落地坚持到底。如果凯勒在黑洞芯片放量前离开，Tenstorrent能否保持现有的技术路线清晰度和团队执行力，将是一个巨大的未知数。

须客观看待的另一面：凯勒在业界的极高声望，是Tenstorrent能够吸引顶级人才、获得融资以及推动RISC-V开源生态的核心背书。他的阶段性使命可能正是“从0到1”的架构破局，而“从1到100”的商业化或许本就需要职业经理人接手。创始人的“阶段性”角色不一定全是负面因素。

六、最终判断与行业价值

1. 短期判断

英伟达不会迅速衰落，其市场份额在短期内仍将保持稳固——CUDA生态的惯性、企业客户的迁移成本、以及英伟达自身持续的硬件迭代（Blackwell Ultra GB300、后续Rubin架构等路线图）构成了强大的防御壁垒。

2. 长期判断

Tenstorrent是行业首个同时实现以下三点的英伟达替代方案：高性能（实测推理速度超越英伟达顶级系统）；极致低成本（1/5的推理成本，80万整机售价）；全开源差异化架构（从RISC-V硬件到软件栈全面开源）。其技术逻辑和降本路径贴合当下行业对“平价推理算力”的刚需——在AI应用从“训练驱动”转向“推理驱动”的下半场，推理成本将成为决定AI商业化的关键变量。

3. 行业价值

Tenstorrent的存在本身，就是对英伟达单一生态垄断的一次有力冲击。无论最终成败，它已经为AI芯片行业提供了另一种可能——用开源对抗封闭，用软件调度替代硬件调度，用平价标准件替代奢侈专属件。这不仅是技术路线的差异，更是AI算力走向平民化的必经之路。

七、AI芯片赛道上的其他挑战者

Tenstorrent并非唯一觊觎英伟达王座的挑战者。在AI芯片这个千亿级赛道上，各路玩家正从不同技术路线和商业策略出发，试图瓦解英伟达的统治。以下是最值得关注的几类挑战者及其代表。

1. 大模型公司的“定制芯”运动

以OpenAI、DeepSeek、Anthropic为代表的大模型公司，正通过自研或与博通等公司合作，打造面向自家模型的专用推理ASIC芯片。

技术逻辑：这些公司的优势在于“软硬协同设计”——芯片架构可以和模型算法深度绑定。当你知道自己的模型每一层需要多少矩阵乘法、多少张量操作时，就可以在芯片设计阶段精确分配计算资源和内存带宽，消除通用处理器中所有“用不上”的冗余逻辑。有数据显示，这类定制芯片的推理成本可比通用GPU降低50%甚至更多。

驱动力：推理成本正超越训练成本，成为AI公司最大的持续性开销。对于日活千万级的大模型应用，每百万token节省1元钱，一年就可能省下数千万美元。自研芯片的经济账在规模足够大时完全成立。

风险：自研芯片需要数亿美元的前期投入和数年研发周期，只有少数头部大模型公司玩得起。且芯片一旦流片定型，便难以适应未来模型架构的变化——如果Transformer范式被颠覆，这批定制芯片可能迅速贬值。芯片流片的沉没成本与模型迭代周期的错配，是这一路线最大的结构性风险。

2. AMD的稳步追击

AMD正凭借MI系列加速器，成为英伟达最有力的传统追赶者。

技术逻辑：AMD走的是“类英伟达”路线——通用GPU架构搭配ROCm软件生态。MI300X在硬件规格上已不输H100，部分场景甚至反超。关键在于AMD利用Chiplet（小芯片）设计大幅降低了单芯片制造成本，同时在ROCm生态上持续追赶CUDA。

市场信号：根据对台积电CoWoS先进封装产能的需求预测，AMD的需求预计将在2027年迎来爆发式增长，其增长幅度有望与英伟达并驾齐驱。这显示出市场对AMD作为“第二供应商”的强烈期待。

关键短板：ROCm生态成熟度仍远不及CUDA。很多企业选择AMD不是因为想用，而是因为买不到足够的英伟达芯片——AMD是“备胎”而非“首选”。一旦英伟达产能缓解，AMD的性价比优势能否留住客户仍是未知数。

3. 不可忽视的“重型”挑战者

谷歌（Google）TPU

谷歌自研的TPU是专用AI芯片的鼻祖，至今已迭代至第六代（Trillium）。

核心优势：TPU针对谷歌自家TensorFlow框架深度优化，在Google Cloud内部大规模部署验证，稳定性极高。更关键的是，谷歌已开始直接向Anthropic等公司销售TPU算力，从“自用”转向“外售”，成为英伟达的直接竞争对手。

天花板：TPU的软硬件生态与谷歌云深度绑定，外部开发者接受度有限。目前TPU的主要客户仍是谷歌内部业务，外售规模尚小，短期内难以撼动英伟达在公开市场的地位。

高通（Qualcomm）

据2026年初报道，高通正以80亿至100亿美元的价格洽谈收购Tenstorrent。

战略逻辑：高通在端侧AI芯片（手机、汽车）拥有绝对优势，但缺乏数据中心AI算力的高端产品线。一旦收购Tenstorrent，高通将获得成熟的RISC-V AI平台和IP，结合其低功耗芯片设计功底和高速互联技术，有能力在1-2年内构建一个完整的“从端到云”的英伟达替代方案。

潜在价值：高通在全球拥有数千家OEM客户关系和强大的供应链管理能力，这正是Tenstorrent作为初创公司最缺乏的。如果收购成功，Tenstorrent的技术将获得指数级的市场放大效应。需注意：该交易仍处于洽谈阶段，存在较大不确定性。

韩国FuriosaAI

这家韩国初创公司的RNGD芯片在运行Llama模型时，能效据称是英伟达高端芯片的两倍以上。

技术路线：FuriosaAI同样走“专用数据流架构”路线，与Tenstorrent思路相似但更激进——它几乎完全放弃了通用计算能力，把所有资源押注在Transformer架构的矩阵运算上。这种极致专用化使其能效比惊人，但也意味着在非Transformer任务上表现平庸。

市场动态：FuriosaAI甚至拒绝了Meta的收购要约，显示出其独立挑战英伟达市场的决心。但作为初创公司，其软件生态几乎从零起步，能否被开发者接受是最大的不确定性。

中国的华为昇腾、寒武纪、沐曦与摩尔线程

在中国AI芯片市场，不同技术路线的本土玩家正形成多元竞争格局。

华为昇腾是目前中国AI芯片市场的绝对领跑者，市场份额约50%。其昇腾910B芯片在训练侧已可对标英伟达A100（部分场景），依托华为自研的CANN软件栈和完整的端到端解决方案，已在大量国产智算中心中规模部署，是中国AI算力国产化替代的中流砥柱。

摩尔线程是通用GPU，但为了在竞争激烈的市场中形成差异化，他们提出了一个更精确、更全面的定义——“全功能GPU”（Universal GPU）。

在GPU的技术分类中，摩尔线程与沐曦虽然都属于广义上的“通用”范畴，但两者的技术路线有着本质的区别：

摩尔线程：全功能GPU（Universal GPU）

摩尔线程是目前国内首家实现全功能GPU量产的企业。它的核心设计理念是“一芯多能”，即在单一芯片上同时集成了四大核心引擎，能够同时支持AI计算加速、图形渲染、物理仿真和科学计算、超高清视频编解码等多种能力。这种技术路线与国际巨头英伟达（NVIDIA）类似，不仅能用于AI智算中心，还能广泛应用于PC游戏、数字孪生、工业控制等需要图形渲染的多元场景。

沐曦：GPGPU（通用计算GPU）

沐曦走的是GPGPU（General-Purpose computing on Graphics Processing Units）路线。与摩尔线程不同，GPGPU路线通常专注于AI计算和通用并行计算（如AI智算中心、高性能计算），而并不侧重于传统的图形渲染（如PC游戏）。

简单来说，摩尔线程的“全功能GPU”不仅包含了沐曦GPGPU所具备的AI和通用计算能力，还额外补齐了强大的图形渲染和视频处理功能，是一条工程量更大、但应用边界更宽的“全能”路线。

寒武纪是国内AI芯片领域的先行者之一，其思元系列AI加速卡在推理市场占据重要位置，年营收已超46亿元。寒武纪走的是专用AI加速路线，与通用GPU/全功能GPU形成差异化竞争，尤其在AI推理场景下具备高性价比优势。

中昊芯英则走TPU专用路线，其自研的GPTPU芯片“刹那”针对特定AI计算场景深度优化，与通用GPU和全功能GPU形成差异化竞争。

在美国出口管制背景下，中国AI芯片市场已形成华为昇腾（约50%市场份额）领跑、寒武纪、摩尔线程、沐曦等多路线并行的国产替代格局，英伟达在中国市场份额已从巅峰的95%骤降至约8%。

现实困境：受制于先进制程工艺获取困难，中国芯片厂商在7nm以下制程面临产能瓶颈。此外，在无法使用CUDA且难以全面兼容开源生态的情况下，国产芯片往往需要依赖华为CANN、寒武纪NeuWare、摩尔线程MUSA等自有软件栈，构成了双重迁移成本，限制了其在纯商业化市场的扩张速度。

八、哪个技术路线最有可能成功？

综合以上分析，我们可以从多个维度对各路挑战者进行横向对比：

判断逻辑

短期（1-2年） ：英伟达地位稳固，AMD是最有可能抢占部分市场份额的挑战者，因为企业客户最需要一个“看起来像英伟达、用起来接近英伟达”的备选方案，迁移成本最低。

中期（3-5年） ：Tenstorrent路线的逻辑最自洽。它同时做到了三点——(1) 有明确的技术差异化（非简单复制英伟达）；(2) 有碾压式的成本优势（1/5推理成本）；(3) 有开源生态作为长期竞争武器。如果SDK成熟度和良品率问题能在未来2年内解决，Tenstorrent有望成为推理市场的重要玩家。

远期（5年以上） ：大模型自研ASIC的威胁最大。如果AI模型架构趋于稳定（如Transformer长期主导），头部模型公司完全有能力通过自研芯片将推理成本压到极致，到那时通用GPU的市场价值将大幅缩水。英伟达的真正危机不是来自“做得更像英伟达”的AMD，而是来自“根本不需要英伟达”的定制芯片。

最终判断

最有希望成功的挑战者，短期内是AMD，中期是Tenstorrent，远期是大模型公司的自研芯片。

这三者分属不同时间维度和竞争逻辑，并不互斥。而英伟达要防御的，恰恰是这三个方向的同时夹击——既有同构路线的性价比追击（AMD），又有异构路线的架构颠覆（Tenstorrent、FuriosaAI），还有底层需求侧的“去英伟达化”趋势（大模型自研）。

全文总结：Tenstorrent是芯片行业极具发展潜力的赛道选手，也是英伟达迄今为止遇到的最具“逻辑自洽性”的挑战者。其用开源对抗封闭、用软件调度替代硬件调度、用平价标准件替代奢侈专属件的思路，为AI算力平民化开辟了一条全新路径。而放眼整个AI芯片赛道，AMD、大模型自研芯片、谷歌TPU等各路力量正从不同维度同时向英伟达发起冲击。

唯一可以确定的是：AI芯片市场一家独大的格局，正在悄然生变。

https://www.douyin.com/video/7657922417880206633
AI