说说Tenstorrent的产品有哪些独特之处?它要和谁竞争?能否在竞争中取得优势?
- User
说说Tenstorrent的产品有哪些独特之处?它要和谁竞争?能否在竞争中取得优势?
- Assistant
1. Tenstorrent 是什么来头?
Tenstorrent 总部在多伦多,由前 AMD/NVIDIA 首席微架构师 Jim Keller 担任 CEO。它不是传统意义上的 “AI 芯片初创”,而是同时做 AI 加速器 + RISC-V CPU IP + Chiplet 封装,并且主张“开放授权”(IP licensing)——既卖板卡,也授权内核。
2. 主要产品家族与独特设计
代号 工艺 关键规格 (INT8 / BF16) 片上 SRAM 典型功耗 形态 独特卖点 Grayskull TSMC 7 nm 120 TOPS / 30 TFLOPS 120 MB 65 W PCIe 卡 首款商用;完全靠片上 SRAM 做训练/推理,几乎不碰外部 DRAM Wormhole 6 nm ~350 TOPS 368 MB 100-120 W Chiplet + OAM 芯粒互联 (SERDES);可 16-64 颗并联构建 10+ PetaOPS 机箱 Blackhole (roadmap) 5 nm ~1 POP/s >500 MB TBD Chiplet 继续扩大片上存储 + 带宽,攻克大模型训练 Ascalon RISC-V CPU 5 nm (IP 核) 4-way OoO,>3 GHz L2 4-8 MB N/A IP 或 Chiplet 高性能通用 CPU,支持 Linux/BSD,走授权路线 独到之处可以归纳为 4 点:
-
Data-Flow/Graph 计算
把模型编译为有向图,运行时由片上 “路由 + 调度” 网络(类似 NoC + 路由表)自动分发任务,硬件级流水,避免传统 GPU 上的 “核同步/显存搬运” 开销。 -
大容量片上 SRAM
Grayskull 120 MB 就比 A100 的 L2 40 MB 大 3 倍;高带宽、低功耗、可锁步推理,对时延敏感场景尤其有利(自动驾驶、工业控制)。 -
原生 Chiplet/Fabric
从第一天就把 “多 die 并联” 当成标配,SerDes 链路低延迟、可线性扩容;未来和第三方 DDR/HBM、乃至其他厂商 Chiplet 互联时,整合成本低。 -
CPU + AI “双 IP” 授权
既可卖整卡,也可只卖 RISC-V CPU 核 + AI Tile 核心,让汽车、网通或手机 SoC 厂把它们封进自家 Chiplet,这一点与纯做整卡的 NVIDIA/AMD 差异极大。
3. 主要竞争者是谁?
按市场维度可分为三类:
-
超大规模训练/推理(数据中心)
• NVIDIA H100/H200, AMD MI300, Google TPU v4/5e, Intel Gaudi2/3, AWS Trainium/Inferentia
• 新创:SambaNova, Cerebras (wafer-scale), Graphcore (IPU), Groq, d-Matrix… -
边缘/车载/嵌入式
• Qualcomm Cloud AI100/Ride, Tesla Dojo, Renesas R-Car, Mobileye EyeQ, Horizon 旭日, 赛灵思 Versal… -
IP 授权 (RISC-V or AI cores)
• SiFive, Andes, Esperanto, IP-Umbradge…
Tenstorrent 实际跨了 1+3 这两条赛道:既卖整卡跟 NVIDIA/AMD 对打,也在做可授权 IP 跟 SiFive/Esperanto 竞争。
4. 是否有胜算?怎样取得优势?
机会 ≈ 独特卖点 × 市场空档 × 执行力
-
软件生态
• 已支持 PyTorch/ONNX;自研编译器“μ-telligence Flow”。
• 与 Linux 基金会、LLVM、TVM 社区紧密合作,且支持 RISC-V toolchain。
➜ 软件层面比多数初创公司成熟,但与 NVIDIA 巨大的 CUDA 生态仍有显著差距——这是最大软肋,也是任何挑战者都必须啃的硬骨头。 -
性能/能效
• 在 小-中模型延迟 + 能效 上具备技术优势(片上大 SRAM + data-flow)。
• 对 超大模型训练,靠 Wormhole/Blackhole 并联,有望拿到线性扩展;但真正跑 100B+ 参数时,HBM 必不可少,Tenstorrent 仍在 roadmap 中。 -
商业模式
• IP 授权 + 自研整卡 双线并行,能用更轻资产的方式把核心技术“撒”进汽车、5G 基站、消费电子等领域;这对资本不如 NVIDIA 雄厚的初创尤为关键。
• 例如 2023 年 Hyundai/Kia 注资并计划把 Tenstorrent IP 用于电车;LG 也在谈合作。只要有一家 Tier-1 量产,影响力指数级放大。 -
行业趋势
• 生成式 AI 带动“非美国公有云”客户急需 NVIDIA 之外的选项(价格 & 供应链 & 政策)。
• Chiplet 标准化 (UCIe) 让“小而美”IP 供应商更易切入巨头 SoC。Tenstorrent 恰好早做布局。 -
风险与挑战
• 资金:晶圆、封装、板卡、软件团队都烧钱,融资窗口收紧。
• 产能:台积 5/4 nm 紧俏,小客户排队时间长。
• 市场教育:Data-flow 架构 + 新编译器 需要客户深度配合,迁移成本高。
• 与 Arm/NVIDIA 签生态绑定协议的 OEM 很难短期内切换。
综合判断
‣ 中短期(1–2 年):
• 在少量边缘服务器、汽车 SoC、中型私有云场景里,以能效和开放授权切入,有望拿到“局部胜利”。
• 数据中心通用训练市场仍将被 NVIDIA/AMD 占据主导。‣ 中长期(3–5 年):
• 如果 Chiplet 标准真正普及,且 Tenstorrent 的 RISC-V + AI Tile IP 获得多家 OEM Tape-out,并在软件上与主流框架无缝衔接,那么它能变成“IP Arm for AI”的角色,市占率可观。
• 反之,若 CUDA/Mig 套牢生态、HBM 供给拉不开、资本市场趋冷,Tenstorrent 可能被并购或聚焦利基市场。
5. 一句话结论
Tenstorrent 把 “大 SRAM + data-flow + Chiplet + RISC-V IP” 四张牌打在同一桌面,技术路线差异化明显;面向边缘与开放授权市场存在不小机会,但要在数据中心正面对抗 NVIDIA,需要时间、资金与软件生态三重助攻——成败关键在 IP 规模化 + 软件友好度 能否在 3-5 年内跨过拐点。
-
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.