Skip to content
TheChatArchiveThe Chat Archive
o3-2025-04-16· OpenAIHugging Face LMArena Human Preference 140K

说说Tenstorrent的产品有哪些独特之处?它要和谁竞争?能否在竞争中取得优势?

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with Metallama-4-maverick-17b-128e-instruct’s answer.
  1. User

    说说Tenstorrent的产品有哪些独特之处?它要和谁竞争?能否在竞争中取得优势?

  2. Assistant

    1. Tenstorrent 是什么来头?

    Tenstorrent 总部在多伦多,由前 AMD/NVIDIA 首席微架构师 Jim Keller 担任 CEO。它不是传统意义上的 “AI 芯片初创”,而是同时做 AI 加速器 + RISC-V CPU IP + Chiplet 封装,并且主张“开放授权”(IP licensing)——既卖板卡,也授权内核。


    2. 主要产品家族与独特设计

    代号工艺关键规格 (INT8 / BF16)片上 SRAM典型功耗形态独特卖点
    GrayskullTSMC 7 nm120 TOPS / 30 TFLOPS120 MB65 WPCIe 卡首款商用;完全靠片上 SRAM 做训练/推理,几乎不碰外部 DRAM
    Wormhole6 nm~350 TOPS368 MB100-120 WChiplet + OAM芯粒互联 (SERDES);可 16-64 颗并联构建 10+ PetaOPS 机箱
    Blackhole (roadmap)5 nm~1 POP/s>500 MBTBDChiplet继续扩大片上存储 + 带宽,攻克大模型训练
    Ascalon RISC-V CPU5 nm (IP 核)4-way OoO,>3 GHzL2 4-8 MBN/AIP 或 Chiplet高性能通用 CPU,支持 Linux/BSD,走授权路线

    独到之处可以归纳为 4 点:

    1. Data-Flow/Graph 计算
      把模型编译为有向图,运行时由片上 “路由 + 调度” 网络(类似 NoC + 路由表)自动分发任务,硬件级流水,避免传统 GPU 上的 “核同步/显存搬运” 开销。

    2. 大容量片上 SRAM
      Grayskull 120 MB 就比 A100 的 L2 40 MB 大 3 倍;高带宽、低功耗、可锁步推理,对时延敏感场景尤其有利(自动驾驶、工业控制)。

    3. 原生 Chiplet/Fabric
      从第一天就把 “多 die 并联” 当成标配,SerDes 链路低延迟、可线性扩容;未来和第三方 DDR/HBM、乃至其他厂商 Chiplet 互联时,整合成本低。

    4. CPU + AI “双 IP” 授权
      既可卖整卡,也可只卖 RISC-V CPU 核 + AI Tile 核心,让汽车、网通或手机 SoC 厂把它们封进自家 Chiplet,这一点与纯做整卡的 NVIDIA/AMD 差异极大。


    3. 主要竞争者是谁?

    按市场维度可分为三类:

    1. 超大规模训练/推理(数据中心)
      • NVIDIA H100/H200, AMD MI300, Google TPU v4/5e, Intel Gaudi2/3, AWS Trainium/Inferentia
      • 新创:SambaNova, Cerebras (wafer-scale), Graphcore (IPU), Groq, d-Matrix…

    2. 边缘/车载/嵌入式
      • Qualcomm Cloud AI100/Ride, Tesla Dojo, Renesas R-Car, Mobileye EyeQ, Horizon 旭日, 赛灵思 Versal…

    3. IP 授权 (RISC-V or AI cores)
      • SiFive, Andes, Esperanto, IP-Umbradge…

    Tenstorrent 实际跨了 1+3 这两条赛道:既卖整卡跟 NVIDIA/AMD 对打,也在做可授权 IP 跟 SiFive/Esperanto 竞争。


    4. 是否有胜算?怎样取得优势?

    机会 ≈ 独特卖点 × 市场空档 × 执行力

    1. 软件生态
      • 已支持 PyTorch/ONNX;自研编译器“μ-telligence Flow”。
      • 与 Linux 基金会、LLVM、TVM 社区紧密合作,且支持 RISC-V toolchain。
      ➜ 软件层面比多数初创公司成熟,但与 NVIDIA 巨大的 CUDA 生态仍有显著差距——这是最大软肋,也是任何挑战者都必须啃的硬骨头。

    2. 性能/能效
      • 在 小-中模型延迟 + 能效 上具备技术优势(片上大 SRAM + data-flow)。
      • 对 超大模型训练,靠 Wormhole/Blackhole 并联,有望拿到线性扩展;但真正跑 100B+ 参数时,HBM 必不可少,Tenstorrent 仍在 roadmap 中。

    3. 商业模式
      • IP 授权 + 自研整卡 双线并行,能用更轻资产的方式把核心技术“撒”进汽车、5G 基站、消费电子等领域;这对资本不如 NVIDIA 雄厚的初创尤为关键。
      • 例如 2023 年 Hyundai/Kia 注资并计划把 Tenstorrent IP 用于电车;LG 也在谈合作。只要有一家 Tier-1 量产,影响力指数级放大。

    4. 行业趋势
      • 生成式 AI 带动“非美国公有云”客户急需 NVIDIA 之外的选项(价格 & 供应链 & 政策)。
      • Chiplet 标准化 (UCIe) 让“小而美”IP 供应商更易切入巨头 SoC。Tenstorrent 恰好早做布局。

    5. 风险与挑战
      • 资金:晶圆、封装、板卡、软件团队都烧钱,融资窗口收紧。
      • 产能:台积 5/4 nm 紧俏,小客户排队时间长。
      • 市场教育:Data-flow 架构 + 新编译器 需要客户深度配合,迁移成本高。
      • 与 Arm/NVIDIA 签生态绑定协议的 OEM 很难短期内切换。

    综合判断

    ‣ 中短期(1–2 年):
    • 在少量边缘服务器、汽车 SoC、中型私有云场景里,以能效和开放授权切入,有望拿到“局部胜利”。
    • 数据中心通用训练市场仍将被 NVIDIA/AMD 占据主导。

    ‣ 中长期(3–5 年):
    • 如果 Chiplet 标准真正普及,且 Tenstorrent 的 RISC-V + AI Tile IP 获得多家 OEM Tape-out,并在软件上与主流框架无缝衔接,那么它能变成“IP Arm for AI”的角色,市占率可观。
    • 反之,若 CUDA/Mig 套牢生态、HBM 供给拉不开、资本市场趋冷,Tenstorrent 可能被并购或聚焦利基市场。


    5. 一句话结论

    Tenstorrent 把 “大 SRAM + data-flow + Chiplet + RISC-V IP” 四张牌打在同一桌面,技术路线差异化明显;面向边缘与开放授权市场存在不小机会,但要在数据中心正面对抗 NVIDIA,需要时间、资金与软件生态三重助攻——成败关键在 IP 规模化 + 软件友好度 能否在 3-5 年内跨过拐点。

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.