芯片大神 Jim Keller：以 RISC-V 推动 AI 芯片开发走向大众

在当今竞争激烈的半导体和人工智能领域，Tenstorrent 正凭借其独特的战略和创新的技术，在行业中崭露头角。该公司正在积极打造基于开源架构的 RISC-V CPU，这一举措有望为 AI 芯片开发带来新的变革。

本届 SEMICON TAIWAN 的大师论坛上，焦点无疑聚集在了 Tenstorrent 执行长 Jim Keller 身上。这位在英特尔、AMD、特斯拉等公司硬件部门担任过高管，成功领导多个芯片开发计划的 “芯片大神”，一开场便带来重磅消息：Tenstorrent 将在台北成立办公室并开始招募人才。并且，公司将借助开放原始码 RISC-V 架构推出全新 AI 处理器，利用普通 DRAM 和以太网构建高性能 AI，加速 AI 应用的普及。

Jim Keller 别具一格地穿着 T-Shirt 上台演讲，他表示此次演讲一方面是受邀而来，更重要的是 Tenstorrent 要在台北设立办事处。台北人才资源丰富，公司不仅招聘营运人员协助与本地制造商合作，还招募了许多优秀工程师，投入到小芯片（chiplet）工程、CPU 设计验证和 AI 模型等关键领域。中国台湾在主机板、封装、系统、晶圆等制造领域表现卓越，Jim Keller 希望能融入这个优秀的制造团队。

在公司发展方面，Jim Keller 透露 Tenstorrent 正在建造一座特殊的电脑工厂，目标是生产现代高端 AI 电脑和高性能处理器所需的所有零组件。目前，公司的产品已开始出货，包括可扩展的 Galaxy box 服务器，以及为解决客户噪声抱怨而设计的水冷 quiet box 等。此外，还推出了 PCI Express 卡，并开始向客户提供 Eson TPU 作为 IP，甚至已经将 AI 处理器出货给多家客户，其中包括 LG，该处理器被整合到了电视芯片中。

对于这些成果，Jim Keller 强调自己是任务导向型的人。虽然公司长远目标是盈利，但当下更重要的使命是应对 AI 世界的变革。如今，AI 领域对 “千兆瓦”“兆位元组” 产品的需求激增，但相关技术大多昂贵且专有，多数模型封闭。因此，他致力于创造更便宜、更快、更开放的新型架构。

为此，Tenstorrent 制定了一项宏伟计划，就是正在打造基于开源架构的RISC-V CPU。而这款正在开发的开放式AI 处理器，其来自于一个无意的开源软件，就是一位网络上的年轻人通过逆向工程公布了Tenstorrent处理器的所有细节，并发布了规格。这个看似恼人的事件，却反而促使Tenstorrent认为这是一个好主意。因为，如果有人想从头开始构建自己的AI 电脑，网络上很快就会有完整的规格和参考模型。

基于此，Tenstorrent还承诺将建立一个完全开放原始码的软件堆叠，从模型、编译器、快速操作器、运行时环境的底层指令集等，都将全部都是开放的。这代表着，如果用户购买硬件，可以清楚地看到所有内部运作。目标就是利用普通的DRAM 和以太网来构建高性能AI，让任何人都能建造和扩展它。

在硬件方面，Black Hole 采用台积电 6 纳米制程的芯片，包含 140 个张量处理器和 RISC-V 处理器，支持 GDDR6 DRAM 和片上 SRAM。Tenstorrent 选择不使用 HBM，因其成本高且封装复杂，而是采取制造更多、更小、更便宜芯片的策略。例如，一块板上有八个 Black Hole 芯片，四块板组成一个盒子，共有 32 个芯片，提供 1TB 的 DRAM 和 16TB 的频宽。每个芯片都有以太网接口，所有连接具备冗余，确保系统可靠性。

就目前的情况来说，AI 训练的挑战在于尽管可以编写模型，但要使其快速运行却是一个复杂的HPC 问题。因此，Tenstorrent 的训练电脑拥有2,000 个Black Hole 芯片，相当于超过一百万个RISC-V 处理器协同运作，这需要巨大的协作和优化。

至于，实现低成本的AI 训练方面，目前许多大型AI 模型（如OpenAI 和XAI 的模型）可能是开源的，但对于Tenstorrent这些需要自己训练模型的人来说，能够以低成本进行训练至关重要。Tenstorrent的训练电脑由九个Galaxy box 组成一个单元，所有连接都具备冗余，即使有线缆故障也能正常运行。多个这样的单元可以进一步组成更大的训练集群，提供从上到下的一致视角，这让管理数百个Galaxy box 成为可能。

Jim Keller 强调指出，建造一个芯片成本高昂，Tenstorrent的Black Hole 芯片耗资约8,000 万美元。每次升级AI，Tenstorrent都需要再花费数千万美元来打造新芯片。因此，Tenstorrent的下一代解决方案是采用小芯片（chiplets）。Tenstorrent将CPU、存储器控制器和AI 等组件设计成模组化的积木。尽管现有多个小芯片互连标准，目标是确保Tenstorrent的芯片家族能协同工作，并与UCIe 标准兼容。

Tenstorrent 正努力实现芯片的独立迭代和组合成完整解决方案，不仅提供采用小芯片的解决方案，还将小芯片开放给希望自行开发解决方案的客户。为此，公司发起了开放小芯片架构（Open Chiplet Architecture）计划，涵盖芯片间互连标准、测试、重置、系统加密等所有组件。公司将贡献所有相关 IP 给这个联盟，甚至计划推出空芯片，让客户能轻松整合自己的 IP 并快速推向市场。

最后，Jim Keller 表示，Tenstorrent 销售公司所做的一切，包括 IP、芯片和系统，甚至提供云端服务，让新创公司可在其机器上托管应用。他希望通过小芯片技术、更好的 IP、更优化的验证以及开源的 AI 驱动方法，让电脑设计变得更有趣、更简单，凝聚行业力量，共同创造充满无限可能的未来。