第二十七章　AI芯片创业：哪些历史会重演，哪些不会？

每当一种新的计算需求迅速增长，芯片产业都会出现相似的景象。

成熟企业调整产品，系统客户尝试自研，工程师离开原有组织创业，资本则寻找能够改变竞争格局的新架构。

AI计算也不例外。

但如果只从创业团队和融资消息观察，就容易把这轮变化理解为一次等待发生的权力交接：新的专用芯片，最终将取代旧的平台。

历史没有提供这样的保证。

通用处理器没有被所有专用方案取代，技术领先的芯片也未必建立了可持续业务。另一方面，成熟平台确实可能低估新需求，为不同组织方式留下空间。

真正需要比较的，不是谁更像过去的赢家，而是各家公司面对什么任务、拥有怎样的条件，以及愿意承担哪些代价。

NVIDIA与AMD需要服务广泛客户；Google与AWS可以围绕自身基础设施定义部分需求；Apple关注终端产品；Cerebras、Groq与Tenstorrent则尝试用不同技术和商业路径进入市场。

这些公司并不在回答完全相同的问题。

AI芯片竞争首先是一场问题定义的竞争，然后才是架构、软件与执行能力的竞争。

一、NVIDIA与AMD：既有平台如何吸收新需求

成熟平台的优势，不只是已经拥有出货产品。

它还拥有客户使用过的工具、软件接口、支持流程与部署经验。新需求出现时，客户可能更愿意先利用已有平台，而不是立即更换全部基础设施。

NVIDIA能够将图形与并行计算积累用于AI，与这种连续性密切相关。

GPU硬件、CUDA、软件库与开发工具，使研究成果能够较快进入实际计算。此后，专用矩阵计算、低精度支持、互连和系统产品，又继续围绕新的工作负载发展。

这不是原有GPU未经改变便自然适应AI。

它需要持续修改硬件，扩充软件，并与模型和应用开发者共同解决问题。

AMD拥有另一组基础。

CPU、GPU、异构计算和先进封装经验，为其数据中心加速器提供条件。Instinct产品与ROCm软件栈的发展，体现了硬件能力与软件可用性必须同时建设。

但不能因为两家公司都提供GPU，就认为它们面临相同起点。

客户基础、软件覆盖、部署经验与平台投入存在差异。ROCm支持某个框架，也不意味着所有模型、算子和配置都具有相同成熟度；同样，CUDA具有广泛积累，也不意味着每项新工作负载都已经得到最佳支持。

成熟企业还承担着连续性的成本。

客户希望旧软件继续工作，产品路线需要兼顾多种任务。某项针对单一模型的激进优化，即使短期有效，也未必适合覆盖广泛用户的平台。

因此，既有平台的优势与约束来自同一个地方：

它已经被广泛使用，所以能够更快承接需求；也因为被广泛使用，不能随意改变全部前提。

二、Google TPU与AWS：系统客户为什么成为芯片设计者

系统客户进入芯片设计，通常并不是为了证明能够独立于供应商完成所有工作。

更直接的动机，是某些内部需求已经足够大、足够明确，而现有产品无法以理想方式满足。

Google早期TPU的重要目标，是服务内部推理需求。后续TPU则扩展到训练等用途，并通过Google Cloud向外部客户提供相关能力。

AWS的Inferentia与Trainium，也体现了云服务组织围绕推理、训练和基础设施经济性进行设计的路线。

这些公司拥有独立芯片创业者难以直接获得的条件。

它们能够观察大量真实工作负载，知道哪些计算频繁出现，哪些资源长期闲置，以及性能改善怎样影响服务成本。

它们也可以同时修改部分软件、调度与系统配置。

因此，芯片不必单独作为器件销售。其价值可以通过云服务成本、供给能力和产品差异体现。

但内部客户不等于没有市场检验。

自研芯片仍然需要与采购方案比较，还要承担开发、制造、软件和维护成本。如果软件迁移困难，或者负载变化超出预期，理论上的成本优势可能无法兑现。

内部需求也不一定统一。

大型云平台运行多种任务，不能假设一种加速器适合全部客户。因此，自研与外购往往并存，而不是彻底替代。

当芯片进入对外云服务之后，问题又会扩大。

外部客户需要工具、文档、技术支持和稳定的使用体验。原先依赖内部专家才能完成的工作，需要转化为其他人能够使用的产品。

系统客户自研芯片的优势，是更接近真实需求；它的责任，是证明这种接近能够转化为长期可用的计算服务。

三、Apple：面向终端体验的AI计算整合

Apple面对的AI计算问题，与云端训练并不相同。

终端设备首先需要考虑响应、能耗、内存和使用条件。任务还可能涉及隐私、网络可用性，以及用户是否愿意等待远端结果。

这使AI能力进入芯片时，必须与整机体验共同设计。

Neural Engine等专用单元提供了计算路径，Core ML及相关软件帮助应用使用硬件。但并非所有模型都会自动完全运行在同一种单元上。

具体执行方式取决于算子、模型结构、精度、软件支持与设备条件。CPU、GPU和专用单元之间，仍然需要分工。

本地计算也不是越多越好。

较大的模型可能超出设备内存或能量预算；长期运行的任务也可能影响温度和续航。端侧与云端之间，需要根据任务性质重新安排边界。

因此，评价终端AI芯片，不能只比较专用单元的理论运算次数。

更相关的问题是：

功能能否稳定运行？延迟是否改善？整机能耗是否可接受？软件开发者能否使用？用户是否真正获得价值？

Apple的特点，在于可以把这些问题放进同一产品组织中处理。

但这种条件不容易被独立芯片公司复制。

创业团队可能拥有出色的加速器，却无法决定手机厂商的操作系统、内存配置和应用接口。技术收益需要通过更多组织边界才能进入用户体验。

这说明，终端AI的竞争不只是芯片架构竞争，也是系统控制范围的竞争。

四、Cerebras、Groq与Tenstorrent：不同问题定义下的不同路线

专用芯片创业的价值，不一定在于比成熟GPU更擅长完成全部任务。

它也可能来自重新选择系统边界。

Cerebras采用晶圆级集成，试图在特定系统组织下，减少将计算拆分到大量独立芯片后产生的部分通信与分布复杂度。

这一路线不是简单地“把芯片做大”。

它需要处理制造缺陷、供电、散热、软件映射与整机工程。收益和代价必须放在完整系统中衡量。

Groq强调由编译器对计算与数据移动进行较强的预先安排，追求可预测的执行，并在推理服务中展示这类设计的价值。

这种方式能够改变硬件与软件之间的分工，但也要求编译器有效支持目标模型。执行路径可预测，不代表全部服务延迟只由芯片决定，调度、网络和请求条件仍然重要。

Tenstorrent则探索AI处理单元、片上通信、软件栈与RISC-V CPU等能力的组合，其业务也涉及不同形式的芯片与知识产权合作。

它需要同时判断技术实现与交付方式：向客户提供完整系统、芯片或可集成的IP，会提出不同的验证和支持要求。

三家公司不能仅用一个峰值算力数字排序。

比较需要说明模型、精度、批量、延迟、功率边界、系统规模和软件版本。如果测试条件不同，结果可能只表明各自擅长的场景，而不是普遍胜负。

这些路线的共同意义，是证明GPU之外仍然存在设计空间。

但设计空间存在，不等于商业空间已经充分成立。

新架构必须解释自己改变了什么，也必须证明客户愿意接受随之而来的条件。

五、创始团队背景如何影响架构选择？

团队过去解决过什么问题，往往会影响它在创业时首先看到什么。

来自GPU组织的人，可能重视并行执行与软件兼容；来自网络系统的人，可能更早关注数据流与通信；参与过云端加速器的人，则可能从部署成本和内部负载出发。

这些经验能够降低部分探索成本。

但它们也可能造成选择偏好。

熟悉某种工具的团队，可能低估采用另一种方式的可能；曾经依靠特定结构取得成功的人，也可能把旧环境中的优势带入新市场。

因此，创始背景应被视为假设来源，而不是架构命运。

要确认其影响，需要观察实际决策：

团队是否明确引用过去的经验？哪些方案因已有能力而被优先采用？又有哪些新成员促使路线发生变化？

还要注意多源汇流。

Cerebras不能仅用SeaMicro背景解释，Groq也不能只被视为TPU经验的延伸，Tenstorrent更不能归结为后来加入的一位知名领导者。

芯片、编译器、制造、模型与商业团队共同参与，才形成最终方案。

真正值得研究的，是经验如何被其他经验修正。

如果创始团队只吸收与自己相似的人，可能很快形成一致意见，却未必形成完整能力。能够补充原有盲区的人才，有时比增加同类专家更重要。

六、算法快速变化与芯片研发周期之间的冲突

AI软件可以快速更新，芯片却需要经历较长的设计、验证与制造过程。

团队立项时的代表性模型，未必仍然代表产品上市时的全部需求。

变化不一定是某类运算完全消失。

更常见的是规模、组合和瓶颈改变：上下文增长，推理并发提高，稀疏结构调整，模型压缩方式变化，或者通信与内存需求超过原先预期。

因此，芯片团队需要区分两类内容。

一类是相对稳定的计算基础，例如大量线性代数与数据移动需求。

另一类是可能快速变化的实现方式，包括算子组合、调度和软件接口。

设计通常需要在专用化与可调整性之间选择。

专用化能够提高效率，但可能缩小适用范围；保留灵活性能够延长使用空间，却增加面积、功耗和软件复杂度。

编译器可以吸收部分变化，但不能弥补所有硬件限制。

如果内存容量、数据类型或通信结构根本不适合任务，仅靠软件很难消除代价。

更稳妥的组织方式，是持续更新工作负载集合，让模型与软件团队参与早期设计，并在重大假设上保留验证和调整空间。

这不能消除风险，只能使风险更早被看见。

芯片创业不能准确预测全部算法变化，但必须避免把一次短暂的软件状态误认为永久的硬件需求。

七、制造成本、软件生态与客户采购的进入壁垒

AI芯片创业面临的障碍，既有历史重复，也有新的规模。

会重复的，是高额前期投入、漫长客户导入、软件配套不足和供应商可信度问题。过去的处理器创业已经反复经历这些困难。

不同之处，是某些前沿AI系统需要更昂贵的制造、存储、封装与集群条件，竞争对象也可能已经具备完整平台。

但不能据此认定所有AI芯片创业都必须承担相同成本。

采用较成熟工艺、服务特定设备或提供IP，与建设大规模训练系统，具有不同资本需求。

商业模式因此成为技术选择的一部分。

销售芯片，需要客户能够自行集成；销售整机，要承担更多系统工程；提供计算服务，则还需要部署、运营和利用率管理；授权IP，又要支持不同客户的实现条件。

每种模式都减少一部分负担，也增加另一部分责任。

客户采购还需要考虑长期风险。

新平台是否持续供货？软件是否有人维护？下一代能否兼容？如果公司改变方向，既有投入怎么办？

因此，性能优势越小，客户越可能选择维持现状；优势即使很大，也需要在完整成本与可靠性条件下证明。

资本可以为这个过程争取时间，但无法替客户作出采用决定。

融资完成、流片成功与形成稳定收入，始终是不同里程碑。

八、下一家重要公司，为什么未必是“下一个NVIDIA”？

“下一个NVIDIA”暗含一种预设：最有价值的成功，是建立另一套覆盖广泛客户的计算平台。

但产业可能产生多种重要组织。

有的公司专注特定推理任务，有的提供互连、编译器或系统软件，有的围绕一种设备形成优势，还有的通过IP与合作进入大量产品，而不直接销售完整加速器。

这些公司未必复制NVIDIA的规模与结构，却仍然可能改变技术分工。

人才迁移也可能以这些形式留下成果。

离开成熟平台的工程师，不一定需要重建原平台；他们可以选择原公司不优先解决的问题，把部分经验用于更窄、更明确的市场。

这既是机会，也是评价边界。

不能因为没有成为全栈平台，就认定创业失败；也不能因为拥有几个客户，就宣布形成了长期壁垒。

更合适的问题是：

它解决的问题是否持续存在？客户是否愿意付费？产品能否重复交付？团队能否培养新人并开发下一代？

重要公司不是由相似的创始故事决定的，而是由持续作用于产业的能力决定的。

结语　历史会重演机制，不会复制结果

AI芯片创业会重复许多旧问题。

优秀团队仍然需要资本，先进设计仍然需要制造，性能优势仍然需要软件与客户，收购之后仍然需要组织吸收。

但历史不会按原样重演。

计算需求、产业分工、软件生态与资本规模已经变化。系统客户成为设计者，模型组织深入基础设施，芯片公司又不断扩大到机架和服务。

因此，不能用过去某家公司的成功，替今天的团队预先作出判断。

本书能够提供的，是比较问题的方式：

团队带来了什么经验，选择了什么约束，获得了哪些互补条件，又通过什么结果证明能力已经形成？

下一章将进一步追问，这轮变化会在哪里培养新的工程经验。

它们可能来自NVIDIA、AMD、Apple与Intel，也可能来自Google、云平台、模型公司、大学和开源社区。

下一轮人才母体，不一定首先表现为最多的明星员工，而可能表现为：一个组织正在让不同专业的人，共同学会解决此前无人能够稳定解决的问题。

第二十七章 AI芯片创业：哪些历史会重演，哪些不会？