TPU赢得的关怀度肉眼可目力在攀升。
昔时一个月，围绕谷歌TPU的讯息接连持续。4月底，谷歌发布了第八代TPU，初次将历练和推理拆分为两款独处的芯片；紧接着，市场上接踵传出谷歌向英特尔下达大限制采购订单、谷歌拟与三星开发新一代TPU的讯息。不外，谷歌方濒临此均未作出公开回报。
但不错预见的一个趋势是，跟着谷歌TPU的大幅入局，昔时几年当作AI算力代名词的GPU，不再是唯独的遴荐。当算力需求从历练转向推理时期，TPU的上风运行突显，从昔时的“副角”更加有站上主舞台之势。
GPU和TPU是两种不同的芯片品类。GPU出生已有二十多年，全称是GraphicsProcessingUnit（图形处置器），技艺相对老练，代表公司有英伟达、AMD。TPU则是谷歌从2015年起特意为AI打算的新品类，它的全称是TensorProcessingUnit（张量处置器），专攻深度学习所需的矩阵运算。
集群计较需求增长
TPU为安在此时成为焦点？先要看市场需求正在发生什么变化。
国度数据局发布的《宇宙数据资源看望证据（2025年）》骄矜，2025年，中国AI推理数据量初次逾越历练数据量。
TrendForce集邦扣问的数据预测，北好意思五大云作事商2026年AI历练算力瞻望增长56%，而推理算力将暴增122%，后者增速是前者的两倍以上。IDC预测，到2029年中国市场推理算力占比将接近大约。
推理正逐步成为算力需求的主场，而这也在为TPU创造契机。
领先，模子越来越大，单颗芯片无法撑捏，必须依靠多颗芯片的集群协同完成推理任务，而TPU在集群遵守上有先天上风。
“智能体正在慢慢替代东谈主类的部单干作，其本色是用写体式的智力收尾电脑。惟有当模子充足大时，才能完成体式员能作念的事。如今的模子参数从亿级已达到万亿级别，单颗芯片无法承载无缺推理任务，必须依靠几十致使上百颗芯片互联集群协同运算。”中昊芯英首创东谈主及CEO杨龚轶凡说。
中昊芯英是一家聚焦TPU芯片技艺研发的企业，杨龚轶凡示意，GPU架构所以单卡通用算力和软件生态见长，而TPU则是在大限制集群的通讯与协同遵守上有上风。
一位前谷歌TPU工程师在一档视频节目中先容，GPU单机里面依靠NVLink、板载NVSwitch杀青多卡互联，跨机架大限制集群还需异常采购交换机、光模块搭建高速汇集，配套硬件是一笔大额基建开支；而TPU机柜内芯片可成功互通，仅在跨机柜膨胀时使用自研光电路交换机，无需大量量采购商用高速交换勾引，在同等集群通讯性能下，全体部署硬件本钱更低。
其次，推理阶段对性价比的明锐度远高于历练。当Token消费呈指数级暴增，单元算力本钱也成为了更受爱重的主义。从架构上看，TPU是专用芯片，剔除了GPU的图形渲染、通用计较等功能，聚焦于深度学习矩阵运算。杨龚轶凡指出，谷歌TPU在发布时，对比同等坐褥工艺的GPU，有3到5倍的性能提高。
细分场景里的遴荐
什么场景下GPU更符合，乐鱼2026世界杯首页什么场景下TPU更优？
这需要回到芯片打算的原点。
杨龚轶凡说，GPU最早是为了在电脑屏幕上骄矜传神的3D游戏画面而打算的。它要把三维物体从各个角度算成二维画面，还要算光泽、颜料，让画面充足信得过。这就导致GPU里面塞了上万个计较中枢，像一个大工场里有一万名工东谈主同期干活。优点是并发智力强，处置图像和矩阵运算相配快。但舛错是，一朝某个工东谈主算错了，你根底没法在一万名工东谈主里快速找到是谁出了问题。
而AI深度学习的计较方式悉数不同。深度学习模子是一层一层往下计较的，每一层里面不错高并发，但层与层之间有先后律例。这种方式不需要GPU那么复杂的调试和通用智力。于是，TPU这类特意为AI打算的芯片应时而生，只聚焦深度学习最常用的运算。
这就好比，从之前要同期退换一万个工东谈主，变成只需要退换一千个按固定活水线责任的工东谈主，收尾逻辑浅陋得多。
基于这种架构各异，杨龚轶凡预测，改日AI芯片市场将酿成“442”神气：40%是极致性价比的纯ASIC（专用集成电路）芯片，只可跑固定一两个模子的推理，性价比极致；40%是可编程的DSA（范围专用架构）芯片，比如TPU，支捏深度学习汇集的算法，芯片诓骗率不如ASIC，但比GPU强许多；20%是通用GPU，留给还在快速变化的新算法和筹市集景。
不外，这并不虞味着TPU对GPU是替代干系，而是要看具体场景的适配。
在杨龚轶凡看来，20%的GPU市场会永久存在。原因在于，AI范围的新算法、新标的还在持续显现，探求东谈主员需要一个通用、生动的平台来快速考证主见。CUDA生态（英伟达围绕GPU硬件打造的一系列软件和器用链）流程20年打磨，老练度高，当新的计较场景出刻下，GPU仍然是首选。
而TPU的上风在于性价比和生态勾引本钱。杨龚轶凡例如讲解，TPU的打算想路是闪开发者“只管开车，无用修车”。它的硬件领导专为AI计较优化，同期适配PyTorch这类主流框架。PyTorch就像一个AI“乐高器用箱”，开发者用熟悉的“积木”搭模子，剩下的交给TPU编译器自动优化，无用为了迁就硬件去学一套新编程言语。
比较之下，CUDA更像一套“修车器用”，开发者必须懂“发动机旨趣”才能玩得转，这套器用是行业蓄积了十多年的遵守。TPU则是依托现存老练AI框架，大幅裁减了软件适配门槛，这亦然其性价比上风的伏击着手。
当下，AIAgents慢慢进化为民众社会坐褥力的中枢基座，带动Token消费量指数级攀升和“Token经济”时期的驾临。当Token消费呈指数级增长，芯片的诓骗率、性价比成为更加伏击的比拼项，TPU迎来新的契机，运行成为AI芯片赛谈上除GPU除外的“另一个选项”。
（作家叶心冉）乐鱼2026世界杯首页
