新手入门 | 一次讲清CPU、GPU、TPU等AI芯片到底有什么区别？

自从AI需求爆发后芯片行业多了很多“三字母缩写”芯片如CPU、GPU、TPU、NPU、DPULPU等等它们到底有什么区别其实要搞清楚这个问题最简单的方法是从一个问题开始计算任务变了为什么我们需要不同的芯片CPU算力世界的“全能大管家”大家对CPU肯定不陌生它是计算机的“大脑”。操作系统、浏览器、数据库、Office……各种程序都需要它来执行。CPU的核心标签是通用性。它面对的是复杂、多变、充满分支判断的任务什么都能干。但“什么都能干”的另一面是它不是为某一种特定计算而生的。当任务变成“同时处理海量、结构相似的计算”时CPU就有点力不从心了。这时候GPU站了出来。GPU并行计算的“万人食堂”GPU最初是为图形渲染服务的。一幅画面里有几百万个像素点每个点的计算逻辑类似需要同时算完。GPU的思路和CPU完全不同与其做几个无所不能的“博士”不如做一万个只会加减法的“小学生”——人多力量大同时开工。后来人们发现AI训练恰好也是这个逻辑。神经网络里全是矩阵乘法、张量运算这些计算不复杂但数量极大正好适合GPU的并行架构。于是GPU从“图形处理器”变成了AI时代的“算力发动机”。GPGPU给GPU“解锁”的编程模式GPGPUGeneral-Purpose computing on Graphics Processing Unit翻译过来是“GPU上的通用计算”。这个词我相信大家也经常看到注意GPGPU不是一颗芯片它指的是把原本用来画图的GPU通过编程改造让它去算AI、科学计算、数据分析等非图形任务。所以今天我们在AI里说的“用GPU训练模型”严格来说其实是“用GPGPU的方式在使用GPU”。GPGPU的意义在于它让GPU从“图形专用卡”变成了“通用并行计算平台”正式奠定了GPU在AI时代的霸主地位。TPU和GPU平起平坐的“AI专用流水线”到这里很多人会好奇为什么有GPGPU了且相对应用也比较成熟了为什么还要有TPU的存在和诞生。我们先来看一个问题当大模型商业化之后绕不开的一笔经济账。模型规模小时大家首先关心的是有没有足够多的算力。但当每天处理的Token越来越多问题就变成了一颗芯片能跑多少Token利用率有多高功耗多少内存和互联会不会拖后腿几万颗芯片组在一起之后还能发挥多少性能最后摊到每百万Token到底是多少钱在这种规模下效率哪怕只提高几个百分点背后都可能是真金白银。GPU虽然擅长并行但它毕竟不是为AI“量身定制”的它还要兼顾图形渲染、科学计算等其他任务运算效率肯定会有所折扣。所以既然AI 90%的工作都是算矩阵为什么不做一颗芯片把其他功能全砍掉只把这一件事做到极致这就是Google TPUTensor Processing Unit张量处理器的诞生逻辑所在。包括前段时间Anthropic挖了谷歌的TPU老将Amir Salek我猜测大概率也是有这个考虑因素所在。所以重点来了TPU不是GPU的“下属”或“变种”它是和GPU并列的、面向AI时代的另一条路线选择。所以有资格坐在一张桌上。我做了一个简单的表格你可以这样理解CPU、GPU、TPU三者不同的擅长部分类型CPUGPUTPU定位通用计算并行计算AI专用计算核心优势复杂逻辑、分支判断海量任务同时处理矩阵/张量运算极致优化适合场景操作系统、数据库图形渲染、AI训练大模型推理大规模AI训练形象比喻五星级大厨拥有1000个小工的中央厨房只做汉堡的全自动流水线所以各个XPU的对比也没有谁高谁低只有谁更合适。但是我在这里要提醒大家注意一个点Google定义并率先规模化了TPU这一产品体系而今天更值得关注的是TPU背后所代表的面向Tensor/AI Workload进行专用优化的计算路线。NPUTPU在端侧的“小兄弟”。NPUTPU在端侧的“小兄弟”NPUNeural Processing Unit神经网络处理器本质上和TPU是“亲戚”都是为AI设计的专用芯片。但它们的战场不同TPU在云端数据中心处理大模型训练和推理追求集群算力。NPU在手机、耳机、摄像头里处理人脸识别等端侧应用里追求低功耗。简单说TPU是数据中心里的重兵器NPU是你手机里的AI省电小秘书。DPU算力集群的“运输大队长”DPUData Processing Unit数据处理器职责和计算无关专管数据搬运。当CPU、GPU、TPU在疯狂计算时DPU在后台默默把数据从硬盘搬到内存从内存搬到显存让计算主力不因为“等数据”而空转。所以才有了“神经”一说主要就是负责把“养分”送到该去的地方。最后说两句“XPU”和“ASIC”现在行业内还有各种LPU、QPU等新名词让人眼花缭乱。其实不用被它们吓到。XPU的本质只有三类通用计算CPU通用并行计算GPU专用计算TPU、NPU以及各种AI芯片至于ASIC专用集成电路它不是一个和TPU并列的具体芯片而是一个更大的帽子——所有“为特定用途定制的芯片”都叫ASIC。TPU、NPU本质上都属于ASIC的范畴。所以谁会取代谁理解了上面的框架你就会发现一个这个问题其实不成立。因为他们根本不在一个赛道上。未来的算力世界不是“谁取代谁”而是形成一个三类芯片各司其职、长期共存的局面CPUGPUTPUASIC。当AI Workload越来越庞大、越来越标准化针对它做专用芯片的经济价值就越来越高。这也正是为什么在GPU已经如此强大的今天谷歌、亚马逊、微软依然拼命造自己的AI芯片。