ASIC，AI芯片霸权的终结

ASIC，AI 芯片霸权的终结 2024-12-25 请务必阅读正文之后的免责声明 1 / 7 ASIC，AI 芯片霸权的终结 原创 来觅研究院 RimeData 来觅数据 撰稿 李沛瑶 2024-12-25 导读：12 月 13 日，博通公布新一季度财报，截至目前，股价大涨超 30%。与此同时，英伟达开始了漫长的阴跌，较高点跌幅近 10%，市值蒸发约 3000 亿美元。二者泾渭分明的关键正是博通新推出的 ASIC芯片服务。博通如何撼动英伟达在算力领域的霸权？ASIC 有何过人之处？国内投融现状如何？本文尝试分析和探讨。 被寄予厚望的博通 博通是一家专注于半导体和基础设施软件解决方案的多元化公司，在无线连接、网络处理器和定制 AI 芯片领域取得了领先优势。12 月 13 日，公司 CEO Hock Tan 在业绩说明会上表示，公司 2027 年超大规模客户的 AI 收入将达到 600-900 亿美元，几乎每年翻倍。上述言论一举燃爆市场热情，博通股价当日上涨超 24%，成为人类历史上第九家市值突破 1 万亿美元的公司。 博通说的 AI 收入究竟是什么？除了其优势的交换机业务外，最大的部分在于 ASIC 芯片服务。ASIC 是一种为某种特定任务设计的芯片，一般会被应用于特定设计和制造的设备中，执行必要的功能。在 AI 芯片中，ASIC 被用来处理特定的任务，且相比 GPU 而言，拥有更高的处理速度和更低的能耗。 ASIC，AI 芯片霸权的终结 2024-12-25 请务必阅读正文之后的免责声明 2 / 7 图表 1：AI 芯片的分类 AI 芯片 定义 优势 典型厂商 GPU 通用图形处理器 高并行结构，生态体系成熟，跨平台支持，易于编程，成为主流的并行数据处理加速器 英伟达、AMD、海光信息 ASIC 专用集成电路 专门为深度学习计算定制的芯片，如神经网络处理器 NPU，张量处理器 TPU，效率高，功耗低，体积小 博通、Marvell、寒武纪 FPGA 现场可编程逻辑阵列 高度并行的结构和低延迟，可编程和灵活性强，能够适应模型算法迭代 赛灵思、Altera、紫光国微 资料来源：公开资料、来觅数据整理 按功能分类，AI 芯片可以分为训练卡和推理卡两个类型。训练卡也叫大卡，通常拥有更高的计算能力和内存带宽，以支持训练过程中的大量计算和数据处理；推理卡也称小卡，其参数较低，只需满足推理需求。一般情况下，训练卡可以作为推理卡使用，但推理卡不能作为训练卡使用。简单来说，大模型的训练需要大量的训练卡形成显卡集群，而在应用上，则需要推理卡运行 AI 模型进行计算。 在 2023 年以来的 AI 大规模基建中，“百模大战”推升了算力需求。对大模型的预训练中，训练卡是焦点，而 GPU 由于高适配性、性能强大成为了训练卡的标配。英伟达也几乎垄断了所有算力市场，其在 AI芯片市场占有率超过 90%。 英伟达为什么这么强大？原因在于英伟达卖出的不仅仅是算力芯片，而是一整套生态系统。英伟达生态系统中手握三张王牌，包括领先的 GPU、十年磨一剑的 CUDA 以及网络传输 NvLink。英伟达自 2010年以来发力 AI 算力，尤其是近年来推出的 H100、H200、GB200 等，单卡算力稳坐第一梯队。CUDA是一套芯片编程模型，为开发者提供了利用 GPU 进行高效并计算的全方位支持。NvLink 采用点对点结构，通过串列传输实现高速数据运输，传输速率是传统 PCIE 的 7 倍。 不过，目前局面正在改变，博通可能是最接近英伟达的挑战者。一方面博通在网络芯片、交换机和路由器ASIC，AI 芯片霸权的终结 2024-12-25 请务必阅读正文之后的免责声明 3 / 7 方面有强大的积累，其推出的千兆以太网方案，其传输速率不弱于 Nvlink。另一方面，博通在半导体领域浸润多年，可帮助客户完成从设计到封装所有的环节。在生态方面，由于执行特定的任务，一般不需要复杂的生态环境。简而言之，博通打出的组合拳约等于以自己在交换芯片方面的积累和定制芯片加上客户自己的软件硬撼英伟达。 前景很美好，但现实很骨感。就目前而言，英伟达其三季度在 AI 方面收入 308 亿美元，而博通最近一个季度 AI 收入仅为 37 亿美元，体量差距还相当大。而市场对博通的追捧可能仅仅意味着反抗英伟达霸权的开始。 据 Marvell 预测，2023 年 ASIC 占数据中心加速计算芯片的 16%，规模约为 66 亿美元；随着 AI 计算需求的增长，ASIC 占比有望提升至 25%，预计 2028 年数据中心 ASIC 市场规模将提升至 429 亿美元，CAGR 为 45.4%。就整体规模而言，AI ASIC 增速相对较快，但赶上 GPU 尚需时间。 图表 2：2023-2028E 全球 ASIC 市场规模（亿美元） 资料来源：Marvell，来觅数据整理 66 429 010020030040050020232028EASIC，AI 芯片霸权的终结 2024-12-25 请务必阅读正文之后的免责声明 4 / 7 焦头烂额的英伟达 英伟达最近不是很太平。从官宣的 GB200 AI 服务器出货延迟，到被美国、中国、欧洲等全球多地政府联合调查反垄断，英伟达似乎已经陷入多事之秋。然而，这并不能证明英伟达的虚弱。英伟达的麻烦似乎仅仅只是他强大的副产品。 英伟达傲人的市场份额证明他在 AI 芯片领域几乎已无敌手。就目前而言，各大云厂商选择英伟达的产品时，要么选择捆绑销售，要么买多者先得，要么只能原地等上好几个月。正如 AWS CEO 表示：“目前 GPU市场只存在一种选择，那就是英伟达，若是市场上有更多选择，我们相信客户会欢迎。” 云厂商并非没有准备，它们正着手开发 A