端侧AI行业动态点评：产业链推进端侧AI应用，终端落地逐步启动

请务必阅读正文之后的免责声明及其项下所有内容证券研究报告 | 2023年11月12日超 配1端侧 AI 行业动态点评产业链推进端侧 AI 应用，终端落地逐步启动 行业研究·行业快评 通信 投资评级：超配（维持评级）证券分析师：马成龙021-60933150machenglong@guosen.com.cn执证编码：S0980518100002联系人：钱嘉隆021-60375445qianjialong@guosen.com.cn事项：近期，高通、联发科等芯片厂商发布支持端侧 AI 大模型运行的芯片新品，高通推出骁龙 8 Gen3 和 PC 芯片骁龙 X Elite；联发科推出天玑 9300，支持 130 亿参数模型端侧运行。软件厂商中，中科创达凭借其在终端、边缘计算领域的多年技术沉淀以及在大模型领域的创新探索，利用模型压缩、分布式以及张量并行技术，成功在搭载了高通 8 系列芯片平台的边缘设备上实现了 LLaMA-2 130亿参数模型的稳定运行。终端方面，第九届联想创新科技大会期间，联想集团董事长兼 CEO 杨元庆在现场展示了联想首款 AI PC、大模型压缩技术、人工智能双胞胎（AI Twin）等一系列人工智能创新科技成果；AI 手机侧，小米将 AI 大模型植入系统，其小爱输入助手支持 AI 创作文本，并支持 AI 扩图、AI 妙画、AI 搜图等功能；vivo 发布了自研 AI 大模型「蓝心 BlueLM」，其中 10 亿和 70 亿参数模型支持终端侧部署。可穿戴 AI 终端产品 AI Pin发布，本款产品为独立设备和软件平台，内置 Open AI 直接在设备和云中运行。国信通信观点：1）端侧 AI 在减轻云端网络负担、高可靠性和低时延场景以及隐私和安全方面具有应用必要性，有助于推动大模型的全面应用。端侧 AI 应用需要全产业链推动，包括芯片算力增强、模型优化、软件厂商适配以及终端厂商的落地应用。2）近期，从端侧 AI 芯片，到中游模组、软件厂商，再到下游终端，产业链各环节正积极推动 AI 在端侧部署落地，AI PC 等相关产品在 2024 年有望开始迎来规模应用，AI Pin 的发布也反映了 AGI 用云到端应用的长期趋势，端侧 AI 应用逐步加速。投资建议：端侧 AI 应用有望加速，建议关注算力模组与算力芯片等产业链环节，推荐关注【移远通信】、【广和通】、【瑞芯微】等。评论： 端侧 AI 加速推进，应用前景广阔边缘 AI 具有应用必要性，主要用于端侧推理。边缘 AI 由于端侧设备天然的算力局限性等因素，较难用于模型训练，主要用于端侧模型推理应用。具体来说，边缘 AI 有望在以下三类场景应用：（1）边缘智能有助于减轻网络负担。完全依赖云端处理多模态模型数据，对网络通信能力要求大幅提高，网络负担显著加剧，影响应用体验。并且完全依靠云端部署和应用 AI 成本相对高昂，将部分 AI 处理从云端卸载至端侧计算，尤其是利用已经部署的手机、PC 等终端设备，成本上将大幅节约，也有助于降低云厂商的能源消耗。（2）高可靠性与低时延优势。云端连接在访问拥挤时将产生高延迟，甚至会被拒绝服务，通过将计算负载迁移到边侧进行，可靠性和低时延优势将显现，在部分高安全性场景具有刚需，例如自动驾驶。（3）隐私和安全。AI 监管中，数据安全是重中之重。不同于访问云端的数据交互，端侧计算的数据具有更强的私密性和安全保障。请务必阅读正文之后的免责声明及其项下所有内容证券研究报告2图1：NVIDIA 为 Windows RTX PC 和工作站提供 AI 优化图2：生成式 AI 用于 ADAS资料来源：Nvidia，国信证券经济研究所整理资料来源：高通，国信证券经济研究所整理从近期产业链动态来看，端侧 AI 应用正逐步加速。近期，从端侧 AI 芯片，到中游模组、软件厂商，再到下游终端，产业链各环节正积极推动 AI 在端侧部署落地，整体进展或将在 2024 年进一步加速，具体来看：表1：近期端侧 AI 产业进展产业链环节厂商动态芯片高通高通近期在 2023 骁龙峰会上推出骁龙 8 Gen3 和 PC 芯片骁龙 X Elite。两款芯片大幅增强端侧 AI 能力，实现百亿参数级别的大模型边缘运行联发科联发科发布天玑 9300，集成联发科技第七代 AI 处理器 APU 790，内置生成式 AI 引擎，与 Transformer模型适配进行算子加速。天玑 9300 支持在终端运行 10 亿、70 亿、130 亿参数的 AI 大模型。据联发科技官方称，天玑 9300 成功运行了 330 亿参数的 AI 大模型。IntelIntel 宣布启动 AI PC 加速计划，计划于 12 月 24 日发布酷睿 Ultra 处理器，构建 CPU、图形处理单元（GPU）和神经网络处理单元（NPU）组成的 AI 加速架构。AMDAMD 已推出 Ryzen 7040 系列 CPU，内置 Ryzen AI 引擎模组移远通信推出基于高通 QCS8550 芯片的新一代高算力智能模组 SG885G-WF美格智能基于高通 QCS8550 芯片的算力模组 SNM970 实现 Stable Diffusion 的实机运行软件中科创达中科创达凭借其在终端、边缘计算领域的多年技术沉淀以及在大模型领域的创新探索，利用模型压缩、分布式以及张量并行技术，成功在搭载了高通 8 系列芯片平台的边缘设备上实现了 LLaMA-2 130 亿参数模型的稳定运行。终端联想第九届联想创新科技大会期间，联想集团董事长兼 CEO 杨元庆在现场展示了联想首款 AI PC、大模型压缩技术、人工智能双胞胎（AI Twin）等一系列人工智能创新科技成果。小米小米将 AI 大模型植入系统，其小爱输入助手支持 AI 创作文本，并支持 AI 扩图、AI 妙画、AI 搜图等功能，相关应用基于本地运行。vivovivo 在 2023 开发者大会上正式发布了自研 AI 大模型「蓝心 BlueLM」和全平台自研操作系统「蓝河BlueOS」。蓝心大模型 BlueLM 覆盖了十亿、百亿、千亿三个参数量级，全面覆盖了目前应用的核心场景，其中，10 亿量级模型是主要面向端侧场景打造的专业文本大模型，在手机上进行推理的速度可达64 字/秒，具备本地化的文本总结、摘要等能力。70 亿模型是面向手机打造的端云两用模型，具有优秀的语言理解、文本创作能力。Humane美东时间 11 月 9 日，苹果前设计和工程团队高管创立的 Humane 公司发布 AI Pin 可穿戴便携硬件。本款产品为独立设备和软件平台，内置 Open AI 直接在设备和云中运行。资料来源：公司官网，国信证券经济研究所整理 芯片侧：高通、联发科强化端侧芯片 AI 性能高通骁龙新品大幅加强 AI 性能。高通近期在 2023 骁龙峰会上推出骁龙 8 Gen3 和 PC 芯片骁龙 X Elite。两款芯片均具备强劲的端侧 AI 能力：（1）骁龙 8 Gen3：据高通介绍，骁龙 8 Gen3 AI 性能提升了 98%，通过高通 AI 引擎实现终端设备 100 亿参数的模型运行，并且针对 70 亿参数 LLM 每秒能够生成 20 个 token。（2）骁龙 X Elit