2024大模型应用实践报告：战略一致性，企业成功落地大模型的隐藏秘钥-爱分析

2 | 2024 爱分析·大模型应用实践报告 报告编委 报告指导人 张扬 爱分析 联合创始人&首席分析师 报告执笔人 李进宝 爱分析 高级分析师 外部专家（按姓氏拼音排序） 林庆治 飞算科技 首席数据官 吕鑫 滴普科技 大模型产品总监 张皎 拓尔思 金融和产业大脑产品中心运营总监 3 | 2024 爱分析·大模型应用实践报告 特别鸣谢（按拼音排序） 4 | 2024 爱分析·大模型应用实践报告 目录 1. 报告综述!" 2. 市场洞察!# 3. 数据分析市场!$ 4. 知识库/智能客服市场!"% &' 结语!(& 关于爱分析!() 产品服务!(* 法律声明!(% 5 | 2024 爱分析·大模型应用实践报告 报告综述 | 2024 爱分析 大模型应用实践报告 1 1. 报告综述 人工智能大模型，是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的模型。大模型以其在模型精度和泛化能力等多个指标上超越传统 AI 模型的表现，以及赋能千行百业的巨大潜力，成为当今世界各国人工智能技术发展的核心方向。 大模型经过近一年半的高速发展，已在政府、医院、学校、企业等各类需求群体中建立初步认知。其中一部分需求群体设立专项预算、开放业务场景，对大模型进行试点应用。通过试点应用，需求群体加深了对大模型能力和价值的认同感，进而普遍希望在未来继续增加相关预算，将大模型与实际业务进行更深入、更广泛的融合。 大模型应用百花齐放，其中数据分析和知识库/智能客服是企业在 2024 年关注度最高的是两个应用场景，成为企业落地大模型的重要抓手。调研数据显示，准备在 2024 年应用大模型的企业中，有 78%计划在数据分析场景落地，有 70%计划在知识库/智能客服场景落地。基于此，本报告将重点研究数据分析和知识库/智能客服两个特定市场。 图表 1：2024 年大模型重点应用场景 | 2024 爱分析 大模型应用实践报告 2 市场洞察 | 2024 爱分析 大模型应用实践报告 3 2. 市场洞察 通过对近百家大型企业的调研，爱分析归纳出大模型落地应用过程中普遍存在的挑战，它们遍布规划、立项、选型、实施和运营等全流程。本报告将选取三个重点挑战进行论述并提出解决方案。 挑战 1：大模型项目未与企业保持战略一致性 一般情况下，大模型通常是由上至下推动的，由董事长或 CEO 等企业一把手宣布大模型必须落地的任务。该任务无论分配到哪个团队，都会启动一个以大模型为主题的项目，并展开一系列汇报工作。在汇报过程中，企业一把手询问的首个问题往往是大模型项目与公司战略的关联。但是，在大多数汇报中，项目负责人的回答仅局限于大模型技术和应用，例如“大模型+知识库”赋予一线员工的能力提升、“大模型+数据分析”提高了业务人员使用数据的便捷性等。这些价值与企业战略间并无必然联系，即大模型项目与企业战略之间没有必然联系，进而导致大模型项目难以顺利过审。某大型化学用品公司 CIO 向总经理汇报 2024 年度 IT 项目规划和预算情况，但汇报并不顺利，重点问题在于大模型项目的业务价值没有打动总经理。因此，爱分析建议首先要解决如何保持大模型项目与企业战略一致性的问题。 实际上，多数企业在 2023 年年末至 2024 年年初期间会做 2024 年企业战略规划，其中必然涉及到战略目标设定以及战略解码的过程。爱分析认为，大模型项目必须在战略解码的过程中找到自身的核心定位，或者说确定其与战略的紧密联系，这对于项目的顺利进行至关重要。 下图为一个常见的战略解码过程，涵盖了从整体公司级战略到管理层设定的 KPI 目标，再到业务执行层的每个项目。无论是采用战略地图或者其他形式，都可以帮助企业进行战略解码的工作。其主要作用是在整个战略解码的过程中，尤其是在最终的执行层（项目）中，真正找到符合企业自身情况的战略对齐，从而提升大模型项目的价值。 | 2024 爱分析 大模型应用实践报告 4 图表 2：战略解码过程示意图 某金融机构在每年年底和第二年年初时，需要对整个十四五规划进行全方位回顾。在考虑十四五规划时，一个颇为关键的战略是自主可控，这也被明确写入公司的十四五信息化战略规划之中。因此，大模型项目负责人就是从十四五战略规划中出发，从中挑选出适合的项目。该金融机构最终选中的落地项目是“大模型+运维”，选择原因其实是它比较好地解释了自主可控。这里的自主可控不局限于外资软件或基础设施，更多的是对外部供应商的自主可控。在此过程中，大模型与运维的联合价值显得尤为重要，因为可以对金融机构现有自身内部能力进行强化，也就是大模型可以提升公司内部运维人员的技能，例如通过知识库、BI 以及其他能力赋能内部运营的人员。运维人员在这个过程中，可以减少对云厂商或外资硬件服务器厂商等存在的高度依赖，从而以更好的程度体现出自主可控性。该项目从立项到实施都较为顺利，因为在项目之初便将整个公司的十四五战略规划中的自主可控性纳入其中，是一个非常优秀且值得借鉴的金融机构案例。 挑战 2：大模型业务收益难设定 大模型项目负责人在设定业务收益时，头绪繁多，但缺乏找到行之有效的收益项。当前常见的大模型业务收益主要包括提升企业/品牌形象、减少资本支出和运营支出、业务收入增加、提升客户满意度、 | 2024 爱分析 大模型应用实践报告 5 提升员工人均产出、缩短流程时间、加快新产品上市节奏等。如果大模型项目负责人追求“多多益善”，而不是“有的放矢”，企业内部往往难以就业务收益达成共识，进而导致项目推进困难。 爱分析将提供一种易于操作且可行性较强的业务收益设定方式。在设定大模型业务收益时，需要从顶层开始进行考虑。这种策略的优势是从管理层出发，历经部门领导，直至执行团队，这是实现大模型落地的最佳路径。其背后原因在于，大模型本身需要获得来自管理层的大力支持，以及在公司范围内推动这项工作，那么针对管理层的大模型的应用赋能，或探讨如何使这个模型为管理层带来价值，无疑是更为有效的切入点。 某主机厂计划在 2024 年落地大模型，在应用场景上曾经过多次内部筛选，首先以面向管理层的场景作为首个目标。例如，在每月的经分会上，依托完全基于大模型生成的报表进行经分会的召开，报表主要展示了一些核心的日常经营指标。再例如，由于该主机厂规模较大，对于管理层而言，年终述职报告便显得尤为必要，大多数领导可能需要花费长达一个月甚至更长的时间来撰写这份报告。因此，大模型项目团队根据日常运营分析中的一些核心基础数据生成报告帮助领导减轻年终报告的负担。由此可见，即便都是进行数据分析，在面向管理层时整体的业务收益会更易得到认可。 挑战 3：提升数据分析结果的准确率 数据分析是很多企业在 2023 和 2024 年落地大模型应用的首要场景，但生成结果的准确率较低，困扰着大模型项目负责人。导致该困境的主要原因之一在于大模型数据分析是基于语言交互的方式，无法限制用户的提问方式，因此理解问题和生成结果的难度偏高。以下通过一些来自用户的真实问题具体说明。 n 含义清晰的单任务问题最简单。例如“最近 7 天 x