AI时代的抉择—以“信”筑基，行稳“智”远

AI时代的抉择以“信”筑基，行稳“智”远德勤亚太 | 人工智能研究院AI时代的抉择 | 以“信”筑基，行稳“智”远AI时代的抉择 | 以“信”筑基，行稳“智”远报告概要 401 应对AI快速采用带来的风险 602 卓越AI治理之道 803 亚太地区AI治理现状 1204 卓越AI治理的益处 2105 搭建可信AI的基础 24附录 28目录4AI时代的抉择 | 以“信”筑基，行稳“智”远报告概要德勤高可信人工智能框架明确了AI解决方案建立可信性所必需的七大要素：透明、可解释；公平、中立；稳健、可靠；保护隐私；安全、稳妥；承担责任；问责。组织实现可信AI的前提是什么？那就是卓越AI治理。首席高管和董事会成员面临众多优先事项，启动并推进有效AI治理实践可能充满挑战。为助力组织解决这一难题，我们开发了AI治理成熟度指数，通过一系列评估标准来确定卓越AI治理实践。基于该指数，我们对亚太13个地区近900名高管进行调研，覆盖多个行业和部门以及不同组织规模。我们的调研旨在了解组织AI治理成熟度水平，识别有效AI治理的关键推动因素，并评估采取治理举措给组织带来的益处。本报告由德勤经济研究所和德勤亚太人工智能研究院共同编制，旨在为亚太地区组织的首席高管和技术负责人提供洞察，助其改进治理结构和组织机制进而开发更可信的AI解决方案。透明、可解释公平、中立稳健、可靠保护隐私安全、稳妥承担责任问责1234567AI时代的抉择 | 以“信”筑基，行稳“智”远AI时代的抉择： 以“信”筑基，行稳“智”远随着AI解决方案从试行进入推广阶段，组织面临着一些重大风险，例如安全漏洞、隐私问题和法律风险。尽管AI解决方案能带来巨大的效益，但如果这些风险无法得到妥善管理，就可能导致数据泄露、声誉和业务受损以及监管罚款。然而，令人担忧的是，超过半数的技术工作者并不认为其所在组织能够有效应对AI相关风险。超过四分之一的组织过去一年发生的AI相关事件有所增加。 德勤AI治理成熟度指数采用12项指标来评估组织的AI治理成熟度水平。了解并利用更广泛的 AI供应链重视AI治理以从AI获益打造风险管理者， 而非风险规避者加强沟通， 确保AI转型准备就绪为了解有效AI治理如何助力应对这些风险并释放AI潜力，德勤对来自亚太13个地区的近900名高管开展调研，针对AI治理成熟度水平进行全面透彻的分析和研究。各行业AI使用导致的事件数量均呈上升趋势卓越治理也可促进AI应用扩大和财务收益提升然而，90%以上的组织都需要提升AI治理建立可信AI的行动政府及公共服务行业生命科学与医疗行业科技行业金融服务行业28%31%24%42%亚太地区AI治理成熟度水平分布 各行业过去一年AI相关事件数量增幅17%9%74%初级发展中成熟28% 组织中使用AI解决方案 的员工人数增加2倍 在研发、生产和运营、客户服务及销售和市场营销等 领域使用AI解决方案的 可能性增加 4.6个百分点 使用AI解决方案带动 收入增长提升 45% 认为卓越治理可提升 组织声誉的高管比例12346AI时代的抉择 | 以“信”筑基，行稳“智”远01 应对AI快速采用带来的风险AI的采用正在改变亚太地区商业格局。生成式AI的快速崛起更是加速了这一过程，预计到2030年，亚太地区的AI投资将增长四倍，达到1170亿美元。1生成式AI迅速成为亚太地区发展最快的企业技术。在AI的快速采用上，员工往往比组织领导先行一步。德勤关于AI新生代的调研发现，超过五分之二的员工已在工作中使用生成式AI，其中年轻员工更是引领着AI热潮。2AI应用达到如此速度和规模，组织领导在试行和推广AI技术的同时，也面临着与AI相关的风险。我们对近900名高管的调研显示，高管在AI使用中最普遍的担忧是安全漏洞（86%）、监控（83%）和隐私（83%）方面的风险（图1）。自从生成式AI问世以来，技术能力显著提升，工具界面更为人性化，用户人数大大增加，这些风险也就变得更加突出。“德勤的一项研究显示，超过半数的技术工作者认为其所在组织并无适当的机制来识别或应对AI相关风险。”3AI解决方案或其使用的海量数据可能存在安全漏洞，一旦遭到数据窃取或泄露，可能产生巨大的成本。2024年，全球数据泄露的平均成本接近500万美元，较去年增长了10%。4对于大型组织而言，这一成本可能会更高。此外，还有一些难以量化的成本，如品牌形象受损和客户流失。消费者信心下降以及品牌声誉受损可能会带来持久的不利影响，组织必须有效管理AI风险并确保网络安全。同时，消费者更青睐在采用AI时遵从伦理规范的组织，例如对使用AI保持透明。研究显示，62%的消费者更信任其认为在AI使用上符合伦理的组织，而且有53%的消费者愿意为这样的产品和服务支付溢价。5组织还必须确保其使用AI的方式符合不断发展的法律和监管要求，这是受访高管普遍表示担忧的风险之一。尽管亚太各地区一直在着力制定和实施法律法规，但现行监管要求通常只是组织需达到的最低标准，而不是全方位的最佳实践。因此，组织高管必须制定、采纳并执行针对AI解决方案和系统的可信标准。6应对与AI相关的风险至关重要：如果应对不当，这些风险可能导致客户关系紧张、被处监管罚款或遭到公众抵制。此外，畏惧风险也可能阻碍组织应用AI。企业AI应用现状调研显示，在AI工具开发和使用所面临的四大挑战中，其中三大挑战是风险、监管和治理问题。 由此可见，有效AI治理对于管理AI相关的伦理和运营风险以及充分利用AI技术尤为重要。7AI时代的抉择 | 以“信”筑基，行稳“智”远图1组织在AI使用中最担忧的潜在风险安全漏洞86%监控83%隐私83%法律风险和版权侵犯80%监管不确定性79%可靠性和错误78%恶意内容78%合规负担76%问责75%透明性/可解释性73%责任73%偏见和歧视71%裁员70%资料来源：德勤可信AI调研（2024年）。8AI时代的抉择 | 以“信”筑基，行稳“智”远02 卓越AI治理之道开发可信AI解决方案至关重要，有助于组织高管成功应对AI快速采用所带来的风险并全面拥抱AI技术变革。可信AI可确保技术符合伦理、法律和技术标准，并使高管有信心在整个组织内使用AI解决方案。德勤高可信人工智能框架明确了AI解决方案建立可信性所必需的七大要素：透明、可解释；公平、中立；稳健、可靠；保护隐私；安全、稳妥；承担责任；问责（图2）。该框架及相关标准应用于AI解决方案从概念到设计、开发、采购、部署的全部环节。 技能重塑与教育监管合规与监督治理与控制用户友好可预测一致准确可适应负责任可解决所有权人性化公共和社会利益 注重可持续性 增值用户保护安全无偏见包容公平可访问 可视可审核可解释合理一致同意自由决定保密自主 安全、稳妥 保护隐私透明、可解释 公平、中立 承担责任 问责 稳健、可靠 德勤高可信人工智能框架TM图2：德勤高可信人工智能框架资料来源：德勤（2024年）。9AI时代的抉择 | 以“信”筑基，行稳“智”远开发符合这七项标准的可信AI解决方案并非易事。组织必须