可信AI技术与应用进展白皮书（2023）-清华大学-中国信通院

可信AI可信AI可信AIAI可信AI可信AI可可信AI可信A摘要人工智能的飞速进步和应用带来了前所未有的机遇和挑战，也将可信人工智能推向产业发展的前台。2021 年，中国信通院《可信人工智能白皮书》首次系统提炼出业内较为统一的可信 AI 特征要素，在安全鲁棒、隐私保护、公平性、可解释的大框架下，可信 AI 正在金融、保险、制造、医疗等领域加速落地。伴随人工智能技术底座不断夯实和大模型、AIGC 等的爆发式增长，人工智能迈出了走向通用人工智能的关键一步，2023 年 4 月中共中央政治局会议强调“重视通用人工智能发展，营造创新生态，重视防范风险”，可信 AI成为新阶段平衡创新与风险的重要技术手段。本报告基于统一的可信 AI 认知维度，梳理总结可信 AI 技术和应用发展现状，提炼面向新阶段大模型和 AIGC 引发的新需求，形成以技术为保障的可信 AI 评估体系和工具。全文主要观点如下：一是归纳了可信 AI 发展变迁的产业技术背景，即近期算法、算力、数据基础不断夯实，人工智能固有技术风险持续放大，可信 AI技术成为 AI 领域关键底层能力，各国也正在围绕生成式人工智能监管、人工智能伦理等推动治理。二是梳理了现阶段可信 AI 四大技术方向发展情况。可信 AI 已在行业领域落实成具体产品和实践案例，总体上正从创新整合解决方案阶段迈向形成可信系统机制的阶段，完整的实践链路、健全的标准和系统机制将逐步落地。三是概括了面向大模型和 AIGC 的可信 AI 探索，即大模型时代下可能面临的安全可信挑战，主要包括大模型的生成式攻击和防御、可信 AI 技术和应用进展白皮书 2023可信AI可信AI可信AIAI可信AI可信AI可可信AI可信A四大模型自身的安全风险和隐患、大模型的可解释性和公平性问题等三大类。是构建了以技术为保障的可信 AI 评估体系，面向产业发展需求，构建了包括隐私保护检测、可解释性检测、公平性检测和鲁棒性检测的可信 AI 检测指标体系，并提出了具体的评估内容、指标和方式，并可进一步赋能大模型与 AIGC 发展。最后，本白皮书从技术、产业、生态和监管维度对可信人工智能发展提出了建议，对趋势进行了展望，将迎来研究应用更加均衡、内在动力更加多维、外在监管更加全面的发展局面。可信AI可信AI可信AIAI可信AI可信AI可可信AI可信A第一章 人工智能迈向发展新阶段 1.1 人工智能发展迎来全新时代 1.2 人工智能可信面临全新挑战 1.3 全球人工智能治理机制进展 1.3.1 基于政策法规的治理机制 1.3.2 基于生态共识的治理机制第二章 可信 AI 产业实践深入发展 2.1 应用 AI 鲁棒性技术对抗恶意攻击 2.1.1 提升文本识别对抗能力 2.1.2 提升图像伪造识别能力 2.1.3 提升生物核身检测能力 2.2 应用 AI 可解释性技术提升决策透明度 2.2.1 用于模型归因的可解释 2.2.2 复杂关系网络的可解释 2.2.3 融合专家知识的可解释 2.3 互联网平台公平性探索 2.3.1 纠偏营销定价歧视 2.3.2 改善信息茧房现象 2.3.3 强化弱势群体保护 2.4 AI 应用实践中的数据模型安全和隐私保护 2.4.1 终端社交内容中的隐私保护 2.4.2 IoT（物联网）人脸特征隐私保护算法 2.4.3 多方安全计算助力行业跨机构协作第三章 面向大模型和 AIGC 的可信 AI 探索 3.1 大模型和 AIGC 的发展与生态 3.1.1 大规模深度学习模型发展历程 3.1.2 大模型时代下 AIGC 的产业生态与可信挑战- 1 -- 1 -- 2 -- 5 -- 5 -- 9 -- 11 -- 12 -- 13 -- 14 -- 16 -- 17 -- 18 -- 20 -- 21 -- 22 -- 24 -- 25 -- 26 -- 26 -- 28 -- 28 -- 30 -- 31 -- 31 -- 31 -- 33 -目 录 .............................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................