中国信通院联合京东探索研究院发布《可信人工智能白皮书》

可信人工智能白皮书 中国信息通信研究院 京东探索研究院 2021年7月 No.202106 版权声明本白皮书版权属于中国信息通信研究院和京东探索研究院，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院和京东探索研究院”。违反上述声明者，本院将追究其相关法律责任。 前 言 当前，新一代人工智能技术迅猛发展，并向社会各个领域加速渗透，给人类生产生活带来了深刻变化。人工智能在带来巨大机遇的同时，也蕴含着风险和挑战。习近平总书记在 2018 年 10 月主持中央政治局第九次集体学习时强调，“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。增强人工智能使用信心，推动人工智能产业健康发展已经成为重要关切。 发展可信人工智能正在成为全球共识。2019 年 6 月，二十国集团（G20）提出“G20 人工智能原则”，强调要以人为本、发展可信人工智能，这一原则也得到了国际社会的普遍认同。欧盟和美国也都把增强用户信任、发展可信人工智能放在其人工智能伦理和治理的核心位置。未来，将抽象的人工智能原则转化为具体实践，落实到技术、产品和应用中去，是回应社会关切、解决突出矛盾、防范安全风险的必然选择，是关系到人工智能长远发展的重要议题，也是产业界急需加快推进的紧迫工作。 无论是回顾可信人工智能的背景和历程，还是展望新一代人工智能的未来，本白皮书认为人工智能的稳定性、可解释性、公平性等都是各方关注的核心问题。立足当下，本白皮书从如何落实全球人工智能治理共识的角度出发，聚焦于可信人工智能技术、产业和行业实践等层面，分析了实现可控可靠、透明可释、隐私保护、明确责任及多元包容的可信人工智能路径，并对可信人工智能的未来发展提出了建议。 由于人工智能仍处于飞速发展阶段，我们对可信人工智能的认识还有待进一步深化，白皮书中存在的不足之处，欢迎大家批评指正。 目 录 一、 可信人工智能发展背景 ...................................................................................... 1 （一） 人工智能技术风险引发信任危机 ........................................................... 1 （二） 全球各界高度重视可信人工智能 ........................................................... 2 （三） 可信人工智能需要系统方法指引 ........................................................... 7 二、 可信人工智能框架 .............................................................................................. 8 三、 可信人工智能支撑技术 .................................................................................... 12 （一） 人工智能系统稳定性技术 ..................................................................... 12 （二） 人工智能可解释性增强技术 ................................................................. 14 （三） 人工智能隐私保护技术 ......................................................................... 15 （四） 人工智能公平性技术 ............................................................................. 17 四、 可信人工智能实践路径 .................................................................................... 18 （一） 企业层面 ................................................................................................. 18 （二） 行业层面 ................................................................................................. 25 五、 可信人工智能发展建议 .................................................................................... 27 （一） 政府层面加快推动我国人工智能监管及立法进程 ............................. 27 （二） 技术研究层面需全面做好体系化前瞻性布局 ..................................... 27 （三） 企业实践层面需匹配业务发展实现敏捷可信 ..................................... 28 （四） 行业组织层面需搭建交流合作平台打造可信生态 ............................. 28 参考文献 ...................................................................................................................... 30图 目 录 图 1 可信人工智能相关论文数量图 .......................................................................... 4 图 2 企业开展可信人工智能实践情况 ...................................................................... 6 图 3 可信人工智能核心内容 ...................................................................................... 8 图 4 可信人工智能总体框架 ...................................................................................... 9 图 5 全球 84 份人工智能伦理文件中的主要关键词 ................................