大模型治理蓝皮报告（2023年）——从规则走向实践

z中国信息通信研究院政策与经济研究所中国科学院计算技术研究所智能算法安全重点实验室2023年11月大模型治理蓝皮报告（2023 年）——从规则走向实践版权声明本报告版权属于中国信息通信研究院、中国科学院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、中国科学院”。违反上述声明者，编者将追究其相关法律责任。前言近一年来，以 ChatGPT 为代表的大模型技术引发通用人工智能新一轮发展热潮，在带动大规模产业升级、劳动力转移、产品的分配机制等方面均带来深刻变革，成为改变世界竞争格局的重要力量。与此同时，围绕人工智能治理的议题探讨显著增多，全球人工智能治理体系加速构建。党中央国务院高度重视人工智能治理工作，作出一系列重要部署。习近平总书记强调，要共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。寻找大模型治理的准确定位，构建适应技术发展趋势的治理体系愈加重要且迫切。面对大模型带来的新问题新挑战，传统监管模式面临着 AI 自主演化控制难、迭代快速跟进难、黑箱遮蔽追责难等问题，一劳永逸的事前监管模式已经难以应对不断推陈出新的人工智能发展需求。从治理框架来看，敏捷治理成为回应大模型技术快速迭代的重要治理模式，软硬法协调、多主体协同的治理需求更为突出。构建高质量数据集、创新知识产权制度、探索价值对齐实现方式、维护信息内容安全等成为各方关注的热点问题。美国、欧盟、英国等主要国家和地区加紧推进人工智能治理布局，共同寻求具有共识和互操作性的治理规则。我国围绕人工智能发展、安全、治理三方面提出《全球人工智能治理倡议》，通过算法备案、评估评测、事后溯源检测等方式，推动人工智能治理从规则走向实践，为全球提供人工智能治理中国方案。希望研究成果为社会各界进一步参与大模型治理实践提供有益参考。目录一、大模型治理的重要性紧迫性凸显....................................................................... 1（一）大模型技术浪潮兴起............................................................................... 1（二）大模型引领数字化变革........................................................................... 3（三）大模型带来的典型风险........................................................................... 5二、技术变革下大模型治理框架日渐明朗............................................................. 11（一）治理模式：敏捷治理成为国际较为通行的治理方案......................... 11（二）治理主体：激励多元主体协同治理成为全球共识............................. 14（三）治理机制：软硬兼施推进大模型治理................................................. 18三、聚焦大模型治理核心议题规则......................................................................... 22（一）数据治理规则......................................................................................... 23（二）知识产权保护......................................................................................... 32（三）伦理问题治理......................................................................................... 36（四）信息内容治理......................................................................................... 40四、把握全球大模型治理最新动态趋势................................................................. 42（一）美国从松散碎片式治理逐步趋向体系化治理..................................... 42（二）欧盟继续发挥人工智能治理领域布鲁塞尔效应................................. 45（三）英国力图以促进创新的监管方法引领全球治理................................. 49（四）国际组织在大模型治理国际合作中各显其能..................................... 52五、探索我国大模型治理的主要落地工具............................................................. 55（一）事前备案................................................................................................. 55（二）事中全流程评估..................................................................................... 57（三）事后溯源检测......................................................................................... 60六、 完善我国大模型治理体系的思路建议........................................................... 63（一）确立促进创新的人工智能敏捷治理理念............................................. 64（二）聚焦人工智能场景应用细化制度方案................................................. 64（三）立足当前治理实践创新人工智能治理工具......................................... 65（四）激励企业积极管控风险以推动平台合规............................................. 66（五）促进全球人工