2024开源大模型应用指南1.0（风险治理篇）-云计算开源产业联盟

I 开源大模型应用指南 1.0 （风险治理篇） 云计算开源产业联盟 2024年11月 I 版 权 声 明 本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“ 来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。 II 编制说明 本指南由云计算开源产业联盟可信开源合规计划开源人工智能治理工作组撰写，限于撰写组时间、知识局限以及技术、社会发展迭代等因素，内容恐有疏漏，烦请各位读者不吝指正。 在编写过程中得到多家单位的大力支持，在此特别致谢中国信息通信研究院、中兴通讯股份有限公司、中国平安人寿保险股份有限公司、东方证券股份有限公司、中国光大银行股份有限公司、北京抖音信息服务有限公司、百度在线网络技术（北京）有限公司、天翼数字生活科技有限公司、亚信科技(中国)有限公司、深圳开源互联网安全技术有限公司、鼎道智联（北京）科技有限公司、北京大学人工智能研究院 AI 安全与治理中心、北京大学武汉人工智能研究院、OpenSDV汽车软件开源联盟、开源社、重庆中科汽车软件创新中心、上海市锦天城律师事务所等单位的各位专家，感谢各位秉承开源精神，协同共创，最终完成本指南的撰写工作。 主要撰稿人：张燕、郭雪、俊哲、孟伟、辜凌云、赵云虎、丁华、陈岱源、王帅、张小丰、陶冶、刘东威、孙珊珊、李梦欢、马红伟、严雪伦、周飞、李炫、张庆、成思敏、柴丹、李晓丽、李响、李欣博、沈杨、洪烨、梁尧。 III 前 言 近年来，开源模式与人工智能技术加速融合，有力地打破了闭源人工智能技术垄断、加速人工智能大模型技术持续创新、拓展大模型应用路径、重塑人工智能产业生态，同时开源大模型的创新发展和应用还为个人、企业和国家的发展提供更为广阔的发展天地。然而，大模型技术在给人类带来生活方式转变和生产方式革新的同时，也引入了安全、合规等多方面风险挑战，甚至可能对人类社会的可持续发展带来负面影响。大模型开源增加了人工智能系统风险暴露和被恶意利用的可能性，开源许可模式的应用也使得人工智能技术利用的合规风险更加复杂，开源大模型的可得性亦可能加剧开源大模型滥用风险。 为保障开源大模型技术健康有序发展，充分释放人工智能技术效能，相关政策或法规纷纷出台，除人工智能治理宏观监管要求外，越来越多的国家政府开始关注开源大模型的针对性、包容性监管。在具体风险治理层面，企业也开始探索构建开源大模型综合性治理体系，并建立开源大模型风险防控机制，以最大化开源大模型应用实效。 本指南结合中国信通院开源研究工作，分析总结开源大模型发展态势，重点围绕开源大模型应用风险及治理动态、治理措施展开研究，为企业安全、合规、高效应用开源大模型提供参考。 IV 目 录 版权声明............................................................ I 一、 开源大模型发展态势 ............................................ 1 （一）从软件到大模型，开源的 变”与 不变”........................ 1 （二）从垄断到开放，开源重塑 AI 生态................................. 3 （三）从个人到国家，开源释放 AI 效能................................. 6 二、 开源大模型创新趋势 ............................................ 8 （一） 开源语言大模型开启百家争鸣新纪元............................. 8 （二） 开源多模态大模型注入 AI 生态新活力........................... 11 （三） 开源 AGENT 引领人工智能发展新方向............................ 14 三、 开源大模型风险挑战 ........................................... 16 （一） 开源大模型应用或导致安全风险升级............................ 17 （二） 开源大模型应用或面临多重规制要求............................ 20 （三） 开源模式或加剧大模型技术滥用风险............................ 28 四、 开源大模型治理全球动态 ....................................... 29 （一） 国际组织高度重视开源大模型发展，积极探索全球人工智能治理方案.. ............................................................ 30 （二） 欧盟立法谋求人工智能监管主导权，开源大模型得有条件义务豁免.... ............................................................ 31 （三） 美国人工智能监管增强化趋势明显，国防领域率先探索开源大模型影响 ............................................................ 33 （四） 中国人工智能治理规则由 软”及 硬”，开源大模型或得包容性监管 ............................................................ 34 五、 企业应用开源大模型风险治理实操要点 ........................... 46 （一） 开源大模型治理体系构建...................................... 47 （二） 开源大模型风险防控建议...................................... 49 六、 国内开源大模型应用生态完善方向 ............................... 77 V 图 目 录 图 1 大模型的开放访问等级 ................................................................................................. 3 图 2 人工智能大模型许可协议合规流程 ........................................................................... 53 图 3 Hugging Face Model 格式 Markdown 截图 ................................................................. 71 图 4 Hugging Face LLaMA-3.1 README.md 截图 .........................................................