大模型安全实践（2024）白皮书-清华大学-蚂蚁-中关村

大模型安全实践（2024） 页 2 四、大模型安全行业实践与案例分析 .................................................................................................... 54 4.1 金融领域大模型安全实践 ....................................................................................................................... 54 4.2 医疗领域大模型安全实践 ....................................................................................................................... 58 4.3 政务领域大模型安全实践 ....................................................................................................................... 61 4.4 人力资源领域大模型安全实践 .............................................................................................................. 65 4.5 智能助理领域大模型安全实践 .............................................................................................................. 69 五、大模型安全未来展望与治理建议 .................................................................................................... 71 5.1 未来展望 ....................................................................................................................................................... 71 5.2 治理建议 ....................................................................................................................................................... 75 页 3 图 表 目 录 图 2-1 总体框架图 ................................................................................................................................................. 10 图 2-2 云边端安全架构图 .................................................................................................................................... 18 图 2-3 端侧安全 ....................................................................................................................................................... 19 图 3-1 大模型的隐私泄露风险示意图 ............................................................................................................. 21 图 3-2 模型后门攻击的不同触发器示意图 .................................................................................................... 22 图 3-3 针对 CHATGPT 进行指令攻击效果图 .................................................................................................. 23 图 3-4 基于大规模复杂分布式计算机系统建立的系统框架 .................................................................... 24 图 3-5 生成式人工智能的系统安全威胁 ........................................................................................................ 25 图 3-6 生成式 AI 学习框架面临的安全问题示意图 .................................................................................... 27 图 3-7 大模型生成 NFT 艺术作品 ..................................................................................................................... 30 图 3-8 大模型产生性别偏见性言论.................................................................................................................. 31 图 3-9 联邦学习在大模型训练与微调中的应用 ........................................................................................... 32 图 3-10 模型越狱防御技术的方法示意图 .................................................................................