DeepSeek应用场景中需要关注的十个安全问题和防范措施

DeepSeek应用场景中需要关注的十个安全问题和防范措施AI肖睿团队（傅峥、王俊鑫、秦天、李娜、谢安明、陈钟）2025年2月26日• 北大青鸟人工智能研究院• 北大计算机学院Deepseek内部研讨系列1. 本次讲座为DeepSeek原理和应用系列研讨的讲座之一。随着人工智能技术的快速发展，DeepSeek作为前沿的AI平台，其安全性和可靠性成为关注焦点。本讲座探讨了DeepSeek在实际应用中面临的安全挑战，为不同类型的用户揭示使用DeepSeek的潜在风险并提出防范策略。2. 本讲座的内容分为四个主要部分：① 首先，介绍了DeepSeek安全问题具有威胁难以预测、攻防非对称的特点，以及存在数据隐私、知识产权、责任归属、伦理道德等法律问题；并从内生安全和外延安全描述了安全方案框架，帮助大家对DeepSeek的安全建立整体认知。② 其次，帮助大家理解DeepSeek模型自身的5个安全问题，包括DDoS攻击、无限推理攻击、漏洞探测与利用、投毒问题和越狱问题，还演示了漏洞探测与利用的过程，让大家形象的理解DeepSeek被黑客利用的过程。③ 再次，帮助企业用户和技术爱好者说明了DeepSeek私有化部署的2个安全问题，包括DeepSeek本地化部署工具的风险、针对DeepSeek本地化部署实施网络攻击的风险。并演示了从利用部署工具的漏洞到最终获取模型服务器管理权的全过程，帮助大家能安全的使用私有化部署。④ 最后，为普通用户介绍DeepSeek外延的3个安全问题，包括仿冒DeepSeek官方APP植入木马、仿冒DeepSeek官方网站和域名收集用户信息、DeepSeek辅助实施攻击。还演示了仿冒网站收集用户信息、DeepSeek辅助渗透攻击的方法。让普通用户在使用DeepSeek的时候了解常见的防范措施。3.在技术学习的道路上，优质学习资源至关重要。推荐大家参考《人工智能通识教程（微课版）》这本系统全面的入门教材，结合B站“思睿观通”栏目的配套视频进行学习。此外，欢迎加入ai.kgc.cn社区，以及“AI肖睿团队”的视频号和微信号，与志同道合的AI爱好者交流经验、分享心得。摘要学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）目 录CONTENTS89 8N I01DeepSeek安全问题的特点及目前的安全方案框架02DeepSeek模型的5个安全问题03DeepSeek私有化部署的2个安全问题04DeepSeek外延的3个安全问题学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）DeepSeek安全问题的特点及目前的安全方案框架PART 0188PEKING UNIVERSITYN i V68 9 85 2025年2月17日，中共中央在北京召开民营企业座谈会，DeepSeek创始人梁文锋出席了会议。这不仅是对DeepSeek的认可，也意味着国家对民营企业AI创新、AI应用的鼓励和高度重视。DeepSeek快速出圈，硬控全中国学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）6 AI发展的独到之处就在于并非由权威主导，而是由广大民营创业者主导。另外，世界各地的开发者和研究机构通过开源平台共享代码和研究成果，这种全球协作加速了技术的传播和创新。其发展速度具有以下显著特点：➢ 创新与迭代速度快⚫ DeepSeek的版本从V2、V2.5、V3到R1等更新仅用了半年多➢ 用户增长快⚫ 上线18天，日活用户数达到1500万，而ChatGPT达到同样的数字，花了244天。⚫ 上线20天内，日活跃用户突破2000万，成为全球增速最快的AI应用。⚫ 上线7天，斩获1.1亿全球用户，登顶多个国家应用商店➢ 安全问题特点突出⚫ 威胁难以预测⚫ 攻防非对称➢ 法律问题：如数据隐私、知识产权、责任归属、伦理道德等DeepSeek的快速发展与安全问题学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）7 传统技术工具与人工智能技术特性迥异。传统技术工具即便复杂，其设计原理和运行逻辑也能被人掌握，行为可预测。安全问题特点1：威胁难以预测DeepSeek安全问题的特点传统技术工具的逻辑相对固定行为可预测、容易控制学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）8 现代人工智能技术主要是指大模型技术，是基于深度学习的人工神经网络模型的数据智能，犹如 “黑箱”，使用者仅知其好用，却不明原理，也无法排除错误和安全隐患。同时，大模型在推理阶段还具有系统 “涌现” 的可能，即极高的规模和复杂度下产生新的、不可预测的特性或行为模式。安全问题特点1：威胁难以预测DeepSeek安全问题的特点广州某教授查阅文献得到虚构信息DeepSeek虚构某记者的文章DeepSeek靠忽悠赢了ChatGPT学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）9 当人工智能广泛应用于各行各业，当人工智能的“黑箱” “涌现”出难以预测的、错误的和有安全隐患的信息和行为时，用户通常只能被动接受。安全问题特点1：威胁难以预测DeepSeek安全问题的特点学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）10 在人工智能安全领域，攻防的非对称性十分显著。从攻击端来看，成本低廉、手段丰富且易于实施。比如对抗样本攻击，只需对原始数据做些人眼难察的微小扰动，就能让人工智能系统输出错误结果。安全问题特点2：攻防非对称DeepSeek安全问题的特点一个本该触发停车的STOP标识，简单处理后，会被误识别为speed limit 45学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）11 DeepSeek遭受连环攻击安全问题特点2：攻防非对称DeepSeek安全问题的特点2025 年 1 月 31 日劫持会话、窃取信息，发起网络钓鱼攻击X S S 漏 洞 攻 击数 据 库 越 权2025年1月28日超过一百万行的日志流被曝光，包含聊天记录、API 密钥、后端详细信息等高度敏感信息2025 年 1 月DeepSeek 官方网站瘫痪长达 48 小时D D o S 攻 击DeepSeek 对大型公开数据集的依赖，未来会进一步加大了注入对抗样本的风险，可能长期产生不良后果，如操控模型行为和输出等模 型 投 毒防御端难度极大，不仅成本高昂，还需持续投入。防御方得投入大量精力研发更安全的机器学习算法和模型。同时，还得时刻关注攻击者的新动向，及时调整和完善防御策略，以此来应对复杂多变的攻击威胁。学 习 交 流 可 以 加 A I 肖 睿 团 队 微 信 号 （ A B Z 2 1 8 0 ）12 AI的发展带来了诸多法律挑战，涉及数据隐私、知识产权、犯罪治理等多个领域。随着AI技术的广泛应用，相关法律问题将更加复杂，需要立法、司法和企业共同努力，完善法律框架，规范AI技术的应用。法律问题DeepSeek