赛迪顾问：中国安全大模型技术与应用研究报告（2023）

中国安全大模型技术与应用研究报告½2023¾赛迪顾问股份有限公司2023 年 12 月2目录一安全大模型概述4½一¾安全大模型定义41什么是大型语言模型\42什么是安全行业大模型\4½二¾AI 安全发展历程51网络安全与人工智能初步融合52ChatGPT 技术引发行业变革53安全行业大模型形成应用6二安全大模型框架8½一¾技术层8½二¾能力层10½三¾应用层12三中国安全大模型厂商产品分析13½一¾重点企业及产品介绍131360 数字安全132安恒信息143奇安信集团154绿盟科技165深信服176天融信集团177启明星辰集团18½二¾指标体系181技术层指标192能力层指标203应用层指标20四中国安全大模型发展趋势研判221加速赋能现有安全产品232持续推动智能化安全运营243逐步向智能体角色转变244安全培训逐渐受到市场关注253前言近年来Y随着数字化转型的深入推进Y云计算5G物联网等先进科技得到了广泛应用在享受数字化转型带来红利的同时Y海量数据复杂信息高度的互联化其背后的数据安全信息安全网络安全等一些列安全问题彰显近年来利用 AI 技术实施网络攻击的事件快速增长Y攻击者通过运用 AI 技术绕过现有的防御Y发起高度隐蔽复杂自动化攻击Y突破企业的安全防御体系这一趋势不仅改变了攻击者的策略Y也对网络安全领域带来了前所未有的挑战传统的安全防御手段已无法满足快速应对和应急响应的需求同时Y网络安全专家人才的巨大缺口对企业安全运营造成重大阻碍随着安全大模型的崭露头角Y安全行业正迎来前所未有的机遇与挑战这一创新技术Y凭借其卓越的自然语言交互广泛的适应性和精准的推理能力Y将为安全防护领域带来显著的智能化升级未来Y网络安全行业需持续深化创新探索Y积极应对各种挑战Y并加大技术研发和应用实践的力度通过不断提升大模型技术在网络安全防护中的实际应用价值和效益Y增强网络环境的安全性和稳定性同时Y也需要加强与政府企业以及社会各界的紧密合作Y共同推动网络安全技术的稳步发展和广泛应用4一安全大模型概述½一¾安全大模型定义1什么是大型语言模型\大型语言模型½Large Language Model¾是一种利用深度学习技术开发的自然语言处理模型Y通过预训练微调等步骤Y逐步实现对自然语言的深入理解Y为机器赋予了与人类相似的语言智能Y具有模型结构容量大参数多的特点Y通常为超过 10 亿个参数的深度神经网络模型大型语言模型在理解和生成自然语言文本方面具有显著优势因此Y这类模型在依赖语言体系和流程性工作的行业中能够产生广泛影响通过准确理解语言的意图并根据这些意图合理分配任务Y在翻译智能客服情感分析问答系统等多个领域提供了强大的技术支持和赋能2什么是安全行业大模型\安全大模型是针对安全垂直领域的大型语言模型Y通过大量的专业的安全知识进行设计和训练Y使其具备处理海量数据和执行安全行业特定任务的能力Y对于保护企业和个人的信息安全提高网络安全防护效率具有重要意义鉴于网络安全产品所采用的语言体系相对统一Y安全大模型在网络安全行业的应用前景极为广阔凭借其卓越的学习和理解能力Y它能够为企业和个人提供更为高效实时的网络安全保障5½二¾ AI 赋能网络安全发展历程1网络安全与人工智能初步融合传统的网络安全模型往往基于简单的机器学习算法Y对复杂的网络安全问题进行了简化的处理早在 2010 年Y安全公司已经开始利用 AI 技术来解决实际的安全问题例如 360 开发了具有自学习自进化能力的反病毒引擎Y并运用到样本静态查杀场景然而Y尽管传统安全模型在某种程度上得到了应用Y但它们的发展并不能满足日益增长的网络安全需求随着网络攻击手段的不断升级和变化Y这种简化的处理方式已经无法应对日益复杂的网络安全威胁例如Y在模型训练和更新过程中由于数据规模和质量的限制Y这些模型往往无法充分学习和理解复杂的网络安全环境Y从而在面对动态威胁时无法做出迅速有效的响应因此Y传统安全模型需要大量人工参与分析Y对于安全工作的效率提升有限Y安全行业仍然面临专业人才短缺的问题2ChatGPT 技术引发行业变革生成式人工智能技术的发展显著地推动了模型的改进Y提高了安全防御的效率和准确性自 ChatGPT 推出以来Y其在网络安全领域的应用前景备受关注大模型技术具有出色的交互能力主动性和创造性Y对网络安全攻防两端均带来影响为应对这一挑战Y安全行业的研究者和工作者们正在积极探索将大模型技术应用于情报分析运营辅助攻击预测网络钓鱼内容生成恶意代码编写等攻防场景大模型的预训练加微调方法Y使其能够通过无监督学习预训练模型的6基座Y从而捕捉到各种语言和句式的模式在微调阶段Y利用不同任务样本和大规模的强化学习方法进行优化Y实现与特定安全任务适配这种训练方法在提升模型泛化能力的同时Y也提高了模型在完成特定安全任务时的精确度相较于传统的单向生成模型YChatGPT 具备更出色的上下文相关性理解能力Y并能够基于上下文提供连贯的回复通过采用迭代对话的方式Y大模型可实现智能交互Y有助于安全团队更好地应对复杂的网络攻击和威胁Y提升整体防御能力同时Y大模型的主动性和创造性可以在安全领域的工作中发挥重要作用模型能够主动搜索信息提供信息提出问题并引导对话的方向Y例如发现威胁情报并分析可采取的安全措施等这种能力支撑大模型成为安全团队的有力助手Y协助安全团队开展安全运营等工作3安全行业大模型形成应用国内外安全厂商均已深刻认识到大模型在安全领域的应用价值Y并持续投入研发安全行业大模型产品海外安全厂商如 Palo AltoNetworks 推出了一款基于大模型的网络安全防御系统Y该系统能够自动化地检测和防御各种网络攻击,包括恶意软件病毒钓鱼网站等CrowdStrike 公司推出基于大模型的开源安全平台Y该平台利用大模型技术对网络流量进行实时分析Y发现潜在的安全威胁并及时响应Y有效提高了企业的网络安全防护能力在国内Y安全厂商也积极探索大语言模型在安全领域的应用例如 360 数字安全发布了 360安全大模型且已在 360 内部和自有产品完成落地应用]安恒信息推出了恒脑·安全垂域大模型]奇安信集团推出 Q-GPT 和大模型卫士]7绿盟科技天融信集团等厂商也推出相关产品目前Y各大厂商的安全大模型落地应用均以安全运维为核心Y通过安全大模型结合已有产品Y为企业提供更加全面高效的安全管理和运营服务这些服务可以帮助企业及时发现和处理安全问题Y减少安全风险和损失Y提高企业的网络安全防护能力随着技术的不断进步和应用场景的不断拓展Y大模型在安全领域的应用将会更加广泛和深入8二安全大模型框架图 1中国安全大模型框架数据来源X赛迪顾问2023Y12½一¾技术层 数据大模型的训练中通常需要处理数十亿甚至百亿级别的数据量Y且数据质量对于模型的质量和性能具有决定性的影响网络安全产业是知识密集型产业Y涉及计算机科学数学通信技术法律等领域Y需要深厚的技术背景和广泛的知识体系由于安全领域涉及的问题复杂多变Y通用大模型缺乏对于专业知识的深入理解Y在安全任务上表现不佳