当前，5G、大数据、云计算、深度学习等新技术不断发展并广泛应用，带来了诸多新型安全防护挑战，而人工智能在威胁识别、告警研判、态势感知、风险评估、恶意检测、安全运营等方面具有独特价值和先天优势，因此利用人工智能技术为网络安全领域赋能成为大势所趋。

　　新形势对网络安全防护

　　提出新要求

　　随着全球网络空间战略博弈的升级和攻防对抗的持续加剧，网络安全形势正在发生深刻变化。一方面，网络攻击强度烈度不断升级。网络攻击手段不断升级、强度持续提升、规模不断扩大，网络攻击主体更加多元，涉及个人、企业、社会组织甚至国家。另一方面，网络安全形势发生深刻变化。随着人工智能、物联网、大数据等技术不断创新和相互渗透，网络空间与物理空间高度融合，二者关联愈发密切、边界趋于模糊。因此，网络空间攻击可对物理空间造成威胁，甚至引发国计民生领域相关业务停滞，安全风险从单点向全局蔓延。

　　同时，信息技术的持续演进催生了新的安全防护需求。例如，6G、算力网络、人工智能等新一代信息技术赋能行业创新发展，在“技术红利”加速释放之际，安全问题也愈发凸显，安全防护需求急剧增加。

　　一是6G多元融合应用激发增强级安全防御需求。6G网络具有海量多模数据、多元融合场景、全域网络融合等特点，在沉浸式通信、智慧城市运营、智能制造交互等场景应用方面，产生了轻量化、细粒度、可定制、原子化、可编排等新的安全防护需求。

　　二是算力网络提速发展面临错综复杂的安全挑战。算力网络已成为千行百业数字化转型的基石底座，“云、网、边、算”等环节安全风险积聚，风险点位和攻击入口增多；算力、网络、管理方面风险交织，安全风险级联影响范围不断扩大。

　　三是人工智能应用带来新的安全风险。ChatGPT引发全球大模型竞赛，推动人工智能从专用弱智能向通用强智能迈进，智能水平的跃迁、应用模式的变革加剧了人工智能安全风险。“类人”的通用强智能使得大模型具有很强的逻辑、记忆、理解、推理和生成能力，可以做到触类旁通和智能涌现。但同时，人工智能技术也将大幅降低网络攻击的技术“门槛”，批量“钓鱼”邮件生成、批量漏洞挖掘、批量恶意代码生成等手段，显著加剧整体威胁态势。此外，人工智能发展也将带来安全风险，包括数据隐私泄露、虚假信息泛滥、算法偏见歧视、算法弱可靠性、“数据投毒”等。

　　在此背景下，传统的网络安全技术已无法满足日益增长的安全防护需求，基于人工智能的新型网络安全技术和产品应运而生。

　　政策、标准就位

　　“人工智能+安全”风口已至

　　人工智能技术经过数十年的积累和酝酿，经历了专家系统、机器学习与神经网络、深度学习、大模型四个阶段的发展，终于开启了实践应用之路。目前，人工智能正驱动新一轮基础设施建设，并与实体经济深度融合，赋能千行百业，引发“链式”变革。

　　人工智能战略法规

　　当前，人工智能产业蓬勃发展，全球主要国家和地区纷纷发布人工智能发展战略规划，构建人工智能安全标准体系，人工智能已然成为国际竞争的新焦点。美国公布了《国家人工智能研发战略计划》等一系列围绕人工智能使用和发展的新举措；欧盟委员会发布了《人工智能法案》，依法对人工智能发展进行监管；日本提出了超智能社会5.0战略，人工智能是实现该战略的核心技术之一；韩国也发布了人工智能研发战略。

　　而我国早在2017年就正式印发了《新一代人工智能发展规划》（以下简称《规划》），从战略态势、总体要求、资源配置、立法、组织等层面阐述了我国人工智能发展规划。《规划》还要求加强人工智能标准框架体系研究，其中包括人工智能网络安全、隐私保护等技术标准。

　　人工智能相关标准

　　在人工智能的发展浪潮下，全球主要国家和标准组织积极研究制定人工智能相关标准。ISO/IECJTC1制定了《信息技术人工智能人工智能可信度概述》《信息技术人工智能风险管理》《信息技术人工智能伦理和社会关注概述》等标准；IEEE制定了《个人数据人工智能代理标准》《伦理驱动的机器人和自动化系统的本体标准》等标准；美国国家标准与技术研究院发布了《关于政府如何制定人工智能技术标准和相关工具的指导意见》。

　　2020年，我国国家标准化管理委员会等五部门印发《国家新一代人工智能标准体系建设指南》，要求建立人工智能标准体系，全面引领人工智能产业规范化发展的新格局。目前，国家标准化管理委员会和中国通信标准化协会（CCSA）等标准组织正在开展人工智能相关技术研究及标准化工作。

　　在国家标准方面，2018年1月，国家标准化管理委员会正式成立国家人工智能标准化总体组，负责人工智能标准化工作的统筹协调和规划布局，目前已发布《人工智能安全标准化白皮书（2019版）》《人工智能伦理风险分析报告》等标准规范，正在研究制定人工智能术语、人工智能伦理风险评估等标准。

　　在行业标准方面，中国通信标准化协会聚焦人工智能大模型的技术、开发、安全、评估等方面展开研究，正在制定《人工智能开发平台通用要求》《可信人工智能人工智能系统风险管理能力要求》《移动智能终端可信人工智能安全指南》《生成式人工智能技术及产品评估方法 》等行业标准。

　　显然，人工智能赋能网络安全已获得足够的政策支持，并且有全方位的标准指导，我国进入全面智能防护时代指日可待。

　　人工智能助力网络

　　安全范式转变

　　人工智能技术的快速发展使得网络安全领域迎来前所未有的变革。在人工智能的加持下，5G、6G网络安全防护能力将大幅提升，具备内生安全自感知、自适应、自生长等特点；运营商网络安全运营能力体系建设将更加完善，实现对海量数据的降噪与分析，对新型、未知网络威胁的自动化监测和预警等。

　　5G内生安全

　　基于人工智能技术，在5G设备、5G网络边界、5G网元等多元视角下，构建各类5G网络安全知识库（如增强防御能力规则库、行为库、关联关系库、攻击对抗策略库等）；基于5G网络安全知识库，设计并训练人工智能算法，如基于状态和行为特征挖掘的漏洞检测算法、基于API关系图的聚类检测算法、基于行为特征的关联分析算法等，进而构建5G网元的记忆和学习能力系统，实现智能的5G安全感知和检测等。

　　6G内生安全

　　6G网络安全将具备主动免疫、弹性自治、虚拟共生和泛在协同四个特点。主动免疫是指6G网络需构建安全可信的通信环境，使网络基础设施具备一定的主动防御能力；弹性自治主要是为了适应6G云化网络的安全要求，因6G的弹性可伸缩网络框架已完全打破传统的安全边界，所以需要实现安全能力的按需定制、动态部署和弹性伸缩；虚拟共生旨在赋能安全演练、安全运维等场景，6G时代物理世界与虚拟世界深度融合，需要实现物理网络与虚拟孪生网络安全的统一部署，利用数字孪生技术可帮助物理网络实现低成本试错和智能化决策；泛在协同指的是6G网络将建立“端、边、网、云”智能主体间的泛在交互和协同机制，借助人工智能技术，精准感知网络安全态势并预测潜在风险，进而实现主动防御和风险自动处置。

　　在6G内生安全框架中，新增独立的安全平面，推动资源层、网络层、应用层和服务层实现智能协同，并灵活调整网元、设备的安全策略，针对应用与服务按需部署安全功能，进而实现主动、纵深安全防御。

　　自动化网络安全运营

　　运营商网络是国家重要的信息基础设施，一旦遭受网络攻击，可能会导致通信中断和业务损失，因此需要对运营商网络通信系统面临的安全威胁进行监测、分析和预警。然而，现有网络安全运营能力尚不能完全满足日益增长的网络安全防护新要求，需要不断提升安全威胁的检测能力和处置效率。

　　以人工智能大模型技术赋能网络安全已成为行业共识。一方面，人工智能技术（如安全沙箱人工智能技术）可用于恶意样本监测，深度学习技术可用于恶意程序家族识别、恶意加密攻击流量监测和DGA（域名生成算法）域名监测等。另一方面，借助大模型技术，可以自动执行数据收集、提取以及威胁搜索与检测等重复且烦琐的任务，并通过简单的自然语言提示实现任何检测、调查或响应工作流程，降低安全运营的时间和人力成本；可以对超大规模网络威胁信息进行检测分析，对海量数据进行精准降噪，深度挖掘数据价值；可以帮助经验不足的安全运维人员更快更好地作出决策，安全大模型拥有丰富的网络安全知识，具备高级安全人员的逻辑思维和推理能力，可助力运维人员执行复杂的安全操作，进而提升网络安全运营的智能化、自动化水平。人工智能大模型赋能网络安全关键技术如图1所示。

　　结语

　　目前，人工智能技术在网络安全领域的应用日渐成熟，我国主流厂商已先后推出多款网络安全大模型产品，主要用于解决网络安全运营告警数据量大、人工分析研判效率低、高级安全专家资源稀缺等问题。可以预见，网络安全大模型将以“虚拟安全专家”等形态快速提高网络安全智能化水平，推动网络安全防护更加高效、精准和全面。

　　*本文刊载于《通信世界》总第947期

　　2024年7月10日第13期

　　原文标题：人工智能赋能网络安全新范式的研究

    作者：中国信息通信研究院 杨红梅 吴红红 戴爽