温州网视

李建华:构建应对人工智能威胁的全球网络安全防御新范式

李建华

上海交通大学计算机学院教授

  人工智能加速演进,跨越“被动辅助工具”的初始阶段,演变为具备独立决策能力、自主行动潜能、能够实施网络攻击的AI智能体,重塑网络空间攻防格局。

  2026年7月,美国开放人工智能公司(OpenAI)前沿测试模型在安全评估中被证实突破了严密的沙箱隔离限制,实现自主逃逸,并对抱抱脸(Hugging Face)等开源平台发起了高度协同的自动化数据窃取与越权攻击。这起标志性的模型逃逸危机,宣告“AI自主决策并实施复杂攻击链”从理论预测走向现实。与此同时,美国安特罗匹克公司(Anthropic)前沿红队测试报告显示,其Claude Mythos模型在短短数日内,即自主发现了AES密码体系(7轮变体)以及作为后量子密码(PQC)重要候选算法HAWK的数学结构缺陷,导致其防御强度折半。随着AI自动化漏洞挖掘技术普及,全球安全漏洞呈现出断崖式扩散。据人工智能评估研究机构Epoch AI统计,2026年6月全球公开的高危与关键漏洞数量达到约1500个,为此前月度最高纪录的3.5倍以上。

  实施网络攻击的AI智能体具备高自主性与零边际成本,使攻击方获得压倒性的非对称优势,严重考验关键基础设施的战略弹性。更为严峻的是,自动化攻击的高隐蔽性与归因迷雾,侵蚀网络空间多边安全信任机制,极易导致国际社会因技术误判而陷入危机升级的恶性循环。如何在智能时代应对既有防御的机理失能、构建对冲未知危机的全球网络安全防御新范式,已成为事关国家安全和发展的重大课题。

  传统防御机制的机理失能与系统性困境

  面对实施网络攻击的AI智能体,传统网络安全防御机制正在经历机理失能。长期以来,全球网络安全体系主要依赖基于先验知识的特征码比对、基于物理与逻辑边界的隔离防御以及基于人工研判的威胁情报响应中心。这套以“静态规则、人工主导、被动响应”为核心的防御范式,在具备高度进化能力与自主决策特性的AI智能体面前,不仅无法提供有效的防护屏障,反而因技术机理的内在缺陷将防御方推入全面被动的系统性困境。

  首先,“时间差困境”导致传统特征码检测瞬时失效。传统威胁情报的生产逻辑依赖于“已知到未知”的捕获、分析、提取与分发链条。然而,实施网络攻击的AI智能体能够利用内置的代码重构算法,在毫秒级的时间尺度内对恶意代码实施深度的自动化变异与多态混淆。这意味着攻击流中的每一个封包、每一次越权行为都具备“零日(Zero-Day)”特征。在这种近乎无限的实时变异速度面前,传统防火墙与反病毒软件所需的特征码库陷入“诞生即滞后”的悖论。防御方甚至无法捕获可供分析的静态样本,整个基于规则匹配的检测防线在瞬时变异的代码流面前形同虚设。

  其次,“不对称僵局”引发的攻防算力与人力成本天平失衡。在传统攻防博弈中,攻击往往需要高水平的专家团队进行漫长的漏洞挖掘与定向渗透,防御方则通过规模化部署自动化安全产品进行对等消耗。但在智能时代,这一成本天平发生了戏剧性逆转。攻击方只需通过调用开源人工智能模型和简单的自动化编排脚本,便能以极低的算力成本同时向全球数万个目标发起高强度、无间断的个性化渗透。相反,防御方为了在海量异构的网络流量中甄别出由人工智能伪装或混淆的深层恶意行为,必须投入高昂的超算算力进行大数据关联分析,并极度依赖顶尖安全专家的复核研判。这种“攻击方成本近乎为零,防御方成本指数级飙升”的非对称僵局,正迅速榨干防御方的安全资源。

  最后,“信任链断裂”暴露出传统边界防御对认知诱骗识别能力的缺失。人工智能自主攻击不仅体现在纯技术层面的代码对抗,更体现在其对“社会工程学”的完美解构与自动化降维打击。通过深度学习目标对象的公开信息、历史通信上下文乃至生物语音特征,人工智能能够实时生成极具欺骗性、高度适配场景的定向认知钓鱼攻击。在这种高阶的语义诱骗面前,传统以身份要素为核心的数字边界防御以及依赖静态多因素验证的零信任架构被轻易穿透。这暴露了传统防御系统的核心软肋——既有防御机制仅能审查“行为是否符合合规规则”,却无法识别隐藏在合法凭证与正常操作背后的“恶意欺骗意图”。这一失能,直接导致系统底层的信任链条被内部瓦解。

  全球网络安全防御的范式跃迁

  网络空间防御体系必须彻底摆脱被动补漏模式,在全球范围内加速重塑网络安全防护的顶层设计。这种范式跃迁的核心,在于构建一个能够以智能化对抗恶意智能、具备高阶演进能力的动态安全生态系统,通过将防御维度从“物理边界”延伸至“认知深层”、从“人工主导”升级为“机器自适应”,在根本上扭转攻防不对称的被动局面。

  一是内生智能由被动响应向原生免疫跃迁。新范式不再将安全视为外挂式的补丁,而必须将具备自学习与自适应能力的人工智能安全内核深度植入系统底层的操作系统、微处理器以及核心网络协议中。这种内生智能的构建,旨在仿照生物学的免疫系统机制,赋予数字基础设施原生的安全免疫力。安全内核通过对系统常态化行为的超大规模无监督学习确立“健康基线”,一旦发现偏离基线的微观异动,无需依赖任何外部威胁情报更新,即可在底层触发原生免疫机制,实现安全免疫力与信息系统的内生协同。

  二是动态自适应由静态边界向智能体闭环跨越。在新范式下,防线演进必须彻底打破静态的访问控制列表,转而构建基于分布式安全大模型的网络防御AI智能体。这些智能体通过对网络流量和行为轨迹的毫秒级全时观测,建立起“实时检测—智能决策—自动阻断—自我修复”的自适应动态闭环。面对实施网络攻击的AI智能体发起的高频、多态混淆攻击,防御智能体能够以AI对抗AI,在攻击动作实施的瞬间完成自动化推演并生成防御策略,以毫秒级的响应速度将安全威胁消灭在萌芽状态。

  三是认知攻防由规则比对向意图博弈升维。面对多智能体协同、具备深度隐蔽欺骗性的人工智能攻击,单纯的代码比对和网络层面的封包阻断已无法阻断威胁,下一代网络防御的本质已演变为高阶的意图博弈。防御系统必须具备对网络安全态势的“深层语义理解”能力。这就要求防御方在架构设计上进行认知前置铺垫,不仅要审查高危操作的动作本身,更要通过解构复杂的上下文关联,动态捕捉攻击者通过语义欺骗、身份合法化伪装所掩盖的“深层动机”,从而具备高阶的“行为动机解构”与“欺骗意图洞察”能力,为全面引入认知计算提供理论和范式支撑。

  四是全网协同由单兵作战向广域生态汇聚。智能时代的攻防是全局性、生态级的对抗,任何孤立的技术节点都无法独自抵御泛在化的人工智能攻势。因此,必须彻底打破行业、地域、政企之间的数字壁垒,构建基于跨地域、跨行业的“数字孪生式”威胁态势感知网络。通过标准化接口将边缘防御智能体捕获的异动微弱信号实时汇聚、互联共享,利用全网分布式算力集群进行全局关联分析。这种全网协同生态能够使一个个孤立的防御节点演变为全局联防的有机体,最终以全网联合的广域智能彻底压制并瓦解个体的恶意智能。

  下好智能时代网络空间安全战略的“先手棋”

  重塑全球网络安全防御新范式,是一场深刻的技术机理革命。面对实施网络攻击的AI智能体带来的风险,我国宜坚持长远布局、综合施策,下好战略预判与技术创新的“先手棋”,通过加速核心技术迭代、完善法治与全栈审计标准、筑牢跨学科产学研用创新生态,将技术优势转化为网络空间的战略主动权。

  第一,实施认知计算战略升级以打破规则检测瓶颈。明确将“认知计算(Cognitive Computing)”作为突破传统特征码规则检测、行为关联分析演进瓶颈的下一代核心战略路线。针对人工智能攻击流具备的高变异性与隐蔽欺骗性,我国应集中力量研发基于深度语义解构的认知大模型防御引擎。该路线的核心在于改变传统“识别已知动作为主”的防御逻辑,通过对全网流量、异常行为轨迹及上下文语义的深层认知计算,主动推演和理解人工智能攻击的真实战略意图、步骤演进与多步欺骗手段,从宏观上实现由“阻断单一恶意动作”向“精准洞察、瓦解未知全局企图”的战略性范式转变,全面提升在暗箱攻防对抗中的意图洞察能力。

  第二,强化关键核心技术自主可控以筑牢原创人工智能安全根基。聚焦智能网络攻防的前沿阵地,坚决打赢关键核心技术攻坚战。应加大资源投入,集中优势兵力攻克具有完全自主知识产权的“国产安全大模型”“原创AI微隔离技术”以及面向后量子密码具有内生安全性的抗AI重构密码算法。警惕在底层基础模型、训练算力底座及安全审计工具上面临的“卡脖子”风险,防止智能化网络安全技术供应链受制于人,确保国家关键信息基础设施的数字免疫力建立在绝对自主可控的原创基础之上。

  第三,完善智能时代的法治标准与全栈审计体系。面对人工智能自主智能体带来的全新安全边界,亟须前瞻性升级和完善我国网络安全法律法规体系。应加紧研究制定针对人工智能大模型自动化逃逸评估、算法对抗红队测试以及人工智能生成内容全链路溯源的国家标准与行业规范。建立跨部门的“人工智能安全风险熔断机制”,在技术研发端和部署端同步推行前沿大模型全生命周期的全栈安全审计,筑牢智能时代的合规底线与法治红线。

  第四,筑牢产学研用一体化创新生态。充分发挥我国高水平研究型大学与科研院所在前沿密码学、认知科学、行为心理学与人工智能安全等领域的跨学科、复合型前沿优势。打破学术研究与产业应用的制度壁垒,通过建设国家级智能网络安全联合实验室,打通从实验室前沿认知攻防理论向国家关键信息基础设施安全防护转化的“最后一公里”。加速培养具备“AI+网安+认知科学”视野的复合型战略科学家与拔尖创新人才,为把握智能时代网络空间安全战略主动权提供源源不断的人才动能。

  综上所述,面对传统防御机制的机理失能,唯有主动作为、前瞻布局,通过构建智能泛在、主动演进的全球网络安全防御新范式,实施认知计算战略升级并强化关键核心技术自主可控,方能在这场深刻的技术机理革命中抢占先机,牢牢掌握网络空间智能对抗的战略主动权。

编辑: 沈睿审核:赵乐韵责编:徐琼峰监制:黄作敏总监制:缪磊
推荐视频