网络安全很可能成为人工智能（AI）下一个主要应用场景。
当地时间9月10日，英伟达CEO黄仁勋在高盛科技会议上抛出上述观点 。他认为 ，AI提高了代码的生成效率 、降低了编程的门槛 ，但也加快了漏洞被发现 、利用和修复的速度，且正在从根本上冲击整个网络安全领域 。随着AI技术的不断进步 ，或将颠覆一个致力于保护计算机系统的行业。
近期 ，黄仁勋不只一次谈论AI安全的问题 。不久前（9月1日），他在美国网络安全公司CrowdStrike的一场大会上直言 ，网络安全正迎来转折点 ，攻击已实现自动化，防御也必须如此 。当天 ，英伟达与CrowdStrike宣布共同推出CrowdStrike SafeMind ，其核心思路是让攻击和防御模型持续对抗。
作为芯片巨头CEO，黄仁勋为何看好网络安全？有分析认为，随着攻防进入机器速度 ，攻防双方对AI的使用越深入 ，模型调用和推理计算就越频繁 。网络安全可能成为持续消耗AI推理算力的重要市场 。
不管是基于技术演进作出的判断，还是为了壮大“卖算力 ”的生意版图 ，黄仁勋近期的言论直指AI落地的关键问题：安全仍面临严峻挑战。
南都记者从安恒信息方面了解到 ，当前，AI正在压缩网络攻击的多个环节 。具备工具调用能力的智能体 ，可以持续搜集目标信息、分析软件弱点 、生成攻击代码并尝试不同路径 。攻击速度提高的同时 ，部分攻击活动的技术门槛也可能下降。
更令人担忧的是，智能体也会自主发起攻击 ，进一步加剧AI失控风险。今年7月16日 ，全球知名AI开源平台Hugging Face公开宣称，遭到AI智能体入侵 。随后 ，OpenAI发文承认近期在内部测试旗下多款模型时 ，意外攻破了Hugging Face的网络系统 。
这一事件被认为是首次公开披露的 、一起完全由AI智能体主导并实现的网络安全事件，在全球科技圈引发震动。事发一个多月后，OpenAI和两家外部安全机构出具的调查报告显示 ，约1200个本应彼此隔离的AI智能体通过未经授权的“留言板 ”相互通信 ，发送了超过7万条消息和文件，其中约700个智能体直接参与了对Hugging Face系统的入侵 。
值得一提的是 ，Hugging Face与英伟达的关系密切 。当地时间9月3日 ，黄仁勋宣布英伟达拟以约129.3亿美元收购Hugging Face。二者牵手后，将共同扩大Hugging Face平台规模、强化基础设施 。
当AI技术的能力越强 ，安全问题越发显现 。据安恒信息介绍 ，现在AI智能体可以批量理解代码 、自主定位风险 、验证漏洞并生成分析报告，大幅缩短发现和修复周期。但这种能力也可能被攻击者用于更快寻找薄弱点 ，加快整体攻防节奏 。
对于黄仁勋所说的“AI技术有可能给行业带来颠覆性影响” ，安恒信息方面认为，当漏洞发现、风险研判和安全处置逐渐由智能体完成 ，网络安全行业的变化将会从技术工具层延伸到产业结构层 。产品形态 、人才需求 、交付模式和评价标准 ，都将随之重构。AI带来的不是效率的线性增长，而是安全服务供给方式的结构性转变 。
具体而言，安全服务不再主要依赖驻场人员、人工巡检和工单流转 ，而是由模型持续研判、智能体自主处置 、专业人员控制关键决策 。客户评价安全服务的标准 ，也会从投入多少人转向发现是否及时 、处置是否有效、过程能否追溯。
面对AI带来的复杂安全挑战，网络安全行业正在积极构建智能防线。南都记者关注到 ，不少主流安全厂商持续升级大模型能力与服务平台 ，推出数字员工加强自主防御能力，并尝试用AI赋能漏洞平台与安全运营等 。在一些行业论坛上 ，也将AI安全设置为核心议题 。
以即将于9月23日在杭州举办的2026全球数贸会·西湖论剑大会为例 ，今年大会的主题为“从辅助到自主——AI时代的数智创新与安全跃迁 ”，届时将围绕AI驱动的智能化安全服务体系 、AI原生安全防护底座 ，实现“以AI对抗AI 、以AI管理AI ”的自主防御等核心命题展开研讨。
西湖论剑9月23日杭州启幕
西湖论剑是国内知名的数字安全行业峰会 ，2012年创办于杭州 。据主办方介绍，今年大会选取 “从辅助到自主”作为主题 ，是希望讨论不只停留在AI能够做什么 ，还要回答AI可以自主做到什么程度 。而已有的真实案例将成为检验自主防御能力的重要依据。
当前，行业尤为关注的是，随着AI智能体的爆发 ，一些企业如何划清自动执行和人工决策的边界：哪些风险可以由智能体自主处置 ，哪些操作必须经过人工确认，出现误判后如何接管 ，事故责任又该如何追溯 。这些问题 ，或许在今年的大会上能找到实践的答案与判断 。
（文章来源：南方都市报）
