AI+安全驱动需求侧：AI加剧安全威胁

AI赋能安全攻击加剧整体安全威胁

大模型/生成式AI对于网络安全行业的影响与其他行业有所不同，AI不仅仅是对于安全产品形态本身带来改变（防御视角），而且能够通过大幅降低了安全攻击的门槛，进而带来行业总需求的提升（攻击视角）。AI将带来安全攻击的新变化：社会工程攻击、漏洞与攻击面发现、恶意代码生成等。AI/自动化攻击工具今年下半年进入规模化和产业化阶段。比如FraudGPT在暗网市场和Telegram平台进行售卖：1)1个月计划定价为200美元；2)3月计划定价450美元；3)6个月计划定价1000美元;4)一年计划定价1700美元。

AI/大模型存在原生安全问题

AI/大模型存在原生安全问题，其中对安全投入影响最大的为数据安全和AI工程化领域。数据安全既包括了训练阶段数据采集不当、存在偏见或标签错误、数据被投毒等，也包括了模型在应用的过程中，面临数据泄露、隐私曝光等风险隐私曝光等风险。通常需要采取包括数据加密、隐私计算、数据清晰等数据安全保障手段。

AI+安全变革产品侧：安全运营自动化

海外AI+安全Copilot工具

今年3月微软发布了首个生成式AI安全产品Security Copilot后，多家头部厂商包括Crowdstrike、Google均推出了对应安全Copilot类产品。安全Copilot类产品的主要功能包括基于自然语言和AI辅助的安全状态查询、威胁搜寻、安全事件响应等。

AI+安全的结合点：安全运营

AI+安全的主要结合点集中在安全运营+安全平台领域，目前AI2.0+安全产品主要可分为两类：1）安全Copilot产品：代表为Microsoft Security Copilot和Crowdstrike Charlotte AI；2）AI驱动的安全平台：代表为PaloAlto Networks推出的基于AI驱动的新产品XSIAM（扩展安全智能和自动化管理）。

为什么是安全运营？

安全运营是安全行业自动化程度最低的领域：在一个网络安全系统的各个组成中，防火墙、端点安全等单点的安全产品已经具备了较高的自动化水平，而安全运营本是自动化程度最低的一环。这是由安全的复杂性决定的。安全运营是安全行业最需要AI深度改造的环节：1）传统安全设备是第三方的，多且杂，数据混乱，导致误报率高，变成了真实风险看不到，出现威胁防不了；2）安全运营工作压力太大，上万威胁，且90%非真实威胁，效率低下。

AI将带来安全运营效率的飞跃

能力提升（从一线运营到安全专家）：对于经验不足的IT和安全专业人员， AI可以帮助他们更快地做出更好的决策，让更高级的安全操作变得更加容易，能够迅速达到中高级安全人员的处置能力，降低安全运营门槛；效率提升（响应处置时间从天/小时到秒）：安全人员水平可自动执行数据收集、提取以及威胁搜索和检测等重复且繁琐的任务，缩短对关键事件的响应时间，同时通过简单的自然语言提示实现任何检测、调查或响应工作流程，降低安全运营的时间和人力成本。

来源：华金证券

报告内容节选如下：