《中国网信》杂志刊发范渊署名文章:探析智能体驱动的网络安全和数据安全防护新范式

范渊
z6首页信息技术股份有限公司董事长
人为智能作为新一轮科技革命和产业刷新的主题驱动力,,,,,正深刻扭转人们的出产、生涯和进建方式,,,,,引领人类社会迈向人机协同、跨界融合、共创分享的智能时期。。。。。。。
人为智能在各领域的利用不休深刻,,,,,安全领域迎来新的刷新契机。。。。。。。安全问题一向是数字时期面对的严格挑战,,,,,随着网络攻击伎俩的日益复杂和多样化,,,,,传统的安全防护伎俩难以满足需要。。。。。。。智能体作为人为智能技术发展到肯定阶段的产品,,,,,具备自主性、进建能力和决策能力,,,,,可能在安全防护中阐扬怪异的作用。。。。。。。它通过对海量日志、告警等数据的实时研判,,,,,急剧正确地鉴别潜在的安全威胁,,,,,并通过调度安全产品实时响应,,,,,极大地提升安全防护的时效性与正确性。。。。。。。
大说话模型与智能体发展
近年来,,,,,人为智能发展迅速,,,,,尤其是大说话模型,,,,,从早期的CNN(卷积神经网络)和RNN(循环神经网络)演进到此刻的大规模预训练模型。。。。。。。这些新模型能更精准理解和天生说话,,,,,并通过强化进建优化天生战术,,,,,使了局更切合人类预期。。。。。。。国表大说话模型OpenAI的GPT系列在说话天生、问答等领域展示出壮大的能力,,,,,谷歌的BERT模型在天然说话理解工作上获得突破;;;;;;国内大说话模型则有百度的文心一言、阿里巴巴的通义千问、深度求索公司的DeepSeek,,,,,z6首页信息技术股份有限公司(以下简称“z6首页信息”)的恒脑安全垂域大模型等也在不休优化发展,,,,,推动人为智能技术在各行业利用落地。。。。。。。
大说话模型的发展为智能体的出现和发展奠定了坚实基础。。。。。。。大说话模型可能处置和理解天然说话,,,,,为智能体提供壮大的说话交互和知识理解能力,,,,,使智能体能更好地与用户沟通并执行各类工作。。。。。。。
随着大模型技术的跃迁与算力资源的加强,,,,,智能体在海内表市场迎来发作式发展。。。。。。。智能体的主题价值在于其自主性与进化能力,,,,,可能自主挪用工具、实现工作,,,,,并通过反馈进建持续提升能力。。。。。。。它不是单一地执行预设的法式,,,,,而是凭据环境变动和工作需要自主做出决策和行动。。。。。。。在网络安全领域,,,,,智能体赋予大模型现尝试动的能力,,,,,不仅通过持续优化,,,,,急剧鉴别复杂的网络安全威胁模式,,,,,还能针对分歧安全场景需要迅速做出响应,,,,,矫捷调整鉴别战术与防护机造。。。。。。。
典型安全场景中智能体的利用与实际
安全智能体基于大模型壮大的工作拆解和规划能力,,,,,结合表部知识库、谍报库、工具库,,,,,能够在诸多安全场景中阐扬沉要作用。。。。。。。
告警研判场景。。。。。。。智能体可有效鉴别真实攻击和误报,,,,,将安全运营人员从“告警委顿”中解放出来,,,,,使其把稳力转移到真正具备威胁的安全事务中,,,,,让攻击行为无所逃形。。。。。。。在网络安全防护中,,,,,安全告警的实时正确研判至关沉要。。。。。。。告警研判智能体实时网络来自各类安全设备的告警信息,,,,,如防火墙、入侵检测系统等,,,,,通过对海量告警数据进行分析,,,,,精准鉴别攻击意图和攻击方式,,,,,结合正常行为模式和异常行为模式库,,,,,急剧判断告警的真实性和严沉水平。。。。。。。与传统人为告警研判相比,,,,,告警研判智能体不受主观成分和委顿的影响,,,,,可能实时处置大量告警信息。。。。。。。
恶意软件鉴别场景。。。。。。。智能体可基于多头把稳力机造提取恶意软件中的关键身分,,,,,有效忽略特殊字符、空格、编码变种等,,,,,有效防御恶意软件的“免杀”逃逸问题。。。。。。。恶意软件是网络安全的一大威胁,,,,,其种类繁多且不休变异。。。。。。。恶意软件鉴别智能体通过深度进建技术,,,,,对恶意软件的特点进前进建和鉴别。。。。。。。它能够分析文件的结构、代码行为、网络衔接等特点,,,,,构建恶意软件鉴别模型。。。。。。。当系统中出现新的文件时,,,,,恶意软件鉴别智能体急剧对其进行检测,,,,,并做出判断。。。。。。。恶意软件鉴别智能体拥有更强的适应性和检测能力,,,,,在恶意软件进入系统初期就实时发现并阻止其运杏祝。。。。。。
垂钓邮件防备场景。。。。。。。智能体可基于邮件内容、语气、营造氛围等精准鉴别发件人意图,,,,,结合二维码、链接、附件等风险检测实现垂钓邮件精准鉴别和联动拦截。。。。。。。垂钓邮件是网络攻击者常用的伎俩之一,,,,,其荫蔽性强,,,,,容易诱导用户误操作从而泄录感信息。。。。。。。垂钓邮件防备智能体对接管的邮件进行全面分析,,,,,首先查抄邮件的发件人信息、邮件头信息,,,,,判断是否存在异常,,,,,再对邮件内容进行文本分析,,,,,鉴别是否蕴含垂钓关键词、可疑链接等。。。。。。。对蕴含链接的邮件,,,,,垂钓邮件防备智能体通过安全的方式对链接进行预览和分析,,,,,判断链接是否指向恶意网站。。。。。。。
日志审计场景。。。。。。。智能体可综合审计天堑防御、流量检测、主机安全等日志,,,,,按Kill Chain(杀伤链模型)沉组攻击行为,,,,,结合行为基线偏离度分析,,,,,实现从异常中进一步鉴别攻击,,,,,实时发现和预警安全事务。。。。。。。日志审计是网络安全防护中的沉要环节,,,,,通过对系统日志的分析能够发现潜在的安全问题。。。。。。。日志审计智能体自动网络和整顿来自各类系统和设备的日志数据,,,,,蕴含操作系统日志、利用法式日志、网络设备日志等。。。。。。。它使用天然说话处置和数据分析技术对日志内容进行解析和理解。。。。。。。通过成立日志分析模型,,,,,日志审计智能体能够鉴别出异常的系统操作、潜在的攻击行为以及安全战术的违规情况。。。。。。。
早在两年前,,,,,z6首页信息就意识到智能体是扭转网络安全行业的一项革命性技术,,,,,并急剧跟进,,,,,于2025年推出安全AI智能体——恒脑3.0。。。。。。。依附恒脑安全智能体开发利用平台,,,,,z6首页信息已经创建并颁布官方智能体数百个,,,,,覆盖数十个业务场景,,,,,并且急剧和现有产品进行能力集成,,,,,在安全实际中阐扬了沉要作用。。。。。。。在成都大运会期间,,,,,恒脑安全垂域大模型投入试用,,,,,并在荆门亚运会期间得以大领域利用。。。。。。。其中,,,,,基于恒脑安全垂域大模型的智能安全副手为安全专家提供了高效的信息查问、问题解答、攻击面分析和汇报天生等服务。。。。。。。实测数据显示,,,,,恒脑安全垂域大模型使安服效能提升230%,,,,,威胁发现能力提升200%。。。。。。。在2025年哈尔滨亚冬会网络安全保险工作中,,,,,z6首页信息部署了十大安全智能体协同利用。。。。。。。这些智能体蕴含数据安全风险评估智能体、场馆安全风险分析智能体、异常行为分析智能体、告警研判智能体等,,,,,构建起重大精密的神经网络,,,,,能在极短功夫内进建海量网络安全知识,,,,,对过往安全事务案例的功夫节点、攻击蹊径、缝隙成因等进行吸收分析,,,,,转化为自身的“知识储蓄”。。。。。。。它们全方位覆盖赛事网络,,,,,对网络流量、用户行为、系统操作等多个维度的数据进行实时监测和分析。。。。。。。通过成立精密的正常网络行为模型,,,,,敏感地捉拿任何异常变动。。。。。。。从“人海战术”到“人机协同”,,,,,智能体与专家能力的深度融合开释了精准作战的潜力,,,,,为赛事的顺利进行提供了坚实的网络安全保险。。。。。。。

在2025年哈尔滨亚冬会网络安全保险工作中,,,,,z6首页信息部署了十大安全智能体协同利用。。。。。。。
智能体在网络安全防护中面对的挑战与将来瞻望
只管智能体在网络安全防护中展示出巨大的潜力,,,,,但目前仍面对一些挑战。。。。。。。
“幻觉”问题。。。。。。。智能体往往基于大说话模型构建,,,,,而大模型存在“幻觉”问题,,,,,即天生内容时不足事实凭据,,,,,可能输出不真实或谬误的信息。。。。。。。在网络安全领域,,,,,这可能导致智能体误判安全威胁,,,,,如谬误地鉴别恶意软件或网络攻击,,,,,从而做出谬误的安全决策,,,,,影响网络安全防护的有效性。。。。。。。
提醒词注入攻击风险。。。。。。。大模型易遭逢提醒词注入攻击,,,,,攻击者可通过精心设计的提醒词诱导网络安全智能体绕过安全管控战术,,,,,从而泄录感信息或执行不当操作。。。。。。。例如,,,,,获取系统的安全配置、用户数据等,,,,,使系统的安全防线出现缝隙。。。。。。。
可诠释性问题。。。。。。。大模型的决策过程复杂,,,,,在网络安全场景中,,,,,安全人员必要明确智能体做出安全决策的凭据。。。。。。。然而,,,,,大模型的“黑盒”个性使这一需要难以满足,,,,,降低了对智能体的信赖度,,,,,且在出现问题时难以追忆和建复。。。。。。。
权限传导风险。。。。。。。智能体权限传导风险是指在智能体(如AI副手、自动化工具等)执行工作时,,,,,未能正确将用户的权限信息传递到智能体操作的底层资源(如数据库)中,,,,,从而导致智能体以超出用户现实所占有的权限领域执行操作。。。。。。。这种情况下,,,,,低权限用户可能通过智能体接见到高权限数据,,,,,进而引发数据泄露等安全问题。。。。。。。例如,,,,,企业中一名通常员工(低权限用户)通过问答副手智能体要求获取财政数据(高权限数据),,,,,由于未设置权限传导机造或因中央件、通讯和谈存在缺点导致权限信息迷失或被篡改,,,,,智能体以自身默认的高权限(可能是系统治理员权限)接见数据库,,,,,企业的敏感财政数据被低权限用户获取,,,,,可能被用于犯法主张,,,,,如泄露给竞争敌手、谋取幼我利益等。。。。。。。
只管面对挑战,,,,,但智能体在网络安全防护领域的发展远景依然辽阔。。。。。。。从技术发展方历来看,,,,,必要加强表部知识集成与推理能力,,,,,整合企业内表知识图谱、专业文档库、实时数据库等表部知识系统,,,,,通过检索加强天生(RAG)、可控天活力造提升信息正确率,,,,,从而有效缓解模型“幻觉”。。。。。。。通过开发更强的模型算法,,,,,加强逻辑推理能力,,,,,以构建更壮大的网络安全智能体。。。。。。。同时,,,,,加强智能体自身安全防护能力,,,,,依照《天生式人为智能服务治理暂行法子》及《天生式人为智能服务安全根基要求》等执行安全测评和安全防护,,,,,可有效提升对提醒词注入攻击风险防御能力。。。。。。。进一步优化工作规划与多轮对话治理机造,,,,,借助树搜索算法、思想链(CoT)和反思机造(Self-Reflection)优化其工作调度系统,,,,,加强高低文跟踪能力和对话一致性保险机造,,,,,提升智能体在复杂网络安全工作中的执行能力,,,,,此过程也通过露出更多的推理细节,,,,,从而强化智能体决策的“可诠释性”。。。。。。。此表,,,,,要加强智能体与其他表部系统交互时的安全管控,,,,,不能由于方便而就义安全,,,,,传统的安全防护措施如权限管控、日志审计、身份验证与授权机造等依然能够有效降低智能体权限传导风险,,,,,保险企业数据的安全性。。。。。。。最后,,,,,引入多智能体合作架构(Multi-Agent Systems)也是沉要方向,,,,,由多个专能智能体组成虚构组织,,,,,各自承担规划、执杏注监控等角色,,,,,通过新闻传递与工作协商共同实现复杂网络安全工作,,,,,例如,,,,,在大型企业网络安全防护中,,,,,能够配置分歧职能的智能体别离掌管网络流量监测、缝隙治理、应急响应等工作,,,,,协同保险网络安全。。。。。。。
随着人为智能技术的不休创新和突破,,,,,智能体将深度嵌入网络安全、数据安全的各个环节,,,,,在保险国度关键信息基础设施安全、守护社会网络安全不变等方面阐扬更为沉要的作用,,,,,成为保卫数字世界的牢固壁垒。。。。。。。在国度政策大力支持人为智能发展的布景下,,,,,网络安全行业应积极拥抱智能体技术,,,,,加强技术研发和利用创新,,,,,造就有关专业人才,,,,,推动智能体在网络安全、数据安全防护中的宽泛利用,,,,,为我国数字经济的健全发展和网络空间安全提供坚实保险。。。。。。。

起源:《中国网信》2025年第7期


立即履历恒脑安全智能体 



立即解锁AI安服数字员工 




行业解决规划
技术解决规划









