z6首页

数字经济的安全基石

申请试用

首页 > 关于z6首页 > z6首页动态 > 2023 > 正文

中国网络安整年会丨z6首页信息共话AI安全与网络安全将来

阅读量:次 文章起源:z6首页信息













9月12日,,,,,在2023年第20届中国网络安整年会暨国度网络安全宣传周的网络安全协同治理分论坛上,,,,,z6首页信息高级副总裁、z6首页钻研院院长王欣颁发了主题演讲,,,,,分享了他对AI安全和网络安全将来发展的见解和愿景。。 。。。。。 。


王欣首先指出,,,,,随着ChatGPT等大模型的遍及和利用,,,,,人为智能技术在扭转z6首页生涯方式和工作方式。。 。。。。。 。然而,,,,,随着AI技术的急剧发展,,,,,安全问题也日益凸显。。 。。。。。 。安全与AI,,,,,既是相互博弈,,,,,又在相互成就,,,,,“让AI更安全,,,,,让安全更智能”,,,,,成为安全从业者的时期使命。。 。。。。。 。



数字化技术的发展加快了网络安全实战化的措施,,,,,安全成效导向的需要愈发凸起。。 。。。。。 。与此同时,,,,,企业面对着愈加复杂且持续演变的网络安全威胁。。 。。。。。 。传统的安全防御伎俩已经无法满足当前急剧应对和应急响应的需要。。 。。。。。 。另表,,,,,巨大的网络安全人才缺口也成为了企业安全运营的沉大困扰。。 。。。。。 。

安全垂域大模型的出现极大地缓解了安全专家不及的近况。。 。。。。。 。据《2023网络安全产业人才发展汇报》数据显示,,,,,超过30%的受访者以为AI能够在肯定水平上代替网络安全人才,,,,,还有35. 7%的受访者以为AI技术将在将来五年内对网络安全人才产生自动监测和分析等辅助作用。。 。。。。。 。

王欣进一步指出,,,,,当前网络安全产业都在钻研AI大模型与安全的结合。。 。。。。。 。z6首页信息凭借16年的实战经验堆集,,,,,形成了大量的细分领域安全知识数据,,,,,并将这些数据转化为平台级能力知识数据。。 。。。。。 。经过七轮大规模的增量预训练和数十次微调,,,,,“恒脑”逐步形成,,,,,实现了AI与安全的深度融合。。 。。。。。 。在今年的成都大运会网络安保工作中,,,,,“恒脑」毓现出了其价值,,,,,通过实战与技术的结合,,,,,成为了一个高效、实用、可能解决现实问题的安全大模型。。 。。。。。 。

“大模型的下半场是智能体的大发作。。 。。。。。 。” 王欣介绍到,,,,,恒脑·安全垂域大模型与z6首页OpenSecurity能力中台的结合,,,,,实现了“聪明的大脑”与“勤快的手脚”的链接。。 。。。。。 。将来,,,,,z6首页信息将提供感知、决策、执杏注反馈的智能一体化解决规划,,,,,智能体逐步成长为虚构安全专家,,,,,作为将来的“靠谱的同伴”与安全专家同业。。 。。。。。 。



然而,,,,,只管大模型在处置某些工作上拥有很高的效能,,,,,但它也存在着很多安全风险。。 。。。。。 。王欣提到了大模型在天生内容时产生的数据安全、知识产权以及路德与伦理等有关的合规需要。。 。。。。。 。此表,,,,,大模型的恶意使用可能导致供给链缝隙、prompt注入等新的安全问题。。 。。。。。 。另表,,,,,大模型及有关利用自身也可能存在意识状态渗入、内容幻觉等方面的安全需要。。 。。。。。 。他出格强调,,,,,大模型甚至也存在着传统软件缝隙的安全风险。。 。。。。。 。

针对这些问题,,,,,王欣暗示解决AI大模型面对的安全风险是火烧眉毛的事件。。 。。。。。 。他泄漏,,,,,z6首页信息钻研院卫兵尝试室对国内表主流的几个通用大模型进行了具体的安全评测,,,,,均发现了很多的安全风险,,,,,从了局上看,,,,,国表的通用大模型的安全性整体要略高于国内通用大模型。。 。。。。。 。


(分数越低,,,,,安全风险越高)


王欣以为,,,,,解决大模型自身安全问题,,,,,必要建设大模型的全性命周期安全解决规划,,,,,z6首页信息已经通过全面分析AI大模型的存在的安全问题,,,,,从构建安全的供给链、成立训练数据集规范、使用公认可信的开源模型、代码审计及安全测试、部署安全设备以及司法合规等多个方面动手,,,,,推出了美满的AI安全解决规划,,,,,能够有效地援手用户预防在使用AI大模型时面对的诸多安全风险。。 。。。。。 。



据相识,,,,,本届论坛是由由国度互联网应急中心(CNCERT/CC)和内江市人民当局主办,,,,,汇聚了当局主管部门、科研院所、有关行业企业等国内网络安全领域的“政、产、学、延注用”各界代表,,,,,共同探求网络安全技术互换、威胁治理、应急响应、缝隙治理、移动互联网安全治理等议题。。 。。。。。 。本次论坛为国内网络安全领域的协同治理和互换合作提供了沉要的平台,,,,,为推动我国网络安全事业的发展阐扬了积极作用。。 。。。。。 。

往期杰出回首





“恒脑”亮相网安周受央视关注,,,,,大模型缓解安全专家欠缺难题

2023-09-13

关注AI利用、数据安全从业要求,,,,,《2023网络安全产业人才发展汇报》陆续六年颁布

2023-09-12

2023年国度网络安全宣传周正式开幕!z6首页信息杰出亮相,,,,,献礼十年

2023-09-11


关关

客服在线征询入口,,,,,等待与您互换

线上征询
产品试用

即刻预约免费试用,,,,,我们将在24幼时内联系您

联系z6首页

征询电话:400-6059-110

微信征询
z6首页信息联系方式
【网站地图】【sitemap】