清华数据大讲堂|范渊:解码AI时期数据保;;;;び肜眯路妒
随着人为智能技术的深刻利用,,,,,,,,数据安全已从天堑防护走向智能驱动、动态管控的新范式。。。。。。。。AI既带来新型风险,,,,,,,,也成为保险数据流通的关键力量。。。。。。。。
9月12日,,,,,,,,由清华大学推算社会科学与国度治理尝试室、清华中国电子数据治理工程钻研院主办,,,,,,,,中国电子信息行业结合会数据与治理专业委员会、光明网协办的清华数据大讲堂(第11讲)在清华大学进行。。。。。。。。z6首页信息董事长范渊担任主讲嘉宾,,,,,,,,清华大学社会科学与国度治理尝试室执行主任、中国电子信息行业结合会数据与治理专委会主任委员孟庆国教授主持。。。。。。。。

孟庆国教授作开场主持

范渊开讲
活动吸引了来自当局、央企、高校和钻研机构的多多专业人士参加,,,,,,,,现场座无虚席,,,,,,,,线上直播平台也涌入了大量观多,,,,,,,,形成了线上线下同步进建、互动互换的浓密氛围。。。。。。。。

讲堂上,,,,,,,,范渊分享了关于“AI时期数据保;;;;だ靡惶寤钡南低乘悸怯胂驶畎咐,,,,,,,论述了人为智能技术在网络安全、数据安全流通领域的创新利用,,,,,,,,并详解“人为智能安全”的挑战与应对之策,,,,,,,,涵盖了动态数据安整个系、数据基础设施、隐衷推算、可信数据空间、智能安全运营和AI治理框架等前沿议题,,,,,,,,为各界把握数据安全与发展平衡提供了可操作的路线图。。。。。。。。
他暗示,,,,,,,,以AI匹敌AI,,,,,,,,以AI治理AI,,,,,,,,是安全新阶段的必由之路,,,,,,,,AI 驱动下的数据安全流通,,,,,,,,正让安全与发展从“并杏妆走向“共生”。。。。。。。。他强调,,,,,,,,AI的发展必须锚定安全坐标、遵守向善准则,,,,,,,,唯有如此,,,,,,,,能力凝聚合力、共赢将来。。。。。。。。
扫码即可免费领取
齐全演讲回放和数据基础设施白皮书

以下为范渊课程内容的精华梳理。。。。。。。。

AI智能体:沉塑安全发展新格局

回首网络安全发展过程,,,,,,,,范渊清澈地勾画出一条攻击与防御不休升级的轨迹。。。。。。。。三十年前互联网刚进入中国时,,,,,,,,安全威胁重要以推算机病毒和入侵为主;;;;;二十年前随着互联网利用遍及,,,,,,,,数据窃取和网络诓骗起头泛滥;;;;;十年前云和大数据利用成熟,,,,,,,,数据窃取和勒索病毒造成巨大损失。。。。。。。。

“今天,,,,,,,,基于大模型的智能体利用来临,,,,,,,,链接更多资源,,,,,,,,系统性安全风险成为重要问题。。。。。。。。”面对这种周期性安全挑战,,,,,,,,范渊总结了五种思想模式:匹敌思想、合规思想、系统思想、底线思想和发展思想。。。。。。。。这五种思想模式组成了应对AI时期安全挑战的根基框架。。。。。。。。
随着AI时期的到来,,,,,,,,人为智能在深刻扭转网络安全攻防格局,,,,,,,,范渊指出,,,,,,,,AI智能体凭借感知环境、理解指标和自主决策能力,,,,,,,,可复刻专家研判流程,,,,,,,,实现告警解读、攻击溯源、自动化渗入测试等工作的智能化处置。。。。。。。。
“当前,,,,,,,,大模型与智能体结合使安全平台从‘信息聚合’升级为‘自主思虑’的‘安全大脑’,,,,,,,,显著提升研判效能与正确性。。。。。。。。”他强调,,,,,,,,智能体的自主水平可分为L3-L5三个等级:L3前提自主(能自动对已知风险进行分析,,,,,,,,必要专家定期审视误差);;;;;L4高度自主(能处置未知风险,,,,,,,,遇到难题必要专家染指);;;;;L5齐全自主(能总结风险处置经验,,,,,,,,自动提出优化建议)。。。。。。。。范渊暗示:“当前业界正从L3急剧迈向L4阶段。。。。。。。。”

在利用上,,,,,,,,范渊分享了多个典型案例:基于z6首页信息在智能体领域确当先技术与实际,,,,,,,,在哈尔滨亚冬会上实现了全球初次多个智能体协同作战,,,,,,,,通过系统化的智能联动,,,,,,,,整体工作效能与防护成效获得显著提升。。。。。。。。该系统辅助分析180万次攻击,,,,,,,,溯源封禁1.3万高危地址。。。。。。。。

某大型车企通过专家与智能体协同,,,,,,,,实现实战攻防安全值守,,,,,,,,日均处置30万条告警,,,,,,,,效能达到人为处置的40倍,,,,,,,,针对常见的风险类型,,,,,,,,AI研判正确率达到100%。。。。。。。。
在恶意邮件检测方面,,,,,,,,AI可综合分析邮件头、正文、附件、二维码等内容,,,,,,,,鉴别荫蔽垂钓行为,,,,,,,,甚至能解析携带混合密码的加密附件,,,,,,,,实现类工程师级判断,,,,,,,,有效应对了安全运营中面对的告警激增、专家欠缺、未知威胁难鉴别等挑战。。。。。。。。该利用实际曾获某部委较量第一。。。。。。。。

AI驱动的数据安全流通:构建动态数据安整个系是发展必然

数据作为新型出产身分,,,,,,,,必须流动起来能力创造价值,,,,,,,,这就迫使安全理想必须升级——从静态数据安全向动态数据安全演进,,,,,,,,同时,,,,,,,,需确保数据在大规模、高通量、急剧率的流通过程中,,,,,,,,依然处于受控状态,,,,,,,,进而实现动态、全性命周期的安全。。。。。。。。
范渊暗示,,,,,,,,AI驱动下,,,,,,,,新时期的数据安全强调在数据流动过程中实现分类分级、接见节造、脱敏战术、权限调整的实时联动:“数据若水,,,,,,,,伴随着数据在接见主体/客体之间的挪用,,,,,,,,分歧的网络环境区域会晤对分歧的数据安全风险。。。。。。。。因而,,,,,,,,数据安全必须与具体的业务场景缜密结合,,,,,,,,应该是一种贯通业务流程的、动态的、场景化的安全能力,,,,,,,,而不能是孤立的、静态的防护产品堆砌。。。。。。。。”
在范渊看来,,,,,,,,数据的保;;;;ず褪褂貌⒎嵌钥,,,,,,,,而是相互依存、相互转化的统一体:“极致的保;;;;さ贾录壑悼菸,,,,,,,无节造的使用导致风险发作。。。。。。。。数据安全的指标是达到一个动态、和谐的平衡。。。。。。。。”

破解动态数据流通安全难题:“技术+造度+市场”三位一体

在讲堂中,,,,,,,,范渊就动态数据安全的终极挑战进行了深刻分析,,,,,,,,并针对数据“不敢共享、不愿共享、不会流通”三大瓶颈问题提出应对措施。。。。。。。。因而,,,,,,,,必须加快构建数据基础设施,,,,,,,,推动数据身分在安全前提下实现价值开释,,,,,,,,实现数据既要保;;;;び忠。。。。。。。。
可信数据空间与隐衷推算是关键技术蹊径。。。。。。。。作为隐衷推算的三大主题技术,,,,,,,,可信执行环境(TEE)、安全多方推算(MPC)和联国进建,,,,,,,,可支持“原始数据不出域、数据可用不私见”,,,,,,,,保险多方合作中的隐衷与安全。。。。。。。。
在讲堂中,,,,,,,,范渊还以“物流冷链”的“陈峰子自由”类比“数据冷链”的“数据自由”,,,,,,,,在线上线下引起极大反映:数据冷链是指通过数据技术创新和利用,,,,,,,,让涉敏涉密的、不宜直接在互联网上流通的数据,,,,,,,,可信安全地、低成本地、大规模????<本缏矢咄康亓魍ㄆ鹄矗,,,,,,,普惠、可急剧履历。。。。。。。。
范渊暗示,,,,,,,,z6首页信息基于多年安全运营实际以及各地数据流通利用开发的经验,,,,,,,,形成平衡数据“保;;;;ぁ庇搿袄谩之路:关注数据既要保;;;;び忠玫淖詈笠还铮,,,,,,,以“技术+造度+市场”三位一体为主题发展模式,,,,,,,,达到数据价值开释与安全隐衷保;;;;す泊婀步牧夹苑⒄构πА!!。。。。。

他分享了两个典型利用案例:基于数据可信流通设施环境番茄成长模型,,,,,,,,通过全链路数据安全审计与“链式授权”,,,,,,,,实现农业场景下的数据高效流通与可信使用。。。。。。。。该案例入选国度数据驹炖选的“五大典型案例;;;;;医疗较量平台通过MPC融合多机构数据训练AI模型,,,,,,,,在保;;;;せ颊咭衷的同时推动医学钻延祝。。。。。。。

范渊同时指出,,,,,,,,高质量数据集对AI训练至关沉要,,,,,,,,除规模表更需关注数据质量与关键交互信息。。。。。。。。合成数据将成为补充稀缺高质量数据的沉要伎俩。。。。。。。。

应对AI安全挑战:以AI对AI 以AI管AI

随着AI利用深刻,,,,,,,,大模型性命周期各环节的安全风险也日益凸显,,,,,,,,蕴含数据泄露、模型越狱、供给链传染、恶意工具挪用等。。。。。。。。
范渊泄漏,,,,,,,,测试显示国内表开源大模型普遍存在招架定向攻击能力不及、天生内容违规等问题,,,,,,,,AI安全治理亟需造杜纂技术并沉。。。。。。。。
他提出构建“四横四纵”治理框架:横向涵盖技术、治理、流程、组织,,,,,,,,纵向蕴含战术规划、尺度规范、监督审计、持续改进。。。。。。。。这一框架旨在形玉成面覆盖、纵深防御的AI安全治理系统,,,,,,,,实现效能与安全的平衡。。。。。。。。

?
值得关注的是,,,,,,,,AI编程普遍存在代码缝隙,,,,,,,,高危缝隙占比超50%。。。。。。。。范渊建议引入安全提醒与自动建复机造,,,,,,,,实现“AI天生—AI检测—AI建复”关环。。。。。。。。对于AI幻觉问题,,,,,,,,他提出当前应以人机协同为主,,,,,,,,AI提供研判建议,,,,,,,,人为最终决策,,,,,,,,确保关键判断正确靠得住。。。。。。。。
范渊指出,,,,,,,,以AI匹敌AI,,,,,,,,AI治理AI,,,,,,,,是安全新阶段的必由之路;;;;;AI + 数据安全流通,,,,,,,,使得安全和发展越发融合和天然。。。。。。。。
在随后的对话互换环节,,,,,,,,与会者从多个角度提出了问题。。。。。。。。关于AI在企业安全中的利用,,,,,,,,范渊暗示:“原来运营中心可能必要一百人,,,,,,,,此刻可能只必要三幼我指挥两百个AI智能体工作——这很可能是将来几年会出现的普遍场景。。。。。。。。”

AI时期的数据安全不再是单一的保;;;;せ蚶梦侍猓,,,,,,,而是必要在动态中追求平衡,,,,,,,,在流动中实现节造,,,,,,,,在利用中确保安全。。。。。。。。这必要技术创新、治理创新和造度创新的协同推动,,,,,,,,必要各方共同致力,,,,,,,,构建既保险安全又推进发展的数据治理系统。。。。。。。。




立即履历恒脑安全智能体 



立即解锁AI安服数字员工 




行业解决规划
技术解决规划









