z6首页

数字经济的安全基石

申请试用

首页 > 关于z6首页 > z6首页动态 > 2024 > 正文

首家!z6首页信息通过中国信通院面向大模型的可信执行环境产品专项测试

阅读量:次 文章起源:z6首页信息

2024年5月23日 ,,,,,在中国信息通讯钻研院(以下简称“中国信通院”)组织的首批“面向大模型的加强型可信执行环境基础能力专项测试”中 ,,,,,z6首页信息顺利完玉成数测试内容 ,,,,,成为首家实现此项测试的企业。。 。。。




尺度及测试介绍




〖向大模型训练与推理数据;;; ;;;;さ目尚胖葱谢肪臣际跻蟆是中国信通院云推算与大数据钻研所依附中国通讯尺度化协会大数据技术尺度推动委员会(CCSA TC601) ,,,,,结合30余家企业的专家共同假造 ,,,,,旨在为可信执行环境产品/集群在面向大模型场景时的研发、测试、评估和验收提供参考和指引。。 。。。

据此尺度形成的测试步骤思考可信执行环境、模型类别和训练推理数据的特点 ,,,,,覆盖数据工程、模型训练支持、模型推理支持、硬件加快、安全要求五大能力域 ,,,,,蕴含数据加强、模型治理、环境安全和数据安全等16个子能力域 ,,,,,共计57个测试项。。 。。。





z6首页AiLand安全岛隐衷推算平台介绍




AiLand安全岛隐衷推算平台专一于保险数据安全流通 ,,,,,致力于解决数据流通过程中的信赖和隐衷;;; ;;;;の侍狻。 。。。平台综合利用可信执行环境 ,,,,,安全多方推算 ,,,,,联国进建 ,,,,,区块链等技术 ,,,,,结合环境隔离、关键行为数字验签、全流程审计等 ,,,,,实现共享数据的所有权和使用权分离 ,,,,,确保数据 “可用不私见” ,,,,,保险数据共享互换过程的数据可控和流程可溯。。 。。。


AiLand安全岛隐衷推算平台架构


z6首页AiLand安全岛隐衷推算平台在机密推算方面拥有业界当先的产品堆集。。 。。。近两年在国内各大赛事中屡获优异成就 ,,,,,获得2023年度信通院星河杯TEE赛路全国一等奖 ,,,,,2022年度鲲鹏利用创新大赛全国总决赛数字当局赛路金奖等荣誉。。 。。。


01

平台优势及重要能力


在面向大模型训练与推理场景 ,,,,,z6首页AiLand安全岛隐衷推算平台设计技术与产品的安全结合架构 ,,,,,支持融合多方数据集建设精调数据集 ,,,,,持续进行训练和推理。。 。。。


1. 安全防护

为加强模型提供方、数据提供方与平台信赖 ,,,,,平台使用机密推算技术提供硬件级的安全;;; ;;;; ,,,,,通过算法一致性核验 ,,,,,交互数据安全;;; ;;;;せ ,,,,,环境隔离机造等实现模型和数据全流程的机密性、齐全性;;; ;;;; ,,,,,满足大模型在高安全要求的业务场景需要。。 。。。

在身份权限、推算工作、训练数据、精调模型等内容与机密推算技术深度融合 ,,,,,由硬件为上述内容提供了安全;;; ;;;;び敫衾 ,,,,,即便是系统治理员也无法窥探到执行中的数据。。 。。。


2. 安全评估

平台依附z6首页信息在大模型内容安全上多年的堆集 ,,,,,支持了模型安全检测能力。。 。。。通过几千个测试用例 ,,,,,能够检测出蕴含提醒词注入、不安全的内容输出、模型滥用风险、模型过度依赖、路德伦理风险、违规内容风险和数据泄露风险等七个方向的风险。。 。。。


AiLand安全岛隐衷推算平台安全评估示例


3. 模型开发

模型方面 ,,,,,平台支持ChatGLM3、Llama3、Baichuan2 、千问2、gemma-1.1等有关和其他模型运杏祝。 。。。训练数据方面 ,,,,,支持大规模数据输入 ,,,,,支持数据处置和多源数据安全融合。。 。。。


4. 低成本迁徙

平台提供与传统大模型训练推理环境类似的界面环境 ,,,,,用户能够在非安全环境的模型轻松地迁徙到隐衷推算平台内。。 。。。


AiLand安全岛隐衷推算平台推理环境示例


5. 加快设备支持

目前已商用的产品中 ,,,,,支持可满足安全要求的异构加快设备 ,,,,,如Intel AMX、海光和NVIDIA等。。 。。。例如Intel AMX是一种用于加快深度进建和矩阵推算的处置器扩大 ,,,,,可以为ChatGLM、Llama及QWen等系列模型的推理和训练提供加快能力 ,,,,,2粒第四代志强处置器环境下 ,,,,,模型的推理速杜仔近400%的提升 ,,,,,训练速杜仔近50%的提升。。 。。。

这些硬件在提供壮大推算能力的同时 ,,,,,还具备杰出的安全机能 ,,,,,可能有效;;; ;;;;ご竽P陀泄厥莸陌踩院鸵衷性。。 。。。AiLand安全岛隐衷推算平台充分利用这些硬件优势 ,,,,,支持在算力基础设施上构建平台 ,,,,,确保在提供推算机能优化的同时 ,,,,,满足严格的数据安全和隐衷;;; ;;;;ひ蟆。 。。。


02

重要利用


1. 模型精调

在行业或领域大模型训练等场景而言 ,,,,,企业通;;; ;;;;嵫≡裣嘁说拇竽P妥魑∧P ,,,,,使用本方数据或融合多方数据对模型进行精调。。 。。。在这一过程中 ,,,,,必要保障模型提供方提供的基础模型的安全和各方用于精调训练的数据安全 ,,,,,预防模型和数据被未经授权的接见。。 。。。

z6首页AiLand安全岛隐衷推算平台通过环境隔离、数据齐全性和机密性;;; ;;;;ぁ⑷鞒碳嗫厣蠹频然;;; ;;;;て教谑莅踩 ,,,,,并提供模型仓库、模型导出、优化工具等职能 ,,,,,保障精调阶段的职能和机能可用。。 。。。


2. 安全推理

在推理场景中必要思考模型、数据和算力等前提 ,,,,,一是提供大模型推理服务的模型均为企业破费资金和功夫训练得到的 ,,,,,是模型提供方的主题资产;;; ;;;;二是 ,,,,,用户的输入数据和推理了局是用户但愿被;;; ;;;;さ氖;;; ;;;;三是提供基于大模型的推理服务必要肯定规模算力 ,,,,,但并非每家企业都具备独立搭建算力平台的能力。。 。。。

因而 ,,,,,基于公有算力的大模型推理服务是较为常见的模式。。 。。。z6首页AiLand安全岛隐衷推算平台 ,,,,,通过一致性检验、交互加密等方式对推理服务时模型和数据进行;;; ;;;;ぁ。 。。。



关关

客服在线征询入口 ,,,,,等待与您互换

线上征询
产品试用

即刻预约免费试用 ,,,,,我们将在24幼时内联系您

联系z6首页

征询电话:400-6059-110

微信征询
z6首页信息联系方式
【网站地图】【sitemap】