/**/
沟通咨询
提交成功

瑞莱智慧发布人工智能安全靶场,建设新型人工智能安全防御体系

2021.11.11
公司动态

当前,人工智能产业正迎来新的发展高潮,但新技术也带来了特有的新风险,在发展与产业落地过程中催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。随着产业进程的深入,这些安全风险的边界迅速扩散,逐步蔓延至金融、互联网、安防、城市和社会治理各个领域,危害到社会安全与国家安全。

 

为有效应对人工智能新型安全风险,瑞莱智慧依托在人工智能算法安全攻防领域的顶尖技术能力和丰富的实践经验,率先发布人工智能安全靶场RealRange,提供实战化、体系化的一站式人工智能攻防演练服务支撑,通过预设训练场景模型、对抗攻防实战竞演,帮助政企机构开展安全能力体系检验评估、培育新型安全人才,建设新型人工智能安全防御体系,全面提升人工智能时代新型安全威胁的应对能力。

 

 

 

 

聚焦新时代安全防御体系建设

“以战促防”成核心需求

 

新安全问题需要新解决方案,为应对人工智能新型安全风险需构建新一代安全体系。7月12日,工信部官网发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》,提出人工智能安全作为面向新设施新要素的安全技术,需加快构建分类体系、制定检测与评估标准体系等,其中“构建人工智能安全靶场”也被列为重点投入方向。

 

自2008年美国筹建国家网络空间靶场(NCR)以来,靶场已经证明了对国家和社会各层面的安全保障均具有重大推进作用。人工智能时代下,伴随智能产业的纵深发展,一系列前所未有的新型安全威胁正逐步影响到军事、政企、金融等关键领域,研制针对人工智能场景的模拟实战靶场也因此成为行业重点探索的方向。

 

瑞莱智慧副总裁唐家渝表示,随着人工智能安全态势不断演化,新型攻击手段不断出现,单点产品只能解决滞后问题,对于未知威胁无法进行风险预判和策略调整,同时作为新兴领域,行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此,打造动态演化、科学调整的安全防御体系成为核心需求,也促使人工智能攻防靶场成为一项重要的新型基础设施。

 

唐家渝介绍道,类似于“演兵场”,安全靶场通过攻防实战演练将风险暴露前置,提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁,动态提升团队软实力,快速弥补技术水平与经验的不足,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

 

 

人工智能攻防靶场RealRange重磅发布

“学练一体”夯实基础建设

 

作为人工智能安全领域的领军企业,瑞莱智慧聚焦于算法攻防场景,率先推出人工智能安全靶场RealRange,用于构建真实网络环境的人工智能实战攻防演练,通过“实战化、模块化”的平台服务,帮助企业实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等全方位能力。

 

据介绍,该平台集“学、练”为一体,包含攻击靶场、防御靶场、攻防演练三大功能模块。“攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法;“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练,同时平台可自动化评估攻防两端能力,以攻防态势的可视化功能直观反馈实时战况。

 

图片

瑞莱智慧人工智能安全靶场RealRange

 

具体来看,该靶场平台具备三大特点:

  • 场景丰富:集成多种典型应用场景、攻防靶标、攻防工具,有效支撑各类业务场景下的攻防演练;

  • 容易上手:内置难度由低到高的分阶靶场体系,进阶式学练体系,无需具备专业AI安全知识也能快速上手;

  • 扩展灵活:模块化设计支持灵活构建各类演练场景,级联设计支持灵活扩展各种演练规模。

 

唐家渝介绍道,该靶场平台基于瑞莱智慧在模型攻防领域深厚的技术积累,包括白盒攻击、黑盒迁移攻击等前沿对抗技术以及与清华大学、阿里安全联合研发的AI对抗攻防基准(https://ml.cs.tsinghua.edu.cn/ares-bench/),将团队长期在攻防、竞赛、实战过程中形成的实践经验内化于平台之中。他透露,平台下一步将基于横向的通用计算机视觉任务,打造身份验证、自动驾驶等纵向细分领域的个性化定制方案。

 

作为全球领先的安全可控人工智能基础设施平台和解决方案提供商,瑞莱智慧曾多次参与承担科技部、工信部、公安部等部委发起的国家级重大项目建设任务,深度参与多项人工智能安全技术产品的标准制定与项目研究工作,是算法安全领域首个国标《机器学习算法安全评估规范》的核心起草单位。技术能力方面,团队曾荣获2017NIPS对抗攻防竞赛、2018 世界顶级黑客大会DEFCON的CAAD CTF对抗攻防邀请赛、2019 国际安全极客安全大赛GeekPwn“CAAD CTF图像对抗样本挑战赛”及 “CAAD隐身挑战赛”等在内的多项世界级AI安全大赛冠军。

 

人工智能安全靶场RealRange的建立,标志着瑞莱智慧在安全可控人工智能基础设施布局上迈出至关重要的一步。未来,瑞莱智慧将积极与更多机构开展合作,面向政府、金融、国家基础设施等行业领域开放能力,提高国家人工智能安全攻防演练水平,推动人工智能产业健康高速发展。