/**/
沟通咨询
提交成功

瑞莱智慧朱萌:人工智能安全防御应兼顾主动与被动

2022.01.18
公司动态

苹果手机的人脸识别解锁和支付新应用让人脸识别走向大众,随着商业化的大规模推行,在利益的考量下,人脸识别技术成为一种时髦的身份验证模式,甚至在一些生活情景里成为必经环节。商家通过利益的计算,或为了降低成本,使利润最大化,或为收集人像数据,达成用户资料的完整,更有甚者贩卖个人信息,在黑色市场上赚钱利润。

 

近日,由国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会成功举办,吸引了众多企业的专家代表参与,包括商汤科技、亚信安全、旷视科技、海康威视、的卢深视等人工智能公司。此外,来自国家工业信息安全发展研究中心、中科院、清华大学的专家也参与了研讨。

 


人工智能融合发展与安全应用研讨会现场

 

兼顾主动被动的AI防御

研讨会旨在推进国检中心建设高质量开展,优化资源配置,强化人工智能领域布局,国检中心成立专家委员会,邀请语音、图像、数据治理、安全等人工智能重点领域的专家学者作为国检中心专委会专家,未来持续开展技术研发、标准制定、政策研究等相关工作,促进人工智能产业高质量发展。
会上,瑞莱智慧RealAI高级副总裁朱萌就AI的安全风险进行了主题演讲。朱萌简要介绍了人工智能面临哪些安全风险:包括算法风险、AI高度依赖数据基础、隐私数据泄漏和技术滥用的风险。

 

朱萌在会上指出,应对人工智能风险需要遵循三项基础原则:前瞻性、整体性、技术属性和社会属性高度融合。面对纷乱复杂的AI技术和解决方案选择,整合人工智能产业链上下游资源、打造技术应对是行业迫在眉睫的诉求。凭借在AI攻防领域的丰富实践经验,瑞莱智慧提出了兼顾“被动”和“主动”的技术防御机制。比如,朱萌表示,瑞莱智慧RealAI的“四大安全平台”:AI安全防火墙、人工智能安全平台RealSafe、隐私保护计算机平台RealSecure和人工智能安全靶场,可以兼顾主被动的“安全观”。

 


瑞莱智慧RealAI高级副总裁朱萌

 

AI安全防火墙与传统网络安全防护墙类似,是业内首个AI安全防火墙,能够抵御对抗样本攻击、深度伪造攻击等新型攻击方式,攻击拒绝率高达98%以上。

 

人工智能安全平台RealSafe通过搭载的攻击算法对系统进行模拟攻击,评估系统表现,综合给出安全性评分,指出安全漏洞在哪,用户再通过搭载的防御算法,针对性的进行加固提升,类似于人工智能时代的“杀毒软件”。

 

隐私保护计算机平台RealSecure是一款基于安全多方计算、联邦学习、匿踪查询等核心技术打造的数据安全共享基础设施,比如在人脸识别应用中,基于该平台能够实现人脸数据的加密切片存储,有效保护用户隐私数据。

 

人工智能安全靶场:主动防御的安全体,类似于“演兵场”,实现主动防御,通过攻防实战演练将安全风险暴露前置,提前发现和适应瞬息万变的新型攻击和高级威胁,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

 

行业标准的重要参与

近年来,人脸信息作为一种识别性和人格性极强的个人信息,若被窃取将对我国信息安全造成重大威胁。目前我国人脸识别技术缺乏统一、规范的规制体系,给国家信息安全带来巨大隐患。

 

瑞莱智慧作为首个机器学习算法安全评估国家标准核心起草单位,与国家工信安全中心、国家互联网应急中心等单位开展合作,联合落地标准制定、测试评估等工作,包括参与制定我国人脸模型算法安全领域的首个标准《信息安全技术人脸比对模型安全技术规范》,推动AI安全从“试点示范”走向“推广应用”。

 

朱萌介绍,在框架指导方面,瑞莱智慧在工信部网安局的指导下,联合中国信通究院以及多家机构,撰写发布首个人工智能安全指导框架,针对人工智能安全技术实施提供指引。同时在标准方面,瑞莱智慧与国家工信安全中心、国家互联网应急中心等单位开展合作,联合落地标准制定、测试评估等工作,推动AI安全从“试点示范”走向“推广应用”,并负责算法安全部分的标准制定。

 

虽然人脸识别已经广泛应用在治安防控、教育、金融支付等领域,但技术的缺陷性使瑞莱智慧不得不以审慎的眼光看待技术的使用,以此促进技术的进步优化。

 

朱萌认为,当前AI的安全治理正呈现爆发式增长的阶段,在技术高速发展之余,AI产业也正面临日益复杂和多样的需求,需要多方合作、资源互补,方能实现共赢。瑞莱智慧将继续深耕AI安全赛道,同时也将继续积极参与全球行业活动,聚力各方,共创AI安全的新业态。