/**/
沟通咨询
提交成功

唐家渝:安全是可信AI的第一要义丨2022服贸会

2022.09.05
公司动态

日前,由商务部和北京市人民政府共同主办的2022年中国国际服务贸易交易会在京举行。9月3日,作为服贸会专题论坛之一,以“智在融合 · 安全护航”为主题的世界人工智能融合发展与安全应用论坛正式召开,围绕人工智能融合发展和安全治理的现状趋势展开全景式的探讨。

 

瑞莱智慧RealAI副总裁唐家渝受邀出席论坛,并以《可信人工智能的实践之路》为题,向与会专家、线上观众进行了分享。

 

图片
 

安全风险,潜存于AI全生命周期

 

众所周知,数据、算法和算力是当前人工智能的三大核心要素。然而,在人工智能应用的全生命周期中,海量数据、AI软硬件基础设施、人工智能模型这“三座基石”却无不存在着安全风险。以前两者为例,如:数据投毒、数据泄露、AI开源框架漏洞、网络安全漏洞等。

 

更为严峻的风险则来自于人工智能模型本身,深度学习算法的黑箱性、数据依赖性等特点,导致其过程难解释、行为难预测、结果难控制,在与各行业场景深入融合应用的过程中,恐带来日益复杂的安全风险。

 

唐家渝介绍,RealAI团队研究发现,算法风险广泛存在于人脸识别、目标检测、自动驾驶等高安全需求的场景。例如,公共安全领域,视频监控、安检闸机等智能安防设备被不法分子攻击,用于躲避追踪、冒充他人;交通领域,自动驾驶汽车被干扰“致盲”,引发安全事故;在金融领域,线上银行的人脸认证被破解,用于非法转账等诈骗行为。

 

图片

瑞莱智慧RealAI副总裁唐家渝

 

为此,RealAI明确了应对人工智能风险的三大基础原则,分别是:前瞻性,对未知威胁进行风险预判和策略调整,打造动态升级、科学前瞻的防御理论和技术体系;整体性,面向人工智能应用的所有关键流程及全生命周期,布局全面且有针对性的应对措施;协同性,遵循以人为本的最高原则,坚持发展与治理协同, 在保障最大范围开发和利用人工智能创新成果的同时,开展技术治理和社会治理的协同工作。

 

探寻安全与发展动态平衡的“技术解”

 

“围绕上述原则,RealAI展开了一系列技术部署,构建了人工智能安全技术体系。”唐家渝说,基于底层自研的人工智能安全开发框架,RealAI对对抗攻防、模型后门、深伪合成和检测等对抗技术进行了深入研究,打造了集成主流及独有的世界领先攻防算法的典型应用以及标准化产品。

 

图片

 

RealAI先后推出了业内首个针对AI系统的防火墙RealGuard、安全检测产品人工智能安全平台RealSafe以及业内首个实战化、体系化AI攻防演习支撑平台RealRange,全方位提升新型AI安全风险的应对能力。在数据安全方面,RealAI基于安全多方计算、联邦学习、可信执行环境等技术打造了数据安全共享基础平台隐私保护计算平台RealSecure。

 

唐家渝表示,除了持续打造、打磨“标品”,RealAI还积极参与标准制定,是人工智能安全相关标准的核心起草单位,包括国内第一个算法安全的团标,以及目前在征求意见稿阶段的第一个算法安全国标。此外,RealAI还承担工信部揭榜挂帅测评工作,负责算法安全部分的标准制定。

 

图片

 

如何实现安全发展与安全的高水平动态平衡,是当前人工智能的重要命题,也是RealAI的时代使命。RealAI愿以构建安全、可靠、可控的人工智能基础设施为“可信AI”提供科技支撑,让AI向“善”进化。