沟通咨询
提交成功

田天:伦理规则和技术安全是AI高质量发展的关键

2022.11.10
AI治理研究院  -   监督体系  -  
治理机制构建
研究院观点
来源:瑞莱智慧

近年来,随着算法的快速发展,算力、数据等资源的日益丰富,人工智能产业呈现快速发展态势。放眼未来,人工智能若要实现高质量发展,需要突破伦理规则和技术安全两大关键问题。

 

日前,2022世界互联网大会乌镇峰会正式召开。本次大会以“共建网络世界、共创数字未来——携手构建网络空间命运共同体”为主题,聚焦全球网络前沿技术发展新趋势、网络空间治理新态势。

 

11月10日,作为人工智能领域的代表企业,瑞莱智慧CEO田天受邀出席数字基础设施、人工智能与数字伦理等多场主题论坛,与北京冬奥组委技术部部长喻红等专家代表展开圆桌对话,共话人工智能在数字基础设施融合中的重要价值,同时共同探讨人工智能模式优化和治理体系的构建。

 

 

在数智化时代,人工智能与云计算、区块链等技术一样,是基础设施的重要组成。田天表示,人工智能充当着“大脑”的角色,在目标性能的实现、设施运维的智能化和设施安全保障等方面发挥着重要作用。例如,运用人工智能的计算机视觉技术,可以实现工业残次品的检测、构建人脸识别安防设备,在提升生产性能与生产效率的同时,大幅提升安全保障能力。

 

近年来,随着算法的快速发展,算力、数据等资源的日益丰富,人工智能产业呈现快速发展态势。但田天表示,放眼未来,人工智能若要实现高质量发展,需要突破伦理规则和技术安全两大关键问题。

 

首先,随着人工智能逐步成为经济社会的关键角色,它与人类的交互规则构成了伦理问题,例如,人机控制权分配、人工智能采信度等等。田天表示,作为一项具有开放性但又远未成熟的新技术,人工智能不可避免地会对现有伦理关系与社会结构造成冲击。比如,人类对机器控制权的不适当让渡,会导致恶性事故的发生,典型的例子如自动驾驶汽车电子刹车系统失控引发交通事故,以及过度信任算法而忽视算法偏见导致的不公平事件等。随着人工智能对生产生活方方面面的不断渗透,伦理问题层出不穷。

 

其次技术安全问题。田天解释道,与传统软件系统运行逻辑的确定性不同,当前主流的人工智能应用基于第二代深度神经网络技术,其模型参数从数据中学习而来,决策逻辑和链路天然存在大量不确定性,鲁棒性和可解释性具有本质缺陷,只需在输入数据中添加细微的扰动噪点,就能够使模型出错,对抗样本攻击就是典型的例子。以当前落地应用最为广泛的人脸识别为例,这一技术实现的整个过程为黑箱模式,主要依靠海量人脸数据进行特征提取、训练和识别,从而能够利用相关漏洞,采用多种形式进行攻击。例如,在人脸照片上添加少量干扰或将对抗补丁打印制作后由真人佩戴,以这种定向攻击的形式破解人身核验。

 

面对这些问题,田天表示,需要从伦理规则和技术规则两方面加以解决。一是伦理规则建设。这涉及到人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题,需结合具体应用场景,打造可量化、可度量、可执行的具体标准,再落实到算法、代码层面。二是技术路径优化。在数据、算法、算力三大要素基础上,将知识要素融合进来,发展安全、可靠、可信和可扩展的第三代人工智能,不断提升人工智能的鲁棒性和可解释性,同时持续提高人工智能伦理安全、技术安全的敏捷测评水平,使之成为保障人工智能产业高质量发展的关键能力。

 

田天强调,人工智能企业应在产业高质量发展格局中,积极发挥探索者和践行者的作用。以Real AI为例,作为依托清华大学人工智能研究院孵化的人工智能创新企业,充分发挥自身技术优势,相继推出人机协同AI平台、人工智能安全平台、人脸AI防火墙、隐私保护计算平台、深度伪造检测平台、人工智能安全靶场等一系列创新产品,覆盖人工智能创新研发环境、安全攻防、数据保护与应用、深伪检测和模拟演训等多个领域,持续发现安全风险,为行业客户增强防御力、提升检测能力,为智能社会构建安全基础。

 

此外,为推动人工智能伦理治理体系的建立,RealAI成立AI治理研究院,提出“安全可控、敏捷评测、开放共治”的治理理念,以“做人工智能治理规则的贡献者、治理技术的探索者、产业融合的践行者”为使命,搭建由“研究体系”、“实践体系”和“监督体系”组成的治理框架,持续开展人工智能伦理规则、治理实践与监督体系的研究,着力于伦理规则与立法贡献、治理技术落地与探索伦理安全规范。

 

面向未来,人工智能伦理规则与安全技术将进一步筑牢人工智能内生安全,为产业未来发展绘好底色。田天表示,RealAI将持续聚焦人工智能创新研究,锚定人工智能治理风向,为人工智能的高质量发展锐意拓新、添砖加瓦。