近日，由国家科技部主导的“科技创新2030重大项目——安全大脑国家新一代人工智能开放创新平台”正式进入实施评审阶段，其中“面向人工智能算法的安全对抗攻防”的课题任务将由清华大学与海淀创业园孵化企业瑞莱智慧RealAI共同承担研发。
科技创新2030重大项目是体现国家战略意图的重大工程，人工智能算法模型安全研究作为提升人工智能自身安全的重要课题参与其中，体现了国家新一代人工智能发展规划对人工智能安全治理的重要布局。
由RealAI负责的“面向人工智能算法的安全对抗攻防”课题项目主要针对深度学习对抗攻防中存在的问题，深度学习的对抗攻击、鲁棒防御和算法库等方面进行研究，为人工智能模型的安全性和可信赖应用提供理论基础和技术储备。
作为清华大学人工智能研究院设立的人工智能企业，RealAI是国内率先对深度学习的对抗攻击与防御进行深入研究的课题组之一，在人工智能的对抗安全领域具有深厚的积累，在ICML、NIPS、CVPR、AAAI 等顶级会议期刊发表论文数十余篇，提出多种代表性的深度学习对抗攻防算法，被主流开源软件收录为标准方法，荣获英伟达先锋研究奖。在2017NIPS对抗攻防竞赛、2018 DEFCON CAAD CTF对抗攻防赛等多项国际竞赛中，RealAI战胜多支顶尖参赛队伍斩获冠军，在2019 国际安全极客安全大赛GeekPwn上更是一举获得“CAAD CTF图像对抗样本挑战赛”及“CAAD隐身挑战赛”两项冠军。
对于项目的未来规划，RealAI表示将持续强化对抗攻防关键技术的研发，同时构建对抗攻防算法系统平台和对抗安全基准，打造行业应用示范，助力建设国家级AI安全防护体系，为科技创新2030的实现贡献力量。
瑞莱智慧RealAI作为亚洲首家第三代安全可控人工智能技术及行业解决方案提供商，于2018年依托清华大学人工智能研究院设立。公司致力于建设安全可控人工智能应用生态，推动人工智能落地全新的关键应用场景。目前 RealAI 已经落地于金融、能源、制造、互联网等领域，提供金融智慧风控、智慧理财、工业设备预测性维护、人脸识别系统安全检测与增强等产品和解决方案。