Loading… 蚂蚁安全实验室联合浙江大学任奎教授团队发布《人工智能安全白皮书(2020)》_TOM资讯
正文
Qzone
微博
微信

蚂蚁安全实验室联合浙江大学任奎教授团队发布《人工智能安全白皮书(2020)》

2021-01-08 12:05 TOM   

摘要:学界和业界共同视角全方位阐述AI安全

人工智能(Artificial Intelligence, AI)在当代生活中,服务于人们衣食住行的方方面面,已不是陌生的技术名词。在国家战略层面,AI已成为迎接新一轮科技革命浪潮和产业变革机遇的重要引擎。在AI推动社会经济各个领域从数字化、信息化向智能化发展的同时,也面临着潜在的安全性威胁。对AI安全的前瞻性研究与布局,已是近年来学术界和工业界越发重视的课题。

近期,蚂蚁安全天堑实验室联合浙江大学网络空间学院院长任奎教授团队,共同颁布了《人工智能安全白皮书(2020)》,从学界、业界的共同视角全方位阐述人工智能安全。该白皮书耗费近一年时间研究撰写完成,完整版篇幅将近6万字。

 蚂蚁安全实验室联合浙江大学任奎教授团队发布《人工智能安全白皮书(2020)》

蚂蚁安全天堑实验室负责人刘焱介绍,此次《人工智能安全白皮书(2020)》的编写聚焦于AI技术中模型、数据与承载系统的安全问题,首先介绍了AI模型、数据与承载系统面临的安全威胁,然后逐一介绍针对这些威胁的防御技术,最后面向未来AI安全技术的发展趋势,提出AI应用的一站式安全解决方案——AI模型安全开发生命周期(AI SDL)。

蚂蚁集团副总裁韦韬表示,“AI是数字新基建战略的重要组成部分,但AI技术还面临着很多的挑战。比如今天的深度学习,就像一个有特异功能的孩子,有些事情做的非常好,比大人还好。但是你不知道他什么时候突然就不高兴了,不做了;也不知道什么时候,他可能为了一颗糖果就被骗了。目前各行各业都在大力推广AI的应用,但同时也要对AI技术所面临的挑战和风险有着清醒的认知。本次白皮书的发布,系统性地总结了学术界与工业界对AI安全与隐私保护技术的相关研究成果,希望能成为AI安全领域研究的重要参考,为推动行业共同应对AI技术所面临的安全与隐私威胁,贡献一份力量。”

《人工智能安全白皮书(2020)》也是“浙江大学-蚂蚁集团金融科技研究中心”——“数据安全与隐私保护实验”的研究成果之一。2019年,蚂蚁集团与浙江大学合作共建的“浙江大学-蚂蚁金服金融科技研究中心——数据安全与隐私保护实验室”,共同研究数字金融面临的数据安全与隐私保护问题,联合推进前沿科技研究,聚焦安全多方计算、可信环境、数据安全等领域,探索新技术在大数据场景下的安全用,推动产学研协同和成果创新,培养适应未来需要的实践人才。

浙江大学网络空间安全学院院长任奎表示,“AI安全的命题是国家人工智能战略背景下的长期命题,推动AI安全技术的切实发展,需要学术界和工业界的紧密合作。此次与蚂蚁安全实验室共同研究并发布AI安全白皮书(2020),正是学术界与工业界携手合作的又一次成功实践,希望这本白皮书的研究成果对学界和各行各业的AI安全工作都能有借鉴意义。”

蚂蚁安全天堑实验室

蚂蚁安全天堑实验室隶属于蚂蚁安全九大实验室之一。蚂蚁安全天堑实验室致力于AI安全与隐私保护领域的研究、技术突破和人才培育,并以用户隐私保护为核心任务,打造蚂蚁集团全球领先的信息安全能力。

 

责任编辑: WY-BD

责任编辑: WY-BD
广告