蚂蚁安全实验室联合浙江大学任奎教授团队发布《人工智能安全白皮书（2020）》

摘要：学界和业界共同视角全方位阐述AI安全

人工智能（Artificial Intelligence， AI）在当代生活中，服务于人们衣食住行的方方面面，已不是陌生的技术名词。在国家战略层面，AI已成为迎接新一轮科技革命浪潮和产业变革机遇的重要引擎。在AI推动社会经济各个领域从数字化、信息化向智能化发展的同时，也面临着潜在的安全性威胁。对AI安全的前瞻性研究与布局，已是近年来学术界和工业界越发重视的课题。

近期，蚂蚁安全天堑实验室联合浙江大学网络空间学院院长任奎教授团队，共同颁布了《人工智能安全白皮书（2020）》，从学界、业界的共同视角全方位阐述人工智能安全。该白皮书耗费近一年时间研究撰写完成，完整版篇幅将近6万字。

蚂蚁安全天堑实验室负责人刘焱介绍，此次《人工智能安全白皮书（2020）》的编写聚焦于AI技术中模型、数据与承载系统的安全问题，首先介绍了AI模型、数据与承载系统面临的安全威胁，然后逐一介绍针对这些威胁的防御技术，最后面向未来AI安全技术的发展趋势，提出AI应用的一站式安全解决方案——AI模型安全开发生命周期（AI SDL）。

蚂蚁集团副总裁韦韬表示，“AI是数字新基建战略的重要组成部分，但AI技术还面临着很多的挑战。比如今天的深度学习，就像一个有特异功能的孩子，有些事情做的非常好，比大人还好。但是你不知道他什么时候突然就不高兴了，不做了；也不知道什么时候，他可能为了一颗糖果就被骗了。目前各行各业都在大力推广AI的应用，但同时也要对AI技术所面临的挑战和风险有着清醒的认知。本次白皮书的发布，系统性地总结了学术界与工业界对AI安全与隐私保护技术的相关研究成果，希望能成为AI安全领域研究的重要参考，为推动行业共同应对AI技术所面临的安全与隐私威胁，贡献一份力量。”

《人工智能安全白皮书（2020）》也是“浙江大学-蚂蚁集团金融科技研究中心”——“数据安全与隐私保护实验”的研究成果之一。2019年，蚂蚁集团与浙江大学合作共建的“浙江大学-蚂蚁金服金融科技研究中心——数据安全与隐私保护实验室”，共同研究数字金融面临的数据安全与隐私保护问题，联合推进前沿科技研究，聚焦安全多方计算、可信环境、数据安全等领域，探索新技术在大数据场景下的安全用，推动产学研协同和成果创新，培养适应未来需要的实践人才。

浙江大学网络空间安全学院院长任奎表示，“AI安全的命题是国家人工智能战略背景下的长期命题，推动AI安全技术的切实发展，需要学术界和工业界的紧密合作。此次与蚂蚁安全实验室共同研究并发布AI安全白皮书（2020），正是学术界与工业界携手合作的又一次成功实践，希望这本白皮书的研究成果对学界和各行各业的AI安全工作都能有借鉴意义。”

蚂蚁安全天堑实验室

蚂蚁安全天堑实验室隶属于蚂蚁安全九大实验室之一。蚂蚁安全天堑实验室致力于AI安全与隐私保护领域的研究、技术突破和人才培育，并以用户隐私保护为核心任务，打造蚂蚁集团全球领先的信息安全能力。