Loading… 电商攻防升级 京东安全:以AI对抗AI_TOM新闻
正文
Qzone
微博
微信
电商攻防升级 京东安全:以AI对抗AI
2018-05-04 17:17 Tom   

智能音箱、智能家居、无人车、无人仓库、无人机……在科技界“言必称AI”的亢奋当下,同样亢奋的,还有另一群人。

2018年2月,一份由OpenAI 、牛津大学、剑桥大学等14家机构和高校共同发布了《人工智能恶意使用》报告,该报告详细讲述了人工智能技术潜在的「恶意」用途,以及预防措施。他们认为,这项技术可能在未来5到10年催生新型网络犯罪、实体攻击和政治颠覆。

这并不是危言耸听,在近期召开的QCON北京2018全球软件开发大会上,京东安全硅谷实验室负责人苏志刚就指出“网络黑色产业链(下简称‘黑产’)正在运用AI技术助推其犯罪工作。用AI对抗AI已经成为当下安全攻防之战的焦点.”

电商攻防战军备升级:以AI对抗AI

据不完全统计,目前我国直接或间接参与网络黑产的不法分子已经有数百万之巨,在AI技术的“赋能”下,黑产组织的犯罪行为呈现出高度组织化、规模化以及智能化的特征。在这一情况下,京东安全在黑产攻击的全流程中部署实施了反攻策略,保障电商全流程的安全。

以黄牛为例, 一次黄牛的攻击行为大致可以分为爬虫爬取活动信息、IM群组传递爬虫反馈回来的信息、黑产软件自动登录、定时下单、AI平台破解验证码实现成功购买,收货转卖几个环节。

在对抗黄牛上,京东安全采取了“步步拦截”、“层层化解”的方式,例如用反爬虫技术拦截黑产爬虫,监控黑产的活动,获得诸如黑产工具、平台等相关信息,进行提前拦截,并通过对黑产工具的研究对关键节点进行加固。

苏志刚指出,打击机注(机器注册)是电商“反黑”之战的攻坚点,也是攻防双方AI大战的焦点。在机注的识别上,京东安全采用了黑产情报、无监督学习+有监督学习、人机识别三管齐下的方式,通过黑产情报了解实际攻击的工具、技术跟场景;利用无监督及有监督学习相结合降低误判率,保障真实用户的体验;基于京东多场景的人机识别,识别出机器注册的行为特征,并对其加以标注。

图片验证码的对抗也是AI对抗AI的一个典型场景,黑产利用AI对图片验证码进行破解,防守方则利用AI进行反攻。反攻的第一步是做模型的提取,因为黑产平台会使用AI模型做图片验证。基于这个洞察,京东安全用尽可能少的查询,给黑产的系统提供一些图片验证码进行识别。通过这些打标去自动找出黑产模型的弱点,获取近似模型,然后产出对抗性样本。关键原理是模型弱点是可转移到近似模型的。使得新产生的图片验证码在真人识别时不会产生混淆,但是AI平台强行打码时会出现误判,从而击垮黑产AI的机器学习。

在苏志刚看来,得益于京东自身庞大的数据量和丰富的人机识别场景,京东安全得以持续、有效地应对黑产的不断‘变种’和升级。但就长期而言,与黑产的对抗仍将是一个长期且艰巨的过程,“AI对抗AI,是一个不断持续,快速升级的过程。在AI的助力下,黑产对抗是非常敏捷的,大概一到两天就能产生一个新的变本,以提高他自己的功能,这对于安全团队是一个持续的挑战”。

为了安全的安全,AI安全成网络安全焦点

就目前而言,电商平台面对的安全挑战类型可分为两大类型,一是系统级别的安全,包括设备终端、云端跟通讯协议;还有一个则是人工智能本身的安全,即针对AI系统本身的供给和相关安全性的问题。

“京东有着非常丰富的AI应用场景,例如无人仓、无人汽车、无人机等。这使得我们面临的AI安全挑战也是前所未有的。仅以无人机为例,在无人机上,有人身安全的问题,降落环节环境的识别跟人体识别,设备安全里要做到自主避让、空中交通的关系跟自主规划路径。在这方面还有数据安全,如果GPS被劫持,我们的货有可能送到黑产手上,还有数据传输的劫持等。”苏志刚介绍说。

为了更有效地保障AI安全,京东安全将AI安全分为了初级、中级跟高级三个级别。初级安全问题指的是AI无法按照既定功能运行,如无人车无法正常识别路况、无人机自主规划的路线违背了规则等;中级安全指的是AI被攻击者所控制,成为其达成目标的工具。例如无人车被攻击者控制后造成将货物送到黑产手里;高级问题是AI系统对其它系统进行大规模损坏性的攻击,或者消耗系统所有资源,导致其它系统瘫痪。

在AI系统安全方面,京东安全做了三方面的研究,包括软件级别的研究,如防御缓存的溢出、接入控制等; AI系统级别的安全研究,如在有对抗样本下做learning,从架构跟方法两个层面保证learning系统是安全的等;以及分布式级别的研究,确保每个agent所做的局部性最优的决策,能够达到全局最优。

在京东安全的硅谷研发中心、大数据、AI、智慧供应链、平台产品研发、智慧物流、安全等部门正在密切协作。“保障AI技术的安全,用AI技术更好地保障安全”是京东安全的永恒命题,也是整个互联网安全行业必须面对的共同命题。

业内专家指出,在AI时代,黑产与反黑产不仅仅是数据和技术问题,更是牵一发而动全身的社会问题。这一问题的解决,单靠企业或安全机构是远远不够的。只有全行业、全社会、政企民携手,打破信息孤岛,全民联防联控,从源头建立安全防控意识,我们才有机会在这场扩日持久的拉锯战中占得先机。这也是京东安全反复强调的共建“网络安全命运共同体”的根源所在。

责任编辑: 3903YSS TS002-BD
责任编辑: 3903YSS TS002-BD
广告