Loading… 关于人工智能 有些问题真的“细思极恐”!_TOM新闻
正文
Qzone
微博
微信
关于人工智能 有些问题真的“细思极恐”!
2018-08-13 15:54 TOM   

Black Hat 大会已经走过了20个年头,作为世界领先的信息安全峰会,它为与会者提供了大量的第一手安全研究、开发和趋势资讯。而今年的Black Hat 大会,也仍然对当下最热的领域进行了深度的讨论与剖析,比如区块链、人工智能等。

世界各地的安全公司、研究团队,想要跻身议题接受率不足20%的Black Hat,并不是一件容易的事。而作为国内最大的互联网安全公司,360再次让我国在世界安全圈扬眉吐气——共有7个议题入选,创下了国内公司入选议题的新高。

这些入选的议题,覆盖了芯片漏洞、手机系统漏洞、智能硬件安全、人工智能算法安全性、物联网等当下备受关注的领域,其中,由360智能安全研究院院长李康带来的“AI安全隐患”议题,可以说是给最近大热的人工智能领域,提供了一个新的思考角度。

在大会现场,李康教授指出目前AI行业正在飞速发展,但是其中也存在一些问题,比如许多深度学习开发人员,如今仍然没有意识到AI软件在实际操作时很有可能存在的风险。

对于这些风险,李康教授也用自己在实验中发现的一些真实情况做了举例:通过检查一组新开发的AI应用程序,例如图像分类和语音识别,研究人员发现开发者对于其学习、分类能力,有着过于乐观的预估。但其实,其中存在的漏洞,和可能会被攻击者利用的“把柄”还有很多。

李康教授还在现场展示了许多AI威胁案例,以及各种攻击效果,包括逃避分类、数据泄漏、甚至是整个系统对攻击者的妥协。最后,他还说到:“我们希望通过展示这些威胁和风险,可以吸引开发人员对AI软件安全的关注,并呼吁整个人工智能及安全行业,一起努力,全面提高深度学习框架和AI应用程序的软件安全性,为未来人工智能的发展注入动力。”当然,关注当下安全问题,把握未来发展趋势,这也是Black Hat 大会每年召集全球信息安全从业者们共同探讨、分享的初衷。

 

责任编辑: 3976DBC TS009-BD

责任编辑: 3976DBC TS009-BD
广告