首页| 滚动| 国内| 国际| 军事| 社会| 财经| 产经| 房产| 金融| 证券| 汽车| I T| 能源| 港澳| 台湾| 华人| 侨网| 经纬
English| 图片| 视频| 直播| 娱乐| 体育| 文化| 健康| 生活| 葡萄酒| 微视界| 演出| 专题| 理论| 新媒体| 供稿

人工智能时代更安全?百度韩祖利:机遇与挑战并存

2018年03月28日 23:18 来源:中新经纬 参与互动 

  人工智能时代更安全?百度韩祖利:机遇与挑战并存

  中新经纬客户端3月28日电 由中国新闻社旗下财经新媒体中新经纬主办的第五届财经中国V论坛28日在北京举行。百度安全产品部总经理韩祖利在主旨演讲中指出,人工智能领域的安全战线比之前更长、更复杂,包括现在广为流行的生物识别技术也存在安全隐患:在光照足够的情况下,10米开外用单反相机就可以拍到虹膜,并且低成本地复制出来。

百度安全产品部总经理韩祖利。中新经纬 李卿摄
百度安全产品部总经理韩祖利。中新经纬 李卿摄

  人工智能能为互联网安全做什么?

  韩祖利指出,百度每天在互联网上抓取到几十亿网页,其中不可避免有一部分包含恶意攻击,如银行仿冒网站、虚假中奖信息、博彩或色情网站等。这些恶意网站也非常狡猾,不断变换规则以逃避网址安全检测和监察。

  韩祖利表示,过去只能靠人工来发现恶意网站,并从中总结出一些通用匹配的规则。有了人工智能后,这个工作就变得更加轻松了:人类可以把筛选出的绝对违法、绝对有恶意的网站去训练一个模型,用它不断在几十亿网页里寻找新的恶意方式和欺诈方式。

  据他介绍,目前在某些领域,人工智能的准确率已超过人类,因为人总会被一些信息误导。例如字符1和I非常相近,人可能会出现判断失误,但对于机器来讲不可能弄错。还有一些攻击者使用图片显示恶意信息以逃避监管,这时可使用人工智能的图片识别功能,将这些恶意网页打捞出。

  人工智能时代的安全战线比之前更长

  韩祖利指出,人工智能时代的安全战线比之前更长、更复杂,多了数据风险、传感器欺骗等棘手难题。

  据他介绍,人工智能在进行图片分类时,具有极易受干扰的一面。虽然人工智能在某些方面精准度可超过人类,但在复杂情况下还远远达不到。例如,两张自行车图片在人类看来一模一样,但对于机器很可能并不一样,如果加一些干扰因子,机器会把其中一辆识别成蟑螂。

  韩祖利称,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被复制。据了解,在光照足够的情况下,10米开外用单反相机可以拍到虹膜,可以低成本地复制出来。此外,生物识别传感器本身没有那么高精度,很容易会被欺骗,导致采集的数据出现问题。

  此外,韩祖利还指出,目前人工智能的研究应用,基本上都会沿用一些框架,依赖库非常多;但依赖库本身往往存在安全漏洞,导致人工智能也不可避免存在风险。

  百度如何应对人工智能的潜在风险?

  韩祖利指出,为应对人工智能的潜在风险,百度研发了如下技术工具:

  首先是对抗样本工具包Advbox。百度提供了一套安全对抗样本的工具,以测试深度学习模型抵御对抗样本的健壮性,在使用PaddlePaddle(百度深度学习平台)时,可以检验生物识别、图像验证等会不会出现问题。这套工具会随着PaddlePaddle的开源,提供给整个产业。

  其次,是多因子认证解决方案。人工智能行业尚缺乏标准,对于生物认证单靠一个因子并不可靠,弥补单一因子的局限性和安全风险,同时采取两种或两种以上的认证方式,比如强因子与弱因子叠加,同时欺骗两种认证方式,难度就大很多了。此外,想要安全地上线生物识别,无疑需要一个更强大更统一的生物识别行业标准,这需要整个产业链互联网厂商、硬件厂商、芯片厂商、安全厂商、行业监管部门、学界通力合作,切实保障身份认证全产业链的安全。百度基于多年生物识别的研究与实践,持续加大对多因子认证行业核心技术与解决方案的研发投入,同时拓展多因子认证新场景。

  此外,关于IOT(物联网)在整个智能设备中的安全问题,百度也提供了一套完整的框架解决方案免费给很多厂商使用,包括云端的安全、在设备端提供病毒防护,甚至一些漏洞的热修复能力等,都在不断完善。(中新经纬APP)

【编辑:刘船】
本网站所刊载信息,不代表中新社和中新网观点。 刊用本网站稿件,务经书面授权。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
[网上传播视听节目许可证(0106168)] [京ICP证040655号] [京公网安备:110102003042-1] [京ICP备05004340号-1] 总机:86-10-87826688

Copyright ©1999-2024 chinanews.com. All Rights Reserved