2015/7/13 下午12:06:19 星期一
当前位置: 主页 > 周而复始 >

阿里安全奥创:人工智365体育网投: 能赋予安全更多的机遇和挑战
时间:2019-05-31 14:44

阿里安全奥创:人工智能赋予安全更多的机遇和挑战

时间:05-27 18:46 阅读:4575次 转载来源:搜狐财经

原标题:阿里安全奥创:人工智能赋予安全更多的机遇和挑战

人工智能已经到了大规模落地应用的阶段,近日刚刚结束的第三届世界人工智能大会上,《中国新一代人工智能科技产业发展报告(2019)》公布的一组数据揭示了这一现状:745家中国人工智能企业中,应用层企业占比高达75.2%,包括智能制造、科技金融、新零售和智能安防等18个应用领域。

“阿里在新零售安全领域应用进行了很多探索,比如电商治理中营商环境的安全,我们还把防火以及食品安全也纳入到这个范畴中来,让安全有了新的定义,”阿里安全图灵实验室奥创在大会上指出,随着人工智能技术的不断应用,安全问题也不断浮现,“既懂安全又懂AI的人才,在未来无疑是最宝贵的。”

图说:阿里安全图灵实验室奥创在第三届世界智能大会上谈安全AI及人才培养问题

放眼全球,人工智能近年来发展势头迅猛。5月16日,两场以人工智能为主题的国际盛会,在天津、北京开幕,中国国家主席习近平也向两场国际盛会发出贺信:推动新一代人工智能健康发展,更好造福世界各国人民。

奥创参与的世界智能大会专门开设了人工智能与安全的分论坛,来自政府、高校、企业等多方角色共同探讨人工能智能带来的安全风险以及解决之道。“计算机的优势就在于速度和影响规模上,拥有比人类更强大的能力,伴随着人工智能的发展,这一优势会被进一步放大,有可能会出现令人无法察觉或无法防范的攻击,”奥创在讨论中指出,不过,人工智能在辅助安全方面对防御的提升,也会大于对攻击的提升,最终将攻防拉到同一水位上,甚至可能会扭转防守方一直以来的劣势。

近期,“AI换脸”频频登上热搜,引发外界关于技术伦理的争论。“很多技术的出发点是好的,但很多人较少关注技术被滥用的可能性,”奥创表示,对于政府来说,完善法律法规和加强道德规范的建设,而工程师对于技术开发和开放的态度一定程度上需要改变,“对于学界来说,要加强在AI防御的研究,不仅是生成,也包括鉴伪,也要增加在AI交叉学科的投入,比如法学、心理学、道德伦理学等。”

据悉,阿里于今年年初提出安全AI概念,即安全场景中进化出的AI,拥有更强、更多元化的能力,目前阿里安全图灵实验室的安全AI技术应用于知识产权保护、内容安全、新零售安全、智能核身等多个领域,仅人脸识别技术已应用在100多个场景,实现刷脸就医、刷脸进景区、大型活动刷脸入场、配送员认证、刷脸取快递等。

“在安全AI的应用中我们发现,感知类的问题比如图像识别、语音识别等,可以通过信息驱动,但一些认知类的任务,比如电商风险问题中就很依赖于知识图谱等技术,”奥创表示,网络安全的发展历史悠久,大量的专业知识沉淀在少数专家脑海中,所以安全人才的缺口是个大问题,“尤其AI带来更多的安全问题,无论是AI辅助解决安全问题,还是其他方式,既懂安全又懂AI的人才无疑是最宝贵的。”

附发言全文:

我是来自阿里巴巴安全部的薛晖(花名:奥创),也是阿里安全图灵实验室的负责人。该实验室主要负责图像视频、自然语言处理以及语音等技术在安全场景的应用,也包括一部分AI技术自身的安全性研究。

第一个问题是,人工智能发展下是否有可能发生白帽子无法察觉或无法防范的攻击?

我认为存在这样的可能。我们知道,原本计算机的优势就在于速度和影响规模上,拥有比人类更强大的能力;伴随着人工智能的发展,计算机与人类在创造性和认知理解能力上的差距被进一步缩小,而原本就占优的速度和影响规模优势被进一步放大,是有可能会出现令人无法察觉或无法防范的攻击的。

但不要忘了,人工智能不仅可以放大攻击方的能力,防守方也同样可以借助人工智能技术来加固自己的堡垒。当前网络攻击实际是攻防不对等的;相对于攻击方来说,防守方所需要覆盖的面要大得多,受限于人力的因素其实是很吃亏的;比如现在我们有机会能从海量的日志中去发现蛛丝马迹,这在过去靠人力的时代是基本不用想的。我认为人工智能在辅助安全方面,对防御的提升会大于对攻击的提升,最终将攻防拉到同一水位上,甚至可能会让扭转防守方一直以来的劣势。

第二个问题,很多人在问,学术界和工业界研发的差异是什么?

之前颜教授有过总结,365体育投注在线,我觉得很精辟:学术界是追求极限,工业界则是在商言商。