2015/7/13 下午12:06:19 星期一
当前位置: 主页 > 平步青云 >

吓人!Siri等语音助手365体育网投: 能听到你听不到的隐藏指令
时间:2019-05-31 15:26

摘要:网易科技讯5月12日消息,据《纽约时报》报道,Alexa、Siri等语音助手能够听到你听不出的隐蔽性指令。研究者们称,他们能够将发给语音助手的指令嵌入到音频和口头录音,从而让人类无法察觉。许多人已经习惯了与他们的智能设备交谈,习惯了通过发出指令让它们朗读文本、播放歌曲或设置闹钟。但其他人可能也在偷偷地跟它们说话。在过去的两年里,中国和美国的研究人员已经开始证明,他们可以给苹果的Siri、亚马逊的Alexa和谷歌的GoogleAs

吓人!Siri等语音助手能听到你听不到的隐藏指令

网易科技讯 5月12日消息,据《纽约时报》报道,Alexa、Siri等语音助手能够听到你听不出的隐蔽性指令。研究者们称,他们能够将发给语音助手的指令嵌入到音频和口头录音,从而让人类无法察觉。

许多人已经习惯了与他们的智能设备交谈,习惯了通过发出指令让它们朗读文本、播放歌曲或设置闹钟。但其他人可能也在偷偷地跟它们说话。

在过去的两年里,中国和美国的研究人员已经开始证明,他们可以给苹果的Siri、亚马逊的Alexa和谷歌的Google Assistant发出人耳无法察觉的隐蔽性命令。在大学实验室里,研究人员已经能够秘密地激活智能手机和智能音箱上的人工智能系统,让它们拨打电话号码或者打开网站。要是落在不法分子的手里,这项技术可能会被用来打开别人的门、转账或者网上购物――只需通过收音机播放音乐即可实现。

2016年,来自加州大学伯克利分校和乔治城大学的一个学生团队证明,他们可以通过隐藏于扬声器和YouTube视频传出的白噪音的指令,来让智能设备打开飞行模式或打开网站。

这个月,伯克利大学的一些研究人员发表了一篇更进一步的研究论文。他们称,他们可以将指令直接嵌入到音乐或口语文本的录音当中。因此,当人类听众听到有人在说话或在听乐队演奏的时候,亚马逊的Echo音箱可能会听到在你的购物清单上添加某种商品的指令。

“我们想看看我们是否能够让指令变得更加隐秘。”加州大学伯克利分校计算机安全专业的博士生、论文的其中一位作者尼古拉斯・卡林尼(Nicholas Carlini)说道。

卡林尼补充说,虽然没有证据表明这些技术已经走出了实验室,但人们开始利用这些技术可能只是时间问题。他指出,“我的假想是,作恶者已经雇佣了人来做我的这项工作。”

这些欺骗行为说明,人工智能――尽管它正在取得巨大进步――仍然可能被用于欺诈和操纵。通过改变数字图像中的几个像素,计算机会将飞机误以为小猫;研究人员也只需要在路标上粘贴小贴纸和混淆车辆的计算机视觉系统,就能让自动驾驶汽车转向或加速。

对于音频攻击,研究人员利用的是人类和机器语音识别能力的差距。语音识别系统通常将每个声音翻译成字母,最终将其编译成单词和短语。通过对音频文件进行细微的改动,研究人员能够消除语音识别系统本应该听到的声音,并将其替换为一种让机器编译成不同内容的声音,而人类的耳朵几乎无法察觉其中的区别。

吓人!Siri等语音助手能听到你听不到的隐藏指令

厨房里的Echo智能音箱

声控设备的不断普及,放大了这种把戏的影响。根据市场研究公司Ovum的数据,到2021年,使用像亚马逊Alexa或苹果Siri这样的数字助手的智能手机和智能音箱的数量将比人口还要多。另一家研究机构Juniper Research的数据显示,到那时,超过一半的美国家庭将至少有一台智能音箱。

亚马逊表示,它没有披露具体的安全措施,但它已采取措施来确保其Echo智能音箱的安全性。谷歌说,安全性是一个持续的关注重点,它的Google Assistant具有规避无法察觉的音频命令的功能。这两家公司的智能助手均采用语音识别技术,来防止设备在没有识别出用户的声音的情况下执行某些指令。

苹果公司表示,其智能音箱HomePod的设计能够防止执行诸如打开门锁的指令。该公司还指出,iPhone和iPad必须先解锁,否则Siri不会执行访问敏感数据或者打开应用程序和网站的指令。

然而,许多人常常会让他们的智能手机处在开锁状态,至少在目前,语音识别系统是出了名的容易被愚弄。

现在已经有人利用智能设备的口头指令来谋求商业利益。