2015/7/13 下午12:06:19 星期一
当前位置: 主页 > 平步青云 >

谷歌内部之争:AI技术是否可以卖给军队?
时间:2019-05-31 12:53

摘要:原标题:谷歌内部之争:AI技术是否可以卖给军队?2017年7月,13名美国陆军指挥官和技术主管在五角大楼的硅谷前哨碰面,共同商讨如何将技术应用于实战的问题。这是16年五角大楼与谷歌成立该咨询委员会以来,双方举行的第二次会晤。谷歌副总裁MiloMedin将双方的谈话内容转移到了使用AI作战的主题上来。谷歌前东家EricSchmidt也随即提议使用AI技术来制定未来20年

原标题:谷歌内部之争:AI技术是否可以卖给军队?

2017年7月,,13名美国陆军指挥官和技术主管在五角大楼的硅谷前哨碰面,共同商讨如何将技术应用于实战的问题。这是16年五角大楼与谷歌成立该咨询委员会以来,双方举行的第二次会晤。谷歌副总裁Milo Medin将双方的谈话内容转移到了使用AI作战的主题上来。谷歌前东家Eric Schmidt也随即提议使用AI技术来制定未来20年里和中国对峙的策略。

几个月后,美国国防部聘请谷歌云技术部门研究Maven项目,旨在通过技术手段提升机器学习在思考和观察方面的能力,增强无人机的性能。这对谷歌的母公司Alphabet来讲绝对是一笔大生意,不用和其它巨头竞争,每年轻松获得政府数百万的资金,何乐而不为?不过公司的员工并不这么认为,在这个自由派盛行的湾区地带,接受国防部的一纸合约无异于和特朗普当上美国总统一样惹人争议,大约4000名谷歌员工在一封信上联合署名,要求谷歌CEO取消Maven项目,并中止公司一切与战争有关的业务。他们以谷歌过去“不碰军事类项目”的历史和“不作恶”的口号来作为理由,不断对谷歌高层施加压力。Alphabet旗下的一间AI实验室甚至主动和该项目撇清了关系。还有大概12名员工正试图以辞职的方式抗议谷歌仍然和Maven项目有所往来。很多人之所以反对这笔交易,是因为他们认为这会成为谷歌帮助五角大楼制造自动杀人武器的第一步。

由Maven项目引发的内部骚乱加之最近爆发的硅谷如何使用数据和技术的争议,促使谷歌的CEO Pichai不得不行动起来。据知情人士透露,Pichai以及他的助手们正在制定道德原则,目的是为谷歌今后部署强大的AI技术提供指导。当下谷歌正和其他对手争夺五角大楼高达10亿美元的云技术合约,当被问及这场内部争议是否会影响谷歌与五角大楼的关系时,谷歌发言人暂时拒绝发表评论。

谷歌员工对将AI应用于战争的厌恶由来已久

在前不久刚刚举办的谷歌开发者大会上,谷歌AI主管Jeff Dean就曾对记者透露,他曾在2015年的时候写过一封公开信,表达了自己对使用AI制造自动化武器的反对。军方使用带有AI功能的Gmail并没什么问题,但放在在其他案例中情况就不一样了。去年,包括Demis Hassabis、Mustafa Suleyman在内的几名主管,和AI领域著名研究专家Geoffrey Hinton向联合国共同签署了一封信,信中表达了他们对AI作为军事用途的担心。“具有杀伤力的自动化武器会在很大程度上扩大冲突的规模,冲突的时间跨度也会大大缩短”。

AI系统目前并不完善,很多bug会导致很严重的后果。比如前不久两名半岛电视台的记者就向法院提交了诉讼申请,理由是由美国政府的天网监测系统管理的无人机曾将两人错误地列入“刺杀名单”中,险些酿成事故。数字权利基金会主管Nighat Dad曾就此事向谷歌CEO致信,要求停止Maven项目合约,不过对方尚未就此事作出回复。

不过在一些AI专家看来,最让他们担忧的是当前的技术手段还不可靠,可能会被黑客劫持做一些不适当的战场决策。纽约大学AI研究员Gary Marcus称“在对一些比较重要的事做决定时,我绝不会相信任何软件”。

在他看来,由于公众并不清楚软件是如何被使用的,所以Maven项目正在道德的灰色地带游走。“如果谷歌想要为军队做一些机密的事情,那么公众就有权利了解谷歌正在往什么方向发展”。目前谷歌的云技术部门并未获得从事保密项目的允许,至于公司是否会征求有关部门的许可,谷歌发言人暂时拒绝回答。

谷歌与美国政府的过往

多年以来,谷歌一直都在试图避免和政府部门打交道。许多和政府有关联的公司被谷歌收购后,其与政府签署的合约一般都会中止,这已成为定律。2011年,面部识别技术公司Pittsburgh Pattern Recognition被谷歌收购,其当年从政府那里获得的收入为679,910美元,到了第二年,谷歌从政府那里得到的总收入都比这个数目低。Boston Dynamics在成立的13年内从政府那儿拿到的合同总值超过1.5亿美元,被谷歌收购后的第二年该公司便中止了与政府的合约。然而,谷歌内部也有一批人对与政府合作十分向往。