2015/7/13 下午12:06:19 星期一
当前位置: 主页 > 周而复始 >

《人工智能北京共识》:谨365体育网投: 慎对待可能冲击人类就业的AI应用
时间:2019-05-31 16:00

人工智能北京共识》:谨慎对待可能冲击人类就业的AI应用

时间:05-25 23:42 阅读:4239次 转载来源:搜狐财经

原标题:《人工智能北京共识》:谨慎对待可能冲击人类就业的AI应用

  5月25日,北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟,共同发布《人工智能北京共识》。

《人工智能北京共识》(以下简称《共识》)针对人工智能的研发、使用、治理三方面,提出了有益于人类命运共同体构建和社会发展的15条原则。

研发方面,《共识》提倡有益于增进社会与生态的福祉,服从人类的整体利益,设计上要合乎伦理,体现出多样性与包容性,365体育投注在线,尽可能地惠及更多人,要对潜在伦理风险与隐患负责,提升技术水平控制各种风险,并最大范围共享人工智能发展成果。

使用方面,《共识》提倡善用和慎用,避免误用和滥用,以最大化人工智能技术带来的益处、最小化其风险,应确保利益相关者对其权益所受影响有充分的知情与同意,并能够通过教育与培训适应人工智能发展带来的影响。

治理方面,《共识》提出,对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。

据介绍,《人工智能北京共识》关注“服务于人”,将“和谐与优化共生”这一中国哲学和文化中的特色理念,作为寻求跨行业、跨部门、跨地区全球协作的指导思想,并强调促进人工智能相关准则的“落地”。

2018年,北京市科学技术委员会和海淀区政府推动成立北京智源人工智能研究院,以建设开放服务平台,协调推进联合实验室和人才培养。

为降低人工智能发展过程中可能存在的技术风险和伦理隐患,研究院还于25 日宣布成立人工智能伦理与安全研究中心。今后,中心将着力在算法安全评估、安全模型构建、AI综合沙盒建设等方面,为降低人工智能的风险和伦理隐患提供技术服务,促进人工智能行业的良性健康发展。

附:《人工智能北京共识(Beijing AI Principles)》全文

人工智能的发展关乎全社会、全人类及环境的未来。下述准则对推进人工智能的研发、使用、治理和长远规划提出倡议。通过推动人工智能的健康发展,助力于人类命运共同体的构建,实现对人类和自然有益的人工智能。

研发

人工智能的研究与开发应遵循以下原则:

造福:人工智能应被用来促进社会与人类文明的进步,365bet体育投注,推动自然与社会的可持续发展,造福全人类与环境,增进社会与生态的福祉。

服务于人:人工智能的研发应服务于人类,符合人类价值观,符合人类的整体利益;应充分尊重人类的隐私、尊严、自由、自主、权利;人工智能不应被用来针对、利用或伤害人类。

负责:人工智能的研发者应充分考虑并尽力降低、避免其成果所带来的潜在伦理、法律、社会风险与隐患。

控制风险:人工智能及其产品的研发者应不断提升模型与系统的成熟度、鲁棒性、可靠性、可控性,实现人工智能系统的数据安全、系统自身的安全以及对外部环境的安全。

合乎伦理:人工智能的研发应采用符合伦理的设计方法以使得系统可信,包括但不限于:使系统尽可能公正,减少系统中的歧视与偏见;提高系统透明性,增强系统可解释度、可预测性,使系统可追溯、可核查、可问责等。

多样与包容:人工智能的发展应该体现多样性与包容性,尽可能地为惠及更多的人而设计,尤其是那些技术应用中容易被忽视的、缺乏代表性的群体。

开放共享:鼓励建立人工智能开放平台,避免数据与平台垄断,最大范围共享人工智能发展成果,促进不同地域、行业借助人工智能机会均等地发展。

使用

人工智能的使用应遵循以下原则:

善用与慎用:人工智能的使用者应具备使人工智能系统按照设计运行所必需的知识和能力,并对其所可能带来的潜在影响具备充分认识,避免误用、滥用,以最大化人工智能带来的益处、最小化其风险。

知情与同意:应采取措施确保人工智能系统的利益相关者对人工智能系统对其权益的影响做到充分的知情与同意。在未预期情况发生时,应建立合理的数据与服务撤销机制,以确保用户自身权益不受侵害。

教育与培训:人工智能的利益相关者应能够通过教育与培训在心理、情感、技能等各方面适应人工智能发展带来的影响。

治理

人工智能的治理应遵循以下原则: