防人工智能背叛人类 谷歌微软等巨头决心联手合作
***附件停止解析***
人工智能越来越进步,机器人的时代已然来临。然而,从电影《2001:太空漫游》到《黑客帝国》,科幻作家们不断提醒人类要警惕人工智能,因为它们随时有可能背叛人类甚至毁灭人类。
为了消除这种担忧,《纽约时报》指出,Google 母公司 Alphabet、Facebook、微软、IBM 和亚马逊这 5五家在人工智能积极布局的科技巨头已打算为人工智能制定一套成熟的道德标准。
就在最近,这五家公司共同举行了一场会谈,讨论人工智能在劳动市场、交通和战争等方面的道德伦理标准。他们还打算成立一个相关的行业协会,目的是确保人工智能有利于人类而不是伤害人类。
而这些讨论来得及阻止人类被人工智能所统御呢?
今年 6 月举办的 Code Conference 上,特斯拉和 Space X 的创始人伊隆·马斯克就曾警惕,按照人工智能的发展,未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。
去年 7 月,马斯克还资助了未来生命研究所(Future of Life Institute) 1,000 万美元,该机构主要评估和分析人工智能带来的风险。
随后史蒂芬·霍金也在一场电视节目里声称矽谷某处的一些实验室正在醖酿一个邪恶的计划,而人工智能将会以比人类更快的速度进化,它们的目标是人类无法预测的。
“一旦机器达到了一种可以自我进化的关键阶段,我们就无法预测它们的使命是否和人类一样了。”霍金说。
对此,谷歌董事长 Eric Schmidt 回应,人工智能将会以人类的福祉为发展方向,而且将会有一个系统来阻止人工智能向不对的方向发展。“我们都看过那些科幻电影。”他说:“但是在现实世界中,人类肯定知道如何在人工智能变得危险的时候关闭掉它的系统。”
不仅是科技公司和民间组织想要让人工智能在道德和法律上走向正规化,政府机构也参与到了这场讨论中。今年 5 月,美国政府在西雅图举办了第一次关于AI法律法规的白宫探讨会。
本次探讨会的主题是“政府应不应该对人工智能进行管理”,但会议并没有就此议题得出结论,更不用说发布具体的监管措施了。
Via:***链接停止解析***
为防止不可控的内容风险,本站已关闭新用户注册,新贴的发表及评论;
你现在看到的内容只是互联网用户曾经发表的言论快照,仅用于老用户留存纪念,且仅与科技行业相关,全部内容不代表本站观点及立场;
本站重新开放前已针对包括用户隐私、版权保护、信息安全、国家政策在内的各种互联网法律法规要求,执行了隐患内容的自查、屏蔽和删除;
本站目前所属个人主体,未有任何盈利安排与计划,且与原WFUN.COM所属公司不存在任何关联关系;
如果本帖内容或者相关资源侵犯到您的合法权益,或者您认为存在问题,那么请您务必点此举报或投诉!
我觉得现在讨论这个还有点早,虽然人工智能以后是必然,不过要到能背叛人类的那一步还有很长一段路要走,就像一个人去买彩票,再还没中一等奖之前就一家人坐再哪里讨论中来的钱怎么去花,觉得非常可笑,这比喻虽然有点不大合适,不过也差不多了
Quote学海无涯a 发表于 2016-9-6 12:08
我觉得现在讨论这个还有点早,虽然人工智能以后是必然,不过要到能背叛人类的那一步还有很长一段路要走,就 ...
我觉得这个比喻很好{:6_224:}
Quote***链接停止解析***
现在机器人都是写死的逻辑,哪来的叛变?噱头吧,什么时候机器人能真正的思考再说吧 ...
谷歌AlphaGo在围棋上打败人类,然而他的下棋逻辑并不是谷歌工程师写死的,如何下棋是程序自己学会的,比赛结束后连工程师自己都不知道机器为什么这么下,后来看日志才知道机器基于什么考虑下的这棋。这还只是基于硅芯片的处理能力,如果那天量子计算机被发明出来后再考虑这个问题估计就来不及了。