-->
  • 9块9包邮商品
  • 广告合作
  • 申请收录

网站之家_有效的标准是什么?

时间:2019-06-06 12:50 点击:次 编辑:趣味知识

   趣味知识



我们趣味知识设想几种可能。[网站之家,有效标准,主观,可观,历史故事]
 
比如,一辆救护车正在公路上疾驰,时间在一分一秒地流逝。司机很着急,3分钟过去了,5分钟过去了,眼看要到8分钟的时限了。这意味着啥?意味着这辆救护车要“违规了”,要受惩罚了。那他们会怎么干?如果这个时候,有一个新的病人,也在呼叫救护车,而且司机发现可以在8分钟之内赶到。那这辆车一定就会转头去那个新病人。最开始打电话的那位病人很大概率被无情抛弃。
 
还有一种可能,确实超过了8分钟,也确实赶到了。但是救护车也不愿意违规啊,怎么办?只好跟病人商量,你这不算是危重病人行不行?
 
还有一种可能。救护车走到半路,发现交通实在拥堵,不可能在8分钟之内赶到了。那就兵分两路。先派一个人骑摩托车甚至自行车,赶到现场再说。这样确实是在8分钟内赶到了,但你想,那是危重病人。如果需要送到医院才能救治,总不能用摩托车或自行车载着去吧。所以,这种赶到也是耽误了治疗。
 
 
网站之家,有效标准,主观,可观,历史故事,趣味知识
网站之家,有效标准,主观,可观,历史故事,趣味知识
 
 
 
现在你明白了,8分钟的时限造成了太多意料之外的后果:从数据造假,到病情分级造假,到自行车登场。政府的本意是提高急救服务的效率和质量,没想到结果恰恰相反,造成了这么多负面影响,引来一片骂声。[网站之家,有效标准,主观,可观,历史故事]
 
那为什么会是这样?是英国医生道德水平低么?真不是,这是客观标准自身的问题。任何人类目的,一定都内涵了非常复杂的维度,一旦你要把这些目的变成客观标准来实现,很多维度都必然丢失了。所以,不是有坏人要钻空子,而是只要用客观标准来管理复杂目标,必然就会出现大量的空子可被钻。
 
我们趣味知识推导一个极端的情况你就明白了。我以前的节目,曾经讲过超级人工智能一旦实现,对人类其实是很可怕的。为啥?不是因为超级人工智能要蓄意毁灭人类,而是因为人类的主观目标,机器只能用客观标准去实现。而机器的能力又那么强,结果一定是灾难。[网站之家,有效标准,主观,可观,历史故事]
 
举个例子,比如你有一台能力超强的家用机器人,你对机器说,我要快乐。这总没问题吧?机器一计算,让你最快乐的方法,就是把头割下来,泡在特定的溶液中,从此你就没有任何烦恼了,只剩下无边的快乐,好不好?你说,不行,不能把头割下来,你不能伤害我的身体。机器说,也行,那就把你关在家里,还是给你放化学气体,也能让你快乐。你说,不行,不能限制我的行动。机器说,也行,那就给你做一个迷宫,你在里面只能遇到快乐的事,让你不高兴的事,一样也没有。你说,不行啊,那不是真实的世界,机器最后说,让你觉得这是真实的世界不就行了吗?这对超级人工智能有多难?
 
你看,不管你设定多少条件,机器都可以把它换算成客观标准,然后彻底执行,最后一定都通向你不愿意看到的结果。
 
刚才这一段好像是在说科幻。其实根本不用等到超级人工智能实现的那一天,今天我们趣味知识身边就有大量这样的例子。[网站之家,有效标准,主观,可观,历史故事]


文章来源--《得到》  

备注:未经同意,文章不得转载,否则以侵权处理,感谢谅解!

相关文章

教程

活动

卡盟

工具

抽奖

每日抽奖