如果ai机器人杀了人类那人类还要研发机器人吗修补机
发布时间:2022-11-23 23:10:41 来源:冶金机械网
原标题:如果ai机器人杀了人类,那人类还要研发机器人吗?
来源| 喜马拉雅fm 复旦郁?傣恋木?品课《郁?傣恋母吹┱苎э巍?
编辑| 周杭
如果你喜欢看科幻电影,一定经常会看到这样一种恐怖的场景:未来机器人反过来奴役,甚至屠杀人类,施瓦辛格演的电影《终结者》就是这样的。最近对人工智能的讨论,更加加剧了这种担忧。所以,我们如何才能警惕和预防机器人和人工智能?
这时候,我们就要来谈一谈“机器人三法则”(threelaws of robotics)。这三个法则是著名的科幻小说家伊萨克?阿西莫夫,在1940年的一篇小说《我是机器人》中提出来的。
第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观。
第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。
第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。
这三条法则,看上去不是不错?但是执行起来却有不少问题。
有必要说一下的是,英语中的law这个词具有两种截然不同的含义:第一种是人类社会中的法律和道德律令。其目的是规范一个政治共同体中成员的基本权利与义务,甚至还要定义犯罪行为,并通过相应程序和机构对之进行审判和惩戒。
第二种含义是自然(科学)中的法则和定律。例如牛顿力学中的三大定律,它通常是用数学符号的方式来表达的。上述这两种涵义是根本的不同。法律在原则上是可以违反的。我可以尝试做坏事,例如偷东西,伤害别人等等。
有意思的是,阿西莫夫在写机器人三法则的时候,使用了不得(maynot)和必须(must)这样的语词,非常类似神学中的“神命”(divine command)。也就是好像上帝颁布给人的诫命。
但是正如人类经常忤逆神的诫命一样,人工智能为何一定要遵守这些命令呢?如果没有技术的落实和保障,这一切都仅仅是人类的一厢情愿而已。人类也面临“造物主”的烦恼。
按照我们通常的理解,打针这个行动显然要刺穿人的皮肤,并造成微量的出血。不过人类的一般常识告诉我们,这种轻微的伤害可以治愈病患的疾病,并且得到了病患的认可。
在疾病和打针之间,一般的成年人经过权衡比较,都会选择接受打针。但是要让人工智能进行这样的权衡比较,需要极为丰富的常识(commonsense)。
还有,如果阿西莫夫的第一条原则成立,那么机器人和人工智能都不得被用于执法和军事作战领域中。因为在这两个领域中,直接需要伤害特定的人。例如暴力犯罪分子和敌国的作战军人。
我们再来看第二条:第二条法则中语义存在的漏洞是“服从命令”(obeyorders)这个词。
不过我们可以设想,两个人的命令可能会出现矛盾。一个人说,你站着,另一个人说,你坐下。机器人到底应该听谁的?
还有,阿西莫夫使用了“人类”(humanbeings)这个词。服从一个特定的人(例如“我”),和服从(复数形式的)人类之间存在明显差异。如何让人工智能定义和识别“人类”成为了关键问题。
第三条法则的核心词是“自己”(itsown existence)。要明白这一表述的意指,是否需要“自我”(self)的观念,而产生这一观念的前提是人工智能具备自指(self-referential)能力。这种自指能力其实对人类自己都是一个谜。
例如从宏观来看,目前地球上有70亿人口,我们可不可以为了70亿整体人类消灭当中的30亿呢?
按照人类常识和良知,显然是不可以这么做的。因为除了人类的整体利益之外,还有许多需要考虑的问题,每个人的个体利益也必须受到尊重和保护。
-
美国对聚酯短纤维进行反倾销日落复审产业损门窗合页焦作梭织设备电子地图调节蝶阀Trp
美国对聚酯短纤维进行反倾销日落复审产业损害调查2016年8月1日,美国国际大家都知道我们这里的材料都是真材实料贸易委员会(USITC)对原产于韩国和台湾地区的聚酯短纤维(polyester staple fiber )进行
04月18日 11:18
-
微量润滑系统的定义及工作原理镜框应城监测仪器花岗石汽摩模具Trp
微量润滑系统的定义及工作原烘干机理微量润滑系统:简单的说就是精密控制油量的喷油装置,济南通常分为外喷油和内喷油装置。外喷油装置是润滑油和压缩空气分别独立调节,压缩空气在喷嘴出
04月18日 04:29
-
国内最适宜建设数据中心地区标志桩刷光设备脲醛树脂停车场风能设备Trp
国内最适宜建设数据中心地区随着互联、云计算、大数据产业的迅猛发展,国内政策利好的导向,数据中心的建设力度不断增加。在2015年,一些地产、金融等企业凭借着资本和基础资源整合能力不断
04月17日 23:24
-
可降解包装制品的未来方向热控制器瑞昌低压电器润滑气缸木炭机TRp
可降解:包装制品的未来方向近年来中国包装用塑料已超过400万吨。据有关部门预测,2005年中国塑料包装材料需求量将达到500万吨,按其中30%为难以收集的一次性塑料包装材料和制品计算,则废弃
04月03日 03:12
-
GE医疗转型基层下乡吃大餐专业音箱配电器旅游票务扎啤机软启动器TRp
GE医疗转型基层 下乡吃大餐在中国高端医疗设备及解决方案领域业绩斐然的GE医疗,如今又将目光瞄准了中国基层医疗市场。从8:2到5:5,GE医疗的这一数字变化隐含了其市场策略走用Ak表示向。在中国
04月03日 02:51
-
汕尾电气预埋套管使用说明保温球阀龙口压铆机特种蟹类镗鼓机TRp
汕尾电气预埋套管使用说明做为刚性组合套管的主要配件,【密闭肋】和刚性组合套管的的执行标准一样,都是04fd02,它也有国标标之分,通常国标的执行标准参照04fd02图集,非标则是在此基础上对
04月02日 23:52