规划导言 《智能简史——谁会替代人类成为主导物种》导言6
我写本书的目的是给出一个警告,我认为在宇宙主义者的工作发展到一定程度前,应该给予人类机会去选择停止他们的工作,如果那是大多数人的选择。我应该停止我的人工大脑研制工作吗?答案是否定的。我认为制造近于人类程度的人工智能机器是非常困难的事情,需要几十年的时间去解决。在未来30~40年内,机器人的人工智能将发展得足够高,而变得对人类非常有用。机器人将负责大多数的工作,它们会从事很多枯燥、肮脏和危险的工作。人类将会从这些工作中解脱出来,转而去从事更有回报的工作,去做更有趣的事情。现在停止人工大脑的研究是很不明智的。然而,当人工大脑真正开始变得聪明起来,并且非常迅速地变得非常聪明以至于(在处于一个“拐点”的时候)成为威胁时,人类就应该准备决定是否继续。在这个关系到整个人类生存与否的问题上做出正确的决定是非常重要的,而对人工智能问题的必要讨论则应该越早越好。在人工智能时代来临之前,应该有足够的时间去理解这个问题的复杂程度。
在公开场合,我是地球主义者,我在试着警告大家。私底下,我又是一个宇宙主义者。就像我在本书中提到的,这个问题困扰着我,让我左右为难。当人工智能的辩论真正开始后,数十亿人将会和我有同样的感受。从地球主义者的视角看,作为一个宇宙主义者就像一个“种族怪物”一样(物种杀手),他会接受人类将被消灭的风险。这是这个形式的固有本质。是否要制造这些人工智能机器只有两个答案—— 制造或者不制造。决定制造它们的同时就是接受它们可能会把我们消灭的风险。另一方面,不去制造它们就是决定不去制造“神”,一种弑杀“神”的行为。从宇宙主义者的观点出发,地球主义者是“弑神怪物”。之前,有些人认为,通过把人类自己变成人工智能机器,可以化解宇宙主义者和地球主义者之间的冲突。我们可以给人类的头脑等加一些成分,使他们成为“半机器人”(半机器生命体,比如,一部分是人,一部分是机器)。我个人觉得这样的看法很幼稚,除非整个人类向人工智能人的转化是一样的快,然而这显然是不可能发生的。一颗糖粒大小的人工脑潜在的计算能力可能比人类大脑的计算能力要高几十亿倍。对于地球主义者来说,让这样的一个颗粒融入人脑而使之成为半机器人,是“伪装成人类的人工智能机器”。地球主义者会像对待人工智能机器一样仇恨半机器人,并且会把它们两者都消灭掉。有一个人类的外表,并不会让地球主义者觉得半机器人的威胁会减小。让我试着用一种更形象的方式来解释地球主义者对半机器人的憎恨,可能女性会比男性更有体会。举个例子,一个刚生了孩子的年轻母亲,决定把自己的孩子变成半机器人。她只需把“一颗糖粒”放在孩子的脑子里,就能把孩子变成人形的人工智能机器。“孩子”将只有万亿分之一思想是人的思维方式,其余的脑容量(也就是大脑的99.999 999 999 9%)都是人工智能机器的思想(无论是什么)。结果,这个母亲“杀死”了她的孩子,因为它再也不是人类了。它只是“伪装成人类的人工智能机器”,是和她不同的。因此对于我来说,选择半机器人不能解决宇宙主义者/地球主义者的冲突。任何轻举妄动,都可能加剧冲突,因为这会让地球主义者因难以区别人类和半机器人而更加偏执和多疑。
更多阅读
伞枪简史 《智能简史——谁会替代人类成为主导物种》问题和解答6
问题6. “为什么给它们刀片呢?”不要给小孩刀片是一个常识,因为他们只会伤害到自己。小孩们缺乏常识,不知道刀刃是很危险的,也不具有小心处理刀片的能力。很多国家关于禁止公民私自拥有枪支也持有类似的考虑。给予这样的允许只会大规模
伞枪简史 《智能简史——谁会替代人类成为主导物种》问题和解答5
问题5. “我们能够在人工智能机器上应用阿西莫夫三大法则吗?”阿西莫夫是人类历史上最伟大的科幻小说家之一。他发明的词汇“机器人”(robotics)无人不晓。阿西莫夫撰写了很多科学性的和科幻小说的主题,包括拥有人类级别智慧的机器人
人类简史 mobi 《智能简史——谁会替代人类成为主导物种》问题和解答1
在本章,我想提出一些你们在读本书时可能碰到的问题。也许你对我的一些论述持怀疑态度,或者是觉得我忽略掉了某些东西。本章将试图预测一些你的反对意见。通过讨论这些反对意见,很有可能加深前面章节的论述。这些问题、意见有多处来源
人工智能无法替代的 《智能简史——谁会替代人类成为主导物种》使人工智能成为可能的
作为人脑科学工具的纳米技术我们已经讨论了一些关于量子计算的概念(可能非常难以理解),我现在开始转向另一个关于人工智能技术的问题:“人工智能将怎样类似(人类)大脑?”我的观点是,当纳米科技真正成熟起来并且摩尔定律继续有效,我们关
人工智能替代人类 《智能简史——谁会替代人类成为主导物种》使人工智能成为可能的
自我装配然而,进化出单个的组成部分是不够的。这些组成部分需要在形状上互补,以便于它们可以“自我装配”,也就是像七巧板块那样组成一个更大的功能整体。这样的方式会形成病毒。DNA(基因)的一些部分为病毒成分的建造编码。当它们一建