我们的最终发明:人工智能与人类时代的终结詹姆斯 Barrat

詹姆斯·巴拉特(James 巴拉特)的最终发明的图像结果:人工智能与人类时代的终结

阅读更像是 奥尔德斯·赫x黎的《勇敢的新世界》 不仅仅是技术爆炸的介绍, James 巴拉特’s “Our Final Invention”,使我们面对潜在的惊人后果 人工智能(“ AI”) 一发不可收拾。借助从科学家,机器人技术先驱,人工智能公司首席技术官以及国防部机密计划的技术顾问的访谈中收集的资料,巴拉特将忧郁与厄运融合在一起。巴拉特警告读者即将来临的厄运,他宣称:“我与……交谈。试图创建人类级的人工智能,这种人工智能将有无数的应用,并将从根本上改变我们的存在(如果不首先结束它的话)” 。

James 巴拉特 is THE anathema to the optimism of a 雷·库兹韦尔。 但是从阅读他的书中可以明显看出,他的主张既不是毫无根据的大堆废话,也不是虚幻的想象的虚构,这是厄运的先知四处游荡的结果。支持AI的人深信人类即将体验“奇异性”(一个阶段AI将超越 人工智能 (与人类智力相匹配) 人工超级智能 (超越人类的智力)。巴拉特竭尽全力,不遗余力地说明了事实,即ASI不会成为有情境概念的集会化身,而是一个狡猾,险恶,外科手术的智能怪物,既有潜力也有可能将人类抹去行星地球。使用ASI的机器内置的自我永存力将能够“利用纳米技术重新利用世界上的分子”,从而导致“生态吞噬”,即吞噬环境。 “通过所有这些,ASI不会对人类或爱人产生恶意。不会感到怀旧,因为分子被痛苦地重新利用了。”这种无个性的临床破坏性概率使阅读者的脊骨发冷。

尽管巴拉特(Barrat)不得不去思考存在的危机,这是人工智能迅速发展的直接产物,但在这一领域的进步仍在不断加快。 巴拉特举例说明了一些组织,例如 谷歌, Cycorp,Novamente, 努门塔, 自我意识系统, 替代系统DARPA(国防高级研究计划局) 更不用说一大堆由秘密资助的隐形公司了,它们对在十余年内获得人类情报感到乐观。

用巴拉特的话说,人工智能的智能爆炸的核心和症结在于四个原始驱动力:效率;自我保护;资源获取和创造力。这是确保AI实现其目标并保留其存在的四个主要和关键驱动力。 “ AI会支持这些驱动器,因为如果没有它们,它就会从浪费一个资源的错误转移到另一个错误”。为了实现这些基本驱动力,AI或ASI的智慧将比地球上最聪明的人的智慧成倍提高,并且将变得无所不包,包括歼灭行动。 AI和机器人技术的先驱者选择对充满激情的怀疑论者充耳不闻,并宁愿对AI伴随的危险视而不见,同时也坚定了他们对由科幻小说家永垂不朽的三个机器人定律的信念 伊萨克·阿西莫夫(Issac Asimov)。阿西莫夫的三项法律规定:

  1. 机器人不得伤害人类或通过不采取行动使人类受到伤害;
  2. 机器人必须服从人类的命令,除非这些命令会与第一部法律相抵触;和
  3. 机器人必须保护自己的存在,只要这种保护与第一或第二定律不冲突。

但是正如巴拉特(Barrat)严厉指出的那样,除非对AI进行全面的编程,并在从AGI到ASI的智能爆炸之时保持原样,否则这些定律仍将是它们的本质–一部出色的虚构小说。而且,比人类更聪明的ASI在迁移到操纵死亡和破坏的机器时将毫无保留。

利用AI来展示其在与世界冠军对抗的国际象棋比赛中赢得胜利的能力,或展现出迄今为止在“ Jeopardy!”赢得比赛所无法想象的灵巧程度,远非期望ASI扮演上帝。可能出现在情报谱另一端的机器中的上帝可能与机器中不可预测的鬼魂有着可怕的区别。人类可能会不知不觉地陷入浮士德式的讨价还价的困境中。

雷·库兹韦尔(Ray Kurzweil)可以说是AI的奠基人之一,他的领域毫无争议地发展了他的 加速回报法(“ LOAR”) 描述信息模式演变的任何过程的演变。 Kurzweil的LOAR有望在应用到AI时带来丰厚回报,包括-是的,您读得对-不朽。但是,诸如此类的作者更倾向于沉着而清醒的观点。 贾伦·拉尼尔(Jaron Lanier) “您不是小工具。宣言”成名。他和诸如 埃里亚斯·阿布贾德(Elias Aboujaoude) 警惕性格和个性的削弱,这是沉浸于技术的直接结果。

然而,一个奇怪的报价(由极端的库兹韦尔本人提出),巴拉特选择在关闭AI的盖子之前打开hi book的最后一章,这是硬道理:

机器将遵循反映人类进化的道路。最终,无论自我意识,自我完善的机器将超越人类控制甚至理解它们的能力而发展。”

同时,我们作为唯一一个有幸能够打电话回家的星球的居民,只能希望并相信,在不久的将来,我们不会沦为无助和不幸的实验性生物,而他们会被遗忘的舞蹈惊世骇俗忘却由AI,AGI,ASI或其他任何首字母缩略词组成的曲折实验室的缩写,意思是厄运到来。

(作为 Blogchatter的A2Z挑战)–第15部分:字母O)