千脑智能读书笔记

序论

（1）作者写过两本书——《新机器智能》与《千脑智能》，这两本书都基于相同的基本前提：要创造真正智能的机器，我们首先需要对大脑进行逆向工程

（2）写这两本书的原因：解释为什么如今的人工智能并不智能，以及为什么实现机器智能的最快途径是理解大脑的工作原理，然后在计算机中模仿这些原理

（3）《千脑智能》中的关键科学思想：

        1.我们通过运动来学习

        2.我们有很多“模型”

        3.我们利用参考系存储知识

（4）这本书描述了这些发现将如何改变人工智能的未来，以及未来的人工智能将如何改变人类

（5）书中的预言之一是：在大脑最大的部分、与感知和智能最相关的新皮质中，可以找到创建参考系的神经元，即网格细胞

千脑智能理论——对大脑的全新理解

（1）一个由简单细胞组成的大脑是如何创造智能的？这仍是个未解之谜。尽管神经科学家对不同动物的大脑进行了研究并提出了不同问题，甚至人工智能相关领域的研究人员创造的人工智能正在接近老鼠或猫的智能，但人类对大脑的探索仍处于黑暗之中

（2）人脑中的知识不是以一堆事实的形式存储起来的，而是以一种能够体现世界和它所包含的一切这种结构组织起来的

（3）作者推断，大脑新皮质以一种叫作“参考系”的方式存储了我们所知道的一切知识。大脑新皮质中的大多数细胞都致力于创建和操控参考系，大脑利用这些参考系部署计划，进行思考

（4）如果一棵树在森林中倒下了，而并没有人听到它倒下的声音，那这棵树倒下时有没有发出声音呢？同样，如果宇宙的出现和消失，没有大脑知道，那么宇宙真的存在吗？存在于你头骨的几十亿个细胞不仅知道宇宙的存在，而且知道它是辽阔而古老的。这些细胞已经掌握了一个“世界模型”，据我们所知，这些知识在其他任何地方都不存在

第1章 新旧大脑的争斗

（1）大脑的进化是在旧的部分上增加新的部分。无论我们多么机智和精明，呼吸、饮食、性和反射反应仍然对我们的生存至关重要

（2）人类大脑最新的部分是新皮质。只有哺乳动物才有新皮质。当你看一个人的大脑时，你看到的大部分是新皮质（有其特有的褶皱）。新皮质是智能的器官，几乎所有我们认为是智能的能力，如视觉、语言、音乐、数学、科学和工程，都是由新皮质创造的

（3）新皮质和旧脑通过神经纤维相连，因此我们不能把它们看作完全孤立的器官。它们更像是室友，但新皮质处于一个绝对不平等的地位，因为它不直接控制行为——新皮质中没有一个细胞直接与肌肉相连

（4）旧脑包含几十个独立的器官，每个器官都有特定的功能，它们是彼此分离的；新皮质没有明显的分界线，褶皱和皮褶是为了使新皮质嵌入头骨。尽管如此，新皮质仍被划分为几十个区域，这些区域被称作脑区

（5）新皮质的各个区域通过神经纤维束相互连接，这些神经纤维在新皮质下延伸，新皮质下的部位即所谓的大脑白质

（6）各个脑区以一种复杂的方式连接在一起，有点像流程图，但大多不是。这是一个难题

（7）新皮质中的神经元似乎是分层排列的。尽管新皮质中有几十种不同类型的神经元，但科学家仍使用6层结构的理论，方便粗略地说明在哪里可以找到特点类型的神经元

（8）神经元之间的连接大多是在各层之间垂直进行的，这意味着到达新皮质某个区域的信息在被送往其他区域之前，主要在各层之间上下移动

（9）关于新皮质的三个发现：

        1.新皮质的局部回路很复杂

        2.所有新皮质看起来都很相似

        3.新皮质中的每个部分都产生运动

第2章 新皮质的智能算法

（1）新皮质变大是通过对同一事物进行多次复制而实现的，不是通过产生任何新的部分

（2）芒卡斯尔认为，新皮质的每一部分都是基于同一原则工作的，所有我们认为是智能的东西，从根本上来说都是一样的

（3）如果一个皮质区与眼睛相连，就得到了视觉；如果两个不同的皮质区相连，就得到了高级思维，如语言。如果我们能发现新皮质所有部分的基本功能，就能理解整个新皮质的工作方式

（4）新皮质的基本单位是“皮质柱”。皮质柱的宽度会因物种和脑区的不同而有所差异。皮质柱在显微镜下是不可见的，之所以知道皮质柱是因为同一皮质柱中的所有细胞会对某些部分或区域有相同反应，而与之邻近的其他皮质柱则会对其他部分或区域作出反应。每个皮质柱可以被进一步分为几百个“迷你皮质柱”

（5）芒卡斯尔关于通用算法的观点基于以下几点证据：

        1.新皮质中随处可见的回路非常相似

        2.现代人的新皮质在短短几百万年的时间内可能不足以使事物进化出多种新的复杂能力，但足够进化出更多相同的副本

        3.新皮质各区域的功能并非一成不变

        4.新皮质具有极度灵活的功能：大脑能够学习几乎任何事情，这就要求它遵循一个普适的智能原理

第3章 大脑中的世界模型

（1）大脑，特别是大脑新皮质，正在对它将要看到、听到和感觉到的东西同时做出多种预测。每次移动眼睛，大脑新皮质就对它将要看到的东西进行预测。每次拿起东西，大脑新皮质就会预测每个手指应该有什么样的感觉。也就是每根皮质柱，都在进行预测。预测是新皮质十分普遍的功能

（2）新皮质学习了一个世界模型，并基于该模型进行预测。世界模型是大脑关于这个世界的模型包括物体的位置，以及当我们与这些物体互动时它们发生的变化。例如，我脑海里关于订书机的模型包括订书机的顶部相对于底部如何移动，以及顶部被压下时订书钉是如何出来的。

（3）我们不会意识到大脑正在预测，但如果物体发生任何微小的变化，我们会立马发现，并提醒新皮质需要更新这部分的世界模型

（4）输入大脑的信息是不断变化的：

        1.世界在不断变化

        2.我们在移动

（5）大脑通过观察其信息输入如何随时间变化来学习世界模型，如果输入大脑的信息是静止的，大脑就什么都学不到

（6）我们不需要移动就可以学习一首歌，因为这与我们从一个房间移动到另一个房间的顺序不同，一首歌中的音符顺序是固定的

（7）神经元工作的两个基本原则：

        原则一：思想、观念和感知都是神经元的活动

        原则二：我们所知道的一切都储存在神经元之间的连接中

                学习会增强或减少突触的强度，当连接被完全移除时就会发生遗忘

第4章 大脑新皮质的3个发现

（1）第一个发现：新皮质学习世界的预测模型

（2）第二个发现：预测发生在神经元内部

        回顾一下，新皮质的预测分两种类型：周围世界在变化；你在运动。新皮质中的每根皮质柱都能进行这两种类型的预测，否则大脑中的皮质柱会具有不同的功能

        如何完成第一种预测？作者提出假设：因为只有10%的细胞突触是在近端区，如果近端突触收到足够的信息输入，那么神经元就会发射脉冲信号；没有人知道新皮质中另外90%的突触的功能到底是什么，而从1990年开始，科学家发现了沿树突传播的新型脉冲，一旦树突脉冲被激活，它就会沿着树突传播，直到到达细胞体。当它到达时，它会提高细胞的电压，但这还不足以使神经元发射脉冲。作者的观点是：树突脉冲就是预测本身，脉冲使该神经元处于预测状态并更容易发射脉冲信号。当一个神经元识别一种活动模式，产生一种树突脉冲，并比其他神经元更早地准备好发射脉冲信号时，就会产生预测。由于有数以千计的远端突触，所以每个神经元可以识别出数以百计的模式。只需2万个神经元就能学习数千个完整的序列。即使30%的神经元已经死亡或输入充满噪声，序列记忆仍然能够正常工作

（3）第三个发现：新皮质的关键是参考系

        如何完成第二种预测？当用手触摸一个杯子时，大脑需要知道什么才能预测手指在移动时会有什么感觉？答案显而易见：接触的是什么物体以及手指移动后将会在杯子上的什么位置。请注意，大脑只需要知道手指与杯子的相对位置，而不需要知道手指与身体的相对位置，也不需要知道杯子在什么位置。因此，作者认为新皮质种一定有神经元负责表征手指在一个参考系中的位置，这个参考系同样与杯子相关。我们一直在寻找的与移动有关的信号，即预测下一个输入所需要的信号，正是“在物体上的位置”。身体的不同部位可能会同时接触杯子，且都会基于它在杯子上的独特位置对其感觉进行单独预测。因此大脑是同时在做几十甚至几百个预测。不仅是触觉，视觉也是如此，每块视网膜只能看见整个物体的一小部分，但大脑看到的却是一整张图片，每个图片碎片会被分配到被观察物体的相对位置上

（4）作者认为需要重新考虑新皮质的主要功能为处理参考系，感觉输入当然也是必不可少的，二者结合建立世界模型

（5）为何参考系这么重要？

        1.参考系使大脑能够了解某物的结构

        2.通过利用参考系来定义一个物体，大脑便可以一次性操纵整个物体

        3.做计划和移动需要利用参考系

（6）以上内容均未彻底证实，但作者对此很有信心

第5章 大脑中的地图

（1）其实有更简单的现象证实有参考系：视网膜成像出的物体之间是有距离的，如果只是单纯的投射，那么物体之间便没有三维的距离，只会变成扁平的图片

（2）在哺乳动物的大脑中，构建地图的神经元位于旧脑的海马和内嗅皮质中

（3）将一根导线放入老鼠的大脑，这根导线可以记录海马中单个神经元的脉冲活动。随着老鼠的移动，不同的位置细胞在不同的位置会变得活跃起来。另一个实验记录的是内嗅皮质内神经元的信号，他们发现了“网格细胞”，网格细胞活跃的位置形成了网格模式。如果老鼠在一条直线上运动，同一个网格细胞就会以相同的距离间隔反复活跃

（4）网格细胞就像纸质地图上的行和列，位置细胞就像印在网格中的细节信息

（5）每当老鼠进入一个环境，网格细胞就会创建一个新的参考系，如果老鼠认出了这个环境，网格细胞就会重建之前使用过的参考系

（6）旧脑中尚有网格细胞和位置细胞，新皮质中呢？作者猜想新皮质利用网格细胞的衍生物创建参考系比它从头进化出一个新机制的可能性更大，具有类似功能的细胞存在于每根皮质柱中

（7）神经元使用“联想记忆”，它使神经元可以一次搜索所有的地图方格。神经元搜索1000个地图和搜索一个地图所需的时间是一样的

（8）新皮质中的地图模型：一个感觉输入到达，由上层的神经元表征，这会激活下层中与感觉输入相关的位置神经元。当移动发生时，如移动手指，那么下层就会变为预期的新位置，从而实现对上层的下一个感觉输入的预测

（9）旧脑中有一些神经元叫作头朝向细胞，表示一个人的头部所朝的方向；新皮质中则有“方向细胞”。每根皮质柱都分别有一组功能上相当于网格细胞、位置细胞、和头朝向细胞的细胞

第6章 大脑中的参考系

（1）芒卡斯尔理论的含义：新皮质中的每一根皮质柱都具备相同的基本功能。那么语言和其他高级认知能力在某些基本层面上就与视觉、触觉和听觉等是一样的

（2）可以将参考系视为一种能够组织任何知识的方式，参考系也可以用于我们无法直接感知到的事物

（3）本章探讨的假设是：大脑使用参考系来管理所有知识，并且思考是移动的一种形式

（4）参考系是所有信息在大脑中的存储结构

（5）当神经元激活参考系一个又一个位置时，思考就会产生，从而让人想起每个位置所存储的内容

（6）what视觉通路是一组皮质区，它从大脑的最后侧开始，并移动到两侧。where视觉通路也是一组皮质区，它们也从大脑的后侧开始，但向上移动到顶部

（7）如果你觉得what和where区域中的皮质柱有实质性的差异，那么你就否定了芒斯卡尔的理论。芒斯卡尔的理论认为what柱中的皮质网格细胞将参考系附着到物体上，where柱中的皮质网格细胞将参考系附着到你的身体上

（8）在某种程度上，你的身体只是存在于世界上的另一个物体。新皮质使用相同的基本方法来为你的身体建模

（9）参考系不必附着到实物上。民主等概念的参考系需要自洽，但它可以相对独立于日常客观事物而存在

（10）概念的参考系不必与实物的参考系具有相同的数量或相同的维度类型

（11）位点法：想象穿过整个房子，然后就能一点点回忆起每件物品。这种记忆技巧很有效，它表明当事物被分配到熟悉的参考系中的不同位置时，回忆起来会更容易。回忆的行为是通过移动来实现的。不需要真正移动身体，而是在大脑绘制的房子里移动。位点法支撑前文列出的两个前提：信息存储在参考系中，信息的检索是移动的一种形式

（12）使用功能磁共振成像技术观察新皮质的前额区域，并从中发现了相同的特征，足以表明新皮质中至少某些部分也存在网格细胞

（13）在学习一个新的领域时，大脑不仅仅是存储事实。对于数学，大脑必须找出有用的参考系来存储方程和数字，并且必须了解数学行为是如何移到参考系内的新位置的。对数学家来说，方程是熟悉的物体，就像你我看到智能手机或自行车一样

（14）虽然韦尼克区和布罗卡区起着关键作用，但将它们孤立地视为生成和理解语言的区域是错误的。韦尼克区和布罗卡区仅位于大脑的左侧，大脑右侧同一位置的区域仅与语言略有相关。除此之外，新皮质的其他功能几乎都发生在大脑的两侧。语言功能区独特的不对称性表明，韦尼克区和布罗卡区之间存在一些差异

（15）为什么语言功能只在大脑的左侧发生，也许存在一种简单的解释：语言需要快速处理，而大多数新皮质中的神经元处理语言的速度太慢，韦尼克区和布罗卡区的神经元具有额外的绝缘层，这可以使神经元运行得更快

（16）尽管存在一些差异，但韦尼克区和布罗卡区的解剖结构依然与新皮质的其他区域相似。因此，语言背后的大多数机制可能与其他认识和感知功能对应的机制是一样的

（17）皮质柱为它学习的每个物体创建参考系，然后这些参考系布满了指向其他参考系的链接

（18）成为专家主要是要找到一个好的参考系来组织事件和观察数据

第7章 千脑智能理论

（1）在现有的大脑新皮质理论中，感觉信息逐步经过处理从新皮质的一个区域传递到下一个区域，在更多的区域重复多次，每一次理解不同深度的特征，最后组合起来理解整个物体。该理论最大的弊端在于认为视觉是个静止的过程，但事实是视觉是一个互动的过程，要了解一个物体长什么样，需要从不同角度来观察。只有通过移动，新皮质才能学习一个物体的模型

（2）第一和第二视觉去(V1和V2)是人类新皮质中最大的区域。当眼睛从一个注视点扫视到另一个注视点时，尽管视觉输入还没有进入视野，这些神经元就已经变得活跃起来，仿佛它们已经可以看到新的视觉输入

（3）作者认为，所有皮质柱，即使是低层次的感觉区的皮质柱，都能够学习和识别完整的物体。一个只感知到物体一小部分的皮质柱可以通过长期整合其输入来学习整个物体的模型，就像我们通过访问一个又一个地点来了解一个新的城市一样

（4）新皮质中有许多针对具体某个物体的模型。这些模型位于不同的皮质柱中。它们并非完全相同，而是互为补充。视觉皮质柱无法学习电源开关的凹陷，触觉皮质柱无法学习图标在显示屏上的变化

（5）任何单独的皮质柱都不可能学习世界上每个物体的模型

（6）称“千脑智能理论”的原因：关于任何特点物体的知识都分布在成千上万个互补的模型中

（7）神经元从不依赖单个突触，神经元网络的工作从不依赖单个细胞，新皮质并不依赖单根皮质柱。就像水利部门的每个员工都能够独自修理供水基础设施的某些部分一样

（8）如果我们拥有上千种模型，为什么只能获得某一种感知而非上千种感知？作者假设：皮质柱会进行“投票”。如果你仅用一根手指触碰某物，你就必须在物体上移动手指才能识别物体；如果你用整只手抓住这个物体，则可以立即识别出来

（9）投票的过程：作者认为具有长距离连接的细胞在进行投票，使用远程连接，皮质柱能广泛传递它对正在观察的东西所做出的猜测

（10）为什么当大脑的输入发生变化时，我们对世界的感知似乎依然是稳定的？每根皮质柱中的其他神经元会随着感官移动而变化，但表示物体的投票神经元则不会

（11）一直处于活跃状态的投票神经元数量很少

（12）大脑的注意力：每次转移，投票神经元都会选择不同的物体

（13）千脑智能理论认为，新皮质区的层次结构并不是绝对必要的。老鼠的视觉系统证明，即使是单个皮质区也可以识别物体。新皮质的解剖结构表明，按层次组织与数千个模型投票的两种连接都存在。在层次之间传递的是完整的物体，而不是特征。新皮质并非使用层次结构将特征聚合成所识别的物体，而是使用层次结构将物体聚合成更复杂的物体

（14）千脑智能理论本质上是一种感觉-运动理论。它解释了我们如何通过移动来学习和识别物体，是层次模型的扩展。

（15）世界上的每个物体都有数千个模型，新皮质的任何一部分都不会试图重新组合这种混乱的表征

人工智能的未来

（1）尽管人工神经网络与人类大脑种的神经元网络截然不同，但是人工神经网络领导了当下的人工智能领域。作者认为人工智能向基于大脑的原理的转变是必然的

第8章 并不智能的人工智能

（1）深度学习网络在部署之前需要经过充分的训练，并且一经部署就无法在运行时学习新的东西

（2）人们认为现在的人工智能系统并不智能，最主要的原因是它们只会做一件事，而人类可以做各种各样的事情

（3）类人智能的机器人：能够快速学习新任务，发现不同任务之间的相似性，灵活地解决新的问题

（4）作者认为深度学习并不能让我们走上一条创造真正的智能机器的道路

（5）陈述一个事实并不困难，难点在于通过有效的方式表征知识。除非解决计算机中的知识表征问题，否则我们就无法制造出真正的智能机器

（6）当下的深度学习网络并不具备知识。一个用于下围棋的计算机并不知道围棋是一种游戏，也并不了解其历史

（7）关于语言网络是具有真正的知识，还是仅仅通过记住数百万单词的统计信息来模仿人类，科学家意见不一。深度学习网络目前取得了不错的性能，但这并不是因为它们解决了知识表征的问题。相反，它们完全避开了这个问题，转而依赖于统计信息和大量的数据

（8）假设我希望表征关于常见的订书机的知识，我可能会给计算机写下一条关于订书机的规则：压下订书机的顶部，订书钉就会从一个末端弹出。然而要理解这句话，就需要定义“顶部”“末端”“订书钉”这样的单词，以及“压下”“弹出”等不同动作的含义。此外，它没有说明订书钉弹出时会朝着哪个方向，接下来会发生什么，或者当订书机被卡住的时候你需要做什么。因此，我需要编写额外的规则。这种表征知识的方法会导致我列出无穷无尽的定义和规则。

而大脑则会学习一个关于订书机的模型，每当我想回忆起按下订书机的顶部时会发生什么，我只需要在大脑中想象出订书机，然后按下它看看会发生什么

（9）人们可以使用文字描述问题的答案，但知识并不是存储在文字或规则中的。模型才是知识

（10）人工智能将会从如今的专用人工智能转向通用人工智能的原因有二：
        1.通用计算机最终的性价比更高，这推动了技术的快速发展

        2.在未来，一些最重要的机器智能的应用将会需要通用解决方案的灵活性

（11）判断智能的标准：

        1.持续学习

                当神经元学习一种新模式时，它就会在一个树突分支上形成新的突触。新的突触不会影响之前在其他分支上通过学习而形成的突触。现有的人工智能系统使用的人造神经元就不具备这种能力

        2.通过运动学习

                每根皮质柱都是一个完整的感觉-运动系统，在每一次运动后，皮质柱会预测下一个输入是什么

        3.多重模型

                每根皮质柱都会学习物体的模型，但大脑的新皮质的长程连接使皮质柱可以对它们所感知的物体进行投票

        4.使用参考系存储知识

                皮质柱使用网格细胞和位置细胞来创建参考系

（12）由于深度学习网络无法感知位置信息，辛顿认为深度学习网络无法学习世界的模型

（13）不能依据机器执行一项或几项任务的情况来衡量智能。相反，智能是由机器如何学习和存储关于世界的知识决定的。人类之所以聪明，不是因为我们能把一件事做得特别好，而是因为我们能学会做几乎任何事

第9章 当机器拥有意识

在本章中，作者将描述大脑理论关于意识的几个方面的论断

（1）有意识要求我们形成即时的关于动作的记忆。假如把你做过的一件事情录成视频后，将你所有有关这件事的记忆删除，你会否认自己做过这件事。但当你看见视频时，你大概会说自己当时做这件事时是无意识的。

（2）有意识还要求我们形成即时的关于思维的记忆。思维就是大脑中神经元的连续激活。就像记住旋律中的音符序列一样，我们能记住一连串的思维。例如我们忘记自己需要做什么的时候，我们通常会问自己：在来到这里前我在哪里？我在想什么？等一连串的问题

（3）大脑中活跃的神经元有时代表我们当前的经验，有时代表以前的经验或想法。如果不能回忆起最近的想法和经历，那么我们就无法意识到自己还活着

（4）假设我们创造了一个智能机器，它学习的世界模型的内部状态等同于大脑中神经元的状态。如果智能机器在这些状态出现时记住它们，并能回放这些记忆，那么它会像人类一样意识到自己的存在吗？作者相信答案是肯定的

（5）感受质是指感觉输入被感知的方式，以及它们带来的感觉。人们将感受质的来源视为意识之谜

（6）感受质是主观的，如果两个人对相同输入的感受不同，那么他们大脑中的世界模型就是不同的

（7）人们通过类似的运动方式来学习感受质。在改变纸张的角度时，进入你眼睛的光的频率和强度就会改变，输入到大脑脉冲的模式也会随之改变。在转动纸张这样的物体时，你的大脑会预测光将如何变化

（8）并非所有的感受质都是习得的。几乎可以肯定，疼痛感是天生的，它由特殊的疼痛感受器和旧脑结构调节，而不是由大脑新皮质调节。因此，我们不能像理解绿色一样来理解疼痛，作者认为绿色是在大脑新皮质中习得的

（9）迈克尔·格拉齐亚诺提出，大脑新皮质的一个特定区域对注意力建模，类似于大脑新皮质的躯体神经对身体建模。他认为，大脑中的注意力模型使我们相信自己是有意识的，就像大脑中的身体模型使我们相信自己有一只胳膊或一条腿

（10）作者毫不怀疑，与大脑工作原理相同的机器将会具有意识。我们有道义不关掉有意识的机器吗？关掉它们相当于谋杀吗？不。作者并不会为拔掉一台有意识机器的电源而担忧。我们对死亡的恐惧是由旧脑产生的。旧脑中的神经元在产生恐惧和情感使，会向体内释放激素和其他化学物质。大脑新皮质可能会帮助旧脑决定何时释放这些化学物质。对死亡的恐惧和对失去亲人的悲伤对于具有意识和智能的机器而言并不是必要的

第10章 机器智能的未来

（1）设计智能机器可以从三个部分着手：具身、旧脑部、大脑新皮质

        1.具身：要学习世界的模型，需要移动一个或多个与世界上的事物相关的传感器；未来可能会创造出具有独特具身的机器，例如一个存在于单个细胞内、了解蛋白质的智能机器；分布式大脑是另一种不同寻常的具身，皮质柱不一定需要彼此相邻，可以大范围地分布于相关模型的表面；当我们思考机器智能的未来及其影响时，需要大开脑洞

        2.旧脑部分：需要基本的运动，当大脑新皮质想做某事时，它会向大脑中更直接控制运动的旧脑发送信号；不能让新皮质直接控制运动，新皮质实现了一个近乎通用的算法，但这种灵活性是有代价的；应该内置与机器具身密切相关的行为，例如无人机应该具有稳定飞行、着陆、避障等内置行为，但它的智能部分不需要考虑飞行控制，就像人类的大脑新皮质不需要考虑双脚平衡一样；需要内置安全性：机器人不得伤害人类、机器人必须服从人类的命令，除非这些命令违反了第一条、在不违反第一和第二条的情况下机器人必须保护自己；智能机器需要目标和动机，而大脑新皮质本身并不会创造目标、动机和情绪

        3.大脑新皮质：硅晶管的运行速度是神经元的100万倍，但并不代表整个智能机器的速度也可以达到这一水平，也不代表它习得知识的速度会这么快；芒斯卡尔认为通过复制相同的脑回路和皮质柱，我们大脑新皮质变大了，我们变得更聪明了，因此只要我们了解了皮质柱的作用以及如何利用硅制造皮质柱，那么通过更多或更少的皮质柱元素来制造各种容量的智能机器就会变得相对容易了；智能机器可以在理解深度上超越人类，但不意味着人类不能理解智能机器学的东西；智能机器没有与脑回路相关的约束，我们可以建立任意两组神经元之间的连接，这让智能机器可以保留所有的可能性，因为它消除了成人在尝试新事物时面临的障碍之一

第11章 机器智能存在的风险

（1）一方面的担忧是智能爆炸，指的是人类创造了比自身更聪明的机器，另一方面的担忧是目标失调，指的是智能机器追求与我们的福祉相反的目标，而我们无法阻止它们。作者认为这些争论似乎都是疯狂的假想，不仅是基于错误的科技概念，而且是基于对智能的错误理解

（2）在大多数领域，智能机器学习的速度会受到与世界进行客观互动这一需要的限制，因此机器不可能突然知道得比我们多

（3）超人机器也是不可能实现的，因为我们对世界的了解是不断变化和扩大的

（4）目前大多数取得成功的人工智能技术都是针对静态任务的，这些问题既不会随时间而改变，也不需要持续学习。然而世界上的大多数情况都不是固定的，我们需要执行的任务是不断变化的

（5）目标失衡取决于两种不可能满足的条件：

        1.尽管智能机器接受了我们的第一个请求，但它会忽略后续的请求：为什么要这样设计？

        2.智能机器有能力征用地球上足够多的资源，让人类无法阻止它：这意味着智能机器需要控制世界上绝大多数的通信、生产和运输资源，人类不会让一个人甚至极小部分人掌握世界上所有资源，对机器也是如此

（6）谈到智能机器的风险和回报，作者认为需要弄清楚三个概念之间的区别：

        1.复制：任何能够自我复制的东西都是危险的

        2.动机：生物的动机是进化的结果

        3.智能：除非智能机器可以自我复制和进化，否则它们将不会自发地对人类构成生存风险

人类智能的未来

（1）智能是我们成功的源泉，但它也对人类生存构成了威胁

第12章 大脑的错误信念

（1）人类生活在虚拟世界中，只不过这一切没有发生在计算机中，而是发生在人类自己的大脑里，且人类构建的世界模型可能是不准确的

（2）错误信念指的是，大脑构建的模型相信某些东西存在，但实际上这些东西在客观世界中并不存在

（3）模因这本历史书可能充满事实错误，但是生命并不是为了拥有一个正确的世界模型而存在。生命的目的在于复制

第13章 人类智能存在的风险

（1）第一个风险：大脑中的新皮质发明了强大到可以改变整个地球的技术，然而控制这些技术的人类行为往往是由自私且短视的旧脑所主导的

（2）第二个风险：新皮质可能会受到欺骗，从而对世界的基本原理形成错误的信念

（3）衡量一个物种成功的终极标准，或者说唯一标准，就是将自己的基因传递下去

（4）对基因有益的东西并不总是对个体有益。让个体尽可能多生孩子的基因会有更大的成功概率，即使这样做会导致死亡和痛苦

（5）如何解决人口增长的问题？确保每个女性都有能力掌握自己的生育权，并且她有能力做出是否生育的选择

（6）新皮质不是在与旧脑对抗，而是既让旧脑得到它想要的东西，也阻止不良结果的发生

（7）错误信念的三个基本要素：不能直接体验、忽略相反证据、病毒式传播

第14章 脑机融合的畅想

（1）死亡很奇怪，我们的旧脑被设定为害怕死亡、我们的身体却被设定为终会死亡。为什么生物进化会让我们害怕一件几乎无法避免的事？道金斯认为，生物进化不是与物种的生存有关，而是与基因个体的生存有关。从基因的角度来看，我们需要活得足够久。才能生育后代，才能复制基因。活得越久虽然对动物个体越有利，但这种情况可能并不能让基因在最大程度上获益。死去——为了给别的基因组合腾出空间，但要等我们有了孩子以后再死去

（2）上传大脑：我们的大脑中的所有部分都以复杂的形式相互连接，如果不包括所有部分，那上传的大脑就会存在严重的问题；上传大脑比大多数人想象的要困难得多；当看到你的计算机复制体开始自己的生活，而生物的你慢慢衰老然后死亡时，生物的你会觉得自己实现了永生吗；上传大脑不会比生育一个孩子更能实现永恒，复制你自己只是一个岔路口，而不是道路的延续

（3）脑机融合：必须克服极大的技术挑战，包括怎样用微创手术植入数十亿电极，怎样避免我们的生物组织排斥这些电极，以及怎样可靠地瞄准数百万个单独的神经元；脑机融合仍然保留了生物的大脑和身体，而它们会衰弱并死去

第15章 保存人类遗产的3种可能

（1）漂流瓶之信：向地球附近的恒星发射宇宙飞船，即使人类灭绝，摄星探测器在很长一段时间内仍会继续在太空中旅行

（2）长明灯：METI(传递地外智能的信息)；相当多的人担心向太空发送信号会引来敌人，这让作者想起首次创业者最常犯的错误之一，担心有人窃取他们的想法，因此选择保密。但将自己正在做的事情告诉其他人远比保密更有可能获得成功；METI的风险是建立在一系列不可能的假设之上的。首先，要假设其他智能生物有能力进行星际旅行。其次，要假设他们愿意花费大量的时间和精力来进行地球之旅。除非外星人就藏在阴附近的某个地方，否则他们可能需要数千年的时间才能到达这里。还要假设，这些智能生物需要地球或地球上的某些东西，而这些东西是他们通过其他方式无法得到的，所以这趟旅行是值得的

（3）维基地球：我们可以把档案放在一组环绕太阳运行的卫星上

第16章 阻止人类灭绝的3种方法

作者认为人类灭绝不是指人类的基因灭绝，而是人类的知识与文化灭绝，即智能的灭绝；作者认为知识比基因更重要，这也是作者在第三部分想要告诉读者的

（1）成为星际物种：派遣智能机器人为人类改造适合居住的行星

（2）修改自身基因：已经研发了精确修改DNA分子的技术，能够创造新的基因组，并以创建和编辑文本文件的精确度和便利性，来修改现有的基因组

（3）离开达尔文轨道：创造出像人类一样拥有智能但并不依赖人类的智能机器