读人工智能全传14有意识的机器之路

1. 有意识的机器之路

1.1. 近年来人工智能和深度学习方面取得了真实的、令人兴奋的突破，但它们并不是构建通用人工智能的法宝

1.2. 深度学习可能是通用人工智能的一个重要组成部分，但它绝不是唯一的组成部分

1.3. 实际上，我们并不清楚还缺失了哪些关键部分，更不知道通用人工智能的秘方究竟是怎么组成的

1.4. 图像识别、语言翻译、无人驾驶汽车，都无法构成通用人工智能

1.5. 仍然面临罗德尼·布鲁克斯在20世纪80年代强调的问题：我们有一些智能组件，但不知道如何将它们组成一个真正的通用智能系统

1.6. 强人工智能的目标

1.6.1. 构建跟人类一样有自我意识的，真正能够自主存在的机器

2. 意识、思想和其他奥秘

2.1. 1838年，英国科学家约翰·赫歇尔(John Herschel)进行了一个简单的实验，试图测量太阳辐射有多少能量

2.1.1. 把一个装有水的容器暴露在阳光下，测量了太阳能使容器中水温升高1摄氏度所需的时间

2.2. 强人工智能的话题，我们的目标是建造真正具有意识、具有思维，能够拥有自我意识和理解力的机器，与我们自身非常相似

2.3. 目前的我们就跟当年的赫歇尔处在同样的位置

2.3.1. 人类思维和意识这种现象——它们是如何进化的，如何工作的，甚至它们是如何在我们的行为中扮演控制角色的——对我们而言，就像在赫歇尔时代为太阳提供能量的物理机制，是完全神秘的

2.3.2. 这些问题我们不知道答案，连寻求答案的方式都不太清楚

2.3.3. 我们都不知道该从什么地方着手

2.3.3.1. 实际上的情况更加糟糕，因为我们甚至不知道到底该处理什么

2.4. “意识”“思想”和“自我意识”之类的术语，但事实上，我们都不知道它们具体是什么东西

2.4.1. 但我们没有办法用科学的方式来定义或者衡量它们

2.4.2. 从科学意义来讲，我们无法证明它们真实存在，但根据个人经验和常识，它们确实存在

2.4.3. 我们根本没有这样的测试来研究思想或者意识：它们不适合被客观观察或测量

2.5. 从历史上看，我们对人脑结构和运作的大部分了解都是通过研究那些因疾病或创伤而大脑受损的人获得的，但这很难成为一个系统的研究项目

2.6. 意识产生于有主观感受的智能体，拥有主观上的内在感受性

2.6.1. 重点就在于对内在心理现象的感知，哲学上称之为感受性

2.6.2. 感受性是指所有人都会经历的精神感觉

2.7. 内格尔的测试

2.7.1. 意识并不是一个有或者无的东西，它是有层次的，从极端的成熟的人类意识，到另一个极端的蚯蚓的简单意识

2.7.1.1. 即使是人与人之间，也存在差异，一个人有意识的程度也会不同，取决于他们是否受酒精等外部因素的影响，或者仅仅是因为太过疲惫

2.7.2. 意识对不同的实体而言是不同的

2.7.2.1. 蝙蝠的意识与人类的意识完全不同，事实上，内格尔相信它超出了人类能够理解的范畴，尽管我们仍可以确定它的存在

2.7.3. 内格尔的观点基于一种常识，即人类是有生命的物体，这是人类特殊的地方

3. 强人工智能

3.1. 不管人类有多么了不起，最终也就是由一群原子组成的物体

3.1.1. 人类和人类的大脑都是物理实体，遵守物理定律

3.1.1.1. 我们目前并不太清楚这些物理定律是什么

3.1.2. 人类是非凡的、奇妙的、不可思议的生物，但从宇宙及其规律来看，我们并没有什么特殊性

3.2. 人工智能的实际成就实在是配不上人工智能这个名字

3.3. 人类的许多行为和决策建立在“直觉”的基础上，美国哲学家休伯特·德雷福斯(Hubert Dreyfus)认为直觉不像计算机要求的那样精准

3.3.1. 人类的直觉不能够简化为计算机程序那样的步骤

3.3.2. 确实有大量的证据表明我们的许多决策不是基于明确或者严密的推理

3.3.3. 我们经常做出决定，但无法阐明自己的理由

3.4. 直觉肯定是源自我们随着时间推移获取的经验(要么是通过进化获得的经验，要么是通过基因传递给我们的经验)，即使我们无法在意识层面上表达出来，这也并非什么神秘的事情

3.4.1. 计算机可以在经验中学习，并成为有效的决策者，即使它们也无法清楚地表达自己决策的基本原理

3.5. 中文房间

3.5.1. 哲学家约翰·希尔勒(Joln Searle)

3.5.2. 如果希尔勒的观点是正确的，那就意味着理解这种能力——强人工智能所需要的能力——是不能够通过遵循步骤执行命令产生的

3.5.3. 用传统计算机是无法实现强人工智能的

3.5.3.1. 传统计算机在数学上已经被证明了具有局限性

3.5.3.2. 有些问题是计算机从根本上就无法解决的，但它们可以被明确界定

3.5.4. 虽然房间里的人没有表现出对中文的理解，房间本身也没有，但包含房间、人、说明书等的整个系统却有着理解

3.5.5. 中文房间难题，如果从图灵测试的角度来看，是一种作弊，因为它没有把房间当作一个黑盒

3.5.6. 只要事实上它所做的事情与理解中文的人类所做的事情毫无区别，即可

3.6. 可计算问题，这一直是人工智能发展历程中的一大拦路虎

4. 社交大脑

4.1. 进化理论告诉我们，人体拥有的各种特征都会给我们带来进化优势

4.2. 在一系列著名实验中，神经科学家约翰-迪伦·海恩斯(Joln-Dylan Haynes)显然能够探测到受试者意识到自己做出最终决定的10秒前内心所做的决定

4.3. 有意识的头脑只不过是我们身体产生各种行为的一种毫无意义的副产品，这一理论被称为副现象论

4.4. 大脑是一个信息处理设备，它消耗了人体所产生能量的相当大一部分

4.4.1. 通常的估算为20%

4.5. 灵长类生物会进化出更大的大脑，是因为它们需要处理更重要的信息

4.5.1. 考虑到庞大的能量需求，大脑必须产生一些实质性的进化优势

4.6. 和灵长类生物大脑体积关系最密切的因素是平均社会群体规模，即灵长类生物社会群体中动物的平均数量

4.7. 邓巴数，公认为150

4.7.1. 人类社会群体的平均规模大约是150人

4.7.1.1. 即一个人拥有稳定社交的上限人数大约是150人

4.7.2. 邓巴数是一个能引起人好奇心的数字，随后的各种研究发现，这个数字在人类社会群体实际规模计算中反复出现

4.7.3. 新石器时代的农业村庄通常大约有150名居民

4.7.4. 最近发现的一个有趣事实是，邓巴数可以解释我们在脸书等社交网站上积极接触的朋友数量

4.7.5. 邓巴数可以理解为人类大脑能够管理的人际关系的最大数量

4.7.6. 不少人互动的人数是大于这个数字的，但邓巴数是我们能够真正保持的关系数量