1.前向搜索1.1.通过前向搜索，通过考虑各种可能的动作序列的结果，来选择动作，是智能系统的基本能力1.2.如果一家卡车运输公司想要优化其100辆卡车在美国的运输，那么该公司可能需要考虑的状态数量将是10^700个1.3.几乎所有的前向搜索程序都...
1.愚蠢的、情绪化的人类1.1.与完美理性所设定的不可企及的标准相比，我们都是极其愚蠢的，我们受制于各种情绪的起伏，这些情绪在很大程度上支配着我们的行为1.2.为了充分了解人类的认知，我们（或者更确切地说，我们的有益机器）可以对人类行为进行“逆向工程...
1.辅助博弈1.1.assistancegame1.2.逆强化学习如今已经是构建有效的人工智能系统的重要工具，但它做了一些简化的假设1.2.1.机器人一旦通过观察人类学会了奖励函数，它就会采用奖励函数，这样它就可以执行相同的任务1.2.1.1...
1.标准模型1.1.我们能控制一个从外太空来的超级智能实体的概率几乎为零1.2.随着根据标准模型设计的机器变得更加智能，以及它们的行动范围遍及全球，关闭机器这种方法越来越不可行1.2.1.机器将会追求它们自己的目标，无论目标错得多么离谱1.2....
1.言论1.1.对一个人终身职业的威胁，可能会使一个非常聪明的、通常很有思想的人说出一些话，但在进一步分析后，他们很可能希望收回这些话1.2.电子计算器在算术方面是“超人”，但是计算器并没有接管世界，因此，我们没有理由担心会产生超越人类的人工智能1...
1.大猩猩问题1.1.大约1000万年前，现代大猩猩的祖先创造了进化出现代人类的遗传谱系1.1.1.它们的物种基本上没有未来，除了我们屈尊所允许它们拥有的未来1.1.2.我们不希望在超级智能机器面前处于类似的地位1.2.大猩猩问题就...
1.工作1.1.技术性失业问题1.1.1.约翰梅纳德凯恩斯（JohnMaynardKeynes）在其著名的文章《我们后代在经济上的可能前景》中提出了技术性失业问题1.1.1.1.他在1930年写了这篇文章，当时大萧条在...
1.自动化史塔西1.1.作恶的创新也在快速发展1.1.1.心怀恶意的人们正在迅速地想出滥用人工智能的新方法1.2.史塔西（Stasi）是得意智皿煮国和共家国部全安更广为人知的名字，它被广泛认为是“有史以来最高效、最具性压镇的报情和秘密惊诧构机之一...
1.发现动作1.1.时间跨度长的智能行为，需要具备在多个抽象层次上分层规划和管理活动的能力，从攻读博士学位（可能涉及1万亿个动作），到给一根手指发送一个运动控制指令，从而键入求职信的字符，无所不包1.2.随着时间的推移，未来越来越接近现在，计划变得越...
1.全球层面的智能1.1.仅仅为了阅读完当前世界上所有的出版物（更不用说过去所有的书面材料）就需要20万名全职人员，收听当前的广播则还需要6万名全职人员1.1.1.监听世界上所有的电话也是可能的（这项工作需要大约2000万人）1.2.这样一个系统...