文章目录

一、摘要

二、简介

三、相关工作

3.1 基于概念的解释

3.2 强化学习中生成解释

3.3 国际象棋与人工智能

四、什么是概念？

五、发掘概念

5.1 挖掘概念向量

5.1.1 静态概念的概念约束

5.1.2 动态概念的概念约束

5.2 过滤概念

一、摘要

人工智能（AI）系统取得了显着进步，达到了超人类的水平跨不同领域的表现。这为我们提供了一个机会，通过利用这些高性能人工智能系统中编码的隐藏知识来进一步加深人类知识并提高人类专家的表现。然而，这些知识通常很难提取，也可能很难理解或学习。在这里，我们通过提出一种新方法来证明这是可能的，该方法允许我们在 AlphaZero 中提取新的国际象棋概念，AlphaZero 是一个人工智能系统，可以在没有人类监督的情况下通过自我对弈掌握国际象棋游戏。我们的分析表明，AlphaZero 可能编码超出人类现有知识的知识，但最终不会超出人类掌握的范围，并且可以成功地从中学习。在一项人类研究中，我们表明顶级人类专家可以学习这些概念，因为四位顶级国际象棋大师在解决所提出的概念原型位置方面表现出了改进。这标志着通过利用技术推进人类知识前沿的重要的第一个里程碑人工智能;这一发展可能会产生深远的影响，并帮助我们塑造在许多人工智能应用程序中与人工智能系统交互的方式。

二、简介

人工智能 (AI) 系统通常被视为解决问题的机器；它们可以完成人类已经能够完成的工作，但效率更高、工作量更少，这在多个领域带来了明显的好处。在本文中，我们追求一个不同的目标：将人工智能系统视为学习机器，并要求它们教会我们其决策背后的基本原则，以扩展和补充我们的知识。我们可以想象向机器学习