迈向第三代人工智能

文章摘要：   

        人工智能 (artifificial intelligence，AI) 自1956 年诞生以来，在 60 多年的发展历史中，一直存在 两个相互竞争的范式， 即符号主义与连接主义 (或称亚符号主义)。二者虽然同时起步， 但符号主义到 20 世纪 80 年代之前一直主导着 AI 的发展，而连接主义从 20 世纪 90 年代才逐步发展起来，到21世纪初进入高潮，大有替代符号主义之势。

        这两种范式只是从不同的侧面模拟人类的心智(或大脑)，具有各自的片面性，依靠单个范式不可能触及人类真正的智能. 需要建立新的可解释和鲁棒的 AI 理论与方法，发展安全、可信、可靠和可扩展的 AI 技术。

        为实现这个目标，需要将这两种范式结合起来，这是发展 AI 的必经之路。 本文将阐述这一思想，为叙述方便，称符号主义为第一代 AI，称连接主义为第二代 AI，将要发展的AI称为第三代 AI。

---

1 第一代人工智能

        符号AI与人类理性智能一样具有可解释性和容易理解.。符号 AI 也存在明显的局限性， 目前 已有的方法只能解决完全信息和结构化环境下的确定性问题。

        其中最具代表性的成果是 IBM “深蓝” 国际象棋程序。

---

2 第二代人工智能

        对于感官信息：

        符号主义主张：以某种编码的方式表示在 (记忆) 神经网络中，符号 AI 属于这一学派。

        连接主义主张： 感官的刺激并不存储在记忆中，而是在神经网络中建立起 “刺激 – 响应” 的连接 (通道)， 通 过这个 “连接” 保证智能行为的产生。

        1958 年罗森布拉特 (Rosenblatt) 按照连接主义的思路， 建立一个人工神经网络 (artifificial neural network， ANN) 的雏形 —— 感知机 (perceptron)。

        如果拥有一定质量的大数据， 由于深度神经网络的通用性 (universality)，它可以逼近任意的函数， 因此利用深度学习找到数据背后的函数具有理论的保证。

        2016年3月谷歌围棋程序 AlphaGo 打败世界冠军李世石，是第二代 AI 巅峰之作，因为在 2015 年之前计算机围棋程序最高只达到业余五段。

---

3 第三代人工智能

        第一代知识驱动的 AI，利用知识、算法和算力3个要素构造 AI，第二代数据驱动的 AI，用数据、算法与算力 3 个要素构造 AI。

        第三代 AI其发展的思路：

        把第一代的知识驱动和第二代的数据驱动结合起来，通过同时利用知识、数据、算法和算力等4个要素，构造更强大的AI.。目前存在双空间模型与单一空间模型两个方案。

3.1 双空间模型

        双空间模型如图 2 所示，它是一种类脑模型，符号空间模拟大脑的认知行为，亚符号 (向量) 空间模拟大脑的感知行为。

        这两层处理在大脑中是无缝融合的， 如果能在计算机上实现这种融合，AI 就有可能达到与人类相似的智能，从根本上解决目前 AI 存在的不可解释和鲁棒性差的问题。

 为了实现这种目标，需要解决以下 3 个问题：

（1）知识与推理：      

        Watson 关于知识表示和推理方法的以下经验值得借鉴:

                1) 从大量非结构化的文本自动生成结构化知识表示的方法，

                2) 基于知识质量的评分表示知识不确定性的方法，

                3) 基于多种推理的融合实现不确定性推理的方法。

（2）感知：

        目前的研究只能提取部分的语义信息， 还不能做到提取不同层面上的语义信息, 如 整体”、“部件”和“子部件”等, 达到符号化的水平，因此仍有许多工作有待研究。

（3） 强化学习 ：

        通过感官信息有可能学到一些基本知识 (概念)，不过仅仅依靠感官信息还不够，比如 “常识概念”，如 “吃饭” “睡觉” 等仅依靠感官难以获取，只有通过与环境的交互，即亲身经验之后才能获得，这是人类最基本的学习行为，也是通往真正 AI 的重要道路。

        强化学习 (reinforcement learning) 就是用来模拟人类的这种学习行为，它通过 “交互 – 试错” 机制，与环境不断进行交互进而学习到有效的策略，很大程度上反映了人脑做出决定的反馈系统运行机理。

-------语义空间即语言意义的世界。一般来说，信息是意义和符号的统一体，内在的意义只有通过一定的外在形式（动作、表情、文字、音声、图画、影像等符号）才能表达出来。因此，每一种符号体系在广义上都是传达意义的语言，它们所表达的意义构成了特定的语义空间。

强化学习的核心目标就是选择最优的策略，使得预期的累计奖励最大。

        但是在不确定性、不完全信息、数据或者知识匮乏的场景下， 目前强化学习算法的性能往往会出现大幅度的下降， 这也是目前强化学习所面临的重要挑战。

        存在的典型问题：

                (1) 部分观测马氏决策过程中强化学习

                (2) 领域知识在强化学习中的融合机制

                (3) 强化学习和博弈论的结合

3.2 单一空间模型

        单一空间模型是以深度学习为基础，将所有的处理都放在亚符号 (向量) 空间，这显然是为了利用计算机的计算能力，提高处理速度。

        关键问题：

                1.符号表示的向量化

                2.深度学习方法的改进

                3.贝叶斯深度学习

                4.单一空间中的计算

---

总结

        为了实现第三代 AI 的目标，最好的策略是同时沿着这两条路线前进，即三空间的融合，如图10所示。这种策略的好处是，既最大限度地借鉴大脑的工作机制，又充分利用计算机的算力，二者的结合，有望建造更加强大的 AI。