人工智能会统治人类吗？

人工智能会统治人类吗？

——关于人工智能的哲学思考

关键词：人工智能、奇点、雷·库兹韦尔、超人工智能

目录

序

名词解释及声明

引言

一、智能之辨

1.从弱人工智能出发

2.人类最后的尊严

3.类人工智能的不确定性

4.什么事情机器不能做

5.智能之核心——学习能力

二、批判

1.制造类人工智能

2.雷·库兹韦尔错了——为什么机器人不会统治人类？

三、关于批判的批判

1.令人忧虑的科学价值观

2.数学，数学？数学！

四、结论

五、进一步的思考

1.恐怖的想象——移植知识

2.奇点会不会到来

序

理解大脑是当今世界最富挑战的研究领域之一，大脑以其高度的复杂性和模糊性以及鲁棒性，成为人类科学一直以来难以攻克的堡垒。然而，近年来随着计算机技术的发展，机器学习尤其是深度学习技术，使得人们看到了人工智能未来的一丝曙光，然而随之而来的争论也喋喋不休。其中包括以雷·库兹韦尔为著名代表的恐惧派，和以其它一些科学家组成的无畏派，恐惧派认为人工智能技术是一种十分危险的技术，它将使得人类最终被其创造的机器所消灭，而无畏派则认为完全不必要担心，因为现有的人工智能技术非常低级，因此不会对人类构成必要的威胁，反而警告恐惧派的人们，不要因为他们的YY而阻挠了科技的进步。很显然，无畏派是对的，但是我很担心其中一些人的立论观点和逻辑链，他们或许并没有真正想明白这些事情背后的真正的理由。因此，我将我平日里的所见所想表达出来，供大家讨论学习。学识浅薄，疏漏难免，如有错误，欢迎大家指出。

名词解释及声明

众所周知，现有的人工智能概念其实更多是基于统计规律的学习，包括深度学习，而这种学习是不具备人类智能基本特征的，这些能力包括一些低级的功能和一些高级的功能，比如想象、推理、综合、灵感、情绪表达等等。这种不具备类人且不超过人的智能，我们将之称之为弱人工智能。而对于超越人类智能的智能形式，我们将之称之为超人工智能，这种智能在某些功能上比人类高出一个等级，拥有更强的实时性、反应能力、思维能力和记忆力，更重要的是——学习能力，当然还有可能包含一些我们现在不知道的能力。而与人类处在同一个等级上的智能，我们称之为强人工智能，强人工智能又可以分为类人工智能和非类人的智能，其中非类人的人工智能在本文中不进行讨论，因此本文中如有出现强人工智能一词，即代指类人工智能。

文中还多次出现了智能一词，在有些段落可能指人类智能或者类人智能，但在一些段落，比如谈论到人类未来社会发展的展望时，可能代指人工智能技术，这两者需要清楚。

文中还出现了“奇点”一词，很显然本文不是讨论理论物理学的文章，如果有人理解错了，请将之自动转换到雷·库兹韦尔所著的《奇点临近》一书中“奇点”的含义上来。

文中还多次出现了教育一词，这里教育的词义有些扩充，不仅仅指在教室里学知识，而是泛指一切的学习活动，而在有些段落中则指代高级的学习活动，而在有些地方，如讨论现今的社会制度时，仍然代指现有的教育体制。

如有更多不懂的，请自行百度，如果我写错了，实际上因为时间的关系和难以控制的篇幅，我很多地方都没经过仔细推敲，如果我有写错了，请告知我修正，于人于我，善莫大焉。

本文版权保留，禁止转载，首发于微信号和知乎，若需要转载请联系我。

引言

人工智能能否统治人类，这是一个令人浮想联翩的话题，在雷·库兹韦尔的《奇点临近》中，作者对人类未来社会的场景进行了十分令人担忧的描述，这种描述认为在已经完备实现弱人工智能的不久将来，首先通过一些手段，如大脑的逆向工程实现类人工智能——这需要一定的时间积累，在此基础上通过利用“大规模集群”的类人工智能技术，便可以逐步超越类人工智能，一旦这种进步的速度达到一个临界点，那么这种超越的类人工智能便会质变为超人工智能，进而成为一种超越人类意识的“上帝意识”的存在。而在这之后，人类的命运将由自己