人工智能与伦理道德

人工智能：

“人工智能（Artificial Intelligence）”即AI，指的是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。这是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
人工智能”一词最初是在1956 年Dartmouth学会上提出的。从那以后，研究者们发展了众多理论和原理，人工智能的概念也随之扩展。

AI是否会取代人类？

关于这个问题，许多学者都表达出了他们的忧虑。早在1993年，计算机科学家Vernon Vinge推广了技术新概念: AI驱动的计算机或机器人能重新设计并改进自身，或者能设计比自身更先进的AI。这个概念让很多人认为，这将导致AI超出人类智慧、理解和控制，从而导致人类时代的终结。近来，许多权威科学家，包括Stuart Russell, Max Tegmark, 和 Frank Wilczek 都曾警告过，AI太过“聪明”的潜在后果就是机器将摆脱人类的控制，起身反抗，同治甚至是消灭人类。而权威物理学家与宇宙学家史蒂芬·霍金也曾说过：“人工智能的崛起可能是人类文明的终结”（出自霍金的主题演讲《让人工智能造福人类及其赖以生存的家园》）
霍金表示，人工智能的威胁分短期和长期两种。短期威胁包括自动驾驶、智能性自主武器，以及隐私问题；长期担忧主要是人工智能系统失控带来的风险，如人工智能系统可能不听人类指挥。（《终结者》就是这种危险的放大）
不过，对于这个话题，也有一些人持不同的意见。微软Azure公司副总裁茱莉亚·怀特就曾在悉尼举办的微软峰会上说过，“人工智能将取代人类”的说法忽略了一个前提，那就是人类是“不断学习、成长、改变自己以适应环境的”。怀特认为，人是智慧的生物，能够在不断学习的过程中利用人工智能，控制人工智能，而不是被机器取代。而英国物理学家罗杰·彭罗斯甚至认为，作为一种算法确定性的系统，当前的电子计算机无法产生智能。
对于这个问题，不同的人有不同的观点，但唯一不变的一点就是：Vernon Vinge提出的观点在未来某天终会到来，人工智能终会实现真正意义上的智能。

国内第一起机器人伤人事件：

2016年11月18日，网络盛传深圳高交会上发生“全国首例机器人伤人事件”，名叫“小胖”的机器人突发故障“杀伤力爆棚”，在没有指令的情况下自行打砸展台玻璃、砸伤路人，一位路人全身多处划伤后被担架抬走。这让许多人认为机器人自我意识觉醒对抗人类的危险越来越可能了。但是，18日下午，高交会组委会在其官网发布公告，称事故是由于工作人员操作反了方向键所致：

公告声明，11月17日13时30分左右，在1号展馆D32号展位（小胖的投影机供应商）旁通道内，参展人员试图将一台面罩打开的小胖机器人移动到展位内时，误将后退键按成前进键，并未及时按停，导致另一侧展台的玻璃被部分碰倒摔碎，玻璃划伤了另一侧展台内的一名观众，全过程持续约10余秒。
虽然最终并非机器人自我意识觉醒。但许多人依然强调，人工智能不能脱离伦理道德。这一点并非仅仅针对AI，还针对AI工作者。AI工作者应该富有责任感，用伦理道德约束自己，在可能的情况下，用伦理道德约束AI.

△ 今日头条创始人、CEO张一鸣

“作为人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。”
（资料皆来自网络检索）