读人工智能时代与人类未来笔记16_科学发现

1.       科学发现

1.1.         科学认识的发展往往涉及理论和实验之间的巨大差距以及大量的试错

1.2.         模型不是像传统的那样来自理论理解，而是来自基于实验结果得出结论的人工智能

1.2.1.           这种方法需要的专业知识不同于开发理论模型或传统计算模型

1.2.2.           它不仅需要对问题有深刻的理解，还需要知道哪些数据，以及数据的哪些表征，将有助于训练一个人工智能模型来解决问题

1.3.         机器学习对科学理解的重要性日益增加，这对我们看待自己的方式和我们在世界上所扮演的角色提出了另一个挑战

1.3.1.           人工智能为科学探究、发现和理解增加了一种非人类的、与人类相异的世界概念

1.4.         科学历来是人类的专业知识、直觉和洞察力的巅峰组合

1.4.1.           在理论和实验的长期相互作用中，人类的聪明才智推动了科学探索的各个方面

1.5.         在生物、化学和物理科学领域，一种混合伙伴关系正在形成，人工智能正在促成新的发现，那是一些人类虽未能亲自发现，却可以努力做出相应理解和解释的发现

1.5.1.           人工智能在生物和化学科学领域推动广泛发现的一个突出例子是AlphaFold的开发，这一程序使用强化学习创建了强大的新蛋白质模型

1.5.2.           AlphaFold使用强化学习来模拟蛋白质，而不需要人类的专业知识，即之前的方法所依赖的已知蛋白质结构

1.5.3.           AlphaFold将蛋白质折叠的准确性从大约40%提高了一倍多，达到约85%，这使得世界各地的生物学家和化学家能够重新审视他们以前无法回答的问题，并提出关于如何对抗人类、动物和植物中病原体的新问题

1.6.         人工智能正在超越以往在测量和预测方面的限制，其结果是改变了科学家为治疗疾病、保护环境和解决其他基本挑战而获取相应知识的方式

2.       教育与终身学习

2.1.         人工智能时代的到来将改变我们与他人，以及我们与自己的关系

2.2.         未来，孩子们可能在比Alexas和谷歌Homes更先进的人工智能助手的陪伴下长大，这个助手集保姆、导师、顾问、朋友等多种角色于一身

2.2.1.           助手几乎可以教孩子任何语言，也可以训练孩子学习任何科目，并根据每个学生的表现和学习风格来因材施教，使他们获得最佳的学习效果

2.3.         数字助手的任务是通过个性化最大限度地提高人类同伴的便利感或满足感，它们给出的建议和信息可能会被人类用户视为必不可少，即使人类用户无法准确解释为什么它们要好于其他任何替代资源

2.3.1.           长此以往，人们可能会更偏爱自己的数字助手，而不是人类，因为人类不懂得投其所好，而且更“令人讨厌”

2.4.         数字信息的唾手可得已经改变了一代人的教育和文化体验

2.4.1.           上一代的父母限制孩子看电视的时间，现在的父母限制孩子使用数码设备的时间一样，未来的父母可能会限制人工智能陪伴孩子的时间

2.4.2.           尽管数字化让越来越多的信息变得可用，但它却压缩了深入、专注思考所需的空间

2.4.2.1.            今天几乎持续不断的媒体流增加了思考的成本，从而减少了思考的频率

2.4.2.2.            算法为了回应人类对刺激的渴望而力推那些夺人眼球的事物，而能够夺人眼球的，往往也是戏剧性的、出人意料的和有感染力的

2.4.2.3.            一个人能否在这种环境中找到思考的空间是一个问题，而如今占主导地位的交流形式不利于促进有节制的理性，这是另一个问题

2.5.         赞成让孩子与人工智能为伴的人

2.5.1.           希望推动孩子取得成功的人

2.5.2.           有意愿或能力让孩子得到人类父母养育或人类导师教导而只能依赖人工智能的人

2.5.3.           只是想满足孩子结交人工智能朋友愿望的人

3.       新信息中介

3.1.         人工智能正日益塑造我们的信息领域

3.1.1.           这些组织和机构提炼复杂的信息，强调个人需要了解的内容，并将结果广而告之

3.2.         现在，从金融到法律，在每一个以密集脑力劳动为特征的领域，人工智能都正在被整合到学习的过程中

3.2.1.           真人编辑和主播可以解释他们选择呈现内容的原因，无论其是否准确

3.2.2.           只要人们还期望得到这样的解释，人工智能时代就会让大多数不了解其技术过程和机制的人失望

3.3.         人工智能对人类知识的影响是自相矛盾的

3.3.1.           人工智能中介能够浏览和分析的数据的规模，比人类在无此协助之前所能想象的要大得多

3.3.2.           种处理大量数据的能力，可能也会加大对数据的操纵和误导

3.3.2.1.            人工智能能够比传统的宣传更有效地利用人类的激情，它会根据个人偏好和本能进行调整，以给出其创造者或用户所希望的回应

3.3.2.2.            场竞争的起伏变化促使社交媒体平台和搜索引擎竞相呈现用户最感兴趣的信息

3.3.2.2.1.             那些被认为是用户喜闻乐见的信息获得了优先排序，扭曲了现实的本来面貌

3.4.         有些人会寻求信息过滤不被扭曲，或者至少察觉到这种扭曲

3.5.         有些人会权衡各个过滤途径，从而独立地衡量结果

3.6.         有一些人则可能会选择完全排斥人工智能，而更偏爱通过传统的人工信息中介进行过滤

4.       原则

4.1.         为了确保人类的自主权，政府的核心决策应该脱离已被人工智能浸染的结构，并仅限于人类的管理和监督

4.1.1.           确保人类对政府基本构成部分的监督和决定性参与，对于维持其正当性至关重

4.1.2.           在司法行政过程中，提供解释和道德推理是其正当性的关键要素

4.1.3.           在人工智能时代，当涉及重大问题时，决策者都应该是具备相应资质、能够为所做选择给出理由的非匿名人类

4.2.         民主也必须保留人的品质

4.2.1.           有意义的协商需要的不仅仅是发言的机会，还需要保护人类言论不被人工智能扭曲

4.2.2.           言论自由应继续作为人类的权利，而不能适用于人工智能

4.2.3.           人工智能有能力产生高质量和大容量的错误信息，比如深度伪造的信息，这些信息很难与真实的视频和音频记录区分开来

4.2.4.           管人工智能自动语音是应人们的要求创建和运用的，但重要的是要在它与真正的人类语音之间建立一种可理解的区分

4.2.5.           虽然对人工智能中介进行监管，以防止其传播错误信息和虚假信息（尤其是故意制造的虚假信息）是困难的，但也是必不可少的

4.2.6.           在民主社会中，言论权允许公民分享相关信息、协商参与民主进程，并通过创作小说、艺术品和诗歌来追求自我实现

4.2.6.1.            遏制产生错误信息的人工智能进行传播，将有助于保护对我们的协商过程至关重要的言论权

4.3.         每个社会必须首先确定人工智能在各个领域允许和不允许使用的全部范围

4.3.1.           对某些强大的人工智能，如通用人工智能的使用权，需要严格把关，以防止被滥用

4.3.2.           因为通用人工智能的构建成本可能相当高昂，只有少数组织能够负担得起，所以其使用可能会受到限制

4.3.3.           限制在生物武器生产中使用人工智能，应该很容易达成一致，但需要国际合作

5.       全新未来

5.1.         传统的理性和信仰将在人工智能时代继续存在，但其性质和范围必将因为引入一种新的、强有力的、机器运作的逻辑形式而受到深刻影响

5.2.         人类身份可能会继续停留在“生命智能”的顶峰，但人类理性将不再被视为致力于理解现实的智能的全部

5.2.1.           侧重点可能需要从“以人类理性为中心”转移到“以人类尊严和自主性为中心”

5.3.         谨慎的人可能会试图限制人工智能，将其使用局限于零散功能，并限定其使用时间、场所和方式

5.3.1.           社会或个人可能会保留自己绝对重要的地位和裁判者角色，将人工智能置于辅助的次要位置

5.4.         人工智能可能在探索和管理现实世界和数字世界方面发挥主导作用

5.4.1.           在特定领域，人类可能会对人工智能言听计从，更喜欢人工智能的数据处理过程，而非人类思维的局限性

5.4.2.           人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引发人们对自由社会甚至自由意志前景的怀疑

5.5.         在许多领域，人工智能和人类将成为探索事业中的平等伙伴

5.5.1.           为了与人工智能融洽相处，社会需要建立相应知识和心理基础设施，并运用其独特才智，尽可能地造福人类

5.6.         在每个独立的人工智能新运用布局中，建立平衡至关重要

5.6.1.           个人的消息会更灵通、准备会更充分、观点会有更大影响力，他们可能据此对政府提出更多要求

5.7.         在东大，出于包括监管在内的目的，政府正大举投资于人工智能

5.8.         在米国，人工智能研发在很大程度上被留给了私营部门

5.9.         欧盟的目标是加强对企业和政府使用数据和人工智能方式的管理，并促进欧洲人工智能公司的创建和发展

5.9.1.           限制甚至禁止政府使用某些被视为具有高风险的技术

5.9.2.           如人脸识别（尽管人脸识别有一些有益用途，如寻找失踪人口和打击人口贩运）

5.10.     最大化与人工智能的伙伴关系带来的物质和知识利益

6.       对现实和人性的感知

6.1.         由人工智能探索或在人工智能辅助下探索的现实，可能会超越人类的想象

6.1.1.           它可能包含我们从未察觉或无法概念化的模式

6.1.2.           它被人工智能所洞察的底层结构，可能是无法用人类语言表达的

6.1.3.           当它返航时，也可能带回我们不能完全理解的模式或预言

6.2.         超越普通人类经验的内在现实

6.2.1.           诺斯替派(Gnostic)哲学家

6.3.         必须重新定义我们的角色

6.3.1.           我们已不再是现实的唯一认知者

6.3.2.           还必须重新定义我们认为自己正在探索的现实

6.3.3.           即使现实没有让我们感到困惑，人工智能的出现仍可能改变我们与现实以及我们彼此之间的关系

6.4.         人工智能革命发生之迅猛，将超过大多数人的预期

6.4.1.           除非我们发展出新的概念来解释、演绎和组织其所带来的转变，否则无论是对人工智能还是对其所产生的影响，我们都无法驾驭

6.4.2.           在道德上、哲学上、心理上、实践上，可以说在各个方面，我们均发现自己正处于一个新时代的悬崖边，身后已无路可退

6.4.3.           我们必须动用自己最根本的素养和资源，比如理性、信仰、传统和技术，来调整我们与现实的关系，从而让现实仍是人类的现实