阿西洛马人工智能23原则(Asimolar principle)_阿西洛马23原则

阿西洛马人工智能23原则
科研问题

1）研究目标：人工智能研究的目标不是为了创造不受指挥的智能，而是有益的智能。

2）研究经费：对人工智能进行投资的同时，要保证有经费用于研究如何有益地使用人工智能，研究包括计算机科学、经济学、法律、伦理以及社会研究中的棘手问题，比如：

如何使未来的人工智能系统变得高度稳健，即系统会执行我们所想的而不会发生故障或被入侵？
如何通过自动化提升我们的繁荣程度，同时保持人们的资源和意志？
如何升级我们的法制体系使其更公平高效，能够跟得上人工智能的发展速度，并且能控制人工智能带来的风险？
人工智能该与什么样的价值体系保持一致？它该有怎样的法律和伦理地位？
3）科学与政策的联系：在人工智能研究员和政策制定者之间应该要有富有建设性的和健康的交流。

4）科研文化：在人工智能研究员和开发者中应该要培养起一种以合作、信任与透明为基础的文化。

5. 避免不必要的竞争：人工智能开发团队之间应该积极合作，避免有人钻空子导致安全标准被削弱。

伦理和价值

6）安全性：人工智能系统在它们整个的运转周期内应该是安全可靠的，并且能在可应用的和可行的地方被验证。

7）失败透明性：如果一个人工智能系统造成了损害，那么造成损害的原因要能被确定。

8）审判透明性：任何自动系统参与的司法决策都应提供令人满意的解释，可被有能力的人类监管机构审核。

9）负责：高级人工智能系统的设计者和建造者，在道德影响上，是人工智能使用、误用和动作的利益相关者，并有责任和机会去塑造那些影响。

10）价值观一致：高度自主的人工智能系统应该被设计，确保它们的目标和行为在整个运行过程里与人类的价值观相一致。

11）人类价值观：人工智能系统应该被设计和操作，以使其和人类尊严、权力、自由和文化多样性的理想相一致。

12）个人隐私：人们应该拥有权力去访问、管理和控制他们产生的数据，考虑到人工智能系统有分析和使用那些数据的能力。

13）自由和隐私：人工智能在个人数据上的应用必须不能不当地剥夺人们真实的或认为的自由。

14）分享利益：人工智能科技应该惠及并赋权最大可能的多数人。

15）共同繁荣：由人工智能创造的经济繁荣应该被广泛地分享，惠及全人类。

16）人类控制：人类应该来选择如何和是否委派人工智能系统去完成人类选择的目标。

17）非颠覆：高级人工智能被授予的权力应该尊重和改进健康的社会所依赖的社会和公民秩序。

，而不是颠覆。

18）人工智能装备竞赛：致命的自动化武器的装备竞赛应该被禁止。

更长期的问题

19）能力警惕：我们应该避免关于未来人工智能能力上限的假设，但这一点还没有共识。

20）重要性：高级人工智能能够代表地球生命历史的一个重大变化，我们应该用与之相称的警惕和资源来管理。

21）风险：人工智能系统造成的风险，特别是灾难性的或有关人类存亡的风险，必须能够被相应的努力所管理和减轻。

22）递归的自我提升：人工智能系统被设计成能够以一种可以快速提升质量和数量的方式进行自我升级或自我替代，这种方式必须受制于严格的安全和控制标准。

23）公共利益：超级智能的开发是为了服务广泛认可的伦理理想，并且是为了全人类的利益而不是一个国家和组织的利益。

来源
https://cloud.tencent.com/developer/article/1134099