人工智能恶意使用报告：预测、预防和缓解

来源：199IT互联网数据中心

摘要：一份研究报告指出，人工智能的高速发展伴随着风险。不肖人士可能会使用这个技术发动全自动攻击，让自驾车失控、或把商业用无人机变成能够锁定目标的武器。

一份研究报告指出，人工智能的高速发展伴随着风险。不肖人士可能会使用这个技术发动全自动攻击，让自驾车失控、或把商业用无人机变成能够锁定目标的武器。

这份报告由来自剑桥大学、牛津大学与耶鲁大学的26位科技与公共政策学者共同发表，对社会发出警告: 行事草率的政府、罪犯、或个人都有可能会滥用这项科技。

报告中提到，人工智能一旦被恶意操作，它能够采取大规模的高精准锁定攻击，不管是资讯的还是政治的安全都会面临即刻的威胁。报告中特别强调，这些是针对该领域未来五年内可能的发展所下的结论。

发现的问题比能解决的多

"我们都同意人工智能有很多正面的应用，" 剑桥大学的"人类生存研究中心" 学者布伦达格（Miles Brundage）说道，"但是在不当使用人工智能会造成什么后果这个方面，论述显然很少。"

他们亦在98页的篇幅中提出警告: 可能会出现新形态的攻击，而到时候单由人类自己来想解决办法、或是奢望人工智能自己失灵都是不切实际的。

最后，这份报告提出一系列建议，包括将人工智能视为 "军事兼商业"科技加以管制。它也呼吁人工智能界的学者，要对发表他们的研究成果保持谨慎，静待其他学者研拟出因应风险的办法。这位学者也坦陈，"最终，我们发现的问题比能解决的多。"

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”