马斯克状告OpenAI的关键证据竟是微软的火花论文，可GPT-4到底是不是AGI呢？_微软gpt4论文

上一集和上上集我们讲到马斯克起诉OpenAI：

马斯克正式起诉OpenAI和奥特曼！

OpenAI回击马斯克的起诉：GPT-4不是AGI，所以没必要开源

值得注意的是在马斯克的诉讼状中，他反复引用了一篇微软的论文，相信很多小伙伴们之前也看到过，是微软研究室撰写的评估GPT-4神秘力量的论文-人工通用智能（AGI）的火花。

奶茶非常也好奇为什么马斯克选这个反复说，整理了一下相关的内容，大家可以一起来看下～

论文讲了什么？

在这篇名为“AGI的火花”的论文中，微软的研究人员对GPT4进行了全面、广泛的评估，最终结论是，尽管他们不明白其中原理，但GPT-4显示出了AGI的“火花”，即一种可以做到与人类大脑相同的一切的机器。

“我们证明，除了熟练驾驭语言外，GPT-4还可以解决涉及数学、编程、视觉、医学、法律和心理学等领域的新颖而困难的任务，不需要任何特殊的提示。此外，在所有这些任务中，GPT-4的表现都非常接近人类的水平，并经常大幅超过ChatGPT等之前的模型。考虑到GPT-4功能具有的广度和深度，我们认为可以合理地认为它是通用人工智能（AGI）系统的早期（但仍不完善的）版本。”

但是论文也写道“我们声称GPT-4代表了在AGI方面取得进步，这并不意味着它在所处理的任务方面堪称完美，并不意味着它接近于能够做人类可以做的任何事情（AGI的定义之一），也并不意味着它有内在的动机和目标（AGI的定义之一）。”

自GPT-4发布一周后，这篇论文就产生了巨大影响，截止到今天，微软的研究已被引用了超过1500篇。根据Semantic Scholar的数据，它是过去五年中人工智能领域中被引用次数最多的文章之一。但是，引发争议的是，这篇论文没有经过同行评议，由于是在微软和OpenAI保密的早期版本的GPT-4上进行的，因此无法复现其结果。正如作者在论文中指出的那样，他们没有使用后来公开发布的GPT-4版本，因此任何复制实验的人都会得到不同的结果。

加州大学伯克利分校的教授Alison Gopnik评价：“当我们看到复杂的系统或机器时，我们会赋予它人性化；每个人都这样做——无论是从事该领域工作的人还是不从事的人。”“但是把这看作是人工智能和人类之间的持续比较——就像某种游戏节目竞赛一样——这并不是正确的思考方式。”

奶茶读这个意思是，这篇论文的结果只是证明了虽然是走向AGI路上的关键一步，但是还没到AGI，而且是GPT4是否摸到了真正的AGI也还有争议？那马斯克将这篇论文用作抨击OpenAI的武器是不是有力呢？

马斯克为什么需要这个答案？

那这个论文在马斯克的诉讼中扮演什么角色呢？为什么他这么需要这篇论文呢？

承认GPT-4为AGI是马斯克诉讼的核心部分。

因为这是称OpenAI的创始理念已被违反以及该营利性部门违反了其与微软之间的许可协议的部分依据，该协议规定微软只能接收“前AGI”技术。

马斯克辩称OpenAI违反了合同，因为它同意不将其董事会认为是AGI的任何产品商业化但是没做到，因此在他的诉状中多次引用AGI的火花的论文来论证 GPT-4就是AGI。

起诉书中反复引用了《火花》论文，“微软的科学家承认GPT-4获得了某种形式的通用智能，考虑到“GPT-4的广度、深度功能，我们可以合理地被视其为AGI系统的早期（即使仍不完整）版本。那么，GPT-4既然一种AGI算法，这意味着其根本不应该授权给微软。

论文的结论被认可吗？

尽管GPT-4在2023年3月推出时被誉为一项重大突破，但大多数人工智能专家并不认为它是AGI已经实现的证据。即虽然GPT-4代表了向AGI迈出的重要一步，但是微软和OpenAI等公司应该继续提高该技术的推理能力才能成为AGI。

华盛顿大学名誉教授、人工智能专家Oren Etzioni说：“GPT-4是通用的，但它显然不是人们通常使用该术语的方式的AGI。”

斯坦福大学人工智能和语言学科的Christopher Manning教授在谈到马斯克诉讼中的AGI主张时说道。“人工智能界对于通用人工智能的构成存在不同的看法。一些专家可能会降低标准，认为GPT-4执行多种功能的能力足以证明将其称为AGI是合理的，而其他专家则更愿意保留这个术语用来指代在任何事情上都比大多数或所有人更聪明的算法。根据这个定义，我认为世界上显然还不存在AGI，而且距离它确实还很远”

人工智能领域对于GPT-4技术目前、未来的智能程度仍存在者严重分歧，到底是不是AGI的答案还没有人能下准确的定义，因此马斯克的诉讼开庭的话，那么陪审团必须先给这个问题下一个定论。

OpenAI地回应

微软和OpenAI拒绝就此诉讼发表评论。OpenAI首席战略官Jason Kwon在周五下午发送给员工内部备忘录，明确表示GPT-4不是AGI。

他写道：“它能够解决许多工作中的小任务，但人类完成的工作与GPT-4在完成的工作在经济上的比例仍然高得惊人。重要的是，AGI将是一个高度自治的系统，有能力为长期存在的挑战设计新颖的解决方案——GPT-4无法做到这一点。”

黑料论文

这篇论文在种族歧视上也同样有争议。

在论文的引言中，作者最初通过引用 30 年前《华尔街日报》的一篇评论文章来定义“智力” ，该文章在捍卫钟形曲线（也称为正态分布曲线或高斯曲线）的概念时声称“犹太人和东亚人”更有可能拥有更高的智商而不是“黑人和西班牙裔”。

论文作者之一的李博士在去年的一次采访中表示，当研究人员寻求定义 AGI 时，“我们从维基百科上获取了它”。他说，当他们后来了解背后涉及到种族歧视时，“我们真的对此感到羞愧，并立即做出了改变。”