“AI教母”李飞飞和“AI教父”Hinton观点：关于LLM

1. “AI教母”李飞飞：LLM不存在主观知觉能力，多少亿参数都不行

出处：https://hai.stanford.edu/news/no-todays-ai-isnt-sentient-heres-how-we-know

5月24日，李飞飞连同斯坦福大学以人为本人工智能研究所 HAI 联合主任 John Etchemendy 教授在time杂志上联合撰写了一篇观点文章，对LLM到底有没有知觉能力（sentient）进行了深入探讨。

通用智能的基本特征之一是“知觉”，即拥有主观体验的能力——感受它是什么样子，比如说，体验饥饿、品尝苹果或看到红色。知觉是通向一般智能道路上的关键一步。

1.1 LLM具备知觉能力阵营的观点

LLM是有知觉的，因为它报告了主观体验。主观体验是意识的标志。它的特点是声称知道你所知道或经历的。我相信，作为一个人，当你说“我有一顿美餐后感到快乐的主观体验”时，你是有意识的。作为一个人，我实际上没有直接证据证明你的主观体验。既然你传达了这一点，我认为从表面上看，你确实有主观体验，所以是有意识的。

“现在，让我们将相同的'规则'应用于LLM。就像任何人一样，我无法访问LLM的内部状态。但我可以探究它的主观体验。我可以问'你饿了吗？它实际上可以告诉我是或否。此外，它还可以明确地与我分享它的“主观体验”，几乎任何事情，从看到红色，饭后快乐，到有强烈的政治观点。因此，我没有理由认为它没有意识或没有意识到自己的主观体验，就像我没有理由认为你没有意识一样。在这两种情况下࿰