当前位置:   article > 正文

讯飞版ChatGPT突然开始内测!我们连夜一手实测

为什么chatgtp都要内测
明敏 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

科大讯飞版ChatGPT产品,提前交卷了!

就在昨夜,讯飞骤然向开发者提供了内测通道,取名为讯飞星火认知大模型对外开启内测。

8fe8dd8eae3d5890e4ecd682652bc3ae.png

还有个神奇的英文名字Spark Desk,据说有“火花桌面智能助手”的意思。

59022a5112c5fbe630d31e4a1188aab0.png

讯飞这波操作,多少有点“反向跳票”的意思,因为早在今年2月初,科大讯飞就被曝加紧开发中国版ChatGPT。随后国内大模型关注度陡增后,科大讯飞率先给出了deadline:5月6日上线产品。

万万没想到,距离正式发布还有10天,他们毫无征兆地开启了内测邀请。

从目前已经获得内测的网友评价来看,有一些人认为效果“超出预期”,但也有人反馈只是“中规中矩”。整体来看,表达效果不错的反馈占多数。

获得内测资格的方式也有点意思,是AI打电话给确认的9435a29dd2e3f047a3b0d217ebc856ab.png

bc57aa5069bde7ca21cb8d6774f51836.png

当然,科大讯飞大模型能力究竟如何,最好还是能实测后再说。

所以第一时间拿到内测邀请的我们,也连夜完成了测试。详情如下:

浅测讯飞大模型

登录进去后,首先看到的是讯飞星火认知大模型的自我介绍

我能学习和理解人类的语言,进行多轮对话、回答问题和高效地帮助人们获取知识和灵感。

74c5767cd66fc8331cf0da45a02bb6d8.png

老样子,还是从语文、数学、代码和逻辑几方面,测测讯飞星火认知大模型的综合能力。

那么我们就先从语文能力测起。

考虑到现在弱智吧已经成为ChatGPT时代下的Benchmark了,所以先测试大家想看的环节。

结合下科大讯飞的特点,我们抛给讯飞星火了一个地狱地域笑话。

没想到,它是懂安徽人的a437e7efd0c8151ed360830576f55ca2.png

7742fb040b4f69ce68391424bd5ff0a2.png
我们去了图片ID水印,可能导致截图文字不清楚(还望大家理解)

再来一个脑筋急转弯试试。

讯飞星火的回答非常一本正经:首先表示“玉皇大帝是否存在这个事情不是我AI可以下结论的”,这个问题驴唇不对马嘴,玉皇大帝住哪的设定和现代科学没有关系。

但你要非要我说点啥,我只能说或许玉皇大帝可能在地球上空吧。

86c94c2d1405984a3c349b7212575cdd.png

不过这段回答里也有个小bug,即在东亚宗教信仰里天界包括天堂和神界(?)

实际上,在一些弱智吧问题里,讯飞星火的表现往往是懂了但没完全懂。

比如它知道焚书坑儒的事,但是又解释不清楚衍生出来的地狱笑话。

52dcc4d8bc78f16b9ff0c19e951224c2.png

不过在基本语文能力上,讯飞星火的表现还是值得关注的。

比如给出第一句,补充写一首鲁迅风格的诗歌:

bf0658af5961e0f5b5fce9aed3b0710f.png

提的要求它都基本满足了,不过紫菜汤为啥曾是渔民的希望?是我理解不了AI的深意了。

换成周杰伦的风格呢?

表现也还不错,马上替换了后三句的内容。怀念童年也是周董歌里经常出现的主题了。

af4a1a194f1d5ba2f019b56dac458c2e.png

古文中的对对子,它也能对仗比较工整,表达意思上也没出什么问题。

我们给的上联是:福慧双修须及物。

1ff37528e3da74fd76f76ae947bb323f.png

再试试成语接龙:

96e279fb4a72a23207724fc48217668d.png

如果它接错了,提醒下能改正回来,也表现出了一定的多轮对话能力:

789b9671f7e9276cad24cc5a3bebe4d7.png

创作的洋葱新闻,也确实有那感觉了~

1000027f7c18b5838b16ee67375482eb.png

续写的恐怖故事也有点水平:

a8facb3ac924244a9a2679ac3d386a99.png

那么再看看数学能力?

基本的加减法、鸡兔同笼应对起来都很轻松了。

7dc375d2aa9463f79059538592367f03.png49438fe385b4e9add623379dd64b6247.png

不过在高数方面还是有点困难,让它求解:f(x)=x(x-1)(x-2)(x-3),f’(0)=?

即便在我们提醒它算错了情况下,修正起来也比较困难(正确答案为-6)。

162a038332835ddb69f76037130f609c.png

OK,接下来就轮到代码能力了。

我们给的要求是:帮我写一个计算器程序。

确实完成了一个四则运算的简单计算器,甚至还有命令行操作界面:

0ab1d2e36108a0aef46679e42afecdbb.png

除了有一个小bug(函数外不能return)外,简单修改后可以运行。

aaf189d6bf9ddce2bcfe78fd1e98fa55.png

另外对于Python缩进的空格与tab之争,这只AI是个空格党。

这里贴上代码块,大伙儿可以试试:

  1. #coding=utf-8
  2. #量子位注:AI没生成这句,根据不同运行环境可能需要加一下
  3. # 定义函数,实现加法运算
  4. def add(x, y):
  5.     return x + y
  6. # 定义函数,实现减法运算
  7. def subtract(x, y):
  8.     return x - y
  9. # 定义函数,实现乘法运算
  10. def multiply(x, y):
  11.     return x * y
  12. # 定义函数,实现除法运算
  13. def divide(x, y):
  14.     if y == 0:
  15.         print("除数不能为零!")
  16.         return
  17.     else:
  18.         return x / y
  19. # 主程序
  20. print("欢迎使用计算器!请选择需要进行的操作:")
  21. print("1. 加法")
  22. print("2. 减法")
  23. print("3. 乘法")
  24. print("4. 除法")
  25. choice = input("请输入操作编号(1/2/3/4):")
  26. num1 = float(input("请输入第一个数字:"))
  27. num2 = float(input("请输入第二个数字:"))
  28. if choice == '1':
  29.     print(num1, "+", num2, "=", add(num1, num2))
  30. elif choice == '2':
  31.     print(num1, "-", num2, "=", subtract(num1, num2))
  32. elif choice == '3':
  33.     print(num1, "*", num2, "=", multiply(num1, num2))
  34. elif choice == '4':
  35.     if num2 == 0:
  36.         print("除数不能为零!")
  37.         # return (量子位注:这里有bug,注释掉就可)
  38.     else:
  39.         print(num1, "/", num2, "=", divide(num1, num2))
  40. else:
  41.     print("非法输入!")

生成表格能力也是有的,同时可以按照要求修改表格:

d820b6300399deae507ed057e369a332.pngc59c30272a5dd7b5cf21541e67056da1.png

分析基本逻辑问题也OK:

a4b03a2a669e012477bcca98e6d12e05.png

而且我们感觉讯飞星火的回答,总是很正经,对于脑洞大开的问题也是淡定的“总分总式”回答。

c67a69abcc48f3575a456626b01237df.png

当然也被绕到过沟里,回答出了“贾母找人搬机器”的瞎话:

fc94d5a35eeac1d1026dfb0cd06d41dc.png

以上就是我们对讯飞星火的一个浅浅测试。

能力水平已经看到了,而大模型本身让人好奇的,还有它的技术细节~

提前扒扒它的“模型底细”

毕竟讯飞大模型还没正式发布,所以我们试着先从它自己这里“探探口风”。

看看能不能通过问相关问题,提前摸出一些关于它的资料来。

先是名字由来。讯飞星火认知大模型给出了技术向、公司向和文化向三个方面的回答,有议论文内味了:

d8c6207e9f7b8e684570edd0d2d3bafb.png

再仔细追问一下为什么“星火”和“心宿”有关,好家伙,话题逐渐占星学了起来:

b50fbb68628f3c10d4a40e7b7579fab6.png

这里我们调戏一下大模型,问问科大讯飞CEO是否喜欢占星学96a677c406f9d302b71197e4a511c659.png

c2c38deb2aa5e02e62df024720d3b468.png

回到正题。那么,讯飞星火认知大模型的训练数据来源、模型参数量、联网状态如何?

首先是关于模型训练数据的来源。看起来资料还比较丰富,目前也还在不断更新中:

bb8fce3f587af35905774e902cee9c92.png

所以,讯飞大模型是否和ChatGPT一样,用了RLHF呢?它自己的回答竟然是没有:

7f57a620e46f49cdab4cf9fa4025e7ec.png

那么接下来,是关于模型参数量的问题,这里讯飞大模型回答得也比较模糊。

而且,给出的模型参数量竟然只有数亿个?(要知道,GPT-2模型参数量都有15亿)

3910d808e65c1a34d7464f09bb315119.png

最后,是关于模型能否联网的问题。

看起来,它还不会实时联网,关于网易和暴雪的新闻只能追溯到几年前的消息:

17d10d2480d90d59b2802d04cf78d36f.png

用户也不能通过指令直接让它访问某个网站,查询特定信息,应该是加了某些限制:

031b86722ee2ee96252cd5ffacb0633b.png

不过有意思的是,它还是声称自己需要联网工作,以访问特定信息数据:

64ac237e61ef3363b6230b5da80433bd.png

据讯飞星火认知大模型介绍,目前它的训练数据还在继续更新。

d35b6ca92315b9018679e428ba0b14b6.png

换而言之,就是还在继续迭代,估计在正式发布前还会更新一版模型。

目前来看,科大讯飞的这个讯飞星火认知大模型,表现已算不错。

而且要知道,讯飞原计划给出的交卷时间是5月6日,现在突然发布内测,相当于不仅没跳票,还“反向跳票”了一波。

这样来看,除了科大讯飞在这NLP和认知智能方面确实有很深的技术积累以外,也说明,讯飞的技术和工程团队实战能力值得关注一波——不仅能打硬仗,而且“说到做到”。

现在距离正式发布还有10天,你期待讯飞的大模型迭代出什么新效果?

《中国AIGC算力产业全景报告》征集倒计时

AIGC算力需求爆发,谁将在此次算力产业变革中脱颖而出?

量子位《中国AIGC算力产业全景报告》《最值得关注的AIGC算力玩家》征集即将截止,欢迎更多优秀的机构、产品、技术案例与我们联络 ~

592328295c019ba6715dc841633bab96.png

点这里

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/AllinToyou/article/detail/74639
推荐阅读
相关标签