赞
踩
了解大语言模型的小伙伴们想必对LMSYS Org推出的大模型竞技场Chatbot Arena已经有所耳闻了,Chatbot Arena目前是海外最具公信力的大模型榜单之一,但该榜单中文化程度还相对不足。
OpenCompass:大模型评测的实践与思考
近期,上海人工智能实验室联合魔搭社区推出中国大语言模型评测竞技场 Compass Arena,首度集齐国内主流大模型全明星阵容,里面包括:阿里通义千问、百度文心一言、腾讯混元、讯飞星火、字节跳动豆包、智谱AI、百川智能、零一万物、月之暗面、Minimax、深度求索、书生·浦语等20款国产大模型出战,角逐中国大模型“最强王者”。
相比考题固定的传统测评,大模型竞技场采用盲测、开放的测评模式,可以更全面地检验模型实力。Compass Arena 设置了随机、匿名对战,大模型选手们成为“蒙面唱将”,模型信息隐去后,由系统随机匹配进行 PK,用户可以天马行空自由出题,并作为评委主观评判和投票。如果大模型不小心“自报家门”,则对话被过滤,不计入成绩。通过成千上万轮 PK 挑战和用户投票,系统将对大模型进行自动排名。
魔搭社区直播时,网友脑洞大开在线出题
Compass Arena 由上海人工智能实验室 OpenCompass 司南评测体系与魔搭社区联合建设,前者负责组织评测,后者负责开源模型引入及社区打造。 据上海人工智能实验室 OpenCompass 团队介绍,Compass Arena 力求体现社区用户的真实反馈,评测机制借鉴 Chatbot Arena ,采用 Elo 评分系统,即国际象棋等对弈活动评估的权威标准。在这种模式下,大模型竞技类似“在游戏中打排位”,胜率成为评估模型水平的关键指标,同时随着排位变高,系统也会自动匹配高段位选手进行对战。
与 Chatbot Arena 相比,Compass Arena 更聚焦中文大模型,主流国产大模型全覆盖,同时评测用户大多使用中文,可以充分评估国产大模型的效果。
目前,Compass Arena 已汇聚超20款商业及社区模型,包括 Qwen-Max、ERNIE-4.0-8K、Spark3.5 Max、Abab6.5、GLM4 等国内头部厂商的旗舰款大模型,并引入了 Llama3、Mixtral 等海外标杆模型进行参照。更多模型及厂商还在不断加入中。
期望 Compass Arena 能在国内携手构建一个开放、公平、透明的大语言模型评估体系,推动大模型评测的公正性和客观性,提供可信赖的大模型评估参考,促进大语言模型技术的健康发展和持续创新。
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
-END-
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。