GPT4O给Qwen2生成的高考作文打分56分，从“小白”进阶技术大神的开发者基于国产GPU推理模型效果可还行？_mr-v100

OpenI启智社区上线的【芯动开源】首场活动-天数智芯挑战专场即将迎来最后一周的冲刺阶段，自2024年5月27日上线以来，这期间，我们见证了天数智芯通用GPU加速卡在适配AI模型方面的无限可能与开发者们开源精神的璀璨光辉。

在短短的两周时间里，我们收到了累计超过300次基于天数智芯天垓100（BI-V100）和智铠100（MR-V100）的模型适配和跑通结果的提交。这些成果不仅展现了开发者们深厚的技术功底和出色的创新能力，也充分验证了天垓100和智铠100两款高性能通用GPU芯片在模型适配和运行方面的卓越性能。

值得一提的是，除了天数智芯开源的DeepSparkInference推理模型示例库中包含的50余款模型外，许多开发者还基于智铠100自适配了多款国内外热门的AI模型，如GLM-4-9B、Qwen2-7B、Telechat-7B等等。这些大模型的适配成功，不仅拓宽了AI技术的应用场景，也为开发者们提供了更多实践和创新的机会。

技术先锋荣登榜首，实力与热情铸就荣耀之巅

在这场技术的较量中，一位开发者凭借其出色的技术实力和敏锐的洞察力脱颖而出。他便是我们今天要重点介绍的开源人物——周辉。

他不仅及时关注业界新兴的大模型并将其从其他开源平台导入贡献至OpenI启智社区，还充分利用智铠100的强大性能完成了多个国内最新发布的大模型的适配和高效运行。本着对大模型迁移活动的满腔热情和卓越的技术实力，周辉成功拿下了第2周活动的第一名，获得了价值300元京东卡和300算力积分。

周辉所迁移和适配的模型中，不乏像智谱AI于2024年6月5日推出的GLM-4-9B-Chat模型和阿里通义千问团队于2024年6月7日推出的Qwen2-7B-Instruct、Qwen2-72B-Instruct-GPTQ-Int4（量化版）模型这样的业界翘楚。这些最新推出的国产大模型以出色的对话生成能力、指令理解能力和广泛的知识覆盖，成为了众多开发者关注的焦点。

在深度学习领域，模型的适配和迁移是一项极具挑战性的任务。这不仅需要开发者对硬件性能有深入的理解，对模型工作原理有透彻的研究，还需要具备丰富的实践经验和创新思维。周辉正是凭借这些能力以及对启智平台功能与各算力资源性能的熟练掌握，成功地将这三款模型与智铠100进行了适配和迁移。

为了将这一过程中的点滴体会和宝贵经验传递给更多的开发者们，周辉将它们凝结成了一篇篇详细的教程发布在启智论坛。这些教程不仅涵盖了模型适配的各个环节，如创建任务、选择算力资源、安装依赖包、编写推理程序等等，还深入剖析了其中的技术难点和解决方案，为其他开发者提供了宝贵的参考，更为推动自主通用GPU加速卡的优化与发展注入了新的动力。

在周辉的教程中，他巧妙地融入了一些既实用又充满趣味的案例。比如，他利用智铠100调试Qwen2-72B-Instruct-GPTQ-Int4模型时的一个独特尝试，运用这个强大的模型来生成一篇模拟的今年高考作文，命题是“随着互联网的普及、人工智能的应用，越来越多的问题能很快得到答案。那么，我们的问题是否会越来越少”。随后他又将生成的作文交由ChatGPT4-O进行评分，作文竟然获得了高达56分（满分60）的优异成绩。

除了图文教程，周辉还会将模型适配的过程和经验制作成系列视频，发布在自媒体视频号（周辉6344）上。

介绍了这么多，那周辉究竟是何方神圣？

周辉坦言，尽管自己已走出校园多年，且并非人工智能领域从业者，甚至曾是一名对人工智能知之甚少的“小白”，但正是借助了OpenI启智社区所提供的丰富算力资源、技术支持以及详尽的教程，他才得以逐步深入，不断进阶。在此过程中，他深感自己受益匪浅，并乐于将自己的学习心得和实践成果分享给更多的开发者，希望能为大家带来启发和帮助。

“在平凡的日子里也要泛着光”，这句话用来描述周辉再合适不过。他并非一开始就站在技术的巅峰，但他凭借对技术的热爱和不懈追求，一步步走进了我们聚焦的画面。他用自己的实际行动诠释了什么是真正的开源精神——分享、协作、共同进步。这种精神不仅激励着开发者们不断前行，也吸引着越来越多的人加入到OpenI启智社区这个开源大家庭中来。

让我们为周辉和所有在OpenI启智社区默默做出开源贡献的开发者们点赞！

收官在即，邀你来战

最后，活动已步入最后一周的冲刺阶段，如果你也跃跃欲试的话，可以参考学习大家在启智论坛贡献的教程，来启智AI协作平台使用天数智芯GPGPU算力资源体验大模型迁移的快感。我们对每周表现优异的小伙伴们都准备了京东卡奖品和算力积分奖励，也期待更多的开发者能够加入到这场挑战中来，共同探索天数智芯自主通用GPU在模型适配方面的更多可能性和潜力。

天数智芯专场活动链接

基于智铠100调试最新的通义千问Qwen2-7B-Instruct模型教程

基于智铠100调试最新的智谱清言GLM-4-9B-chat模型教程

利用天数智芯MR-V100使用KAN-TTS将文字转语音教程