当前位置:   article > 正文

【全网最简单】5分钟 基于Win10 搭建本地最强对话大模型QWen2-7B 通义千问2_qwen2-7b cpu

qwen2-7b cpu
1 硬件环境

处理器:    Intel(R) Core(TM) i5-10600K CPU @ 4.10GHz   4.10 GHz
机器内存: RAM  32.0 GB (31.9 GB 可用)
显卡 显存>14 G(可运行标准版QWen2-7B) 

2 软件环境准备

具体安装方法参照本人上一篇文章:【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型

【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型_1060本地部署大模型chatglm-CSDN博客

两者环境基本相同,唯一区别是QWen2要求Transformers的版本更新一些,因此若你已经完成ChatGLM-6B模型的本地搭建,可以在此基础上升级Transformers即可运行千问2。

3 下载QWen2-7B预训练模型数据

下载地址:

4 下载QWen2-7B模型使用样例代码

5 修改样例代码:

未完待续,敬请关注 :。。。

上一篇:【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型_1060本地部署大模型chatglm-CSDN博客

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop】
推荐阅读
相关标签
  

闽ICP备14008679号