当前位置:   article > 正文

老母鸡教学 在本地Windows 11电脑上运行本地大模型【千问】_如何配置本地运行大模型

如何配置本地运行大模型

        大模型最近的迭代太猛了,感觉用不了多久就可以将整个项目和需求交给它去完成,对于还没尝试在本地离线使用大模型的小伙伴们,可以跟着我的节奏在你的电脑上部署一个属于自己的大模型

  • 什么是大模型
    • 大模型通常指在深度学习中训练的大型神经网络,具有大量的参数和复杂的结构,能够处理大规模的数据和复杂的任务。这些模型往往需要巨大的计算资源和数据集进行训练,但其在自然语言处理、图像识别、推荐系统等领域表现出色,能够实现高精度的结果和泛化能力。例如,GPT-3、BERT等都是当前知名的大模型。
  • 准备工作
    • 一台电脑 本次部署成功的电脑配置为
    • LM Studio
    • qwen大模型文件
  • 第一步
    • 安装Lm Studio
    • 能突破封锁的用户可以自己选择自己的想要的大模型文件进行下载
  • 第二步
    • 将下载好的大模型文件按照如下目录进行目录创建和存储
    • 其中 big_ai_model是 Lm Studio的工作路径 需要将模型文件存放工作路径的下二级目录
  • 第三步
    • 选择Lm Studio 中My Models 功能模块
    • 选择刚刚创建好的big_ai_model文件夹 
  • 第四步
    • 选择侧栏中的Ai Chat 模块
    • 选择刚刚加入的千问模型 等待模型库的应用
  • 第五步
    • 可以愉快的和这个模型聊天了
    • 离线也没有问题

为了帮助国内的小伙伴,我把需要的东西放在百度云盘

  •  LM Studio下载地址
  •  链接:https://pan.baidu.com/s/1quCxwg493lHQ7rHWqKqcyg 
  • 提取码:s4zp 
    --来自百度网盘超级会员V8的分享
  • qwen大模型文件下载地址
  • 链接:https://pan.baidu.com/s/1BfdAxmHIpx4aWibEvy8COw 
    提取码:ssxd 
    --来自百度网盘超级会员V8的分享
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/IT小白/article/detail/678477
推荐阅读
相关标签
  

闽ICP备14008679号