本地安装大语言模型Gemma

作者：很楠不爱3 | 2024-04-01 04:07:33

踩

本地安装大语言模型Gemma

下载大模型服务工具：https://ollama.com/download/windows
启动命令如下：

# []内是不同的模型版本，后两个吃显存，8G以下的不用考虑了）
ollama run gemma:[2b/7b/7b-instruct-fp16]
1
2

在这里插入图片描述

题外话：
如果你是windows电脑，在执行命令时报Unable to load dynamic library，那是因为默认安装的C盘路径中包含中文。
一般来说修改windows用户文件夹名是比较繁琐的，要修改注册表信息，建议做好数据备份。
win11的用户可以看这篇https://zhuanlan.zhihu.com/p/509804656，仔细看！！！

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/很楠不爱3/article/detail/347346