ollama极简三步运行谷歌Gemma-7B_ollama gemma

作者：凡人多烦事01 | 2024-03-22 20:43:40

踩

ollama gemma

在当今的科技时代，AI 已经成为许多领域的关键技术。AI 的应用范围广泛，从自动驾驶汽车到语音助手，再到智能家居系统，都有着 AI 的身影，而随着Facebook 开源 LLama2 更让越来越多的人接触到了开源大模型。如今，Google 又推出了新一代开放模型 Gemma，旨在帮助开发者和研究人员更负责任、高效地开发 AI 技术。

ollama是一条命令快速在本地运行大模型，在GitHub超过39K Star的开源项目。
地址：https://github.com/ollama/ollama

笔者亲测有效Windows笔记本快速运行Gemma：配置是Win11，12G内存。-----注意：至少有 8 GB 可用 RAM （运存）来运行 7B 型号，16 GB 来运行 13B 型号，32 GB 来运行 33B 型号。
在这里插入图片描述

一、下载安装 ollama:
https://ollama.com/ 首页点击下载：Ollama Windows(preview)，运行 OllamaSetup.exe 一键安装，install就好。请添加图片描述
二、拉取 gemma:7b
打开Windows CMD / PowerShell, 运行如下命令

ollama pull gemma:7b
1

其实也可以直接运行第三部分的run，里面包括了拉取模型。
在这里插入图片描述
三、运行 Run gemma:7b

ollama run gemma:7b
1

在这里插入图片描述
输入

please comment on the value of paper "attention is all you need " to ChatGPT
1

输入

please help to translate your previous answer into Chinese
1

在这里插入图片描述
长对话效果一般，但是胜在笔记本轻轻松松跑起来，期待未来更多的模型吧！

四、删除gemma:7b
如果不想用也可以直接删除，命令：

ollama rm gemma:7b
1

在这里插入图片描述

部分参考文章：https://mp.weixin.qq.com/s/XmzDpRKXanCnA8gBcivW8Q

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45965387/article/details/136268382

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/凡人多烦事01/article/detail/290768