设置Ollama在局域网中访问的方法（Ubuntu）

作者：从前慢现在也慢 | 2024-04-23 11:09:16

踩

趁着Llama3的热度试了一下Ollama，果然部署推理大模型很有用。一个现实的需求是，如果我们要在局域网中访问Ollama上大模型的服务，应该怎么办呢？参考了一下其他博客的方法

也不是很麻烦：

首先打开Ollama的配置文件

sudo gedit /etc/systemd/system/ollama.service

在[Service]下面加上：

Environment="OLLAMA_HOST=0.0.0.0:11434"

其次配置防火墙，打开端口。Ollama的默认端口是11434，所以直接输入：

sudo ufw allow 11434/tcp

再重启之后，就可以通过http在局域网中访问了：

可以看到：

Ollama is running

就可以通过局域网或者另一台机子上的LangChain调用了。就简单记录这么多。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/473569