使用ollama + webui 运行任意大模型_docker ollama web ui_anythingllm 11434

ollama run llama2

发送请求（会有很多输出，一直到结束）

curl http://localhost:11434/api/generate -d ‘{
“model”: “llama2”,
“prompt”:“Why is the sky blue?”
}’

可以选择其支持的模型列表[GitHub - ollama/ollama: Get up and running with Llama 2, Mistral, Gemma, and other large language models.]( )


## 安装webui


[GitHub - open-webui/open-webui: User-friendly WebUI for LLMs (Formerly Ollama WebUI)]( )")



1
2
3
4
5
6
7
8
9
10
11

host.docker.internal == 127.0.0.1 主要是mac下docker 不支持127.0.0.1

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 -v ~/Documents/work/softs/docker/open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

### 验证安装


访问http://127.0.0.1:3000，开始对话


![](https://img-blog.csdnimg.cn/direct/4a14008b2cce45e29b59d05f1b4e35c0.png)



## 构建自己的知识库(anything llm)


[GitHub - Mintplex-Labs/anything-llm: A multi-user ChatGPT for any LLMs and vector database. Unlimited documents, messages, and storage in one privacy-focused app. Now available as a desktop application with a built-in LLM!]( )


### 安装


[Download AnythingLLM for Desktop]( )


#### 选择模型模型 ollama


ollama pull nomic-embed-text 支持长文本的效果比较好。




**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数Linux运维工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。**
![img](https://img-blog.csdnimg.cn/img_convert/f7e989d09dfa21bfa632cbbdb1bf6e6a.png)
![img](https://img-blog.csdnimg.cn/img_convert/aa7792a7a60f96b47796d1b61f9ee566.png)
![img](https://img-blog.csdnimg.cn/img_convert/5b27f74e0a939d88981a9dfe7c1dd76f.png)
![img](https://img-blog.csdnimg.cn/img_convert/2f845b0ab89a65f1979635c38a2bc0b3.png)
![img](https://img-blog.csdnimg.cn/img_convert/1e760eb453e681b59a0bcb31f6ac45fb.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Linux运维知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip1024b （备注Linux运维获取）**
![img](https://img-blog.csdnimg.cn/img_convert/298c9367f884456cad12b0aba31d9020.jpeg)



[**一个人可以走的很快，但一群人才能走的更远。如果你从事以下工作或对以下感兴趣，欢迎戳这里加入程序员的圈子，让我们一起学习成长！**](https://bbs.csdn.net/forums/4304bb5a486d4c3ab8389e65ecb71ac0)

**AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算**

发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算**

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57