ollama 模型显存常驻OLLAMA_KEEP_ALIVE；支持并发访问OLLAMA_NUM_PARALLEL；支持同时推理多个模型_ollama常驻内存

参考：https://blog.csdn.net/weixin_42357472/article/details/137666022
https://blog.csdn.net/qq_35762024/article/details/139549796

ollama 常见环境变量

ollama --version 

ollama serve -h
1
2
3

OLLAMA_DEBUG 显示额外的调试信息（例如：OLLAMA_DEBUG=1）
OLLAMA_HOST ollama服务器的IP地址（默认 127.0.0.1:11434）
OLLAMA_KEEP_ALIVE 模型在内存中加载的持续时间（默认 “5m”）
OLLAMA_MAX_LOADED_MODELS 加载的最大模型数量（默认为1）
OLLAMA_MAX_QUEUE 队列中的最大请求数
OLLAMA_MODELS 模型目录的路径
OLLAMA_NUM_PARALLEL 并行请求的最大数量（默认为1）
OLLAMA_NOPRUNE 不在启动时清除模型块
OLLAMA_ORIGINS