当前位置:   article > 正文

ollama 模型对外api、openai api服务;docker 运行ollama_ollama api调用

ollama api调用

在这里插入图片描述
大概可以看出ollama主要加载使用的是gguf模型
在这里插入图片描述

docker 运行ollama

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama  ollama/ollama


docker exec -it oll
  • 1
  • 2
  • 3
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/菜鸟追梦旅行/article/detail/567337
推荐阅读
相关标签
  

闽ICP备14008679号