Ollama总是出现time out怎么办_ollama run llama2 出现timeout启动失败

作者：IT小白 | 2024-06-06 07:00:56

踩

ollama run llama2 出现timeout启动失败

一般情况下，获取小体量的模型如gemma2b这种不会出现time out现象，但是如果稍微大一点的模型如llama2:13b,或者70b的就容易出现timeout的报错，这里我们只需要添加一个requset_time的参数即可。

Settings.llm = Ollama(base_url="http://localhost:11434", model=llm_model, request_timeout=60)

我这里是修改成60后基本可以不出现timeout现象，大家可以根据自己需求来修改

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/679968