这个屌丝很懒，什么也没留下！

使用llama.cpp在本地搭建vicuna 13B语言模型_llama.cpp跑vicuna

作者：IT小白 | 2024-03-22 13:20:13

llama.cpp跑vicuna

有人做了windows下的脚本放到github上了，直接运行就可以了。我在本机试了一下13B的模型能运行，但生成速度非常慢，回复一个问题基本上要花5分钟以上的时间。我的机器配置 3900X 32G内存。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/288450