赞
踩
LocalAI是一款能在本地运行的人工智能应用,它兼容了OpenAI API规范,它可以在普通的电脑运行,不需要GPU,也不需要联网,音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验),支持与ggml格式兼容的多个模型系列llama、gpt4all、rwkv、whisper、vicuna、koala、gpt4all-j、cerebras、falcon、dolly、starcoder 等,一句话总结:本地运行,无需联网,只要有模型, 我们就可以轻松运行使用。
1.本地的 OpenAI 嵌入式替代 REST API。你拥有你的数据。
2.无需 GPU。也不需要互联网访问。可选,GPU 加速在兼容的 LLM 中可用llama.cpp。
3.支持多种模型、音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验)
4.第一次加载后,它会将模型加载到内存中以进行更快的推理
5.不掏空,但使用 C++ 绑定来实现更快的推理和更好的性能。
好了,按照惯例,我们直接上本地安装教程
安装前需要在你的电脑中安装docker
,不懂安装的话可以看下之前的文章
## 下载源码
https://github.com/go-skynet/LocalAI/archive/refs/heads/master.zip
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。