当前位置:   article > 正文

开源LocalAI本地人工智能安装教程_人工智能开源下载安装

人工智能开源下载安装

LocalAI是一款能在本地运行的人工智能应用,它兼容了OpenAI API规范,它可以在普通的电脑运行,不需要GPU,也不需要联网,音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验),支持与ggml格式兼容的多个模型系列llama、gpt4all、rwkv、whisper、vicuna、koala、gpt4all-j、cerebras、falcon、dolly、starcoder 等,一句话总结:本地运行,无需联网,只要有模型, 我们就可以轻松运行使用。

功能

1.本地的 OpenAI 嵌入式替代 REST API。你拥有你的数据。
2.无需 GPU。也不需要互联网访问。可选,GPU 加速在兼容的 LLM 中可用llama.cpp。
3.支持多种模型、音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验)
4.第一次加载后,它会将模型加载到内存中以进行更快的推理
5.不掏空,但使用 C++ 绑定来实现更快的推理和更好的性能。

好了,按照惯例,我们直接上本地安装教程

安装教程

安装前需要在你的电脑中安装docker,不懂安装的话可以看下之前的文章

1.下载源码包
## 下载源码
https://github.com/go-skynet/LocalAI/archive/refs/heads/master.zip
  • 1
  • 2
2.解压后,
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/521692
推荐阅读
相关标签
  

闽ICP备14008679号