赞
踩
今天分享如何在个人电脑上部署一个比chatgpt交互界面更炫酷且实用的本地大模型,自带AI智能体和丰富插件库,支持文字、语音、图片的多模态交互。
理想的本地AI大模型是什么样
如果一个本地大模型,拥有以下强大功能,而且不需要任何费用,你会心动吗?
重点:一个比GPT3.5还好用的本地AI。
01、AI神组合LobeChat+Ollama**
1.插件库
LobeChat的插件生态系统是其核心功能的关键扩展,这些插件不仅限于新闻聚合,还能扩展到其他实用功能,如快速检索文档、生成图片、获取 Bilibili 和 Steam 等平台的数据,并与各种第三方服务进行交互。
2.智能体助手
LobeChat的助手市场,创作者们会发现一个充满活力和创新的社区。这里汇集了众多精心设计的AI助手。
3.支持多模型服务商
LobeChat 支持的模型包括:
GPT3.5,GPT4.0,Claude3, LLama3,Gemini Pro,智谱ChatGLM,Moonshot AI (月之暗面),零一万物,Groq,OpenRouter,Cohere,DeepSeek等。
4.模型视觉识别
LobeChat 兼容多种具有视觉识别能力的大语言模型,包括 OpenAI 的 GPT-4-Vision、Google Gemini Pro Vision 和 智谱 GLM-4 Vision。这赋予了 LobeChat 多模态交互的功能。只需简单地上传或拖拽图片到对话框,AI即可识别并分析图片内容,打造更加智能和多样化的聊天体验。
5.语音会话TTS & STT
LobeChat 支持文字转语音(Text-to-Speech,TTS)和语音转文字(Speech-to-Text,STT)技术,使文本信息能够转化为清晰的语音输出,让用户像与真人对话一样与我们的对话助手进行交流。用户可以选择一系列高品质的声音选项(如 OpenAI Audio 和 Microsoft Edge Speech),以满足不同地域和文化背景用户的需求。
6.文生图
支持最新的文本到图片生成技术,可以直接调用DALL-E 3、MidJourney 和 Pollinations 等 AI 工具进行创作。
02、如何部署LobeChat
使用本地大模型Ollama
1.安装Ollama
Ollama是本地跑大模型最好用的工具,支持几乎所有开源大模型如Llama3和通义千问等,也可以接入类OpenAI的API部署,重要一点是它支持远程访问,也就是说你可以把微调好的大模型分享给用户远程使用。
1.1 Ollama下载
地址:ollama.com
首先下载Ollama,Windows和苹果都有。
1.2 Ollama安装
下载完成后点击安装,一路畅通,安装很简单。
1.3 下载大模型
Ollama 非常好用,一条命令(ollama run “模型名称”,比如ollama run llama3)就可以调出所需大模型,等待它下载,下载速度很快,完成后,就可以在终端和大模型对话了。
2.安装Docker
Docker 是一个开源容器平台,专为开发、部署和运行应用程序而设计。Docker 提供了一种轻量级的虚拟化方式,使得应用程序能够快速部署且易于管理。
Docker 的优势包括:
1.快速启动:Docker 容器可以在几秒钟内启动,显著提升了开发和部署的效率。
2.环境一致:确保应用程序在开发、测试和生产环境中都能保持一致的运行状态。
3.跨平台可移植性:容器可以在任何支持 Docker 的系统上运行,实现真正的跨平台操作。
4.扩展性强:Docker 能轻松实现扩展,特别适用于微服务架构的部署。
2.1 Docker下载地址:
docker.com/products/docker-desktop/
2.2 Docker安装:
一键安装docker,全选下一步。
安装成功后docker的 UI 界面,如下:
验证docker是否安装好,运行下面命令:
docker run hello-world
查看返回消息即可。
3.部署 lobechat
通过docker部署,及其简单,只需要两行命令。
3.1.拉取镜像
从DockerHub拉取lobehub/lobe-chat镜像。
docker pull lobehub/lobe-chat:latest
3.2.运行Docker
运行lobe-chat的Docker容器,设置参数。
docker run-d --name lobe-chat-p
10084:3210-e ACCESS_CODE=lobe66
lobehub/lobe-chat:latest
安装部署完成,打开docker界面就会看到本地网址.
3.3 运行LobeChat
打开地址就可以畅玩高颜值的聊天界面了。
3.4 设置LobeChat
LobeChat设置界面,支持如GPT等主流模型API接入,支持本地部署大模型,包括Ollama,修改高颜值交互界面主题,强大的图像识别,语音交互,文生图等功能,插件库和个人助手集。
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。
一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。