热门标签
热门文章
- 1Windows11安装MySql-8.0.36安装详细教程（保姆级教程）_mysql安装及配置超详细教程8.0.36
- 2alter 修改表结构_alert 表结构
- 3机器学习算法那些事 | 使用Transformer模型进行时间序列预测实战_transformer时间序列预测
- 4python的wordcloud函数_Python：wordcloud.wordcloud()函数的参数解析及其说明
- 5自然语言模型（LM）之Tokenizer的介绍（3）--SentencePiece_sentencepiece模型
- 6Mybatis Plus 大数据游标分页_mybatis-plus游标
- 7创新无界：通义灵码在测试过程中展现的独特魅力
- 8youtube-dl 本地代理
- 9我的大学，我的SPR机器人队
- 10【AI工具】LM Studio 部署本地llama3以及python调用openai的API与llama3本地服务器进行问答...
当前位置: article > 正文
使用nextjs本地化部署AI大模型gemma_nextjs ollama langchain
作者：我家自动化 | 2024-05-03 18:59:53
赞
踩
nextjs ollama langchain
笔记本也能部署本地AI模型进行聊天啦！
博主是AI新手，如有不对还请评论区指教～
这里介绍mac的部署方式，win也可以实现。
本案例使用到：ollama + nextjs + langchain.js + milvus 来实现知识库问答和聊天。
ollama：本地运行模型服务
nextjs：前端框架项目
langchain.js：调用模型服务并对话
milvus：向量数据库
开源代码：GitHub - huangj17/gemma-nextjs: 使用nextjs本地化部署AI大模型gemma
1、下载 ollama 在本地运行
- 安装教程：22K star的超强工具：Ollama，一条命令在本地跑 Llama2 - 知乎
- 官方文档：gemma 安装后使用 ollama run gemma:2b 命令把gemma:2b模型拉取到本地运行
2、创建一个nextjs项目
- 安装教程：Getting Started: Installation | Next.js （前端小伙伴就很清楚啦～）
- 创建后安装langchainjs依赖包，yarn add langchain @langchain/community https://www.wpsshop.cn/w/我家自动化/article/detail/531069
推荐阅读
相关标签
