赞
踩
一、这是开始
在大模型开始流行之后,我在本地电脑上安装了ollama大语言模型,一开始的时候确实很有趣,经常问些奇奇怪怪的问题
但后面发现,因为我的ollama是在家里的电脑上,虽然台式机我可以尽量少关机,但每次需要使用都需要远程到电脑上,在通过ssh的方式进行问答,灵活性和实用性感觉少了点,特别是在希望大语言模型与我的工作内容对接上,使之看起来炫酷爆炸。本来想着自己写一套系统来调用,但实在自己代码水平太落,直到在一天,我意外的发现了MaxKB这款产品之后。
二、接触的过程
似乎就是命mo 运yu 的de 安chen 排guo,一开始我以为maxkb是国内一个新的大模型,打算研究研究的。后面发现它只是一款基于LLM大语言模型的知识库问答系统,但却刚好是我心心念念的东西。从安装开始,maxkb就是一种简单的,开箱即用的风格,后面发现它是飞致云出品的,也就难怪入门简单了。一条命令,然后就等着自动安装就行。
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
从功能上,maxkb支持直接上传文档、自动爬取在线文档
并且能够进行文本自动拆分和向量化处理,这使得建设知识库变得轻而易举
命中测试
更让我惊喜的是,maxkb支持多模型对接,OpenAI、百度千帆大模型等,还有就是我使用的本地大模型llama3。
对接完成就可以创建问答系统了,并且可以关联之前的知识库
调试试试看
如果感觉满意了,就可以考虑把maxkb无缝嵌入到别的系统,这样一下就把系统的level升上来了,嵌入的方式有2种,iframe和script,maxkb直接提供了嵌入代码,直接用即可
<iframe
src="maxkb地址/ui/chat/2ce7f030e3a3245"
style="width: 100%; height: 100%;"
frameborder="0"
allow="microphone">
</iframe>
<script
async
defer
src="maxkb地址/api/application/embed?protocol=http&host=maxkb地址&token=2ce7f030e3a3245">
</script>
看看两种效果,先是iframe
然后是script
自己的前端html太烂,我用百度的html代码展示一下效果试试。
感觉还是script方式看着舒服些。
总的来说,maxkb强大的功能,多模型支持和便捷的部署方式,帮助我构建了自己知识库问答系统。它不仅给我带来了有趣的智能问答体验,也使系统的档次看着提升了不少,唯一就是ollama要的资源有点多
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。