使用AnythingLLM在算力魔方上搭建企业私有知识库_anythingllvm介绍
赞
踩
无需编写代码，本文将教你如何在算力魔方®上使用Ollama+AnythingLLM搭建企业私有知识库。搭建企业私有知识库，其好处非常明显，主要有：
-
数据安全与隐私保护：
私有化部署确保敏感数据或业务数据在内网的算力魔方®上，减少了数据泄露的风险，增强了对外部威胁的防御能力。
-
运营效率提升：
部署时间短，能够快速见效；新员工在具有企业专业知识的聊天机器人的帮助下，快速成为行业“老师傅”。
-
成本控制：
私有知识库作为企业资产，不受外部因素干扰，长期来看可能降低运营成本。
在算力魔方®上，基于Ollama+AnythingLLM搭建企业私有知识库，总的来说：具有低成本、高效率、让员工人人都变成“老师傅”的优势。
一，AnythingLLM简介
AnythingLLM是一款全线应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用，非常适合搭建企业私有知识库，其酷炫特性有：
-
多用户实例支持和权限管理：
-
工作区内的智能体Agent（浏览网页、运行代码等）
-
为您的网站定制的可嵌入聊天窗口
-
支持多种文档类型（PDF、TXT、DOCX等）
-
通过简单的用户界面管理向量数据库中的文档
二，算力魔方®简介
是一款模块化的迷你主机，采用了抽屉式设计，后续组装、升级、维护只需要拔插算力和IO模块即可组成丰富的配置，适应不同场景。
算力魔方®4060版，非常适合本地部署AI大模型。
https://item.taobao.com/item.htm?spm=a1z10.3-c-s.w4002-16594127205.13.7f0037bdslREGs&id=724730797954算力魔方®4060版，高效散热，能够在高效地处理复杂的3D模型和场景时，保证运行的速度和稳定性。
算力魔方®此前经过了多种测试验证，当前主流的一些大模型的部署运行，都取得了较好的体验。
1，
AIPC的先驱算力魔方——三步完成智谱AI大语言模型在终端的部署
2，
使用OpenVINO™在算力魔方上加速Latent Consistency Models!
3，
英特尔集成显卡+ChatGLM3大语言模型的企业本地AI知识库部署丨开发者实战
4，
5，
基于OpenVINO™与Qwen2在算力魔方上写2024高考作文！
三，搭建企业私有知识库
在使用AnythingLLM前，请参考《Gemma 2+Ollama在算力魔方上帮你在LeetCode解题》安装Ollama 和 Node.js，然后执行命令：ollama run qwen2，把Qwen2这个中英双语大模型作为企业私有知识库的大语言模型。
然后，进入https://useanything.com/download，下载并安装AnythingLLM。
安装完毕后，请新建一个Workspace：
聊天设置选择Ollama，LLM首选项为qwen2:latest：
最后把企业文档，例如：https://arxiv.org/pdf/2402.06196，上传到工作区，点击“Save and Embed”，完成企业私有知识库的搭建。
现在，您就可以愉快地询问这个专业小助手，有关企业专业知识的问题啦！
AnythingLLM
四，总结
无需编写程序，即可在算力魔方®上使用Ollama+AnythingLLM方便快捷的搭建企业私有知识库，还好省钱省心。员工在具有企业专业知识的聊天机器人的帮助下，很快就能成为行业“老师傅”了！
