QAnything_qanything 在线

---

一、关于 QAnything

QAnything 由网易有道产出的 RAG 系统
QAnything ：Question and Answer based on Anything

• 基于模型：Qwen 微调
• 支持格式: PDF(pdf)，Word(docx)，PPT(pptx)，XLS(xlsx)，Markdown(md)，电子邮件(eml)，TXT(txt)，图片(jpg，jpeg，png)，CSV(csv)，网页链接(html)
• 使用 两阶段检索，增强准确率
  一阶段embedding检索 + 二阶段rerank重排
• 使用的检索组件 BCEmbedding，有非常强悍的双语和跨语种能力，能消除语义检索里面的中英语言之间的差异。

---

• 在线试用QAnything](https://qanything.ai/) ： https://qanything.ai/
• github : https://github.com/netease-youdao/QAnything
• 文档：https://github.com/netease-youdao/QAnything/blob/master/README_zh.md

---

模型地址：

• modelscope: https://modelscope.cn/models/netease-youdao/QAnything
• wisemodel: https://wisemodel.cn/models/Netease_Youdao/qanything
• huggingfase: https://huggingface.co/netease-youdao/QAnything

---

架构

---

二、我的在线试用

https://qanything.ai/

---

试用 QAnything

---

我上传了一篇文章，然后提问，效果如下：

---

展开 数据来源

---

试用 速读

---

对话

---

三、使用

参考：https://github.com/netease-youdao/QAnything/blob/master/README_zh.md
常见文档：https://github.com/netease-youdao/QAnything/blob/master/FAQ_zh.md

---

安装

# 下载
git clone https://github.com/netease-youdao/QAnything.git

cd QAnything
bash run.sh  # 默认在0号GPU上启动
1
2
3
4
5

---

启动

• 查看更多启动方法：https://github.com/netease-youdao/QAnything/blob/master/docs/QAnything_Startup_Usage_README.md
• 执行 bash ./run.sh -h 获取详细的LLM服务配置方法

---

（可选）指定单GPU启动
指定0号GPU启动 GPU编号从0开始 windows机器一般只有一张卡，所以只能指定0号GPU

bash ./run.sh -c local -i 0 -b default 
1

---

（可选）指定多GPU启动
指定0,1号GPU启动，请确认有多张GPU可用，最多支持两张卡启动

bash ./run.sh -c local -i 0,1 -b default
1

---

体验

前端页面

运行成功后，即可在浏览器输入以下地址进行体验。

前端地址: http://your_host:5052/qanything/

---

API

如果想要访问API接口，请参考下面的地址:

• API address: http://your_host:8777/api/
• For detailed API documentation, please refer to QAnything API 文档

---

关闭服务

bash close.sh
1

---

2024-04-01（一）