当前位置:   article > 正文

Chat2DB+ChatGLM自然语言转sql部署_chatglm sql

chatglm sql

Chat2DB+ChatGLM自然语言转sql

Chat2DB官网地址:https://chat2db.ai/docs/

ChatGLM官网地址:https://github.com/THUDM/ChatGLM-6B

chatGLM搭建教程地址:https://blog.csdn.net/qq_31136513/article/details/130405007

配置ChtaGLM

ChatGLM要用API部署的启动方式(git上面有文档)
在这里插入图片描述

1.安装依赖

pip install fastapi uvicorn

2.修改api.py启动文件

在这里插入图片描述

tokenizer = AutoTokenizer.from_pretrained("D:\AI\code\ChatGLM\model\chatglm2-6b", trust_remote_code=True)

model = AutoModel.from_pretrained("D:\AI\code\ChatGLM\model\chatglm2-6b", trust_remote_code=True).half().quantize(4).cuda()

3.启动完成测试根据接口调用大模型是否成功

POST http://127.0.0.1:8000

Body {"prompt":"根据score表和student表查一下name为David的成绩","history":[]}

在这里插入图片描述

配置Chta2DB

1.自定义url为上面ChatGLM的API接口 http://127.0.0.1:8000/

在这里插入图片描述

2.自然语言转sql

在这里插入图片描述

3.目前返回的是一个json这个问题,如果需要解决,则可以试着重写接口来对返回结果集进行抽取

如下为标准的模型返回的结果

在这里插入图片描述

这是开源模型作者提供的key测试获取的标准的模型返回的结果

在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/凡人多烦事01/article/detail/356648
推荐阅读
相关标签
  

闽ICP备14008679号