当前位置:   article > 正文

如何在调用国内大模型(文心一言、chatglm等)第一篇_调用文心一言大模型

调用文心一言大模型

我们知道在用langchain调用chatgpt时是通过调用OpenAi的api进行,那文心一言也是如此。只不过文心一言不是通过langchain,而是通过qianfan这个包进行。

1、先下载pycharm,windows的话直接在官网下载选community版本免费使用,Linux下载的话见下面链接

Linux中更新pycharm即删除旧的pycharm,装新的pycharm_linux pycharm图标删除-CSDN博客

2、装好pycharm后,设置环境变量方便以后用命令安装相应的包,我用的是Windows进行编程,以Windows 为例,设置环境变量,见下面链接

cmd中输入pip显示错误,windows10中pip环境变量的设置-CSDN博客

3、使用下面安装Jupyter Notebook,Jupyter Notebook有助于初学者交互式学习国内大模型,使用下面链接中情况二:利用pip命令安装Jupyter Notebook

手把手教你安装Jupyter Notebook(保姆级教程)_jupyter notebook安装教程-CSDN博客

为了不占用c盘的资源,我们在另外的盘里用Jupyter Notebook新建一个python交互式编程文件,比如我想在d盘下,我在命名窗口输入d:

然后输入​​​​​​​Jupyter Notebook,启动程序,你想在哪里建,就在哪里,点击new,然后notebook,然后select

4、编程部分

先在命名行窗口pip install qianfan,失败了就多试几次

然后这里解读一个简单调用大模型对话的小程序,代码中解读

  1. import qianfan
  2. chat_comp = qianfan.ChatCompletion(ak="你的api", sk="你的密钥")//这里百度比openai那个多要一个密钥
  3. msgs = qianfan.Messages()//这里百度是通过messages来输入用户要提的问题给大模型处理,和langchain中humanmessage有区别
  4. while True:
  5. msgs.append(input("请输入你想问的问题:")) # 增加用户输入
  6. resp = chat_comp.do(messages=msgs) //输入给大模型
  7. print(resp) # 打印输出
  8. msgs.append(resp) # 增加模型输出

api和sk的获取见应用接入 - 千帆大模型平台 | 百度智能云文档 (baidu.com)

​​​​具体编程学习部分见,大模型推理 — Qianfan SDK documentation(这是旧的,里面有些错误)千帆SDK LLM 快速入门 - 百度智能云千帆社区 (baidu.com)(这是最新的)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/614825
推荐阅读
相关标签
  

闽ICP备14008679号