当前位置:   article > 正文

python调用百度文心一言对话模型_python 集成 ernie-speed-128k

python 集成 ernie-speed-128k

近日,百度宣布其两款主力模型 ENIRE Speed、ENIRE Lite 可以免费使用。试了一下怎么程序调用。

1.准备工作

  1. 需要注册百度智能云账号,也可以使用原来的百度账号登录,登录之后要完成实名认证,才能使用API调用。
  2. 千帆大模型操作台 ->模型服务->在线服务->预置服务里开通需要调用的模型。本次测试开通了ERNIE-Speed-128K的调用。
  3. 安全认证 页面,取得Access Key和Secret Key 。

2.选择调用方式

     按照百度的说明文档,可以直接HTTPS的方式调用API,也可以使用百度提供的SDK。SDK提供了多个语言版本,但是python版SDK支持的功能最全。本次测试使用python版SDK。

3.程序

   1.安装SDK

pip install qianfan

    2.创建.env文件

       写入你的Access Key和Secret Key。如果不使用.env文件,也可以在环境变量中设置好下面的两个变量。或者在程序中直接用参数方式调用。

  1. QIANFAN_ACCESS_KEY=abcd
  2. QIANFAN_SECRET_KEY=efgh

    3.python程序

  1. import qianfan
  2. chat_comp = qianfan.ChatCompletion(model='ERNIE-Speed-128K')
  3. messages = []
  4. user_message = '你好,你是谁?'
  5. print('你说:', user_message)
  6. while user_message != '结束':
  7. messages.append({'role': 'user','content': user_message})
  8. resp = chat_comp.do(messages, top_p=0.8, temperature=0.9, penalty_score=1.0, system='你是abcd公司制作的AI助手')
  9. assistant_message = resp.body['result']
  10. messages.append({'role': 'assistant','content': assistant_message})
  11. print('机器人说:', assistant_message)
  12. print('你说:', end='')
  13. user_message = input()

    4.执行效果

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/酷酷是懒虫/article/detail/745286
推荐阅读
相关标签
  

闽ICP备14008679号