赞
踩
10月17日过后,估计很多人会看到类似的新闻,如图:
我看到这则新闻也是觉得非常感兴趣,于是本着“百闻不如一见”的实事求是的态度检索如何申请,没想到还真找到了ERNIE-Bot-4(俗称:文心一言4.0)的申请入口,如下:
体验地址
企业用户/个人开发者:填写表单申请开通:百度智能云千帆大模型平台邀您测试 审核通过后即可免费调用千帆文心4.0API
ERNIE-Bot-4 - 千帆大模型平台 | 百度智能云文档
我本人是填写表单申请一天左右收到了“百度智能云”的短信通知我通过了申请,老样子,先上图:
通过之后即使不是很擅长调用接口来测试模型质量,百度智能云也会提供在线测试的入口方便我们测试,如图:
也是可以外接知识库或者调整各种参数的,还算便利,也提供了prompt模板作为参考。
如果我们不想每次都打开网站去测试,也可以在本地进行调用来测试,下面以python为例:
先在百度智能云控制台“应用接入”里创建应用,内容自己发挥,主要是我们需要的AppID,API Key以及Secret Key。
当然,我们需要开通一下对应接口的付费,我这里是只开通了ERNIE-Bot-4的付费,0.12¥/千tokens,跟其他模型比可能有点小贵,自费开通,为爱发电哈哈。
好了,万事具备,下面就是一个简单的多轮对话代码示例:
- import requests
- import json
- import os
- import pickle
-
-
- class WenXinYiYanChat:
- def __init__(self, api_key, secret_key, user_id="这里输入你的APPID", file_name="history.pkl"):
- # 初始化方法,用于设置API密钥、用户ID、文件名等
- self.api_key = api_key
- self.secret_key = secret_key
- self.user_id = user_id
- self.file_name = file_name
- self.access_token = self.get_access_token()
- self.messages = []
- self.is_paused = False
-
- def get_access_token(self):
- # 获取access_token,用于后续的API调用
- url = "https://aip.baidubce.com/oauth/2.0/token"
- params = {
- 'grant_type': 'client_credentials',
- 'client_id': self.api_key,
- 'client_secret': self.secret_key
- }
- headers = {
- 'Content-Type': 'application/json',
- 'Accept': 'application/json'
- }
- response = requests.post(url, headers=headers, params=params)
- return response.json().get("access_token")
-
- def chat(self, user_message):
- # 进行对话的主要方法
- if self.is_paused:
- return "对话目前已暂停。请先恢复对话再继续。"
-
- self.messages.append({"role": "user", "content": user_message})
-
- payload = {
- "messages": self.messages,
- "user_id": self.user_id,
- "temperature": 0.95,
- "top_p": 0.8,
- "penalty_score": 1.0
- }
-
- url = f"https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token={self.access_token}"
- headers = {'Content-Type': 'application/json'}
- response = requests.post(url, headers=headers, data=json.dumps(payload))
- assistant_message = response.json().get("result")
- self.messages.append({"role": "assistant", "content": assistant_message})
- return assistant_message
-
- def clear_history(self):
- # 清除对话历史记录
- self.messages = []
-
- def get_chat_history(self):
- # 获取对话历史记录
- return self.messages
-
- def save_history(self):
- # 将对话历史记录保存到文件中
- with open(self.file_name, "wb") as f:
- pickle.dump(self.messages, f)
-
- def load_history(self):
- # 从文件中读取对话历史记录
- if os.path.exists(self.file_name):
- with open(self.file_name, "rb") as f:
- self.messages = pickle.load(f)
-
- def pause_chat(self):
- # 暂停对话,并保存对话历史记录
- self.is_paused = True
- self.save_history()
-
- def resume_chat(self):
- # 恢复对话,并加载对话历史记录
- self.is_paused = False
- self.load_history()
-
-
- if __name__ == "__main__":
- api_key = input("请输入您的API Key: ")
- secret_key = input("请输入您的Secret Key: ")
- '''
- 如果不想每次都输入这两个KEY就把上面两行注释掉,去除下面两行的注释
- '''
- # api_key = "在这里输入你的API Key"
- # secret_key = "在这里输入你的Secret Key"
- chat_instance = WenXinYiYanChat(api_key, secret_key)
-
- while True:
- user_message = input("靓仔: ")
-
- # 添加控制语句,用于实现功能
- if user_message.lower() == "暂停":
- chat_instance.pause_chat()
- print("对话已暂停。")
- elif user_message.lower() == "恢复":
- chat_instance.resume_chat()
- print("对话已恢复。")
- elif user_message.lower() == "清除":
- chat_instance.clear_history()
- print("对话历史记录已清除。")
- elif user_message.lower() == "查看":
- history = chat_instance.get_chat_history()
- print("对话历史记录如下:")
- for message in history:
- print(message["role"] + ": " + message["content"])
- elif user_message.lower() == "载入":
- chat_instance.load_history()
- print("对话历史记录已载入。")
- elif user_message.lower() in ["exit", "退出"]:
- break
- else:
- response = chat_instance.chat(user_message)
- print("文心一言4.0: ", response)
以上是一个非常简陋的多轮对话代码示例,仅供测试接口,佬轻喷,虽然国外的模型质量很高,价格也便宜,国内模型开发的开源项目确实少之又少,但还是希望有更多人能够关注国内模型,众人拾柴火焰高,一同开发出更多更优秀的项目,最后,上效果图:
如果有友友开发出了更好的项目或者发现了更好的项目,记得踢我,一起学习!
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。