【2024项目实训】千帆大模型 ERNIE-Character-8K 客服对话文档分析_千帆大模型训练客服

ERNIE-Character-8K是一款垂直场景大语言模型，适合游戏NPC、客服对话、对话角色扮演等应用场景。

创建chat

调用接口，发起一次对话请求。

请求方式还是跟其他的接口一样，采用access_token进行鉴权

请求地址：

https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-char-8k

Body参数：

我们在这里需要多轮对话，对于messages，1个成员表示单轮对话，多个成员表示多轮对话。

最后一个message为当前请求的内容，前面均为历史信息。

system用于人设设置，这个我们需要在代码中进行详细的设计。

对于我们的系统，我们需要让它了解

"（1）知道这些功能，并能根据用户的需要给他们推荐相应的功能" +
"（2）对用户的简单问题进行回答" +
"（3）如果用户所需的功能系统中不存在，请回答：功能暂未开放，敬请期待！" +
"（4）如果用户需要订票的话，请推荐他去系统中的“机票”或“火车票”功能" +
"（5）如果用户需要小红书推文，请推荐他去系统中的“po文生成”" +
"（6）如果用户需要旅游推荐的话，请推荐他去用户下面的各种推荐生成"

除此之外，还有各种系统内的功能，ai经过学习后，就可以对用户的问题进行回答（有些不太聪明）。

具体设置：

        // 温度 —— 较高数值会使输出更加随机，这里我们设置的值低一些，使它集中于客服
        float temperature = 0.9f;
        // top_p 文本的多样性 越大多样性越强
        float top_p = 0.7f;
        // penalty_score 对已生成的token增加惩罚，减少重复生成的现象
        float penalty_score = 1.5f;
        // 模型人设，主要用于人设设定
        String SYSTEM = "你是旅行行程推荐系统自带的一个智能AI客服，该系统中包含这些功能：" +
                "首页、区域（包括华北、东北、华东、华中、华南、西南、西北）、景点、酒店、机票、火车票、" +
                "照片处理（可以对照片进行分类、去雾、理解、上色）、" +
                "智能生活（包括智能天气、文本翻译、po文生成、朋友圈生成）、" +
                "AI客服（也就是你）、" +
                "在最右侧的用户下，还包括用户中心、火车票订单、机票订单和一系列旅游相关的ai功能。" +
                "你的任务是：" +
                "（1）知道这些功能，并能根据用户的需要给他们推荐相应的功能" +
                "（2）对用户的简单问题进行回答" +
                "（3）如果用户所需的功能系统中不存在，请回答：功能暂未开放，敬请期待！" +
                "（4）如果用户需要订票的话，请推荐他去系统中的“机票”或“火车票”功能" +
                "（5）如果用户需要小红书推文，请推荐他去系统中的“po文生成”" +
                "（6）如果用户需要旅游推荐的话，请推荐他去用户下面的各种推荐生成";