ChatGPT 使用 拓展资料：用 Rasa Open Source 和 ChatGPT 回答有关结构化数据的问题_rasa llm

ChatGPT 使用 拓展资料：用 Rasa Open Source 和 ChatGPT 回答有关结构化数据的问题

几年前，我们引入了将 Rasa 与知识库集成的功能，允许助手回答详细的 问题，就像下面的对话一样。

虽然功能强大，但知识库功能的设置工作量很大。ChatGPT 回答有关结构化数据的问题的能力给我留下了深刻的印象，因此想探索如果我们利用像 ChatGPT 这样的指令调优 LLM，我们是否可以更轻松地做到这一点并获得更好的结果。

与知识库操作相比，使用 LLM 来回答这些类型的问题：

• 需要更少的工作来设置
• 可以轻松扩展到新领域（通常无需重新训练）
• 产生更自然的反应

但是，它也有局限性：

• 无法准确控制机器人所说的内容
• 你的机器人有可能产生幻觉
• 可能容易受到即时注入攻击。
  将首先解释它是如何工作的，然后我们将依次查看这些要点。

在 Rasa 自定义操作中使用 ChatGPT

大多数聊天机器人查询 API 和/或数据库以与对话之外的世界进行交互。自定义操作是在 Rasa 中构建该功能的便捷方式。

对于此示例，我们有两个自定义操作。第一个操作，action_show_restaurants从 API 获取餐厅推荐，将它们呈现给用户，并将结果存储在槽中。第二个动作回答后续问题，从“结果”槽中获取先前 API 调用的结果，并使用 ChatGPT API 回答问题。