自然语言处理（NLP）——使用Rasa创建聊天机器人

1 基本概念

1.1 对话系统的分类

        对话系统根据其功能和设计目标可以分为几种不同的类型，包括检索型问答系统（IR-BOT）、任务型对话系统（Task-bot）和闲聊系统（Chitchat-bot）。下面是这三种系统的简要介绍：

1.1.1 检索型问答系统（IR-BOT）

        定义与功能：检索型问答系统依赖于大量预先存储的信息和数据，通过匹配用户的查询与现有数据中的信息来提供答案。这种类型的系统通常适用于提供特定的事实信息，如天气预报、百科事实、用户手册指南等。
        技术实现：实现技术包括关键词匹配、自然语言处理（NLP）技术、以及更高级的语义理解技术，目的是准确理解用户的查询意图并提供最相关的答案。
        应用场景：常见于客户服务、在线帮助台、教育平台等领域。

1.1.2 任务型对话系统（Task-bot）

        定义与功能：任务型对话系统旨在帮助用户完成特定的任务，如订票、预订餐厅、设置提醒等。这类系统更加交互式，并且通常需要理解更复杂的用户意图和上下文信息。
        技术实现：实现这类系统通常需要更复杂的对话管理技术，如意图识别、实体抽取、对话状态跟踪等，以便在对话中维护上下文并向用户提供逐步指导。
        应用场景：广泛应用于电子商务、在线客服、智能助手等场景。

1.1.3 闲聊系统（Chitchat-bot）

        定义与功能：闲聊系统主要提供非目标导向的对话，旨在与用户进行自然且人性化的交流。这类系统更注重于创建愉快的用户体验，而不是解决特定的查询或任务。
        技术实现：闲聊系统的实现侧重于生成自然、连贯且有趣的对话。技术上可能会使用基于规则的方法、生成式模型、或是混合型方法，来增强对话的流畅性和多样性。
        应用场景：常用于提升用户参与度和满意度，如社交机器人、娱乐应用等。

        每种对话系统都有其特定的优点和应用场景，而且随着技术的发展，这些系统之间的界限也越来越模糊，有时候在一个系统中可以看到多种类型的特性和功能。

1.2 任务型对话Task-Bot:task-oriented bot

        这张图展示了一个语音对话系统（或聊天机器人）的基本组成部分和它们之间的工作流程。这个系统可以接受语音信号作为输入，输出文本响应，并且它包括以下几个主要部分：

1.2.1 自动语音识别（ASR）

        这个部分的任务是将用户的语音信号转换成文本。在这个例子中，ASR将语音信号识别为文本输入“Are there any action movies to see this weekend?”

1.2.2 语言理解（SLU）

        一旦语音转换为文本，语言理解部分就开始工作，包括三个子任务：
        领域识别（Domain Identification）：确定用户的请求属于哪一个领域或类别，例如电影、音乐或天气等。
        用户意图检测（User Intent Detection）：识别用户的目的或意图，例如询问电影信息、预订餐厅等。
        槽位填充（Slot Filling）：也就是关键信息，从用户的话中提取具体信息，如电影类型、日期、时间等。

1.2.3 语义框架（Semantic Frame）

        这是语言理解的结果，它结构化地表达了用户的请求，包括动作（如请求电影）、属性（如类型是动作片）和时间（如这个周末），这些也是槽位。

1.2.4 对话管理（DM）

        对话管理组件控制对话的流程，并决定如何响应用户的输入。它包括两个部分：
                对话状态跟踪（DST）：保持对话的当前状态，追踪对话历史和用户提供的信息。
                对话策略（Dialogue Policy）：基于对话的当前状态和过去的交互，决定下一步的最佳动作。

1.2.5 自然语言生成（NLG）

        这个部分根据对话管理系统的输出生成自然语言文本。例如，如果系统需要知道用户的位置，NLG会生成问题“Where are you located?”

        这张图通过展示从语音输入到文本响应的完整流程，概述了一个典型的语音对话系统的工作方式。这种系统可以用于各种应用，如虚拟助手、客服聊天机器人等。

1.2.6 自然语言理解SLU的深入学习

1.2.6.1 SLU的结构

        语音语言理解（SLU）是自然语言处理（NLP）中的一个关键领域，尤其在任务型对话系统中扮演着至关重要的角色。SLU的核心任务是将用户的语音输入转换成机器可理解的结构化表示形式，以便对话系统能够准确理解用户的意图并作出相应的反应。这种结构化表示通常采用的是动作-槽位-值（act-slot-value）元组的形式，以下是关于SLU结构的更详细解析：

1.2.6.1.1 动作-槽位-值（Act-Slot-Value）元组

        动作（Act）：表示用户意图的动词，如“请求”、“通知”、“确认”等。这是对话管理中用来识别用户意图的关键要素。
        槽位（Slot）：表示意图中的参数或属性，用于细化动作的具体内容。例如，在订票系统中，槽位可以是“日期”、“目的地”、“出发地”等。
        值（Value）：槽位的具体取值，为槽位提供了详细的信息。例如，如果槽位是“目的地”，其值可以是“巴黎”。

1.2.6.1.2 结构化表示的例子

        SLU系统会将自然语言输入转换为结构化的表示形式，例如：

        输入：“您好韩小姐，麻烦提供下手机号哦”
        结构化表示：`request(phone,name=韩小姐)`

        在这个例子中，`request`是动作，表示用户的意图是请求；而`(phone,name=韩小姐)`则表示槽位和对应的值，其中`phone`是请求的对象，`name=韩小姐`则是提供了额外的信息，指明是向“韩小姐”请求电话号码。

1.2.6.1.3 预定义的动作类型、槽位和值

        在SLU系统中，动作类型、槽位和值的范围通常是预先定义好的。这是因为系统需要有一个明确的理解框架来识别和处理不同的用户输入。预定义的范围有助于提高系统的理解准确率和响应效率。开发者会根据不同的应用场景来设计这些元素，以确保系统能够覆盖所有必要的交互类型。

1.2.6.2 实现SLU的技术

1.2.6.2.1 语法分析

        通过语法以及语法结构分析出客户意图与槽值。

1.2.6.2.2 Semantic tagging eg. HMM,CRF

        给句子进行手动标柱槽值，进行机器学习训练

1.2.6.2.3 分类的思想

        使用多个分类器，对句子内容进行分类

1.2.6.2.4 深度学习

        建立神经网络，蛋速度慢

1.2.6.3 SLU在对话系统中的应用

        SLU的这种结构化表示形式为对话管理提供了一种强大的工具，使得系统能够有效地解析用户的意图，并根据上下文信息采取相应的动作。无论是在客服对话系统、智能助手还是其他任何需要理解用户意图的场景中，SLU都是实现高效、自然交互的关键技术。

1.2.7 对话状态DST的深入学习

        对话状态应该包含持续对话所需要的各种信息

        DST问题：依据最新的系统和动作，更新对话状态

1.2.8 DPO的深入学习

        系统如何做出反馈动作

                作为序列决策过程进行优化：增强学习

1.2.9 自然语言生成NLG的深入学习

        自然语言生成（NLG）是自然语言处理（NLP）领域的一个重要分支，它涉及将计算机数据转换为人类可读的自然语言文本。NLG的目的是自动产生清晰、准确、流畅的文本输出，用于报告生成、文章撰写、自动对话系统等多种应用。NLG技术主要可以分为三种方法：基于模板的方法、基于规则的方法和基于生成模型的方法。

1.2.9.1 基于模板的NLG

        定义与功能：基于模板的NLG通过填充预定义的文本模板来生成语句。这些模板有固定的结构，其中某些部分（如槽位）在生成时会被具体的数据或信息替换。
        优点：实现简单，容易控制生成文本的格式和结构，生成速度快。
        缺点：缺乏灵活性和多样性，难以处理复杂的语言变化或生成更自然的文本。
        示例：“已经为您预定{time}的电影{movie_name}。”

1.2.9.2 基于规则的NLG        

        定义与功能：基于规则的NLG系统使用一组语言学规则来生成文本。这些规则可以基于语法、句法、语义等语言学知识，指导如何根据输入信息构造合适的句子。
        优点：能够生成更复杂、更符合语言学规则的文本，适用于要求严格控制语言风格和结构的场合。
        缺点：开发和维护成本高，需要大量的语言学专业知识，且难以覆盖所有自然语言的变化和复杂性。
        示例：根据动词时态、名词数的一致性等规则动态生成文本。

1.2.9.3 基于生成模型的NLG

        定义与功能：基于生成模型的NLG使用机器学习模型，尤其是深度学习模型如序列到序列模型（Seq2Seq）、注意力机制、变换器（Transformers）等，来学习语言的统计规律，并基于这些规律生成文本。
        优点：能够生成非常自然和多样化的文本，适应性强，可以处理复杂的语言生成任务。
        缺点：需要大量的训练数据，模型训练和调优成本高，有时生成的文本可能缺乏一致性或准确性。
        示例：GPT、BERT等预训练模型在给定前文的情况下生成后续文本。

1.2.9.4 总结

        不同的NLG技术有其各自的优势和局限性。基于模板和规则的方法在确定性和控制性方面表现优秀，适合对输出格式有严格要求的场景。而基于生成模型的方法在文本的自然性和多样性方面具有明显优势，更适合需要高度自然语言生成能力的应用。随着人工智能技术的发展，基于生成模型的NLG方法正变得越来越流行，特别是在对话系统、内容创作等领域。

1.2.10 其他类型的Task-Bot

Microsoft:End-to-End Task-Completion Neural Dialogue Systems

2 Rasa的学习

        本节介绍如何在Rasa框架下创建聊天机器人。目的是让学生发现和学习如何使用Rasa包在Python环境下创建聊天机器人。

2.1 安装与初始化一个MoodBot

        实验室中提到的安装Rasa的命令是：

python3 -m pip install rasa --user

        安装完成后，可以通过下面的命令创建一个基于Rasa的MoodBot示例项目：

rasa init

        需要基本的命令帮助（例如训练、测试、运行机器人等），可以直接输入rasa命令或者参考它的在线文档：[Rasa文档](https://rasa.com/docs/rasa/)。

        特别是关于NLU训练、域（domains）、配置和动作（actions）的概念部分，这些都是学习如何根据自己的需求定制聊天机器人的有用资源。

2.2 文件分析

        在你的`rasa'目录下的文件夹中，有三个主要的文件：

2.2.1 credentials.yml

        credentials.yml：这个文件包含访问各种社交网络来测试聊天机器人的密钥。这些社交网络可能包括Facebook Messenger、Slack等，通过这些密钥，你的聊天机器人可以接入并在这些平台上进行交互。

# This file contains the credentials for the voice & chat platforms
# which your bot is using.
# https://rasa.com/docs/rasa/messaging-and-voice-channels
 
rest:
#  # you don't need to provide anything here - this channel doesn't
#  # require any credentials
 
 
#facebook:
#  verify: "<verify>"
#  secret: "<your secret>"
#  page-access-token: "<your page access token>"
 
#slack:
#  slack_token: "<your slack token>"
#  slack_channel: "<the slack channel>"
#  slack_signing_secret: "<your slack signing secret>"
 
#socketio:
#  user_message_evt: <event name for user message>
#  bot_message_evt: <event name for bot messages>
#  session_persistence: <true/false>
 
#mattermost:
#  url: "https://<mattermost instance>/api/v4"
#  token: "<bot token>"
#  webhook_url: "<callback URL>"
 
# This entry is needed if you are using Rasa Enterprise. The entry represents credentials
# for the Rasa Enterprise "channel", i.e. Talk to your bot and Share with guest testers.
rasa:
  url: "http://localhost:5002/api"

        Rasa聊天机器人的credentials.yml配置文件，该文件用于设置不同通讯平台的认证信息。Rasa可以通过这些信息与各种社交媒体和消息传递平台进行交互，比如REST API、Facebook Messenger、Slack、Socket.IO、Mattermost等。这里列出了几个平台的配置示例

下面是每个部分的作用：

        rest: 这是一个简单的REST API，不需要特别的认证信息，您的机器人可以通过HTTP请求接收和发送消息。

        facebook: 如果您想通过Facebook Messenger使您的机器人能够交流，您需要填写验证令牌、秘密密钥和页面访问令牌。

        slack: 对于Slack集成，您需要提供Slack令牌、频道和签名秘密。

        socketio: 如果您使用的是Socket.IO，您需要定义用户消息和机器人消息的事件名称，以及是否持久化会话。

        mattermost: 类似于Slack，如果您使用Mattermost，您需要提供Mattermost实例的URL、机器人令牌和回调URL。

        最后，如果您使用的是Rasa企业版，您还需要配置Rasa通道，这样您的机器人就可以与Rasa企业版的API进行通信。

        要激活这些通道，您需要取消注释相关部分，并填写相应的认证信息。请确保在实际部署机器人时，不要将敏感的认证信息泄露到公共代码仓库或不安全的地方。在本地测试时，可以使用默认的`http://localhost:5002/api`路径作为Rasa企业通道的URL。

2.2.2 config.yml

        这个配置文件是用于配置和训练一个Rasa聊天机器人的。Rasa是一个开源的机器学习框架，用于构建对话式AI和聊天机器人。这个文件包括几个主要部分：

# The config recipe.
# https://rasa.com/docs/rasa/model-configuration/
recipe: default.v1
 
# The assistant project unique identifier
# This default value must be replaced with a unique assistant name within your deployment
assistant_id: 20240207-103316-skinny-actuary
 
# Configuration for Rasa NLU.
# https://rasa.com/docs/rasa/nlu/components/
language: en
 
pipeline: null
# # No configuration for the NLU pipeline was provided. The following default pipeline was used to train your model.
# # If you'd like to customize it, uncomment and adjust the pipeline.
# # See https://rasa.com/docs/rasa/tuning-your-model for more information.
#   - name: WhitespaceTokenizer
#   - name: RegexFeaturizer
#   - name: LexicalSyntacticFeaturizer
#   - name: CountVectorsFeaturizer
#   - name: CountVectorsFeaturizer
#     analyzer: char_wb
#     min_ngram: 1
#     max_ngram: 4
#   - name: DIETClassifier
#     epochs: 100
#     constrain_similarities: true
#   - name: EntitySynonymMapper
#   - name: ResponseSelector
#     epochs: 100
#     constrain_similarities: true
#   - name: FallbackClassifier
#     threshold: 0.3
#     ambiguity_threshold: 0.1
 
# Configuration for Rasa Core.
# https://rasa.com/docs/rasa/core/policies/
policies: null
# # No configuration for policies was provided. The following default policies were used to train your model.
# # If you'd like to customize them, uncomment and adjust the policies.
# # See https://rasa.com/docs/rasa/policies for more information.
#   - name: MemoizationPolicy
#   - name: RulePolicy
#   - name: UnexpecTEDIntentPolicy
#     max_history: 5
#     epochs: 100
#   - name: TEDPolicy
#     max_history: 5
#     epochs: 100
#     constrain_similarities: true

version: "3.1"
 
nlu:
- intent: greet
  examples: |
    - hey
    - hello
    - hi
    - hello there
    - good morning
    - good evening
    - moin
    - hey there
    - let's go
    - hey dude
    - goodmorning
    - goodevening
    - good afternoon
 
- intent: goodbye
  examples: |
    - cu
    - good by
    - cee you later
    - good night
    - bye
    - goodbye
    - have a nice day
    - see you around
    - bye bye
    - see you later
 
- intent: affirm
  examples: |
    - yes
    - y
    - indeed
    - of course
    - that sounds good
    - correct
 
- intent: deny
  examples: |
    - no
    - n
    - never
    - I don't think so
    - don't like that
    - no way
    - not really
 
- intent: mood_great
  examples: |
    - perfect
    - great
    - amazing
    - feeling like a king
    - wonderful
    - I am feeling very good
    - I am great
    - I am amazing
    - I am going to save the world
    - super stoked
    - extremely good
    - so so perfect
    - so good
    - so perfect
- intent: mood_unhappy
  examples: |
    - my day was horrible
    - I am sad
    - I don't feel very well
    - I am disappointed
    - super sad
    - I'm so sad
    - sad
    - very sad
    - unhappy
    - not good
    - not very good
    - extremly sad
    - so saad
    - so sad
 
- intent: bot_challenge
  examples: |
    - are you a bot?
    - are you a human?
    - am I talking to a bot?
    - am I talking to a human?
- intent: GetInfo_winlossRecord
  examples: |
    - I need to know the record of [Manchester City](team).
    - I'm wondering what record right now does [West Ham](team) have?
    - How is [Watford](team) doing?
    - What is [AFC Bournemouth](team) record right now?
    - I am looking for information about the soccer team called[Burnley](team).
    - I want to know the record of [Aston Villa](team).

nlu:
- intent: greet
  examples: |
    - hey
    - hello
    - hi
    - hello there
    - good morning
    - good evening
    - moin
    - hey there
    - let's go
    - hey dude
    - goodmorning
    - goodevening
    - good afternoon

- intent: GetInfo_winlossRecord
  examples: |
    - I need to know the record of [Manchester City](team).
    - I'm wondering what record right now does [West Ham](team) have?
    - How is [Watford](team) doing?
    - What is [AFC Bournemouth](team) record right now?
    - I am looking for information about the soccer team called[Burnley](team).
    - I want to know the record of [Aston Villa](team).

version: "3.1"
 
stories:
 
- story: happy path
  steps:
  - intent: greet
  - action: utter_greet
  - intent: mood_great
  - action: utter_happy
 
- story: sad path 1
  steps:
  - intent: greet
  - action: utter_greet
  - intent: mood_unhappy
  - action: utter_cheer_up
  - action: utter_did_that_help
  - intent: affirm
  - action: utter_happy
 
- story: sad path 2
  steps:
  - intent: greet
  - action: utter_greet
  - intent: mood_unhappy
  - action: utter_cheer_up
  - action: utter_did_that_help
  - intent: deny
  - action: utter_goodbye
 
- story: GetInfo winlossRecord
  steps:
  - intent: GetInfo_winlossRecord
  - action: action_winlossRecord

- story: happy path
  steps:
  - intent: greet
  - action: utter_greet
  - intent: mood_great
  - action: utter_happy

rasa train

rasa shell

3. Rasa chatbot多人开发项目

3.1 项目要求

3.1.1 总体要求

        a. 使用Rasa开源框架：

        - 建议（但不强制）使用Rasa框架来开发聊天机器人。

        b. 超越Rasa默认功能

        - 应用在学习过程中了解到的技术和原则。
        - 至少采用一种基于知识的技术，如本体论、逻辑推理、词网、同义词等。
        - 至少采用一种基于学习的技术，如频率方法、统计机器学习、深度学习等。
        - 至少采用一种基于语法的技术，如句法分析、正则表达式、词形还原、形态分析等。

3.1.2 5人分工示例

        - 一个人负责整体Rasa流水线的设置、组件集成和测试；
        - 一个人负责对话逻辑、意图、自然语言理解（NLU）、故事等的设计和实现；
        - 一个人负责基于知识的组件的设计和实现；
        - 一个人负责基于学习的组件的设计和实现；
        - 一个人负责基于语法的组件的设计和实现。

3.1.3 对于知识、学习、语法组件的理解

        在您的聊天机器人项目中，团队成员将根据不同的技术专长分工。这里提到的“基于知识的组件”、“基于学习的组件”和“基于语法的组件”分别指的是：

3.1.3.1 基于知识的组件（Knowledge-based Component）

        这指的是利用预先定义的知识体系（如本体论、逻辑推理结构、词网、同义词数据库等）来增强聊天机器人的理解和响应能力。设计和实现这样的组件涉及到构建一个知识库或使用现有的知识库，使得聊天机器人可以参照这些知识来理解用户的意图和提供信息。
        在Rasa中，你可以通过自定义actions和slots来实现基于知识的组件。自定义actions允许你编写Python代码来访问外部知识库或服务，比如图数据库、SQL数据库或者其他API，从而在对话中使用这些知识。
        可以使用Rasa的Entity Extraction来识别对话中的关键信息，并用这些信息查询知识库，从而提供有针对性的回答。
        通过这种方式，你的聊天机器人可以使用逻辑推理和结构化的知识（如本体论）来处理用户的询问。

3.1.3.2 基于学习的组件（Learning-based Component）

        这涉及到使用机器学习方法来使聊天机器人从数据中学习。这可能包括频率方法、统计学习模型或深度学习模型。这样的组件可能负责识别用户意图、文本分类、情感分析等，通常需要大量的数据来训练模型。
        Rasa使用机器学习来训练模型，理解用户的意图（intent recognition）和提取实体（entity extraction）。
        它支持多种类型的机器学习模型，包括预先训练好的模型和你可以自定义训练的模型。这些模型用于处理自然语言理解（NLU）和对话管理（Dialogue Management）。
        Rasa允许使用自定义的机器学习管道和策略，你可以在这里加入深度学习或其他统计机器学习算法。

3.1.3.3 基于语法的组件（Grammar-based Component）

        这指的是使用语言学的方法来解析和生成语言。这可能涉及句法分析（分析句子结构）、使用正则表达式（用于模式匹配）、词形还原（将词汇还原为基本形式）、形态分析（分析词汇的形态结构）等技术。这样的组件用于提升聊天机器人处理语言的精确性。

每个组件都有其在聊天机器人中的独特作用，三者合作能够使得机器人更加智能和高效。例如，基于知识的组件可以提供准确的专业信息，基于学习的组件可以从用户对话中学习并提高对话质量，而基于语法的组件可以确保语言的正确性和流畅性。

        项目要求强调了除了技术实现之外，设计理念的重要性。你的聊天机器人需要基于理论知识构建，同时还需要注意合规性和道德问题。在项目过程中，团队成员之间的协作和分工也是非常重要的。
        虽然Rasa主要侧重于机器学习方法，但你仍然可以使用正则表达式和其他语法分析技术来改善对话流程。
        例如，可以在NLU组件中使用RegexFeaturizer来改善实体识别的性能，或者用于识别和验证特定的数据格式（如日期和时间）。
        对于词形还原和形态分析，可以在数据预处理阶段或通过自定义组件来实现。这可能需要与其他工具或库集成，比如Spacy或NLTK。

        通过结合这些技术，你可以创建一个更加强大和灵活的聊天机器人，能够理解和回应用户的需求。记住，在设计和实现这些组件时，确保它们符合你的项目需求和规定的聊天机器人的应用领域。

3.2 有益的建议

        对于使用Rasa框架进行聊天机器人项目，以下是一些有益的建议：

3.2.1 使用规则或故事指导对话流程

        规则（Rules）: 它们是硬性的限制，可以保证聊天机器人的行为是确定的。当你需要确保在某些情况下机器人始终给出特定的响应时，使用规则。
        故事（Stories）: 它们通过机器学习的方式来约束聊天机器人的行为，具有概率性。故事是对话的样本路径，通过这些样本路径，Rasa的机器学习模型可以学习在不同情况下采取的行动。

3.2.2 使用表单进行槽位填充

        使用Rasa的表单（Forms）功能，可以更有效地从用户那里逐步收集数据。当你需要多个信息片段才能执行任务或响应时，表单可以确保机器人不遗漏任何必要的信息。

3.2.3 更改默认管道

        考虑使用更强大的NLP管道，比如SpacyNLP，它使用词向量来理解语言，这可以提高实体识别和意图分类的准确性。

3.2.4 使用同义词和词形还原处理变化

        同义词可以帮助机器人理解不同的词汇表示相同的概念（如“aubergine”和“eggplant”）。
        词形还原能够将单词变回其基础形式（比如将复数“apples”还原为单数“apple”），从而简化处理流程并增加机器人理解不同语言形式的能力。

        在项目开发过程中，这些技巧可以帮助你更好地设计对话流程，提高聊天机器人的性能，并处理自然语言的复杂性。同时，始终记得定期测试你的机器人，并根据反馈不断迭代改进。

3.3 代码成果

        通过API获取足球球队在某赛季的比赛成绩。